LLM, LL.M. LLM 大規模言語モデル (Large Language Model) LL.M. 修士(法学) このページは曖昧さ回避のためのページです。一つの語句が複数の意味・職能を有する場合の水先案内のために、異なる用法を一覧にしてあります。お探しの用語に一番近い記事を選んで下さい。この… 129バイト (86 語) - 2023年5月12日 (金) 20:17 |
素晴らしい性能を持つ日本国産のAIエージェント「KARAKURI」、これからのAI市場で大いに期待されますね。NVIDIAのGPU要らずという点も、コスト面で利点がありそうです。
1 お断り ★ :2024/06/22(土) 01:04:39.42 ID:ZSwxAzFJ9
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。
いくつかの興味深い事象が起きているからだ。
昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。
国産LLM初、AIエージェントとして使える「KARAKURI LM 8x7B Instruct v0.1」を一般公開
2024.6.20 ニュースプレスリリース大規模言語モデル(LLM)
https://karakuri.ai/seminar/news/karakuri-lm-8x7b-instruct-v0-1/
特筆すべきことは、Karakuriの日本語最高性能を誇るLLMの開発にかかった計算費が、たったの75万円だと公表されていることである。750万円の間違いかもしれない(実際、1月に発表した70Bモデルは1000万程度という話だった)が、それにしても圧倒的な低コストだ。NVIDIAのGPU、H100は今500万円以上する。
ではどうしてKarakuriはこんな低予算で日本語最高性能のエージェントLLMを作ることができたのか。それはNVIDIAのGPUを使っていないからだ。
いまLLMを作れという命令が世界中の企業で発令されているだろうが、それには大量のNVIDIAのGPUが絶対に必要であるというのが常識だった。
NVIDIAは独占企業であり、ついに時価総額世界一になった。しかし今この瞬間が彼らの栄華の頂点かもしれない。
すでに公開されているオープンLLMを8つ組み合わせて使うだけで、GPT-4o単体の性能を上回るベンチマーク結果となったと主張している。
そのソースコードが公開され、筆者は大概のことで驚かなくなったものの、やはり驚いてしまった。
詳細はソース 2024/6/21
https://wirelesswire.jp/2024/06/86709/
世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。
いくつかの興味深い事象が起きているからだ。
昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。
国産LLM初、AIエージェントとして使える「KARAKURI LM 8x7B Instruct v0.1」を一般公開
2024.6.20 ニュースプレスリリース大規模言語モデル(LLM)
https://karakuri.ai/seminar/news/karakuri-lm-8x7b-instruct-v0-1/
特筆すべきことは、Karakuriの日本語最高性能を誇るLLMの開発にかかった計算費が、たったの75万円だと公表されていることである。750万円の間違いかもしれない(実際、1月に発表した70Bモデルは1000万程度という話だった)が、それにしても圧倒的な低コストだ。NVIDIAのGPU、H100は今500万円以上する。
ではどうしてKarakuriはこんな低予算で日本語最高性能のエージェントLLMを作ることができたのか。それはNVIDIAのGPUを使っていないからだ。
いまLLMを作れという命令が世界中の企業で発令されているだろうが、それには大量のNVIDIAのGPUが絶対に必要であるというのが常識だった。
NVIDIAは独占企業であり、ついに時価総額世界一になった。しかし今この瞬間が彼らの栄華の頂点かもしれない。
すでに公開されているオープンLLMを8つ組み合わせて使うだけで、GPT-4o単体の性能を上回るベンチマーク結果となったと主張している。
そのソースコードが公開され、筆者は大概のことで驚かなくなったものの、やはり驚いてしまった。
詳細はソース 2024/6/21
https://wirelesswire.jp/2024/06/86709/
29 名無しどんぶらこ :2024/06/22(土) 01:33:59.49 ID:ILj3Elqo0
>>1
ホラ吹くのは千葉県産LLM「YASUHIDE」を超えてからにしろ
ホラ吹くのは千葉県産LLM「YASUHIDE」を超えてからにしろ
63 名無しどんぶらこ :2024/06/22(土) 02:48:17.42 ID:F2Zo/6xi0
>>1
国産なら応援したいけど、公式サイト開いたらデジャブ
ORIGAMI とかいうサービスを思い出した
このサイトも、文字がびよんびよんうごくあれで
会社概要はやっぱり腕組みして、斜め目線で写真に写ってるITな人たちだた
なんかちゃう
ワイが待ってるのはもっと…こう、重厚長大で骨太な会社やねん!!(゚Д゚)
国産なら応援したいけど、公式サイト開いたらデジャブ
ORIGAMI とかいうサービスを思い出した
このサイトも、文字がびよんびよんうごくあれで
会社概要はやっぱり腕組みして、斜め目線で写真に写ってるITな人たちだた
なんかちゃう
ワイが待ってるのはもっと…こう、重厚長大で骨太な会社やねん!!(゚Д゚)
67 名無しどんぶらこ :2024/06/22(土) 02:51:11.42 ID:lIAqXGjx0
>>63
防衛費爆増で国防関連は期待できるだろ
防衛費爆増で国防関連は期待できるだろ
68 名無しどんぶらこ :2024/06/22(土) 02:52:53.68 ID:S6J2/1S00
>>67
防衛はお金より人が欲しいねん!
防衛はお金より人が欲しいねん!
2 名無しどんぶらこ :2024/06/22(土) 01:08:02.38 ID:lIAqXGjx0
nvidiaは三日天下だったな
3 名無しどんぶらこ :2024/06/22(土) 01:08:56.23 ID:+Pqj6WnP0
そもそもモデル作る側の数なんて多寡が知れてるから、NVIDIA製品への需要なんかたいしたことなくて、
その株価はただのバブル
その株価はただのバブル
4 名無しどんぶらこ :2024/06/22(土) 01:09:11.82 ID:orVnZUa+0
社名からして胡散臭せーw
>取引先 株式会社SBI証券
胡散くせーw
>取引先 株式会社SBI証券
胡散くせーw
8 名無しどんぶらこ :2024/06/22(土) 01:13:31.89 ID:+Pqj6WnP0
>>4
「また本モデルはトレーニングコストを最大50%削減できるといわれているAWS Trainiumを活用しており、開発
費用は75万円」とか、AWSの技術におんぶにだっこってことだし、それでも50%削減でしかないわけで、何を主
張したいのかねー
「また本モデルはトレーニングコストを最大50%削減できるといわれているAWS Trainiumを活用しており、開発
費用は75万円」とか、AWSの技術におんぶにだっこってことだし、それでも50%削減でしかないわけで、何を主
張したいのかねー
12 警備員[Lv.9] :2024/06/22(土) 01:17:16.37 ID:orVnZUa+0
>>008
またいつもの上場詐欺がしたいんでしょ、
あいつ、カリフォルニアの別荘も担保にして相当ヤバいらしいし。
Karakuriとかいう社名だけで俺はピンと来たね、
連中のネーミングセンスそのものだからw
まあ、あいつがどうなろうが関係なく俺はさっさと清算して渡米しないとね。
またいつもの上場詐欺がしたいんでしょ、
あいつ、カリフォルニアの別荘も担保にして相当ヤバいらしいし。
Karakuriとかいう社名だけで俺はピンと来たね、
連中のネーミングセンスそのものだからw
まあ、あいつがどうなろうが関係なく俺はさっさと清算して渡米しないとね。
5 警備員[Lv.9] :2024/06/22(土) 01:12:35.55 ID:orVnZUa+0
まあ、何でもいいが中国朝鮮にAI関係の技術を横流しされないようにしないとね。
あの恩を仇で返す損正義とかいう屑も恥も知らずAIとかわめいてるからねw
あの恩を仇で返す損正義とかいう屑も恥も知らずAIとかわめいてるからねw
6 名無しどんぶらこ :2024/06/22(土) 01:12:56.79 ID:73VXRnSe0
消費電力は?お高いの?
7 名無しどんぶらこ :2024/06/22(土) 01:13:10.19 ID:8cRfRfn40
要するにオープンソースで自前で組めば安いから
nVIDIAもこの会社もいらんのだろう
nVIDIAもこの会社もいらんのだろう
39 名無しどんぶらこ :2024/06/22(土) 01:45:53.54 ID:FkYnDUpL0
>>7
これはこの話に関してはトンチンカン
これはこの話に関してはトンチンカン
41 名無しどんぶらこ :2024/06/22(土) 01:50:03.54 ID:BFqEQhvb0
>>7
LLMは全部transformer使ってるし、transformerは nvidia製GPU使うのが一番楽なんだけど
何の話をしてんの?
LLMは全部transformer使ってるし、transformerは nvidia製GPU使うのが一番楽なんだけど
何の話をしてんの?
9 名無しどんぶらこ :2024/06/22(土) 01:14:54.96 ID:jxYolEMy0
NVIDIAって、GPUAIでそんな儲けてるの?
GPU売れてるから?
GPU売れてるから?
33 名無しどんぶらこ :2024/06/22(土) 01:38:48.81 ID:QAsuHm3q0
>>9
ビッグテックがGPUを買いまくってるから
このLLMにしても、元にしてるオープンLLMの開発にはnvidiaのGPUが使われているし
ビッグテックがGPUを買いまくってるから
このLLMにしても、元にしてるオープンLLMの開発にはnvidiaのGPUが使われているし
10 名無しどんぶらこ :2024/06/22(土) 01:15:24.48 ID:hWWnSdBO0
謎のAI半導体メーカーもついに用済みか(・ω・`)
11 名無しどんぶらこ :2024/06/22(土) 01:16:27.75 ID:9QSQ7RiW0
もう改ざんデータでしたとかはやめてくれよ
19 名無しどんぶらこ :2024/06/22(土) 01:22:58.19 ID:idJk/6b50
>>11
???「ありまぁす!!」
???「ありまぁす!!」
13 Ikhtiandr ◆Moraler.M3wv 警備員[Lv.13][芽] :2024/06/22(土) 01:18:13.25 ID:SgC05O7P0
これも初めて聞く名前
14 警備員[Lv.30] :2024/06/22(土) 01:20:26.41 ID:BzB8AVxF0
実績ないと売れない
15 名無しどんぶらこ :2024/06/22(土) 01:21:22.80 ID:4UIkITPG0
二次大戦の日帝とナチスは
不自然に同じパターンをたどってるんだよ。
急激に領土を拡大。
本土の何倍もの領土を占領
その拡大は、アングロサクソン国家の隣にまで及ぶ。
(英国、オーストラリア)
ところが、そこから事態が急転。
負け始め、悲惨な最後を迎える。
もうシナリオがあったとしか思えない。
書いてるのはもちろん、英米
不自然に同じパターンをたどってるんだよ。
急激に領土を拡大。
本土の何倍もの領土を占領
その拡大は、アングロサクソン国家の隣にまで及ぶ。
(英国、オーストラリア)
ところが、そこから事態が急転。
負け始め、悲惨な最後を迎える。
もうシナリオがあったとしか思えない。
書いてるのはもちろん、英米
17 名無しどんぶらこ :2024/06/22(土) 01:21:37.50 ID:Ix2DHwgv0
>NVIDIAは独占企業であり、
NVIDIAってなんで独禁法に引っかからないの?
NVIDIAってなんで独禁法に引っかからないの?
20 名無しどんぶらこ :2024/06/22(土) 01:25:30.06 ID:swAIaUEV0
>>17
調査準備中やろ
調査準備中やろ
34 名無しどんぶらこ :2024/06/22(土) 01:39:58.18 ID:FkYnDUpL0
>>17
逆だ
NVIDIAを使ったやり方が生成AIの主流になってしまっただけ
NVIDIAは棚からぼたもち
そして生成AIは一昨年からの急激な注目
そこに参入するなら生成AIに使ってもらうようなものを作り出すしかない
だれも邪魔したわけではなく
たまたまNVIDIAが生成AI作成に好都合なものだったというだけ
NVIDIAが邪魔したわけじゃない
逆だ
NVIDIAを使ったやり方が生成AIの主流になってしまっただけ
NVIDIAは棚からぼたもち
そして生成AIは一昨年からの急激な注目
そこに参入するなら生成AIに使ってもらうようなものを作り出すしかない
だれも邪魔したわけではなく
たまたまNVIDIAが生成AI作成に好都合なものだったというだけ
NVIDIAが邪魔したわけじゃない
18 名無しどんぶらこ :2024/06/22(土) 01:22:34.58 ID:OkOinI6K0
見たか?これが日本のモノづくりや
21 名無しどんぶらこ :2024/06/22(土) 01:25:48.06 ID:q1JnxgLj0
これは怪しいな
実績を見せてくれないと何も信用出来ない
実績を見せてくれないと何も信用出来ない
36 名無しどんぶらこ :2024/06/22(土) 01:43:05.66 ID:FkYnDUpL0
>>21
それは基本的なことだよな
使われてるからの評価
口から出まかせの宣伝は誰も評価しない
それは基本的なことだよな
使われてるからの評価
口から出まかせの宣伝は誰も評価しない
23 名無しどんぶらこ :2024/06/22(土) 01:27:00.75 ID:GC5lJGJG0
空売りに見えた。
24 名無しどんぶらこ :2024/06/22(土) 01:29:15.73 ID:tTGGCdGN0
キテレツ斎様だろこれ
26 ちょんまげ :2024/06/22(土) 01:31:20.95 ID:+PLlSpA50
Karakuri chatbotの利用実績はかなりありそうだね
27 名無しどんぶらこ :2024/06/22(土) 01:31:48.75 ID:+33ASAO90
エヌビディア以外のGPU使われないのはやっぱこのCUDAの堀がエグい
28 ちょんまげ :2024/06/22(土) 01:32:36.96 ID:+PLlSpA50
日本の法人はこれに注目してるだろうね
30 名無しどんぶらこ :2024/06/22(土) 01:35:37.05 ID:aRkpch+p0
それはその8つを作る費用を出してないからだろ
8つのLLMにはNVIDIAが使われてるわけだよ
ごまかしてんじゃねーよ
8つのLLMにはNVIDIAが使われてるわけだよ
ごまかしてんじゃねーよ
31 名無しどんぶらこ :2024/06/22(土) 01:36:55.64 ID:nMcimXk10
日本のこういうのは シェア争いに負けて消えていくんだよね
35 名無しどんぶらこ :2024/06/22(土) 01:41:15.54 ID:FkYnDUpL0
>>31
シェア争いできないだろ
自分で作ってない
今ある8つを使っただけ
シェア争いできないだろ
自分で作ってない
今ある8つを使っただけ
37 名無しどんぶらこ :2024/06/22(土) 01:43:47.80 ID:FkYnDUpL0
ITなんか知らない株で金儲けようという奴らを騙すための話が>>1
38 名無しどんぶらこ :2024/06/22(土) 01:45:19.03 ID:zIliheXc0
さんまのからくりテレビ KARAKURI
42 名無しどんぶらこ :2024/06/22(土) 01:52:39.37 ID:01aCacsX0
ベンチャーらしいイノベーションだな
力勝負は大企業にやらせとけ
力勝負は大企業にやらせとけ
43 名無しどんぶらこ :2024/06/22(土) 01:53:16.02 ID:lIAqXGjx0
これは大儲けのチャンス
グタグタ言ってないで儲けろ
グタグタ言ってないで儲けろ
45 名無しどんぶらこ :2024/06/22(土) 01:53:39.72 ID:j1d3CFGh0
AIに夢はない
46 名無しどんぶらこ :2024/06/22(土) 01:54:51.84 ID:bcwNLQPL0
エコシステム的にどうなの?
47 名無しどんぶらこ :2024/06/22(土) 01:55:12.45 ID:yzp25eUO0
1.AIを学習させる際に、最初は厳選された有益な情報を系統的に学習させる。
あたかも幼稚園、小学校、中学校、高校のように段階的に基本となる知識を
学ばせて賢くする。そうやって一定水準に到達したものを選抜してから
より雑多な知識を入れて、いろいろな分野のエキスパートとして育てる。
2.一つのモデルのゴリゴリのパラメータ最適化を狙うよりも、
ほどほどのパラメータ最適化を行ったモデルを使って、
一種のアンサンブル学習を行い、集合知としてたとえば多数決で判断する。
これにより、異常な動作をすることが起きり確率を下げる。
また、最後までつめた最適化をせずにほどほどで済ませるので、
それぞれの学習の最適化は早くて済む。
あたかも幼稚園、小学校、中学校、高校のように段階的に基本となる知識を
学ばせて賢くする。そうやって一定水準に到達したものを選抜してから
より雑多な知識を入れて、いろいろな分野のエキスパートとして育てる。
2.一つのモデルのゴリゴリのパラメータ最適化を狙うよりも、
ほどほどのパラメータ最適化を行ったモデルを使って、
一種のアンサンブル学習を行い、集合知としてたとえば多数決で判断する。
これにより、異常な動作をすることが起きり確率を下げる。
また、最後までつめた最適化をせずにほどほどで済ませるので、
それぞれの学習の最適化は早くて済む。
49 名無しどんぶらこ :2024/06/22(土) 02:08:25.93 ID:FmyCQH8L0
国内メーカーでグラボ作って勝負になる所なし
税金で有機ELパネル作らせたらコストで勝負にならなかったのはワロタ
税金で有機ELパネル作らせたらコストで勝負にならなかったのはワロタ
50 名無しどんぶらこ :2024/06/22(土) 02:08:39.46 ID:0FZzV0fq0
LLMの部門だけGPU要らずって事だけでしょ
勝ったような気で書くなよ 提灯記事ごくろうさん
勝ったような気で書くなよ 提灯記事ごくろうさん
51 名無しどんぶらこ :2024/06/22(土) 02:12:04.00 ID:+DnuXWMV0
今のうちに株買っとくか(´・ω・`)
52 名無しどんぶらこ :2024/06/22(土) 02:22:48.38 ID:Cby7GJx40
まだまだ縮小できるだろ?
テキストを超高次元に変換するだけなんだから、どこをどう削減するかって方法論でしか無い。
テキストを超高次元に変換するだけなんだから、どこをどう削減するかって方法論でしか無い。
54 警備員[Lv.8][新芽] :2024/06/22(土) 02:28:53.66 ID:Les/bGWF0
ソフトウェア技術もやっぱ日本なんだよ
半導体だって全部日本の技術で作られてる
日本最高!!!!!日本チャチャチャ!
半導体だって全部日本の技術で作られてる
日本最高!!!!!日本チャチャチャ!
55 名無しどんぶらこ :2024/06/22(土) 02:35:09.99 ID:cSHI+LID0
KARAKURI武者
56 名無しどんぶらこ :2024/06/22(土) 02:37:25.29 ID:C9QpSOwG0
こういうのでもオッサン騙して金引っ張るぐらいできるんかねー
57 名無しどんぶらこ :2024/06/22(土) 02:37:25.32 ID:C9QpSOwG0
こういうのでもオッサン騙して金引っ張るぐらいできるんかねー
58 名無しどんぶらこ :2024/06/22(土) 02:41:59.48 ID:XbWuXRA30
天秤の問題で、重さの違う4つのボールを軽い順に並べる為に必要な比較回数を聞いたら
GPT-4oは5回、>1は 最小4回最大8回って答えたわ
GPT-4oは5回、>1は 最小4回最大8回って答えたわ
59 名無しどんぶらこ :2024/06/22(土) 02:42:06.86 ID:JywFQjEK0
75万か750万かもわからないけど性能は良いとかw
60 名無しどんぶらこ :2024/06/22(土) 02:43:38.58 ID:EwQWv/SS0
下手に話題にしないほうが良さそう
61 名無しどんぶらこ :2024/06/22(土) 02:44:06.51 ID:7xM13e/40
どうせまた米国に潰される
66 名無しどんぶらこ :2024/06/22(土) 02:50:42.10 ID:5/1wXOjr0
>>61
これ。
戦うと個人に謎の不運がくる。
これ。
戦うと個人に謎の不運がくる。
62 名無しどんぶらこ :2024/06/22(土) 02:45:00.90 ID:lhwidguA0
別にいらないよな
64 名無しどんぶらこ :2024/06/22(土) 02:50:35.12 ID:9xkaaWru0
グラフィックボードとAIの関係が酔うわらん
65 名無しどんぶらこ :2024/06/22(土) 02:50:39.84 ID:zeZ6LNb20
覇権を狙おうmade in japan
69 名無しどんぶらこ :2024/06/22(土) 02:56:44.05 ID:y+KCKL1p0
STAP細胞みたいな話じゃないだろうな
70 警備員[Lv.9][新芽] :2024/06/22(土) 02:57:50.70 ID:1JQtM6Ex0
LLM作ってるわけじゃなくてオープンLLM組み合わせただけ?
それはただのプロンプトエンジニアリングや
それはただのプロンプトエンジニアリングや
コメントする