Tesla AI day の感想
(facebook.com)-
AIにおいて2010年代と2020年代は明確に区別される。GPUを使うようになってAIの新時代が開かれた
-
ディープラーニングはもっともらしく見えても学習させる方法がなかったが、金魚(=GPU)を捕まえて学習させてみたら何かが動き始めた。とはいえ金魚は金魚
-
どうせ頭の悪い金魚では限界があるので、頭を良くしよう。ここでOpenAIが登場
→ 頭の悪い金魚でだめなら、金魚を1万匹捕まえて頭をつなぎ合わせ、イルカの頭くらいの大きさにしてみた
→ ところがこれがものすごくよく勉強する。頭が良くなると、雑な話し方をしても意図をきちんと汲み取る
→ Transformerという学習法ひとつで天下統一
-
問題は、金魚の頭をつなぎ合わせるのが簡単なことではないという点。Nvidiaもまだ十分に整理できていない
-
現時点でAIの中核競争力はモデルではない
→ 金魚1万匹を買うお金(最新のA100が1枚1万ドルなので、1万枚ならGPUだけで100億ウォン)
→ つなぎ合わせた金魚の頭を、ひとつのイルカの頭のように扱う技術
→ この金魚1万匹が学習するためのデータ
- 結局、個々のAI企業が金魚を数匹かき集めて学習法に工夫する時代は終わった
→ 新しい魚の頭を作り、つなぎ、イルカのように動くようにするところまで全部できたのはGoogleだけだった
- Teslaが今日見せたのがこれ
→ Nvidiaの金魚はいまひとつだから、私たちは新しく黒い魚を作った
→ つなぎやすいように穴もたくさん作り、頭もうまく整えた
→ これでもうロボットも制御できる!
面白い解説文なので、ぜひ原文をご覧ください
5件のコメント
一緒に読んでみるとよい別の感想
https://www.facebook.com/mins21/posts/1696497720544616
個人的には、テスラが『20xx年にAが発売されます!』と言っても、実際には毎回20xx + 1〜2年後の発売になってきたので、実物が出て確認できるまでは期待感だけ持っているのが妥当なのでは、という気はします。長期的には達成されるのでしょうけど。長期的には他社もみんな遊んでいるわけではないですし…… 🤔
金魚でも理解しやすいように書かれているのに、あふれ出る知性がはっきり伝わってきて、本当にすごいと思いますね。ぱくぱく(...)
うう、Facebookに登録していないので原文が見られませんね…
面白い説明ありがとうございますwwwwwwwwwwww