Tesla AI day の感想
(facebook.com)<p>1. AIにおいて2010年代と2020年代は明確に区別される。GPUを使うようになってAIの新時代が開かれた<br />
2. ディープラーニングはもっともらしく見えても学習させる方法がなかったが、金魚（=GPU）を捕まえて学習させてみたら何かが動き始めた。とはいえ金魚は金魚<br />
3. どうせ頭の悪い金魚では限界があるので、頭を良くしよう。ここでOpenAIが登場<br />
→ 頭の悪い金魚でだめなら、金魚を1万匹捕まえて頭をつなぎ合わせ、イルカの頭くらいの大きさにしてみた<br />
→ ところがこれがものすごくよく勉強する。頭が良くなると、雑な話し方をしても意図をきちんと汲み取る <br />
→ Transformerという学習法ひとつで天下統一<br />
4. 問題は、金魚の頭をつなぎ合わせるのが簡単なことではないという点。Nvidiaもまだ十分に整理できていない<br />
5. 現時点でAIの中核競争力はモデルではない<br />
→ 金魚1万匹を買うお金（最新のA100が1枚1万ドルなので、1万枚ならGPUだけで100億ウォン）<br />
→ つなぎ合わせた金魚の頭を、ひとつのイルカの頭のように扱う技術 <br />
→ この金魚1万匹が学習するためのデータ<br />
6. 結局、個々のAI企業が金魚を数匹かき集めて学習法に工夫する時代は終わった<br />
→ 新しい魚の頭を作り、つなぎ、イルカのように動くようにするところまで全部できたのはGoogleだけだった<br />
7. Teslaが今日見せたのがこれ<br />
→ Nvidiaの金魚はいまひとつだから、私たちは新しく黒い魚を作った<br />
→ つなぎやすいように穴もたくさん作り、頭もうまく整えた <br />
→ これでもうロボットも制御できる！<br />
<br />
面白い解説文なので、ぜひ原文をご覧ください</p>
5件のコメント