自動運転技術の現状
- WaymoとTeslaが首位を争っている
- Waymoは現在サンフランシスコで商用サービスを展開中
- Teslaが解いているのはソフトウェアの問題で、Waymoが解いているのはハードウェアの問題
- ソフトウェアの問題のほうがはるかに解きやすく、Teslaはすでに規模の面でWaymoとは比較にならない
- カルパシーは10年以内にTeslaが優位に立つと予測
AIモデルの発展方向
- TransformerモデルがAI研究の中核
- インターネットで見つけられるデータはすでに学習し尽くしており、現在はデータセットとloss functionの最適化に焦点
- インターネットで見つけられるデータは実際には人間の思考の結果物であり、今不足しているデータは人間の頭の中で複数段階にわたって起こる思考過程に関するもの
- Transformerモデルで思考過程を逆に作っていく合成データ生成が重要になると予想
- 1億未満のパラメータでも強力なAIモデルの実現が可能になる見込み（GPT4は1兆8000億パラメータと推定）
AIと人間の融合
- AIを外部大脳皮質として活用可能
- 長期的にはAIと人間の境界が曖昧になる見込み
- パーソナライズされたAI秘書やツールの形で発展すると予想
AI教育プラットフォーム (Eureka Labs)
- カルパシーが開発中のAIベース教育プラットフォーム
- AIを活用してパーソナライズされた学習体験を提供することが目標
- 2024年初頭に公開予定、最初の講義はLLM101n (https://github.com/karpathy/LLM101n)
- 大学生レベルの技術教育に焦点
まだコメントはありません。