AIの3,440億ドル規模の「言語モデル」賭けは脆弱に見える

• 今年、世界のビッグテック4社は 3,440億ドル をAIに支出し、その大半を 大規模言語モデル（LLM） の訓練・運用向けデータセンターに投資している
• LLMはすでに 7億人超が毎週ChatGPTを利用 するほど大衆化に成功したが、進化のスピードは鈍化し、ハルシネーション・高コスト・わずかな性能改善 といった限界が明らかになっている
• 中国の DeepSeek は、より小さく効率的なモデルを公開して市場を驚かせ、Covariant（ロボティクス）、Atman Labs（非ディープラーニングのアプローチ）といった企業は 物理世界に反応するAI を探究している
• 最近の研究によると、LLMの 社会的推論能力 は少数の特性に依存しており、小さな変更にも脆弱で、OpenAIも 脆弱な層向けの安全策が機能しなくなる 可能性を認めている
• 専門家はLLMを 「トークン生成器」 にすぎないと批判し、単一技術への執着 は市場の不安定性を高めかねず、新たなアプローチの台頭可能性 に備えるべきだと警告している

---

巨額のAI投資とLLM中心主義

• どの投資家も「すべての卵を一つのかごに盛るべきではない」と知っているのに、なぜシリコンバレーは 人工知能（AI） 構築のためのたった一つの方法にだけ賭けているのだろうか？
• 世界のテック大手4社は2025年に 3,440億ドル をAIに投じ、その主な焦点は 大規模言語モデル（LLM） の訓練と実行のための データセンター 建設にある
• LLMはテキスト、音声、視覚コンテンツなどのマルチモーダル入力を処理し、系列内の次トークン予測 という手法に依存している
• 個人向けチャットボット は急成長しており、一部のAIスタートアップは収益を上げ始め、企業も 生成AI によって初期的な生産性向上を実現している
• LLMは主流採用を達成した最初のAI技術であり、ChatGPT は毎週7億人を超える利用者を抱える
• 一部のスタートアップは損益分岐点に達したものの、医療・法律 などのセンシティブな分野では、ハルシネーション問題のため信頼性確保に限界がある

単一技術への執着の危険

• しかし、単一技術への集中は危険であり、過去には BlackBerry が物理キーボードに固執してAppleのタッチスクリーンに敗れたことや、Yahoo のポータル賭けがGoogleの検索支配に押し流されたことなど、失敗例がある
• LLMも同じ道をたどる危険があり、新しいAIアプローチ が登場した場合、巨額投資は 座礁リスク を抱えることになる
• 中国の DeepSeek は1月に、より小さく効率的なLLMを公開し、アーキテクチャもオープンにして 市場を驚かせ、非伝統的アプローチの可能性 を示した

代替アプローチの探索

• AIの進歩は、過去の洞察と新しいアイデアを結びつけることで実現されており、超知能マシン の追求にも多角的なアプローチが必要だ
• Covariant のようなスタートアップは、データパターン分析ではなく 空間認識 ソフトウェアを開発し、LLM中心から離れている
• ロボティクス、ドローン、創薬、気候モデリングの企業は、リアルタイムの物理的反応 を必要とするため、LLM中心主義から離れている
• 英国の Atman Labs は、ディープラーニング以前に忘れられていたアイデアを掘り起こしており、Google DeepMind の初期のマルチトラックアプローチ（例：AlphaGo、強化学習）を想起させる

LLMの限界と信頼性の問題

• 今や 大規模言語モデルのロジック に亀裂が見え始めている。途方もなく高いコストから 収益逓減 の見通しまで、その問題は広がっている
• OpenAIやGoogleの最新モデルは以前のモデルよりわずかに優れているだけで、さらに多くの資金を投じても状況は同じだ
• それにもかかわらず ハルシネーション現象 は消えず、医療や法務分析のような企業導入の障害となっている
• 最近の Nature研究 では、言語モデルの社会的推論能力が ごく一部の特性 に依存しており、小さな変更でも崩壊し得ることが示され、これは 信頼性 に関する根本的な疑問を投げかけている
• OpenAI は、長時間の対話では 脆弱な層向け安全策が崩れる 可能性があると認めており、実際に10代の利用者へ自傷の指示を与えた事例も発生した

業界からの批判と展望

• Fei-Fei Li: 「自然に言語はなく、世界は物理法則に従う」として、言語中心の限界を指摘
• Alex Karp（Palantir CEO）: 「シリコンバレーはLLMを誇大宣伝してきた」と批判
• Yann LeCun: LLMはより賢い機械への 「袋小路」 であり、「トークン生成器」にすぎず、物理的な周囲を理解したり、事前に計画したりできない と指摘
• 結論として、LLMは存続するだろうが、単一の解決策に執着するのは危険 であり、投資家・企業は 新たな技術パラダイム転換 の可能性に備える必要がある