7 ポイント 投稿者 GN⁺ 2024-10-01 | 3件のコメント | WhatsAppで共有
  • 「市場が非合理的でなければ生き残れない」

何かがおかしい

  • 大規模言語モデルの構築には多額の費用がかかる
    • OpenAIは毎年70億ドルを研究、新しいAIサービス、従業員の採用に費やしている
    • Anthropicも今年27億ドルを支出すると予想されている
    • Facebookも数十億ドルを投資している
  • 安くなることはなさそう
    • モデルが進化するにつれて研究はさらに難しくなり、必要な計算資源も増える
    • 新しいモデルを作るには、より多く、より難しい数学的計算が必要になる
  • コストがかかるにもかかわらず、人々は新しいモデルを作り続ける
    • 人々はLLMが次世代の技術的ゴールドラッシュだと信じており、投資を続けるだろう
    • 人間の本性として、あらゆるものをより速く、より高く、より強力にしようとする
  • 業界が新しいモデルを作り続けると、既存モデルの価値は急速に下落する
    • 競合がより優れた新モデルを出せば、数行のコードを書き換えるだけで乗り換えられる
    • 継続的に魅力的なLLMを販売するには、最高水準を維持しなければならない
  • 業界が新しいモデルを作り続けない場合や、技術が漸近点に達した場合でも、旧モデルの価値は急速に下落する
    • 最良の独占モデルと比べて最悪でも1〜2段階遅れにとどまる、LlamaやMistralのようなオープンソースモデルがいくつか存在する
    • 独占モデルの進歩が止まれば、オープンソースモデルはその差をすぐに縮めるだろう
  • したがって、OpenAI、Anthropic、または他のAIベンダーには2つの選択肢がある
    • 1つ目は莫大なコストを投じて市場の先頭を走ること。だがこれは非常に危険に見える:
      • こうしたモデルの構築コストは今後も上がり続ける可能性が高く、最も優秀な従業員が去るかもしれず、常に次のブレークスルーを最初に見つける企業であることに事業を賭けたくないかもしれない
      • 技術的専門性が永続的な堀になることはまれ
    • 2つ目は…わからない
      • 1つ目の選択肢をもっと必死にやること?

現在の状況についての予測

  • 18か月前には、LLMベンダーが次世代のクラウドベンダーになるという予測があった
    • 構築に莫大な資金が必要という点では表面的には似ているが、重要な違いがある
    • クラウドベンダーは一夜にして作れない
    • LLMベンダーは、小さなチームでも数か月以内にOpenAIの中核事業を脅かせる
  • LLMベンダーの堀は何か?
    • ブランド、慣性、より良いアプリケーション、競合より先行したモデルを維持するための莫大な資金投入など
    • しかしAI企業は、ソフトウェア開発コストを先行投資として誤分類する市場の極端な例でもある
    • 小さな企業が巨大企業のように数十億ドルを継続投入するのは難しい

タイミングの重要性

  • この市場ではタイミングが最も重要かもしれない
  • いずれ誇大宣伝は消え、人々はこの種のラウンドで資金調達できなくなるだろう
  • そして勝者は、最も速く走った者や最初にゴールした者ではなく、市場がレースは終わったと判断した時点で先頭を走っていた者になるだろう

GN⁺の意見

  • AI企業のビジネスモデルが本当に持続可能なのかという疑問がある
    • モデル開発には莫大なコストがかかり、今後も増え続ける見込み
    • 技術の進歩が速いため、以前のモデルはすぐに役に立たなくなる
    • そのため、最高水準のモデルを維持するには継続的に巨額の投資が必要
  • オープンソースのAIモデルも急速に進歩しており、商用モデルとの差は縮まっていくとみられる
    • Stable Diffusion、Llama、Mistralなどが代表例
    • 企業が新モデル開発をやめれば、オープンソースがすぐに追いつくだろう
  • AI技術開発では巨大IT企業に有利な面がある
    • Google、Microsoft、Metaなどは莫大な資金力で継続的な投資が可能
    • 高いブランド認知と既存顧客基盤を活用できる
  • 一方で後発スタートアップは、技術力だけで生き残るのは容易ではなさそう
    • 初期に大規模な投資を受けても、継続的な資金確保が鍵となる
    • バブルがはじければ資金調達は難しくなるだろう
  • 市場のタイミングが重要であり、熱気が冷める時に先頭にいる企業が勝つ可能性が高い

3件のコメント

 
aasfdkdk 2024-10-02

OpenAIが市場独占のために腹をくくって赤字事業をやっているのが大きいですよね。どうせOpenAIは金が尽きるたびに投資を呼び込めば世界中からラブコールが来ますが、ほかの企業はみんな死ぬんですよ。

 
kandk 2024-10-02

巨大なチキンゲームではないでしょうか?
結局みんな死んで、1つの巨大モデルだけが生き残り、市場を独占するのでしょうね..

 
GN⁺ 2024-10-01
Hacker Newsの意見
  • AI研究チームリーダーの意見

    • AIが経済的価値を生み出すには、現実世界と結びついている必要がある
    • 現在、GPT-4のようなモデルを最大限に活用する方法についてのアイデアが不足している
    • AIは人間の意図を理解するのに困難がある
    • オープンソースモデルがGPT-4レベルに到達すれば、あえてOpenAIやAnthropicを使う必要はない
  • 技術革新のSカーブ

    • 現在、技術革新の急激なSカーブの中腹にいる
    • 技術だけでなく、人材維持、ビジネス関係、マーケティングなど、さまざまな要素が成功の鍵である
    • すべての要素で優れた実行力が必要である
  • AIの定義の変化

    • AIとして始まった技術が一般化すると、もはやAIとは呼ばれなくなる
    • 例: 論理プログラミング、OCR、音声認識など
  • AIの収益化方法

    • 消費者向け: Google方式で検索と広告
    • ビジネス向け: AWS方式でAPIを提供
    • OpenAI APIを使う企業は今も発展を続けており、乗り換える理由がない
  • ライドシェアリング初期と似た状況

    • 初期には多くの資本が少数の企業に投資される
    • 最も資本の多い企業が勝つ可能性が高い
    • AI市場でも資本の多い企業が有利になるだろう
  • モデルの差別化要素

    • モデルは性能だけでなく、安全性、UX、マルチモダリティ、信頼性、組み込みやすさなどでも差別化される
  • 市場の混乱期

    • さまざまなサービスが資金を得て市場を混乱させる
    • 消費者にはより多くの恩恵がもたらされる
  • モデル最適化の問題

    • 言語モデルは数回の学習だけでも性能を発揮できる
    • 大規模な計算資源を使う代わりに、効率的な学習方法を見つけることが重要である
  • 製品の置き換え可能性

    • 一般的なツールとしてのAIモデルは置き換えが容易である
    • モデルがより知能的であるほど、相互交換可能性が高くなる