23 ポイント 投稿者 xguru 2024-12-30 | 2件のコメント | WhatsAppで共有
  • 2025年レポート(90ページのスライド)の要約と補足説明
  • 「私の人生で革新的な技術デモはたった2つ、GUI と ChatGPT だ - ビル・ゲイツ」
  • OpenAI は想定評価額 $157B で評価されている(Microsoft は20年かかった)
    • ChatGPT は前例のないスピードでメインストリームの認知に到達
    • 関心は高いが用途は限定的で、有用だと認識されていない
    • すでに市場では、投資に見合う利益がないのではないかという声も出ている
  • Hype Cycle で「Plateau of Productivity(生産性の安定期)」に到達するには時間がかかる
  • 次世代のプラットフォームシフトは「Generative AI」
    • Mainframe → PCs / SQL → Web / Open Source → Smartphones / Cloud → Generative AI
  • しかし、まだすべてが開かれており、答えは分からない
    • How far will this scale?
    • How is this useful?
    • How do we deploy this?

How far will this scale? どこまで拡張できるのか?

  • LLM はさらに大きくなるのか(scaling?)- LLM は「すべて(everything)」をこなすようになるのか?
  • Scaling は難しい
    • これらのモデルを大きくするには多くの課題があり、時間もかかる
      • GPU と電力、トレーニングデータ、実行とエンジニアリング、結果はより良くなるのか?
    • 現時点では、とにかく投資するしかない(そうしなければ今後10〜15年で最も重要な技術を逃すことになる)
    • 「我々には moat がない - Google」
    • 「現在訓練中のモデルは $1b 近いコストがかかるが、2025/2026年には $5b または $10b ほどになるだろう - Anthropic CEO」
    • 「Llama 4 を訓練するのに必要な計算資源は3の10倍以上で、将来のモデルはさらにそれ以上に大きくなるだろう - マーク・ザッカーバーグ」
  • moat が「資本」だとすれば、現在 Nvidia は需要をさばききれていない
  • ビッグ4(Meta、Alphabet、AWS、MSFT)の Capex は 2023年に $90b で、2024年には $220b。2025年にはさらに増える見込み
  • あらゆることが私たちの足元で技術進化とともに急速に変化している
    • AI 技術が今後さらに進化するには、成果(より良い結果)、方向性、そして資源効率(訓練コスト、推論コスト、カーボンフットプリント)のバランスを取ることが重要
  • 「無料で公開し、口コミで広げ、後から収益モデルを考えるという消費者インターネットのモデルは、今日の大規模言語モデル(LLM)のコスト構造には合わない」
    • 従来のソフトウェアは初期開発コストは高くても、コピーや配布にはほとんど費用がかからず、「限界費用」がほぼない製品だった
    • LLM は学習と推論の過程で膨大な計算資源(電力、サーバーなど)を必要とし、利用者が増えるほどコストも大きく増加する
    • 無料提供で大規模ユーザーを獲得する戦略は、収益化モデルが確立されていなければ持続可能ではない
    • つまり、最初から 明確なコスト回収戦略 が必要
  • 「技術産業の誰もが、他人のビジネスモデルを無料で提供している」
    • 技術産業では、競合他社や他組織のビジネスモデルや中核技術がオープンソース化やその他の形で無料化されることで、特定企業の独占的な競争力が弱まっている
    • Meta が AI モデルなど重要な技術資産をオープンソースとして公開することで、その技術は誰でも使える共通インフラ(commodity infrastructure)へと変わりつつある
    • Apple はエッジコンピューティング技術を通じて、ユーザーのデバイス上で直接 AI モデルを動かす方向へ導いており、中央サーバー上で AI モデルを動かす代わりに、モデルを単純な API 呼び出しの形にし、技術の商業化価値を下げている
  • 2023-2024 のモデルブーム: 良いもの、速いもの、安いもののうち2つを選ぶ という状況だった

How is this useful? どれほど有用なのか?

  • 2013年: 機械学習が人間/犬/椅子を区別し始めた。「賢いね、それで?」
  • 2023年: ChatGPT のような生成系 ML は有用か? 「賢いね、それで?」
  • エラー認識は依然として限定的。効果的なエラー処理のためには、あらゆる面でバランスの取れたアプローチが必要
    • 科学的課題(モデル改善)、ユースケース定義、製品設計(UX 改善)が組み合わさった複合的な課題
  • 「2024年、LLM はどう有用なのか?」
    • LLM は本質的に次の単語を予測する確率ベースのシステム
    • 現在の水準: 情報の要約や統合には有用だが、複雑な推論にはまだ不十分
    • LLM は新しい種類の作業を自動化する潜在力を持つが、それを完全に理解し定義するには、より多くの探求が必要
  • VisiCalc は世界初の電子スプレッドシートプログラムで、20時間かかっていた計算作業を15分に短縮した
    • これを見た弁護士は、それが非常に革新的で賢いものだと思っても、自分の業務に適用することはないと感じるかもしれない
    • しかし、そのような事例は増えている
      • コーディング、マーケティング、カスタマーサポートなど、明確な必要性を持つ業務で即時の価値を提供
  • 「顧客体験から始めて、そこから技術へさかのぼらなければならない。- スティーブ・ジョブズ」

How do we deploy this? これをどう展開するのか?

  • 新しい技術が導入されるときに一般的にたどるプロセス
      1. Absorb(統合): 新しい技術を機能にし、既存のビジネスや製品の機能として追加する
      1. Innovate(革新): 新しい技術を基盤に革新的なアイデアや製品を開発する。スタートアップはこれを切り出して(unbundle)活用する
      1. Redefine markets(市場の再定義): 新しい技術は既存市場の境界を壊し、まったく新しい市場を生み出すこともある。これは予測が難しく、成功事例はまれな場合もある
  • 企業が新しい技術を導入するときに検討する標準的な問い
    • 「Buy versus build?」(購入するのか、自社開発するのか?)
    • 「Single vendor or multi-vendor?」(単一ベンダーか、マルチベンダーか?)
    • 「Which use cases first? Whose budget?」(どのユースケースを優先するのか? 予算は誰のものか?)
    • 「Opex or capex? What’s the EPS impact?」(運用費か資本支出か? EPS への影響は?)
  • 未来には時間がかかることもある
    • クラウドは古くて飽きられた言葉だが、それでもなお全ワークフローの30%にすぎない
    • 2024年に CIO の4分の1は LLM ベースの何かをリリースしたが、半数は来年も何かをする計画がない
  • しかし、新しいプラットフォームは新しいツールを意味する
    • SaaS は自動化から大きく拡張し、SAP、Excel、Email のワークフローを unbundle している
  • 「お金を稼ぐ方法は2つある。束ねる(bundle)か、ほどく(unbundle)かだ。- Jim Barksdale」
  • LLM がすべてを処理できるとしたら? : モデルが十分に発展すれば、私たちに必要なソフトウェアははるかに少なくなるのだろうか?
    • LLM の特定タスクを処理する能力が現在よりも大きく向上しないなら、新しいソフトウェアを開発し続ける必要がある
    • LLM が継続的にスケールし発展するなら、ソフトウェア開発の多くが不要になる可能性がある
      • すべてを処理する「汎用 AI への発展可能性」
  • LLMs はインフラなのか? API なのか? プラットフォームなのか? 新しいユーザー体験なのか? : 論理システムで LLM を制御するのか、それとも LLM で論理システムを制御するのか?
    • LLM は単純な API として使われるかもしれないし、全体のプラットフォームとして定着して、それ以外のすべてが API になるかもしれない
    • 技術の進化と拡張可能性に応じて、LLM の役割は進化し続けるだろう
  • LLM が私たちのユースケース発見モデルを壊してしまうのか? : すべてが同じ UX を持つなら、起業家たちは新しいユースケースや自己表現の方法をどう発明するのか?
    • 従来のソフトウェア開発では、スタートアップや企業が特定のユースケースを想像し、発明してきた
    • LLM があらゆるユースケースを処理し自動化できるほど発展すれば、従来型ソフトウェア開発の必要性は減るかもしれない
    • LLM が UX の中心になるなら、ユーザー自身が新しいユースケースを想像し発明しなければならないかもしれない
      • ソフトウェア開発と UX 設計のパラダイムシフト
  • AI は「自動化」へと変わる傾向がある。 : As technology matures, it disappears(技術は成熟すると消える)
    • AI! → Smart → Auto → Just software
  • LLM 製品のための3つのモデル?
    • 既存アプリケーションに新機能を追加: 「私のメールを書き直して、レビューを要約して」
    • 新しいツール: 「500件の財務報告書を分析して要約して」
    • 汎用 AI: 「家を1軒買って」
  • おそらく、すべての AI に関する問いには2つの答えのどちらかしかない。
    • 「あらゆるプラットフォーム変化と同じように機能するだろう」
    • 「誰にも分からない」

Meanwhile...

  • ビジョンから実行へ: すでに大きくなっているものは何か、今作られているものは何か、これから来るものは何か?
    • 2000年代初頭には電子商取引(e-commerce)が主要な革新アイデアだった: 「人々はオンラインで物を買うようになる」
    • 2010年代には SaaS(Software as a Service)、自動化、コラボレーションツール、ワークフロー管理といったアイデアが注目を集めた
    • 2030年を目指して Generative AI が新たなビジョンとして位置付けられている
  • Meta は今もメタバースを進めている(VR & AR)。これまでに少なくとも $60b を投資し、過去12か月で $17.4b を投資した
  • e-commerce は依然としてそのまま(COVID 期だけが例外だった)。技術グラフの中で最も退屈なチャートだ
  • Unbundling Amazon: Shopify の GMV(Gross Merchandise Volume)は $270b を突破。Amazon GMV の 35% 規模になった
  • Amazon の広告売上は増え続けている。リテール/AWS よりも多くのキャッシュフローを生んでいる
  • Software eats media(ソフトウェアがメディアを食う): 新しいチャネル、新しいモデル、新しいバンドル
    • YouTube、TikTok のようなソフトウェア中心のメディアプラットフォームは、伝統的メディアに匹敵する収益を上げ、メディア市場の強者として浮上している
    • Disney のような大規模な伝統的メディア企業は依然として強力な収益を上げているが、ソフトウェアプラットフォームの成長速度に直面している
    • ストリーミング(Netflix)などの新しい形のメディアは、従来のケーブル・放送中心モデルに挑戦している
    • 伝統的メディアはコンテンツライブラリと独占コンテンツで競争力を維持しようとし、ソフトウェアプラットフォームは広告モデルとサブスクリプションモデルを組み合わせて収益を最大化している
  • Software eats cars?(ソフトウェアは自動車も食うのか?): 数十年にわたる約束と数百億ドルの投資の末、自動運転がついに機能し始めたのかもしれない
    • ロボタクシーの走行回数は着実に増加中。自動車産業はソフトウェア中心のサービスへ移行している
  • 自動車はソフトウェアになるのか?: BEV は全販売の10%近くに達しているが、誰が勝つのか? このプロセスは Android のように進むのか?
    • バッテリー式電気自動車(Battery Electric Vehicle)は 2023年に自動車販売全体の約10%を占め、主流技術として定着しつつある
    • Tesla のような企業は BEV を単なる車両ではなく、ソフトウェア中心の製品へと変えている。BEV がスマートフォンに似たソフトウェア中心のエコシステムを形成する可能性を示唆している