State of AI 2023 [Googleスライド、163P]

 (stateof.ai)
24 ポイント 投稿者 xguru 2023-10-16 | 1件のコメント | WhatsAppで共有

毎年公開される、人工知能の現在と未来を幅広く展望したレポート

  • Research : これまでの技術革新と能力
  • Industry : AIの商業的応用分野とビジネスインパクト
  • Politics : AI関連の規制、経済的意味、およびAIの地政学(Geopolitics)
  • Safety : AIがもたらしうる致命的なリスクを特定し、緩和
  • Predictions : 今後起こることと、過去レポートの予測精度の振り返り

2023年の分野別要約

  • Research
    • GPT-4は、独占モデルと次善のオープンソースの間にある機能格差を示す一方で、同時にRLHF(人間のフィードバックによる強化学習)の力を実証
    • LLaMa-1/2をベースに、より小さなモデル、より良いデータセット、より長いコンテキストなど、独占モデルの性能を再現または上回るための取り組みが増加
    • 人間が生成したデータがAIのスケーリング傾向をどこまで長く支えられるのか(一部では2025年までにLLMでデータが枯渇すると予想)、また合成データを追加することがどのような影響を与えるのかは不明。企業内に閉じた動画やデータが次のターゲットになる可能性が高い
    • LLMとDiffusionモデルは、分子生物学や新薬開発における新たなブレークスルーをもたらすことで、生命科学コミュニティに引き続き恩恵を与えている
    • マルチモダリティが新たな領域として浮上し、あらゆる種類のエージェントへの関心が大きく増加
  • Industry
    • 国家、スタートアップ、大企業、研究者のすべてによるGPUへの熱狂的な需要により、NVIDIAが時価総額1兆ドルクラブ入り
    • 輸出規制により高性能チップの中国向け販売は制限されているが、主要チップベンダーは輸出規制を回避できる代替案を開発中
    • ChatGPTに牽引されるGenAIアプリは、画像、動画、コーディング、音声、コパイロットなどあらゆる分野で画期的な1年を過ごし、180億ドルのVCおよび企業投資を呼び込んだ
  • Politics
    • 世界は明確な規制陣営に分かれたが、グローバルガバナンスの進展は依然として遅い。大規模AI研究所がその空白を埋めるために乗り出している
    • 米国が同盟国を動員し、中国の対応が依然不十分な中、チップ戦争は継続中
    • AIは選挙や雇用を含む一連のセンシティブな分野に影響を与えると見られているが、まだ大きな影響は出ていない
  • Safety
    • 実存的リスクをめぐる議論が初めて主流化し、大きく激化
    • 多くの高性能モデルは容易に「脱獄」可能。RLHFの問題を解決するため、研究者はセルフアラインメントや人間の選好の事前学習といった代替案を模索中
    • 機能が進化するにつれ、SOTA(State of the Art、最高水準)モデルを一貫して評価することはますます難しくなっている。Vibeだけでは不十分

今後12か月の予測

  1. ハリウッド級のプロダクションで、視覚効果のために生成AIが使われる
  2. 2024年の米大統領選の過程で、生成AIメディア企業が悪用の疑いで調査を受ける
  3. 自己改善するAIエージェントが、複雑な環境(例: AAAゲーム、ツール使用、科学)でSOTAを圧倒
  4. テックIPO市場が解凍し、AI中心企業(例: Databricks)の上場が1件以上実現すると予想
  5. GenAIスケーリング熱により、1つの大規模モデルを学習させるために1グループが10億ドル超を費やす事例も発生
  6. 米連邦取引委員会(FTC)または英競争・市場庁(CMA)がMicrosoft/OpenAI取引を競争法違反として調査
  7. 高水準の自主的コミットメントを超えるグローバルAIガバナンスの進展は限定的
  8. 金融機関が、計算資金調達のためにVCのエクイティ資金を代替するGPUデットファンドを立ち上げ
  9. AIが生成した楽曲がBillboard Hot 100トップ10またはSpotify Top Hits 2024に入る
  10. 推論ワークロードとコストが大幅に増加する中、大規模AI企業(例: OpenAI)が推論重視のAIチップ企業を買収

関連記事