人工知能：来たる革命（AI: the coming revolution）レポート

ninebow · 2023-11-22T17:22:09+09:00

概要 Cerebral Valley AI Summitで、Coatue VenturesのSri Viswanathが発表したAIの現状に関する内容です。 Coatue Venturesはこれまで10年以上にわたりAI分野を見守り、50社を超えるAI関連企業に投資してきたベンチャーキャピタル（VC）です。特にこのレポートは、Hugging FaceやGitHubのさまざまな指標を分析して公開している点が特徴です。 2022年がAIの爆発的な成長をもたらした年だとすれば、2023年はAIの波（wave）が形を持ち、より幅広い分野に影響を与え始めた年です。 AIはハードルを越え、世界を有意義に改善できる GitHub Copilotの利用により、作業を50%以上速く完了でき、カスタマーサポートのコストは最大95%削減されています。ユーザー満足度は向上し、応答時間は短縮され、さらにBCGの研究では知識労働の質も約40%向上したとされています。 AIはブレークスルーを見つけつつあり、私たちの日常生活と現代経済全体に影響を及ぼすことが期待されています。オープンソースはAIの心臓部だが、すべてが対等というわけではないオープンソースの研究、データ、コミュニティはAI革命の中核です。Transformer論文から最新のLlama-2モデルに至るまで、オープンソースはエンジニアがAIを反復的に改善できるようにしてきました。しかし、すべてのオープンソースが真に「開かれている（open）」わけではなく、最近では研究内容や結果を公開しない、あるいはモデルを非公開のままにするといった動きを見せる企業もあります。それでもなお、オープンソースAIコミュニティは活発に成長していると見ています。 2023年11月時点で、GitHubでは20万人を超える開発者がAIプロジェクトに貢献しています。また、Hugging Faceには30万件を超えるモデルが公開されており、AI関連のDiscordチャンネルの会員数は1,800万人を超えました。 AI中心の新しい技術スタックを理解する必要がある押し寄せるAIの波は、サービス開発の技術スタックを変えています。開発者と投資家は、各スタックの構成要素とそれらがどのように相互作用するのかを知る必要があります。これまではAIモデル層が最も大きな投資を受けてきましたが、AI向けデータセンターからエンドユーザー向けアプリまで、あらゆる場所で革新が起こるでしょう。 AIモデル私たちはすでにモデルが「知能をサービスとして提供する」（IQaaS: intelligence-as-a-service）時代に入り、勝者は人材・データ・計算能力をめぐる競争で決まると考えています。モデル性能をスケールさせることは、高品質なデータセットをスケールさせることも意味します。従来の30%の規模に剪定（pruned）・キュレーションされたデータセットで学習したモデルも十分に機能しており、合成データやユーザーフィードバックも探求すべき有望な領域です。計算能力とクラウドプラットフォーム GPUのようなハードウェアアクセラレータは、AIの力の基盤部分を担っています。GPUに対する絶え間ない需要は、電力網への負荷から半導体サプライチェーンの成長促進、クラウドサービス需要の再加速に至るまで、経済全体に波及効果をもたらしています。 AIがさらに主流になるにつれて、推論（inference）で発生する負荷は、はるかに計算集約的になると見込まれます。1億人のGPT-4ユーザーにサービスを提供するコストは、モデルの学習にかかった費用の4倍になる可能性があります。開発者ツール 2022年のAI爆発以降の大きな変化のひとつは、AIの民主化とAIエンジニアの台頭であり、モデルを学習・微調整・デプロイするための新たなAI Opsツールが登場しました。活発なAI Opsツール層の登場により、世界の約3,000万人の開発者がAIにアクセスできるようになり、これはアプリケーション層で爆発的な可能性を生み出すと期待されています。 AIアプリケーション私たちはAIアプリケーションの採用がまだ始まったばかりだと見ており、今後さらに多くのユースケースが登場すると予想しています。消費者と企業のAIへの関心は、RunwayやTomeのようなクリエイティブ領域から、ReplitやAurora Solarのような専門領域に至るまで、すでに勢いを増しています。 Coatueの見解：最高のAIはまだ登場していない今後、現実世界でAIはより利用しやすく、スケーラブルで、有用になっていくと予想されます。また、英語のような自然言語が最良のプログラミング言語になると予測しています。 AIによって、より多くの人が開発者のようにソフトウェアを作れるようになり、個人ごとのデータセットでAIを学習させることで、ヘルスケアや小売などの分野で新たな機能が生まれると見られています。また、継続的な研究を通じてAIモデルは今後も革新を続け、より高い知能と多くの能力を備えるようになると期待されています。つまり、最高のAIはまだ来ていません。短期的には、AIモデル出力のハルシネーションを解決し、さまざまなマルチモーダルのユースケースを可能にし、コストを下げ、AIのデプロイをより簡単かつ安全にすることに焦点を当てる必要がありそうです。長期的には、AI開発は数十億人のユーザーへAIを拡張するためのエンジニアリング上の挑戦になると考えています。また、AIイノベーターたちが私たちすべてにとって有用なAIを生み出す新たな能力を開発していくという楽観的な見方を持っています.

(coatue.com)

11 ポイント投稿者 ninebow 2023-11-22 | 1件のコメント | WhatsAppで共有

概要

Cerebral Valley AI Summitで、Coatue VenturesのSri Viswanathが発表したAIの現状に関する内容です。
Coatue Venturesはこれまで10年以上にわたりAI分野を見守り、50社を超えるAI関連企業に投資してきたベンチャーキャピタル（VC）です。
特にこのレポートは、Hugging FaceやGitHubのさまざまな指標を分析して公開している点が特徴です。
2022年がAIの爆発的な成長をもたらした年だとすれば、2023年はAIの波（wave）が形を持ち、より幅広い分野に影響を与え始めた年です。

AIはハードルを越え、世界を有意義に改善できる

GitHub Copilotの利用により、作業を50%以上速く完了でき、カスタマーサポートのコストは最大95%削減されています。
ユーザー満足度は向上し、応答時間は短縮され、さらにBCGの研究では知識労働の質も約40%向上したとされています。
AIはブレークスルーを見つけつつあり、私たちの日常生活と現代経済全体に影響を及ぼすことが期待されています。

オープンソースはAIの心臓部だが、すべてが対等というわけではない

オープンソースの研究、データ、コミュニティはAI革命の中核です。Transformer論文から最新のLlama-2モデルに至るまで、オープンソースはエンジニアがAIを反復的に改善できるようにしてきました。
しかし、すべてのオープンソースが真に「開かれている（open）」わけではなく、最近では研究内容や結果を公開しない、あるいはモデルを非公開のままにするといった動きを見せる企業もあります。
それでもなお、オープンソースAIコミュニティは活発に成長していると見ています。
- 2023年11月時点で、GitHubでは20万人を超える開発者がAIプロジェクトに貢献しています。
- また、Hugging Faceには30万件を超えるモデルが公開されており、AI関連のDiscordチャンネルの会員数は1,800万人を超えました。

AI中心の新しい技術スタックを理解する必要がある

押し寄せるAIの波は、サービス開発の技術スタックを変えています。
開発者と投資家は、各スタックの構成要素とそれらがどのように相互作用するのかを知る必要があります。
これまではAIモデル層が最も大きな投資を受けてきましたが、AI向けデータセンターからエンドユーザー向けアプリまで、あらゆる場所で革新が起こるでしょう。

AIモデル

私たちはすでにモデルが「知能をサービスとして提供する」（IQaaS: intelligence-as-a-service）時代に入り、勝者は人材・データ・計算能力をめぐる競争で決まると考えています。
モデル性能をスケールさせることは、高品質なデータセットをスケールさせることも意味します。従来の30%の規模に剪定（pruned）・キュレーションされたデータセットで学習したモデルも十分に機能しており、合成データやユーザーフィードバックも探求すべき有望な領域です。

計算能力とクラウドプラットフォーム

GPUのようなハードウェアアクセラレータは、AIの力の基盤部分を担っています。GPUに対する絶え間ない需要は、電力網への負荷から半導体サプライチェーンの成長促進、クラウドサービス需要の再加速に至るまで、経済全体に波及効果をもたらしています。
AIがさらに主流になるにつれて、推論（inference）で発生する負荷は、はるかに計算集約的になると見込まれます。1億人のGPT-4ユーザーにサービスを提供するコストは、モデルの学習にかかった費用の4倍になる可能性があります。

開発者ツール

2022年のAI爆発以降の大きな変化のひとつは、AIの民主化とAIエンジニアの台頭であり、モデルを学習・微調整・デプロイするための新たなAI Opsツールが登場しました。
活発なAI Opsツール層の登場により、世界の約3,000万人の開発者がAIにアクセスできるようになり、これはアプリケーション層で爆発的な可能性を生み出すと期待されています。

AIアプリケーション

私たちはAIアプリケーションの採用がまだ始まったばかりだと見ており、今後さらに多くのユースケースが登場すると予想しています。
消費者と企業のAIへの関心は、RunwayやTomeのようなクリエイティブ領域から、ReplitやAurora Solarのような専門領域に至るまで、すでに勢いを増しています。

Coatueの見解：最高のAIはまだ登場していない

今後、現実世界でAIはより利用しやすく、スケーラブルで、有用になっていくと予想されます。また、英語のような自然言語が最良のプログラミング言語になると予測しています。
AIによって、より多くの人が開発者のようにソフトウェアを作れるようになり、個人ごとのデータセットでAIを学習させることで、ヘルスケアや小売などの分野で新たな機能が生まれると見られています。
また、継続的な研究を通じてAIモデルは今後も革新を続け、より高い知能と多くの能力を備えるようになると期待されています。つまり、最高のAIはまだ来ていません。
短期的には、AIモデル出力のハルシネーションを解決し、さまざまなマルチモーダルのユースケースを可能にし、コストを下げ、AIのデプロイをより簡単かつ安全にすることに焦点を当てる必要がありそうです。
長期的には、AI開発は数十億人のユーザーへAIを拡張するためのエンジニアリング上の挑戦になると考えています。また、AIイノベーターたちが私たちすべてにとって有用なAIを生み出す新たな能力を開発していくという楽観的な見方を持っています.

1件のコメント

ninebow 2023-11-22

PDF全文を見る

https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

(⚠️広告⚠️) 上記と同じ内容をスライド付きでPyTorch韓国語コミュニティで見る

https://discuss.pytorch.kr/t/ai-the-coming-revolution-pdf-115p/2906