Apple、クラウドではなく自社ハードウェア上で直接動作するAIを目指す

 (arstechnica.com)
12 ポイント 投稿者 GN⁺ 2023-12-27 | 1件のコメント | WhatsAppで共有

Apple、AIをクラウドではなくハードウェア上で直接実行しようとしている

  • Appleは最近の研究を通じて、スマートフォン上で大規模言語モデルを実行する方法を提示し、人工知能分野で競合他社に追いつこうとする計画を明らかにした
  • 研究論文「LLM in a Flash」は、現在の計算ボトルネックに対する解決策を示し、限られたメモリしか持たないデバイスでLLMを効果的に推論させる方法を切り開いた
  • このアプローチは、ChatGPTのようなアプリを支える大規模なデータストアが、ユーザーの質問にどのように応答し、すなわち推論するのかという仕組みへの道を開く

AppleのAI研究と市場見通し

  • Appleは、画像生成モデルであるStable Diffusionを自社チップ上で実行できるようにするなど、AI研究において新たな動きを見せている
  • スマートフォンメーカーとチップメーカーは、新しいAI機能がスマートフォン市場を活性化させると期待しており、Counterpoint Researchによれば、2024年にはAI中心のスマートフォンが1億台以上出荷される見込みだ
  • Appleは2011年にSiriをリリースしたにもかかわらず、OpenAIのChatGPT公開以降にシリコンバレーを席巻した人工知能ブームからは、やや取り残されているという見方がある

技術的な課題とプライバシー保護

  • ChatGPTやGoogleのBardのような大規模AIモデルを個人のデバイス上で動かすことは技術的に非常に難しく、スマートフォンはデータセンターのような膨大な計算資源や電力を備えていない
  • この問題が解決されれば、AIアシスタントはクラウドよりも高速に応答し、オフラインでも動作できるようになるうえ、個人のデバイス上で質問に答えることでデータをクラウドに送信せずに済むため、プライバシー保護にも役立つ可能性がある

論文の結論

  • Appleの研究者たちは、論文の結論で次のように述べている

    「私たちの研究は、現在のコンピューティングのボトルネックに対する解決策を提供するだけでなく、今後の研究に向けた先例も示します。LLMの規模と複雑さが継続的に増大するにつれ、この研究のようなアプローチは、幅広いデバイスとアプリケーションにおいてLLMの潜在力を最大限に引き出すために不可欠であると私たちは考えています」

GN⁺の見解

  • Appleの今回の研究は、スマートフォンユーザーにより高速で、よりパーソナルなAI体験を提供できる可能性を開くものだ
  • プライバシーに対するユーザーの懸念を考えると、データをクラウドではなく個人のデバイスで処理することは、多くの人にとって魅力的な代替案になり得る
  • この技術が商用化されれば、ユーザーはインターネット接続なしでも高度なAI機能を利用できるようになり、スマートフォンの使い勝手と利便性が大きく向上すると期待される

関連記事

1件のコメント

 
GN⁺ 2023-12-27
Hacker Newsの意見

  • Appleが人工知能（AI）分野で出遅れていると言うのはばかげている。

    • OpenAIは注目を集めているが、検索はリンク広告とデータ販売に基づいており、AIにとってはあまり有望ではない。
    • 現在の「大規模」AIは学習のためのクラウドコストに足を引っ張られており、大手プレイヤーはソフトウェアをハードウェアへ移すために必死になっている。
    • OpenAIは世界中の商業パートナーと協力し、AGI（汎用人工知能）について語っているが、これは中央銀行を置き換える暗号資産と同じくらい現実味がない。
    • 一方でAppleは4年以上にわたってデバイスにニューラルプロセッサを搭載しており、AI機能はあらゆるマーケティングキャンペーンに盛り込まれている。
    • VisionOSの拡張現実はAIユーティリティのための新しい領域を提供しており、娯楽だけでなく、リモートワークが当たり前になる業務にも照準を合わせている。
    • Appleは現存する唯一の、安全でプライバシーを保護するエコシステムだ。

  • 最新iOSの一部としてAIがハードウェア上で動作するのは喜ばしい。

    • 運転中にメッセージを受け取った際、Siriが写真の内容を正確に説明してくれた体験を共有している。
    • この機能はエンドツーエンド（E2E）で暗号化されているため、メッセージ送信中ではなくローカルで識別されたのだろう。
    • これは品質向上アップデートとして興味深く、AIがハードウェア上でより多くの処理を担えるようになれば成長していく可能性に期待している。

  • Mistral 7Bをモバイルデバイスで使ってみることを勧める。

    • iPhone 15でそのアプリを試したが、性能は非常に良いと評価している。
    • 欠点は、アプリがスマートフォンのほぼすべてのメモリを必要とし、別のアプリに切り替えて戻ると状態が初期化され、モデルを最初から再読み込みしなければならないことだ。

  • 強力なスマートフォンやデバイスがある現在の世界では、AIをデバイス上で動かすことが次の段階だと思う。

    • 2021年モデルの高性能なスマートフォンを使っており、Appleは高価なAIアプリをこうした高性能なユーザーデバイスへオフロードしたいのだろうと見ている。
    • これは、個人データが学習に使われることを望まない人々にとってプライバシー面での勝利に見え、どのモデルを使うか、またそのモデルがどのような倫理に従うかを自分でコントロールしたいという考えにも合っている。

  • AppleのCoreMLライブラリは数年前から存在しており、BERTモデルも含まれている。

    • iOSとiPadOSに、BERTよりさらに進んだTransformerモデルが導入されることを期待している。
    • iPad Proには16GBのRAMがあり、13Bモデルを動かせる。
    • 32GBのMac Miniを購入して以降、この6週間で動かせるモデルが大きく改善したと感じている。
    • 将来への期待は大きい。

  • AIがスマートフォンの新たな買い替えサイクルを生み出す可能性を持っているのは興味深い。

    • AI機能が本当に買い替えを正当化するかどうかは未知数であり、バッテリー寿命に影響するなら、その価値提案は大きく変わらないかもしれない。

  • AIがプライバシー上のリスクをもたらす状況では、ローカルで動かすのが最善の方法だと思う。

    • 将来的にはAIで認知能力を10倍に高めたいが、そのためには情報が脳とリアルタイムでやり取りされる必要がある。
    • クラウドのデータ同期につながれて、広告主や監視機関に思考をのぞき見されるような状態は望まない。

  • AppleはAI/MLオプションをiPhoneユーザーに提供するためのインフラ運用コストを削減できる。

    • これは計算を分散してコストを節約し、デバイス製造にすでに投じた費用を活用することになる。
    • データがスマートフォンの外に出ないため、消費者のプライバシーも守られる。

  • デバイス上のAIが主流になったとき、OpenAIのような企業がどう対応するのか気になる。

    • ビジネスモデルがAPIアクセスに基づいているため、オフラインモデルの販売を始めるかもしれない。
    • ただし、そうなると海賊版の問題が発生する可能性がある。

  • Appleは最新世代でニューラルエンジンに対して増分的なダイ面積をほとんど割り当てていないにもかかわらず、デバイス上でAIを動かそうとする明確な意図を示している。

    • これにはいくつか説明の可能性があり、何が実際のところ正しいのか、より詳しい人の見解が気になる。
    • 既存ハードウェアで十分に強力だと考えているのかもしれないし、ANEの利用率では追加リソースを正当化できないのかもしれない。
    • ベクター演算のようなものを通じて、AI計算を再び汎用化する計画なのかもしれない。
    • 最も悲観的なシナリオでは、アップグレードを強制する必要が生じたときのために、大きな増強を温存している可能性もある。