Apple Silicon幹部が語るMac miniのAI需要とオンデバイスの未来

 (macrumors.com)
1 ポイント 投稿者 GN⁺ 4 시간 전 | 1件のコメント | WhatsAppで共有
  • AIエージェントを長時間動かすための専用機材への需要が高まる中、Mac miniとMac Studioが開発者向けデスクトップとして注目を集めている
  • エージェント型の作業では、メインの作業マシンと分離され、ユーザーが直接制御でき、24時間365日稼働できるシステムが求められる
  • Mac-firstまたはMac-onlyのAIツールが多く、フロンティアAI研究所の開発者の間でもMacが一般的になりつつあることで、Macエコシステムの立場が強まっている
  • Brooksはエージェント型AIを単なるGPUの問題ではなく、LLM実行、ツール呼び出し、ワークフロー処理をあわせて扱うチップ全体の設計課題と見ている
  • AppleはオンデバイスAIをプライバシー・セキュリティ・推論コストと結びつけ、デバイスとクラウドが役割を分担するハイブリッド実行を見込んでいる

Mac miniとMac Studioに集中するAIエージェント需要

  • Apple SiliconのシニアプロダクトマネージャーであるDoug Brooksは、WWDC 2026直前のThe Deep Viewのインタビューで、Appleのチップ戦略とAI需要について語った
  • AppleはMac miniとMac Studioで「incredible demand」を確認している
  • エージェント型ワークロードでは、次の条件が重要になる
    • ユーザーが直接制御できるシステム
    • メインで使うマシンと分離された環境
    • 1日24時間、週7日稼働できる機材
  • Brooksはこうした条件において、Mac miniを「amazing system」と評価した
  • 多くのAIツールがMac-firstまたはMac-onlyで提供されており、フロンティアAI研究所でもMacがよく使われる環境だと言及された

Apple Siliconが狙うオンデバイスAI

  • Brooksはエージェント型AIをGPU中心の作業としてだけは捉えていない
    • LLM実行をGPUが処理するだけでは十分ではない
    • ツール呼び出しやワークフロー周辺の作業にも、チップのさまざまな部分が関与する
    • この構造はApple Siliconの強みとつながっている
  • AppleのAI関連の強みは、ChatGPTのようなLLMが登場する前のチップ設計判断と結びついている
    • Neural Engineは電力効率の高い行列演算のために設計された
    • CPU内部のあまり知られていないニューラルネットワークアクセラレータは、音声のような時間に敏感な処理を担う
    • 最近ではGPUにもニューラルネットワークアクセラレータを追加し、iPhone級のチップからMacの大型シリコンまでAI性能を拡張している
  • Appleは特定のマシンに合わせてチップを作り、ハードウェアとソフトウェアを一体で開発する方式を維持している
  • AI実行はクラウドからローカルへ一部移行する流れを見せており、Brooksはその背景として、プライバシー、セキュリティ、エージェントのトークン使用増加に伴う推論コスト上昇を挙げている
  • 将来のAI実行は、完全なローカル移行というより、エージェントがどの作業をデバイス上で処理し、どの作業をクラウドへ送るかを判断するハイブリッド方式に近い
  • iPhoneとiPadでは「transparent AI」が強調されている
    • OSやサードパーティーアプリの各所で、AIであることを前面に出さず静かに動作する機能を指す
    • iPhone、iPad、Macで動作する画像生成ツールDraw Thingsが例として挙げられた
    • iPhoneカメラでテニスやピックルボールの試合をリアルタイム分析するSwingVisionも事例に含まれる
  • Brooksは現在のAI開発速度を「just crazy」と表現し、1年後はもちろん、3か月後や1か月後でさえ予測が難しいと語った

関連記事

1件のコメント

 
GN⁺ 4 시간 전
Hacker Newsの意見

  • Appleはこれまで興味深いAI体験をほとんど打ち出せていないが、それでも5年後にはAIの支配的な提供者になっている可能性が高いと思う
    チップでもモデルでも、あるいはその両方でも、あと1〜2回進歩すれば、中級クラスのAppleデバイスでもかなり良いローカルモデルを無料で動かせるようになるはずで、その時のプライバシー・コスト・レイテンシの組み合わせはOpenAI/Anthropic/Googleでも勝ちにくそうだ
    5年後に賞賛されるか嘲笑されるかのために書き残しておく

    • Appleがあらゆる事業をAI中心に変えないほうなのは、むしろ好感が持てる
      もう少し食傷気味だ。仕事では実用上の必要から使っているうちに、面白くて楽しい部分が削ぎ落とされているし、仕事以外でも同じくらい使えば同じことになりそうだ
    • ローカル推論が当面クラウドと競争しにくい大きな理由は2つある
      第一に、有用なLLMの仕事の大半は並列処理される。Mac miniは一度にLLM推論スレッドを1本回せるが、クラウドは何十本も立ち上げて、ハードウェアフリート全体で効率よくバッチ処理できる
      第二に、CerebrasやGroqのようなより高速な推論ハードウェアはローカルでは動かせない。スレッドあたりのトークン処理量が5倍以上という利点は過小評価しにくく、そこにマルチスレッドの利点まで加わると、ローカルLLMには決定打になる
      ローカル推論にも役割はある。極度に機密性の高い仕事を扱う場合や、検閲のないモデルで性的な会話やNSFW画像を作りたいなら、ローカルが唯一の選択肢だ。Appleや他社も、文章編集の提案、音声認識、音声合成、画像操作のような有用な作業は今後もかなりローカルで回すだろうし、ローカルハードウェアが良くなるほど、こうした機能も改善していくだろう
      ただ、ほとんどのLLM作業ではクラウドが非常に長く、あるいは永遠に優勢だと思う
    • Photosアプリに入っているさりげない機械学習統合は悪くない。植物識別、顔認識、背景除去、OCRテキスト検索、さらには手書き検索までうまく入っている
    • 全部ローカルか全部オンラインかより先に、まずハイブリッドが来る気がする
      コンピュータ制御や委任はローカルモデルが担い、強い推論・計画・知識アクセスが必要な仕事はオンラインモデルが担う、という形だ。外れていたらうれしいが、モデルはハードウェアより速く大きくなっていると思う
    • 2023年4月に「みんなでフルオプションのMac Studioを買うべきだ、RAM 128GB、CPUコア20個、GPUとNeuralコア多数」と書いた
      私たちは遅すぎもしたし早すぎもした
      https://news.ycombinator.com/item?id=35527692

  • AppleがPrivate Cloud Computeを個人専用の実行場所として設計するなら、1万ドルから始まるようなマシンも売れる気がする
    最終的には2,500ドルまで下げる道筋が必要だろうが、こういうニッチは消費者向けブランドの中ではApple以外には難しそうだ
    [1] https://security.apple.com/blog/private-cloud-compute/

    • 売り切れたM3 Ultra Mac Studioのうち、メモリ帯域幅800GB/s超のモデルがeBayで24,000ドルで取引されているので、十分あり得る
    • iCloud Driveが開発中だったころ、社内のiPad医療アプリを紹介しに来た営業担当を通じて、AppleにこういうものをiCloud向けにやってほしいと頼んだことがある
      「管理された」デバイス群から参照させられるラックマウント型Mac Proなら、5万ドルでも簡単に払えただろうが、Appleはその需要自体をまったく理解していなかった
    • 昔は新しいMacが出るたびに、同僚たちと一番高い構成を組んでみたものだ
      一時は6桁ドルに簡単に達したが、時間がたつにつれてだんだん下がっていった
    • Appleはプロユーザーにかなり敵対的なので、ないと思う
    • それは個人向けというより企業向けに近い。パーソナルコンピューティングで1万ドルのマシンを正当化できる用途は想像しにくい

  • Claude Codeやopenclaw系のソフトウェアをLLM APIやサブスクリプションでだけ使い、ローカルモデルは動かさず、ローカルファイルシステムと常時オンの「第二の脳」ワークフローだけ欲しいのであれば、Mac miniが本当に必要なのかはよく分からない
    Raspberry Piや古いノートPCでも動きそうだが、実際にやってみた人がいるのか気になる

    • Mac miniブームはちょっと理解しにくい
      たぶん2つのどちらかだ。1) 「MacはAIにいい」と聞いて買ったものの、実際の推論はClaudeでやっていて、ネット接続さえあればヘアドライヤーからでもAnthropic APIを呼べることを分かっていない場合。2) エージェントにiMessageの青い吹き出しを持たせたい場合
      普通の人たちがオンデバイス推論をそんなに多用してMac miniが売り切れるほどだ、というのは信じがたいし、仮にそうだとしてもMac miniがその用途にとても良いプラットフォームというわけでもない
    • その用途だけならMac miniは必要ないが、価格はかなり低かったし品質も良い
      買う人は性能を使い切らないかもしれないが、できるだけ安いものより利便性を重視する傾向がある
      長く使ってほかの用途にも使うと考えれば、ある程度は正当化できる
    • Mac miniならiMessageでメッセージを送れるからだ。それがすべてだ
    • その通り。ブラウザ起動のような作業には多少の余裕が役立つが、少しだけお金を出すつもりなら、整備済み品やMinisforum、GMKTecのようなミニPCでも十分うまくいく
      メモリは最低16GB、できれば32GBがいい
    • openclawとAPIだけ使うなら大きなPCは要らない
      RPI4 8GBで軽いものを動かしている。多くの人はローカルLLMを動かしていて、その場合はMacが役に立つ。正直、OpenRouterのサブスクリプションとAPI呼び出しのコストパフォーマンスに勝つのは難しいと思う

  • 資本があれば、家庭用の推論アプライアンスを作ってみたい
    Ethernet 以外の周辺機器はなく、CPU+GPU+メモリ統合演算部と補助記憶装置、メインボード、電源だけの構成。装飾はなく、モデルをユーティリティのように動かすのに必要な最小限のハードウェアだけを置くイメージ
    前面パネルも昔の Hi-Fi ステレオのように状態を表示するディスプレイだとよさそう
    付け加えると、RISC-V CPU + Vortex GPGPU + メモリで構成されたモジュールシリーズのような形を考えている

    • 冬は家を暖めて、夏はプールを温められそう
    • それは Mac mini/Studio の外観を少し変えたもののように聞こえる
    • George Hotz が tiny でやっているのはそれでは？ https://tinycorp.myshopify.com/
    • 現存するものの中で最も近いのは、Taalas が設計した LLM ASIC だと思う
      https://taalas.com/products/
      残念ながら、その会社のチャットボットは驚くほど高速だが、肝心の運営会社については何も分からない
      いずれにせよ、拡散言語モデルをローカルで動かす ASIC なら悪くなさそう。いつか旧式になったとしても、ベンチャー投資マネーで回り、将来消えるか、もっと悪くすると市場を支配して好きなだけ料金を取る会社に全面的に任せるよりはまし
    • この用途では Tenstorrent を注視している
      価格は、メモリ集積度の高い統合メモリプラットフォームと目的特化 GPU の中間あたりになりそう
      家庭用として成立する境界線上ではあるが、興味深い

  • Mac でオンデバイスモデルを動かすのはかなり面倒
    BF16、FP8、BF16+FP8、NVFP4、INT8、GGUF など、何が動くのか把握するところからして、よく言っても明確ではない。Apple はツール支援をほとんどしてくれない。MLX はあるが、モデルを自分でその形式に変換するつもりがないなら、かなり出遅れることになる
    LM Studio、Ollama、Draw Things のようなアプリは単純化はうまくやってくれるが、それでもまだ煩雑

    • 何が正確に面倒なのか分からない。単に学ぶ過程で、1日か2日あれば慣れる
      この50年、コンピュータでありとあらゆる作業をすることは退屈で複雑で、動かせるようにするだけでも時間がかかってきた事実を忘れている気がする。最初のコンピュータは RAM が 48KB で、ゲームをするにはカセットから 5 分かけて読み込む必要があった。それこそが面倒だった
      それに比べれば、LM Studio がモデルをダウンロードして読み込み、会話したりエージェントをつないだりできるようにしてくれるのは非常に簡単で手間がかからない
    • LM Studio をかなり頻繁に使っているが、MLX チームとコミュニティはたいてい新しいモデルのリリース後 1〜2 日以内に MLX バージョンを上げてくれる
    • どんな問題に遭っているのか気になる。ローカルで Qwen Coder next エージェントを複数動かしているが、うまく動いている
    • モデルを MLX に変換するのは、文字通り git clone して mlx_lm.convert を実行するだけ
      クローン後 5 分で終わる作業
    • 一方で、Redis で知られる antirez のこのローカル LLM を満足して使っている
      [1] https://github.com/antirez/ds4

  • 要点は AI 推論ではなく、ツール呼び出し、デスクトップ GUI アプリ作業、ブラウザ実行
    低価格の Mac Mini で実業務をこなせるほど十分なオンデバイスモデルはまだない。しかしブラウザをいくつかと GUI アプリを動かす用途なら、クラウド上のより高価で性能も悪いコンテナに金を払うより Mac Mini を買うほうがはるかに良い
    ブラウザは Linux コンテナで動くようには設計されておらず、ベアメタルのデスクトップ OS で最もうまく動く。M4 Mac Mini は、ドル当たりの純粋な計算性能、つまり Geekbench スコア基準で、クラウドで借りられるどの VM よりもシングルコア性能が高い

    • 元の価格ベースでは、4台束ねる構成が秒間トークン/ドル要件に対して非常に良い解決策だった

  • 提出リンクは原文の社説であるこの記事であるべきだった
    https://www.thedeepview.com/articles/how-apple-s-decade-long...

  • 「Apple silicon のシニアプロダクトマネージャー Doug Brooks によれば、Apple の Mac mini と Mac Studio は AI エージェントを動かすための好まれるマシンになった」というのは、ほぼアメリカ特有の現象
    このあたりでは Mac mini や Mac Studio は見かけず、ThinkPad と MacBook のノート PC がハイパースケーラーにつながっているだけ

    • どのあたりのことか分からない。イギリスでは電気代がばか高いので、ローカル LLM 向けの低消費電力の選択肢の一つとしてかなり人気がある
      ローカル LLM の界隈にいないなら、当然目にしないだろう。テニスコートにも行かないのに「この辺ではテニスは人気がない」と言うようなもの

  • 人々がガソリン車より燃費が良いからディーゼル車を買ったように、多くの国では電気代が非常に高いため、Nvidia 構成より運用コストが安い Apple 統合メモリ の機器を買っている
    Apple 以外の統合メモリの選択肢が増えれば、多くの人はそちらをより選ぶようになるだろう

  • この記事は https://www.thedeepview.com/articles/how-apple-s-decade-long... を書き換えたもの