1 ポイント 投稿者 GN⁺ 2025-03-06 | 1件のコメント | WhatsAppで共有
  • AppleはMac向け最上位チップ M3 Ultra を発表し、Mac Studioを大規模なAI・グラフィックス・映像作業向けワークステーションとしてさらに押し上げた
  • 主要仕様は 32コアCPU、最大80コアGPU、32コアNeural Engine、Thunderbolt 5、最大512GBユニファイドメモリで構成される
  • 前世代のMac Studioを基準に、CPUはM2 Ultra比で最大1.5倍、GPUは M2 Ultra比で最大2倍 高速とされる
  • UltraFusion は2つのM3 Maxダイを1万本超の高速接続で束ね、ソフトウェアからは単一チップのように見えるようにする
  • 800GB/s超のメモリ帯域幅と最大512GBメモリにより、3Dレンダリング、視覚効果、AI、6000億超パラメータのLLM のオンデバイス実行を狙う

M3 Ultraの役割と基本仕様

  • Appleは M3 Ultra をこれまでに製造したチップの中で最高性能のチップとして発表した
  • Macで最も強力なCPUとGPU、32コアNeural Engine、パーソナルコンピュータとして最大級のユニファイドメモリを提供するチップとして位置づけられる
  • 主な構成は以下の通り
    • 最大 32コアCPU
    • 最大 80コアGPU
    • 32コアNeural Engine

    • Thunderbolt 5

      • 最大 512GBユニファイドメモリ
      • M3 Ultraは新しい Mac Studio の性能を引き上げるチップとして使われる

性能とAIワークロード

  • CPUは24基の高性能コアと8基の高効率コアで構成され、M2 Ultra比で最大1.5倍、M1 Ultra比で最大1.8倍の性能を提供する
  • GPUはAppleチップとして最大の構成で、最大80基のグラフィックスコアを備え、M2 Ultra比で最大2倍、M1 Ultra比で最大2.6倍高速
  • 性能比較の基準は前世代のMac Studioシステム
    • M1 Ultra: 20コアCPU、64コアGPU、128GB RAM
    • M2 Ultra: 24コアCPU、76コアGPU、192GB RAM
  • グラフィックスアーキテクチャには 動的キャッシュ、ハードウェアアクセラレーテッドメッシュシェーディング、レイトレーシングが含まれる
  • AIと機械学習の作業では、CPUのMLアクセラレータ、GPU、Neural Engine、800GB/s超のメモリ帯域幅が組み合わされて活用される
  • M3 Ultra搭載Mac Studioは 6000億超パラメータ の大規模言語モデルをデバイス上で直接実行できる

ユニファイドメモリと大規模作業

  • M3 Ultraのユニファイドメモリアーキテクチャは、高帯域幅と低遅延を前面に打ち出す
  • メモリは 96GBから開始 し、最大512GBまで構成可能
  • Appleはこの容量が現在の高性能ワークステーション向けグラフィックスカードが提供するメモリを上回るとしている
  • 大量のグラフィックスメモリを必要とする 3Dレンダリング、視覚効果、AIといったプロ向け作業でボトルネックを減らす構成を目指す

Thunderbolt 5と拡張性

  • M3 UltraはMac Studioに Thunderbolt 5 を導入し、最大120Gb/sのデータ転送速度を提供する
  • 帯域幅はThunderbolt 4の2倍以上
  • 各Thunderbolt 5ポートは、チップ上に直接配置された独自設計コントローラの支援を受ける
  • ポートごとの専用帯域幅は、外部ストレージ、ドッキング、ハブ、次世代拡張シャーシを使うプロユーザーを想定している
  • Thunderbolt 5により、複数のMac Studioシステムを接続する構成も可能

チップ内部技術

  • UltraFusion は内蔵シリコンインターポーザを使用し、2つのM3 Maxダイを1万本超の信号で接続する
    • 低遅延のダイ間帯域幅は 2.5TB/s超
    • ソフトウェアからはM3 Ultraが単一チップのように見える
  • メディアエンジンはM3 Maxの2倍のリソースを持ち、より多くの同時ビデオ処理をサポートする
    • ハードウェアベースのH.264、HEVC、4基のProResエンコード・デコードエンジンを提供
    • 最大 24本の8K ProRes 422ストリーム を再生可能
  • ディスプレイエンジンは最大 8台のPro Display XDR をサポートし、1億6000万ピクセル超を駆動する
  • Secure Enclaveは、ハードウェア検証済みセキュアブートやランタイム攻撃防止技術とともに動作する

電力効率と環境目標

  • M3 Ultraの電力効率は、新しいMac StudioがAppleのエネルギー効率基準を満たすことに貢献する
  • 製品寿命全体で消費される総エネルギー量の削減にも影響する
  • Appleは現在、世界の企業運営でカーボンニュートラルの状態にあり、Apple 2030 目標に基づき2030年末までにカーボンフットプリント全体でカーボンニュートラルを達成する計画だ

1件のコメント

 
GN⁺ 2025-03-06
Hacker News の意見
  • 512GBのユニファイドメモリは、本当に新しい領域を切り開くレベルだと思う
    Appleがいつメモリ制約を超えるのか気になっていたが、ついにユニファイドメモリが0.5TBまで来た。大規模AIモデルをローカルで動かすには非常に実用的で、NVIDIA式の解決策と比べて、これほど大量の高効率メモリを単一チップに統合するアプローチは興味深い。ただ、M3 Maxを2つ「貼り合わせた」設計が発熱と消費電力でどのような性能を出すのかは気になる

    • メモリ帯域幅は増えておらず、M2 Studioでも可能なレベルの帯域幅だ。もちろん1万ドルを払えば512GBのユニファイドメモリは手に入る
      問題は、その規模で大規模言語モデルが実用的な性能で動くかどうかだ。十分なユニファイドメモリがあってもメモリ帯域幅が同じなら、新チップのAI処理性能が上がっても収穫逓減が生じる。結局、処理性能に対するメモリ帯域幅とメモリプール容量の間には、何らかの最適な比率がありそうだ
    • ユニファイドメモリがここで特に関係あるのかはよく分からない。例えばzen4/zen5 Epycでは演算性能が十分なので、LLM推論は純粋にメモリ帯域幅のボトルネックになる
      デュアルSP5 EpycのほうがこのApple製品よりメモリ帯域幅も大きそうだし、Appleの価格帯ならRAMも2倍くらい載せられる。おそらくAppleの解決策は電力効率がより良いのだろう
    • これがオンチップメモリなのか気になる。800GB/sならDDR5モジュールへ向かう512ビットバス、つまり8チャネルに近く見える。クアッドチャネルでもほぼ可能ではあるが、限界まで押し込む形で、それでも悪くない構成だ
      実用性の面では、この程度のメモリと、まずまずだが相対的にはミドルレンジの演算性能の組み合わせで恩恵を受ける主流アプリが何なのか気になる。フルオプションのシステムが1万4000ドルという価格帯なら、例えばNVIDIA Project DIGITSを2台ほど買うほうを好む人もいるのではないかと思う
    • RAMを処理チップと同じチップに載せるのが経済的なのか気になる
      処理用には最良のプロセスノードを節約し、RAMにはより安価なプロセスを使いたいものだと思っていた
  • M4ではなくM3とは驚きだ。基本的には選別歩留まりの活用なのか気になるが、M1チップでこれを可能にしていたインターポーザはもう存在しない、という記事をどこかで見た気がする
    それでもNPUがアクセスできる512GBのユニファイドRAMは完全にゲームチェンジャーだ。Appleは社内のAI作業のためにこのチップを開発し、今や他の人にも使えるよう公開する段階に来たのだと思う。ただ、このハードウェアには本当に2Uラックフォームファクタが必要だ。現状ではOSがこのハードウェアの足を引っ張っている

    • AppleがLinuxをネイティブに、とくにヘッドレスでサポートし、M4 Proをラックに入れられるなら、コロケーションセンターですぐに使うだろう
      CPUは速度とメモリ帯域幅の面で競合がほとんどない。いまだに他社が競争力のあるArmサーバーチップを作れていないのは驚きだ
    • 本当にOSが足を引っ張っている。Appleが昔のXServe OSの派生版を復活させないにしても、少なくともLinuxやBSDの開発者と協力して、このハードウェアスタックに合ったサーバーOSを持ってきてほしい
      コンシューマ向けOSとしては個人的な好みではWindowsより良いが、不要な要素や古い残骸がどんどん増えており、本番サーバーワークロードには耐えがたくなっている。下位のハードウェアをハイパーバイザーのように扱い、複数のコンポーネントをVMやコンテナに接続したり共有したりできるサーバーOSがあれば、小規模データセンターやエッジ環境で非常に価値があるはずだ。この規模のRAMを備えたオンプレミスNPUは、LAN上の複数ユーザーが共有するローカルAIアクセラレーションに大いに役立つ
    • 「Appleの噂」記事を書く人たちは好きだし尊敬もしているが、これはいつも「CPU設計ブログを5本読んで専門家になった」系に近かった
      推測の根拠はM3 Maxのダイ写真にインターポーザが見えないというものだったが、それはM3 Ultra構成でサポート可能だったかどうかについて、実質的に何も意味しない。今日の発表がその証拠だ
    • Appleは2Uラックハードウェアを作ってLinuxをサポートすることもできるし、ヘッドレスで動くDarwinビルドを提供することもできる。ただし後者の場合、使えるソフトウェアは多くないだろう
      それでも人々はいずれポーティングを始めるだろうし、すでにMacPortsとHomebrewがあるので、そのプラットフォームでも動くように適応できるはずだ。だがAppleはその市場に関心がなさそうなので、おそらく実現しないだろう
    • 選別歩留まりが気になったので、Apple Maxチップが出荷構成でどれくらいカットダウンされていたかを整理してみた
      M1 MaxはGPUコア24〜32個、M2 Maxは30〜38個、M3 Maxは30〜40個、M4 Maxは32〜40個だった。発表日を見ると、M1 Maxは2021年10月18日、M1 Ultraは2022年3月8日、M2 Maxは2023年1月17日、M2 Ultraは2023年6月5日、M3 Maxは2023年10月30日、M3 Ultraは2025年3月12日、M4 Maxは2024年10月30日だ。M3 MaxとUltraの公開の間に生じた追加の遅れを見ると、Appleが社内のAI作業のためにこのチップを開発したという推測もかなりもっともらしい
  • 以前の M2 Ultra モデルの最大メモリは 192GB で、Pro や一部の M3 モデルは 128GB だった。その程度でもプロ用途の 99.9% には十分だと思う。
    ところが今度は 512GB まで引き上げ、512GB Mac Studio の価格も 9499 ドルという狂った水準になっている。これはほぼ間違いなく AI ゴールドラッシュの影響だ。

    • 世界中のあらゆる AI 企業が、これが合理的な AI の道筋になり得るほど十分な演算性能を持つのかを検討しているはず。答えがイエスなら、1 万ドルは絶対的に安い。
    • LLM は RAM を簡単に大量消費するし、これらのシステムは同じ RAM 容量の GPU 構成よりもはるかに、はるかに安い。もちろん、より遅い。
      例えば Llama-3.1 405B の 4 ビット量子化モデルは問題なく収まるはず。
    • 鍵になるのは性能。DeepSeek と Llama 405B が、より大きなメモリの必要性を示したように思える。
      今でも人々は、これくらい、あるいはそれ以上の RAM を積んだ Epyc システムをはるかに安価に作り、DeepSeek を毎秒約 6 トークンで動かせる。ただし、誰もが組み立てやチューニングを楽しむわけではないので、面倒を避けたい人向けの市場はある。「AI ゴールドラッシュ」を悪いことのように言うが、必ずしもそうではない。
    • その RAM は同時に VRAM でもあるので、0.5TB の VRAM は決して安くない。比較すると、Apple はむしろかなり安い部類だ。
    • 大きな疑問は、1 万ドルという価格にすでに トランプ氏の対中関税が織り込まれているのか、それともさらに値上がりするのかだ。
  • 現在 Docker は Metal GPU をサポートしていない。
    Apple M3 や M4 チップで Docker を使って LLM を実行すると、Docker は Nvidia と Radeon GPU しかサポートしていないため、チップのグレードに関係なく CPU モードで動作する。Docker で LLM を開発するなら、Nvidia または Radeon GPU を搭載した Framework ノート PC を検討したほうがよい。根拠として、M3 Max 上で Docker 内部の LLM を実行する AI エージェントフレームワークを開発中: https://kdeps.com

  • 今 Studio を M3 Ultra にアップデートしたのなら、M4 Ultra は WWDC でそのまま Mac Pro に行く可能性もありそう。タイミングが興味深く、Mac Pro のフォームファクタも変えるかもしれない。
    また、これは非常に少量生産の製品だろうから、N3B プロセスであることは致命的ではなさそう。同時に、これらのチップは製造コストが非常に高いはずなので、高価な RAM 構成と組み合わせるのもある程度筋が通る。

    • 興味深いことに、Apple はフランスのウェブサイトで、M4 には「Ultra」を作るためのインターコネクトがないと確認したようだ [0][1]。当初の考えとは違い、M4 Ultra は出ない可能性もありそう。
      この報道は慎重に見るべきだが、Apple から直接出た話だという。そうなると、M2 Mac Pro をどうするつもりなのか、さらに謎が深まる。
      [0] https://www.numerama.com/tech/1919213-m4-max-et-m3-ultra-let...
      [1] Macrumors による追加の文脈: https://www.macrumors.com/2025/03/05/apple-confirms-m4-max-l...
    • Apple は、すべての世代で「Ultra」バリエーションが出るわけではないと述べている: https://arstechnica.com/apple/2025/03/apple-announces-m3-ult...
    • Apple は Ultra チップを置き換えるために、マルチ SoC システムを作る方法を見つけたいと考えていたのだと理解している。
      現在の方式では、Max チップをインターコネクト中心に設計する必要がある。理論上、マルチ SoC 構成は 2 チップを超えて、より広い製品群へ拡張できる可能性もある。
    • 正直なところ、今年 M4 Ultra はまったく見られない気がする。Studio に M3 Ultra を入れたということは、M4 Ultra が高すぎるか、生産能力が足りないという意味に見える。
      いずれにせよ M2 Mac Pro は、Apple が顧客に「この PCIe スロットで何か面白いことはできますか? 私たちは接続拡張以外には思いつかなくて」と尋ねる製品のようだった。アップグレード可能な GPU をサポートするよう Apple Silicon を再設計しない限り、Mac Pro は終わったように思える。
    • Mac Pro のフォームファクタを変えるか、あるいは完全になくすのではないかと思う。現行モデルはあまりにも中途半端な設計で、Studio と比べて露骨にコストパフォーマンスが悪い。
      PCIe ユーザーがすべてを Thunderbolt に移行するまで持たせるための最後の製品のように感じる。複数の大型 GPU を収容するための設計を再利用したが、今では GPU をサポートしていないため、冷却と電源供給の大半が名残として残っているだけだ。さらに PCIe 拡張もひそかに格下げされており、Apple Silicon は PCIe レーンが多くないため、スロットは PCIe スイッチで大幅にオーバーサブスクライブされている。
  • AI 作業において 512GB ユニファイドメモリは本当にすさまじい。必要な NVIDIA GPU の数と比べると、価格もほぼ妥当に見える。

    • サーバーで 512GB の高帯域 GPU アドレス指定可能 RAM を得ようとすれば、おそらく 6 桁ドルの費用がかかるはず。メモリが制約なら、これは確かに適したサーバーだ。
      NPU と GPU コアがその RAM にアクセスでき、性能も妥当である必要がある、という意味だった。
    • どうせ別の API を使うために AI ワークフロー全体を変えるなら、AMD Instinct アクセラレータカードのほうが理にかなっているように思う。
      高価ではあるがはるかに速く、コードを macOS で動くように合わせる作業を経験しなくて済む。
    • フルオプションの Mac Studio は 14K ドルだ。
  • AIモデルを動かすために最大メモリの512GBが必要で、モデルの重みを保存する外付けドライブを挿しても構わないなら、1万ドル弱で買える。夢のマシンだ
    NVIDIA Project DIGITSは3,000ドルで「近日」登場となっているが、同じ128GBと4TB構成のMacなら約4,700ドルで買えて実際に1週間以内に受け取れ、macOSが動くという違いがある。性能差は分からない。誰かがこれでDeepSeekモデル全体をテストする様子を早く見たいし、もしかすると完全に所有して自由に使える初の小型個人向けAIデバイスになるかもしれない

    • この価格帯なら、交換可能なPCパーツが欲しいという理屈もある。ただしAppleは通常のPCについて、複数年にわたる耐久性を提供している
      Apple製AIブロックならかなり長持ちするだろう
    • DeepSeek R1モデル全体には512GBを超えるメモリが必要。モデルだけで720GBある
      このデバイスでは量子化版は動かせるが、フルモデルは無理
    • 819GB/sの帯域幅では、DeepSeekモデル全体の体験はひどいものになるだろう
  • Thunderbolt 5はかなり有用。非常に薄く軽いノートPCを使い、必要なときはTB 5で外付けGPUやeGPUにアクセスできる [1]
    これで軽いノートPCという利点と強力なGPUという利点を同時に得られる
    [1] Asusが世界初のThunderbolt 5 eGPUを発表:
    https://www.theverge.com/24336135/asus-thunderbolt-5-externa...

    • 問題はmacOSに縛られていて、NVIDIA、AMD、Intel GPU用のドライバーがないこと
    • Apple SiliconはeGPUと動作しない
    • eGPUはmacOSでは問題が非常に多かった。数年使ってみたが、Siliconではおそらくさらに悪いだろう
      その代わり、Sonomaで追加されたかなり新しい高性能画面共有モードは本当に素晴らしい。MacBookでMac Studioに接続すると、そのモードを選び、ディスプレイ設定を動的解像度に変更できる。すると「シンクライアント」が16:10のMacBook画面全体をフルスクリーンで使い、実際のゲームでも60fpsの低遅延性能を得られ、音声も転送されるので会議への参加も可能で、ホスト側のMac Studioの画面はオフになる。VNCではできなかったことで、RDPもずっと良いが、この新しい高性能画面共有はさらに強力だ。強力なマシンへリモート接続する薄く軽いノートPCこそ、ノートPC上で全部ローカル実行して苦労するよりも優れた高いモビリティだと、ずっと思ってきた。ファイアウォール設定を少しすればLTEでも動作する
  • AppleはXserveを再検討すべきかもしれない
    Appleにも何らかの形のサーバーインフラチームはあるだろうが、自社ハードウェアとソフトウェアで自社のサーバーインフラを作ることは、検討する価値がある。アプリのエコシステムとAppleのサーバーを結び付けてクラウドとして提供したり、直接購入できるようにしたりすれば、非常に興味深いサービス事業になり得る。特に今はiPadにもMチップが搭載されているので、ハードウェア性能を考えるとApp Storeにはより良いアプリが必要だ。アプリのエコシステムに合わせて設計されたクラウドベースのハードウェア・ソフトウェアサービスはかなり魅力的だ
    Appleではハードウェアがソフトウェアより速く進化してきた。多くのテック企業では普通、ソフトウェアにハードウェアが追いつかないものだが、Appleはその逆というわけだ

  • Apple SiliconがLinuxのようなOSをネイティブサポートする日はいつ来るのか気になる
    AppleはMシリーズSoCに関する詳細な技術リファレンス文書の公開に消極的なようで、そのためApple SiliconでLinuxをネイティブに実行するのが難しくなっている

    • おそらく絶対にないだろう。iPhoneやiPadにも公式のLinuxサポートはないので、Appleが態度を変えると期待するのは難しい
    • https://asahilinux.org/
    • その点は自分も不思議だ。macOSはハードウェアに付属しているので、AppleがmacOSの売上を失うわけでもない
      誰かがLinuxを動かすためにAppleハードウェアを買うなら、AAPLに悪影響はないはずなのにそうなのだ
    • Darwinを実行するのは選択肢ではないのか? LinuxはDarwinと比べて何をさらに提供するのか気になる