Apple、Arm MacでNvidia eGPUの使用を可能にするドライバーを承認

 (theverge.com)
4 ポイント 投稿者 GN⁺ 25 일 전 | 1件のコメント | WhatsAppで共有
  • このドライバーは NvidiaではなくTiny Corp が開発したもので、Appleの署名承認により System Integrity Protection（SIP） を無効化しなくても利用可能
  • ドライバーは Dockerを通じて直接コンパイルする必要があり、一般的なプラグアンドプレイ方式ではない
  • Tiny Corpの文書によると、このドライバーは 大規模言語モデル（LLM） の実行を目的として設計されている
  • Tiny Corpは「AppleがAMDとNvidia向けのドライバーを両方承認した」と述べている
  • これにより、Arm Macユーザーにも 外付けGPU（eGPU） を活用できる可能性が開かれた
  • Appleが外部開発者のGPUドライバー署名を許可したのは 非常に珍しい事例 とみられる
  • これまではSIPを無効化しなければ、非公式ドライバーのインストールは不可能だった
  • 今回の承認により、Macハードウェアの拡張性 と AI・機械学習ワークロードへの活用性 がさらに強化された

関連記事

1件のコメント

 
GN⁺ 25 일 전
Hacker Newsのコメント

  • 技術的には良いプロジェクトだが、実際には 90%のケースでほとんど役に立たない
    NVidia GPUでLLMを動かしたいなら中古PCを買うほうがよく、VRAMの多いMacが欲しいならそのままMacを買えばよい
    提案されている方式はThunderboltポートのためGPUが制約され、NVidiaの ツールやライブラリへのアクセス性 も低い
    その一方で、macOSアップデートで壊れるリスクのある 不完全なシステム になる

    • 別の方法として、同じLAN内の別マシンにあるNVidia GPUを ネットワークマウント する方式がある
      こうすればThunderboltの帯域制限がなく、CUDA呼び出しもそのまま使える
      ただし同じLAN内にいる必要があり、約4%のオーバーヘッドがある
      出張には向かず、macOSのドライバ問題も依然として解決しない
      私は GPU Go で働いているので、このアプローチに バイアス があるかもしれない
    • NVidiaの ツール不足 は、これまでmacOSでハードウェアを使えなかったことが大きい
      いまは可能になったので、今後は状況が変わるかもしれない
    • eGPUを 仮想GPU と勘違いしていたが、実際には外付けGPUのことだった

  • なぜオリジナルではなくプロキシリンクにつながっているのかわからない
    オリジナルは Xのtinygradアカウント なのに

    • おそらくログインの壁のせいだろう。Xはいまや「登録しないとコメントを見られない」といった制限が多く、 サイト品質が落ちている
    • 最近はXが 元の出典 であることも多いのではないかと思う

  • 私の理解では、これは Tinygrad専用 でしか動かない
    CUDAやVulkanをPyTorchで使うことはできない
    関連ドキュメントは TinyGPUドキュメント にある

  • Appleは2018年以降NVidia eGPUドライバへの署名を拒否してきたが、どうやって 規制当局の監視を免れたのか わからない

    • NVidiaが実際に試みたという 証拠があるのか 気になる
      macOS 10.13以降はサードパーティ製グラフィックスドライバを許可していなかったが、非グラフィックスドライバなら可能だったかもしれない
    • 政府が気にしていないだけかもしれない
      NVidia GPUを挿せるMacはほとんどなく、いまではそもそもスロットがない
    • Appleはどの市場でも 独占的地位 ではない
    • GoogleがWindows Phone向けYouTubeクライアントを妨害したのと似た状況だ
    • SIPを無効化するだけではだめなのか？

  • ガイドとスクリプトを読むと、GPUが Linux VMに渡されたあと再びMacに戻される 構造のように見える
    TinyGradチームがこの方式の承認を得たようにも見える
    Dockerの役割を誤解しているのかもしれない

  • AppleもNVidiaも 閉鎖的な姿勢 のせいで良い結果を逃している
    Macハードウェア上でNVidiaをLinuxで動かせていたなら、ずっと良かったはずだ
    私たちは製品を買ったあとでも 制御権を失う消費者 になってしまう

    • だから私は単に Apple製品を買わない
      あのエコシステムの外でもすべて問題なく動く

  • ARMノートPCを使いながらGPUをリモートに置くユーザーが増えている
    そのため、GPUがローカルのワークフローに ついて回れるUX が重要になっている
    私たちはGPUGo / TensorFusionで、ローカル優先の開発フローとリモートGPUアクセスを組み合わせる方法を研究している
    人々が本当にeGPUのように感じるものを望んでいるのか、それとも 最小限の摩擦でリモート計算 を使いたいのか気になる

    • ただしGPUから画像を出力するとき、 ネットワーク遅延 が100msでもあると困る

  • 旅行中だが、自宅に RTX 5090 があるのでこれで試してみたい
    TinyGPUドキュメント を参考にしており、M4 Mac Miniで動くことを願っている
    電源供給用のATX PSUが必要そうだが、tinygradでLLM推論は可能だろうか？

    • AliExpressで約100ドルの GPUエンクロージャ を買える
      標準PSUを使うが、Mac Miniには occulinkがないため USB-C帯域に制限される
      Intel Arcドライバが安定すれば、 低価格GPUの組み合わせ も面白そうだ
      Intel Arc Pro B70 (32GB VRAM) が1000ドル、Mac Miniが500ドルほどだ
    • GPUの高速VRAMがMacの低速VRAMをどれほど補えるのか疑問だ
      インターコネクト速度が十分でなければ レイヤー切り替え がボトルネックになるかもしれない
    • 私も箱に 5090を未開封のまま 入れていて、結局返品した
      金はあるのに使う時間がないという 皮肉な状況 だ

  • 興味深いが、CUDAや nvidia-smi は実行できない

    • それでもこれはNVidiaではなく 別会社のMLライブラリ ベースなので、驚くほどではない
      CUDA互換レイヤーができればよいが、独自ライブラリで推論と学習が動くのもかなりすごい

  • もしMacでNVidiaドライバをサポートしていたなら Mac Proの売上は伸びていたはずだ

    • AppleとNVidiaが 公式な関係を回復した のは大きな出来事だ
      過去10年以上、AppleはNVidia GPUドライバを許可してこなかった
      7年前のGPU（例: VEGA64、RTX1080Ti）でも、大半のApple Siliconより トークン処理速度 が速い
      AppleのMAX/Ultraプロセッサは大規模モデルには適しているが、RTX5090ほど速くはない