NVIDIA、LPDDR5Xベースの128GB RAMを搭載した個人向けAIスーパーコンピューター DIGITS を公開
- NVIDIAは2025年1月7日（現地時間）、ラスベガスで開催されたCESで、128GB RAMを搭載した個人向けAIスーパーコンピューター DIGITS を公開
- DIGITS は、NVIDIAの新しい NVIDIA GB10 Grace Blackwell スーパーチップを搭載
- すべてのデータサイエンティスト、AI研究者、学生の机の上にAIスーパーコンピューターを置くことで、彼らがAI時代に参加できるようにすることがNVIDIAの目標
NVIDIAの新しいスーパーチップ GB10 の性能
- GB10スーパーチップは、NVIDIA Grace Blackwellアーキテクチャベースの「システム・オン・チップ」（SoC）で、FP4精度で最大1ペタフロップ（PetaFlop, 10¹⁵/s, 1秒あたり1,000兆回）の演算能力を提供
- GB10は、最新世代のCUDA®コアと第5世代Tensorコアを備えたNVIDIA Blackwell GPUを搭載
- NVLink®-C2C チップ間インターコネクトを通じて、Armアーキテクチャベースの20コアCPUと接続
- ArmベースSoC設計分野の市場リーダーであるMediaTekがGB10の設計に協力
個人向けAIスーパーコンピューター DIGITS のおおまかな仕様
- DIGITS は、128GBの統合・コヒーレントメモリ（unified, coherent memory）と最大4TBのNVMeストレージを搭載
- ここでいう統合・コヒーレントメモリはGPUのVRAMとは異なる概念で、DIGITSはLPDDR5Xチップを使用して128GBのメモリを構成
- 最大200B（2000億）パラメータのLLMを実行可能
- NVIDIA ConnectX® ネットワーキングを通じて2台のDIGITS AIスーパーコンピューターを接続し、最大405BパラメータのLLMを実行することも可能
発売予定日と価格
- DIGITS は、NVIDIAの主要パートナーを通じて今年5月から$3000（25-01-08の為替基準で約43万7千円）から購入可能
DIGITS のメモリ帯域幅（速度）の推定値
- メモリ帯域幅は、GPUの速度を推定する際に使われる代表的な指標
- メモリ帯域幅などDIGITSの詳細仕様はまだ公開されていない
- ある記事によると、NVIDIAが公開した画像では、DIGITSには6個のLPDDR5Xモジュールが搭載されているように見え、これを基にメモリ帯域幅を825GB/sと推定している。
- これはRTX 3060の360GB/sと比べて2.3倍高速で、RTX 4090の1008GB/sと比べると0.8倍遅いが、128GBのRAMを備えていることを考えるとかなり良好な性能
- ただし、これはあくまで個人による明確ではない推定値にすぎず、詳しい性能は詳細仕様が公開されて初めて分かる
7件のコメント
草、普通のシステムメモリ128GBでスーパーコンピュータ……？
うちのシーズーが笑うよ、ファン社長。
価格は韓国価格が乗ったら600はいきそうだな……
そうなると、OSは何を使うんでしょうか？
Linuxですよね？ Ubuntu
要するに……AMDの高性能内蔵グラフィックス搭載モデル（8840HSのようなもの）と比べると……
ということですね？
M4 Mac miniと似たポジションのようですが、こちらは汎用ではない代わりにコストパフォーマンスがより高い印象ですね。
余談ですが、ゲームも快適に動くのでしょうか？
128GBの統合・一貫メモリなど、一般的なGPUとは異なるので、どうなのかよく分かりませんね！
別の記事では、ゲーミングには適していないだろうという話があります : https://dirox.com/post/nvidia-project-digits