NVIDIA CEOジェンスン・フアン、新しいAIチップを発表: 「より大きなGPUが必要だ」

 (cnbc.com)
2 ポイント 投稿者 GN⁺ 2024-03-19 | 2件のコメント | WhatsAppで共有

NVIDIA CEO Jensen Huang、新しいAIチップを発表: 'より大きなGPUが必要だ'

  • NVIDIAは月曜日、新世代の人工知能(AI)チップと、AIモデルを実行するためのソフトウェアを発表した。
  • 新しいAIグラフィックスプロセッサの名前は「Blackwell」で、今年後半に出荷される予定だ。
  • この発表は、現行世代のH100と同様のチップを入手するために、依然として多くの企業やソフトウェア開発者が奔走している重要な時期に行われた。

Blackwell、Hopperの後継

  • NVIDIAは2年ごとにGPUアーキテクチャを更新し、大きな性能向上を実現している。
  • BlackwellベースのプロセッサであるGB200は、AI性能でH100の4ペタフロップスに対して20ペタフロップスを提供し、AI企業がより大規模で複雑なモデルを訓練できるようにする。
  • このチップには、トランスフォーマーベースのAIを実行するために特別に作られた「Transformer Engine」が含まれており、TSMCで製造された2つのダイを1つの大きなチップとして結合している。

NVIDIA推論マイクロサービス

  • NVIDIAは、NVIDIA Enterpriseソフトウェアサブスクリプションに「NIM」(Nvidia Inference Microservice)という新製品を追加した。
  • NIMは、既存のNVIDIA GPUを使ってAIソフトウェアを実行する推論プロセスを容易にし、企業がすでに保有している数百万台のNVIDIA GPUを引き続き活用できるようにする。
  • この戦略は、NVIDIAベースのサーバーを購入する顧客を、GPU 1基あたり年間4,500ドルのライセンス費用を支払うNVIDIA Enterpriseへの加入へと誘導するものだ。

GN⁺の見解

  • NVIDIAの新しいAIチップ「Blackwell」と関連ソフトウェア「NIM」の発表は、AI分野における技術的進歩を象徴しており、AIモデルの訓練と推論のためのハードウェアおよびソフトウェアプラットフォームの重要性を強調している。
  • Blackwellチップの性能向上は、AI研究者により大規模で複雑なモデルを試す機会を提供し、これはAIの発展に重要な役割を果たしうる。
  • しかし、高性能AIチップの高価格は一部の企業や研究機関にとって参入障壁となる可能性があり、これは技術の民主化をめぐる議論を促すかもしれない。
  • NVIDIAと競合する他社も同様の機能を持つ製品を開発しており、たとえばAMDのRadeon InstinctやGoogleのTPUのような製品が、AIハードウェア市場に選択肢を提供している。
  • AI技術の導入時に考慮すべき事項には、コスト、性能、互換性、そして技術サポートといった要素があり、NVIDIAの新しい技術の選択は、これらの要件を満たす企業にとって大きな利点となりうる。

関連記事

2件のコメント

 
corelyai 2024-03-20
  • Nvidia開発者カンファレンス: Blackwellチップと未来技術の紹介
  • Nvidiaは、毎秒10テラバイトのデータを転送する1つの巨大なチップを実現するため、2つのダイに隣接する280億個のトランジスタを備えた革新的なプラットフォームであるBlackwellを紹介し、Hopperとのフォームファクタ互換性を提供します。
  • 500億個のトランジスタを搭載したBlackwellのMVYリンクスイッチは、GPU間の最高速通信を可能にし、1つのラックでエクサフロップス級AIシステムを構築できるようにします。
  • Nvidiaは、AWS、Google、Oracle、Microsoftと提携し、さまざまなAIサービスを加速するとともに、Nvidia技術を各プラットフォームに統合すると発表しました。
  • Nvidiaは、生成AIソリューションとAIファクトリー構築のために、SAP、ServiceNow、Cohesity、Snowflake、Dellのような企業と協業するAIファウンドリーを公開しました。
  • Omniverse CloudをVision Proにストリーミングし、さまざまなデザインツール間のシームレスな統合とワークフローを支援するとともに、NvidiaはAIベースのロボット向けにProject GR00T、Isaac Lab、Osmoを紹介しています。
  • Jetsonで動作するDisneyのbdxロボットが特別出演し、Isaac Simで学習機能を披露します。

corely.aiによるCNET動画の要約です (https://www.youtube.com/watch?v=bMIRhOXAjYk)
 
GN⁺ 2024-03-19
Hacker Newsの意見

  • カンファレンスで、Nvidiaがスタックを積み上げる方向に動いていることを確認した。

    • Nvidiaはハードウェアベンダーとして、予想どおりより大きなものを作り続けている。
    • 注目すべき点は、"docker for llms"であるNIMを構築していることだ。
    • NIMは、Nvidiaハードウェア上で簡単にデプロイできるコンテナシステムだ。
    • AIスタートアップにどのような影響を与えるのか、見守るのが興味深い。

  • Nvidiaがプラットフォーム提供企業へと変化していることを認識した。

    • AIサービスプラットフォームとしてのほうが、Nvidiaにとってより収益性が高そうだ。
    • AWSやMicrosoftとのパートナーシップとのバランスを取るのは難しいかもしれない。
    • NvidiaはCUDAに対するAIの依存度が高いため有利だ。
    • 今後どのように展開するのか関心がある。

  • FP4が4ビット浮動小数点なのか気になる。

    • Hopperより30倍高いという比較グラフは、やや誤解を招く。

  • Nvidiaは数年前にBright Cluster Managerを買収した。

    • 次の買収対象はどこなのか、フルスタックを提供しようという意図が見える。

  • この場合の「プラットフォーム企業」がマルチチップを意味するのかと質問している。

    • 単一ダイにあまりにも多くのトランジスタを詰め込むのは非現実的なので、マルチチップに進むのは理にかなっている。

  • 消費電力を25倍削減すると主張しているが、理解しにくい。

    • この数字がどこから出てきたのか説明が必要だ。

  • 2桁ペタフロップスの大量生産への言及。

    • 人間の脳の活動を複製するのに必要な計算能力については、さまざまな推定がある。
    • ペタフロップスは10^15だ。
    • 驚くべき時代であることを強調している。

  • Nvidiaのデータセンター売上高が2023年第4四半期に過去最高の$18.4億を達成した。

    • 前四半期比27%、前年同期比409%増加した。
    • 推論での収益がかなり増えていることを示唆している。

  • FP8がHopperの2.5倍というのは、長い時間の後ではやや期待外れだ。

    • 2つの融合チップなので、実際の効果は25%増にすぎない。
    • 進歩の大部分はメモリ帯域幅と電力使用にある。
    • こうした進歩がコンシューマー部門にどのような影響を与えるのか気になる。

  • 技術的な詳細に関する追加情報へのリンクを提供している。