6 ポイント 投稿者 GN⁺ 2023-10-07 | 8件のコメント | WhatsAppで共有
  • Nvidiaは、CUDAやcuDNNのようなソフトウェアツールと最適化されたライブラリのおかげで、GenAI分野で優位に立っている
    • ハードウェアの周囲に強力なソフトウェアの「堀(Moat)」を築き、HPCとGenAI市場で他社が競争することを難しくしている
  • GenAI向け計算資源の需要増加により、より多くのGPUが必要になっている。これによって需給ギャップが生じ、AMDのような企業がそれを埋めようとしている
  • Nvidiaと競争するには、他社製GPUやアクセラレータがCUDAをサポートする必要がある。AMDはHIP CUDA変換ツールを通じてそれを可能にしている
  • オープンソース機械学習ライブラリのPyTorchは、GPUを使ったAIアプリケーションを作るうえで、TensorFlowの代替として人気を集めている
  • PyTorchはユーザーを基盤となるGPUアーキテクチャから切り離し、AMD GPUがCUDAの堀を越えやすくしている
  • Nvidiaの今後登場する72コアARMベースのGrace-Hopperスーパーチップは、HPCとGenAIにおける潜在的な性能で大きな期待を集めている
  • AMDは今後登場するInstinct MI300AプロセッサでNvidiaのGrace-Hopperスーパーチップと競争する予定であり、このプロセッサはLawrence Livermore National Laboratoryの今後のEl Capitanを動かすことになる
  • AMDのCEOであるLisa Suは、自社のアーキテクチャ選択によって推論ソリューションの業界リーダーになるという目標を明らかにした
  • AMDや他のハードウェアベンダーにとって、PyTorchはCUDAの堀に跳ね橋(Drawbridge)を架けてくれた
  • GenAI市場におけるハードウェア競争は、性能・移植性・可用性(performance, portability, and availability)によって決まるだろう

8件のコメント

 
slemma999 2023-10-08

いつも良い記事を楽しく読ませていただいています。ありがとうございます。ただ、個人的な意見を一つ申し上げると、韓国語化でもないのに漢語に変換していて、表現が不自然で難しく感じます。たとえば「跳開橋」や「堀」のような言葉は、英語をそのまま使うか、やさしい韓国語で言い換えていただけるとうれしいです。

 
monovision 2023-10-09

「moat」はよく使われる言葉ですが、「drawbridge」は一般的に使われる表現ではないものの、辞書などを調べるとまさにぴったりの訳語のようです。
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90

 
slemma999 2023-10-09

経済分野でも使うことは知っていますし、AI技術が複雑になるにつれてこれが使われるのも分かりますが、用法が誤っているように思います。たとえば、基本的なCPUアーキテクチャから切り離すことでAMDのGPUがCUDAの moat を越えることを容易にする、というのは、何か技術的に簡単に解決できるかのように誤って書かれています。日本語としては、CUDAの moat を乗り越えられる技術力がある、という表現のほうがより適切ですし、この文はまるで何か1つのライブラリが問題を解決できるかのように書かれていて、かなり不自然です。moat がそういう単語だったかと思うほどです。

 
newtype 2023-10-11

「堀」は、代替があまり利かないうえに、あえて代替する必要もないという意味で、あまりにも的確な言葉なんですよね……。ご本人はたった今辞書で初めて見てなじみがないのかもしれませんが、ほかの読者がみな自分と同じ程度の語彙力だとは限りません。無知を武器のように振り回すのはやめましょう。

 
botplaysdice 2023-10-11

耳が痛いですね。ですが、無知が恥になるコミュニティにはなってほしくないですね。

 
fortune 2023-10-09

そうですね、私も自動翻訳で不自然な部分を感じることが時々あります。

ただ、『堀』はこのような場合、韓国でもよく使われる表現です。ニュース検索で『堀』と検索してみると、多くの結果を確認できます。

 
cosine20 2023-10-08

AMDがCUDAの対抗馬として関わっていたのはOpenCLだったと記憶していますが、ここで言及がないところを見ると、これまでAI分野のライブラリとの連携はそれほどなかったようですね。

 
GN⁺ 2023-10-07
Hacker Newsの意見
  • ユーザーはROCmをPyTorchと組み合わせて使用し、CPUと比べて200倍の性能向上を確認した。
  • AMDのセットアップは複雑なため、ユーザーは公式のROCm PyTorchベースのDockerイメージを使うことを推奨している。
  • ユーザーは、Nvidiaカードを使っている唯一の理由はCUDAだが、より多くのプロジェクトが中立的な環境へ移行するなら歓迎すると述べた。
  • ユーザーは、LinuxでNvidiaを動かすのは、Windows Vistaでのカーネルクラッシュと比べても快適ではないと感じている。
  • ユーザーは、AMDや他の競合の競争を歓迎しており、大容量の内蔵RAMを持つApple Silicon SoCにも関心を持っている。
  • PyTorchは他のハードウェアにも対応しており、ユーザーは実際の計算性能のベンチマークを見たいと考えている。
  • AMDが科学計算やMLソフトウェアにおいてNvidiaとの差を縮めていることを示す実証的な証拠は限られている。
  • CUDAは、Nvidiaがエコシステムを支えるために積み重ねてきた努力の成果であり、Nvidiaを買うということは、そのエコシステムへの投資も同時に買うことだ。
  • AMDはハードウェアは持っているが、blissとAOCL以外ではHPC向けの支援が不足している。
  • ユーザーは、AMDにNvidiaのPTXのような前方デバイス互換性のための解決策があるのか疑問を呈している。
  • Nvidiaの優位性は、オープンソースコミュニティ、大企業、研究機関が長年積み上げてきた成果だ。
  • ユーザーは、AMDが追いついた場合、趣味用途やブートストラップ型スタートアップ向けの価格が下がるのか、それともAMDもNvidiaのように値上げするのか疑問を呈している。
  • AMDのソフトウェアソリューションは、どのハードウェア上でも動作するよう設計されており、hipはcudaと行単位で互換性があるため、移植は非常に容易だ。