3 ポイント 投稿者 GN⁺ 2024-12-16 | 1件のコメント | WhatsAppで共有
  • Tenstorrentの強み
    • RISC-Vベースの高性能CPUとAIコアを開発し、AIハードウェア分野で独創的なアプローチを示している
    • すべてのソフトウェアスタックと開発者ツールをオープンソースで公開し、開発者フレンドリーなエコシステムを構築
    • 価格競争力のあるSamsung Foundry SF4Xプロセスを活用し、差別化されたAIチップセットの生産が可能
  • 弱みと懸念点
    • AIハードウェア市場におけるNvidiaの強力な支配力
    • GPU中心の競合他社と比べると、Tenstorrentの相対的な弱みは依然として高い**レイテンシー(latency)**の問題
  • 市場での位置付け
    • TenstorrentはAIハードウェアとRISC-V IPの可能性を通じて、Nvidia、AMD、ARMとは異なる価値を提供
    • Inference(推論)中心に焦点を当てた戦略が、市場での成功可能性を高めている

Tenstorrentの技術的概要

  • Grendel(第3世代AIチップセット)の主な特徴
    • チップレット(chiplet)アーキテクチャを導入し、高性能RISC-V CPUコアとAIコアを分離
    • 各コア間で効率的にデータを移動させるため、メッシュトポロジーを設計
  • コア構造
    • 大型RISC-Vコア: Linuxを実行可能で、汎用コード処理向け
    • Baby RISC-Vコア: 極小コアで、データ移動とカーネル実行に使用。752個のコアがダイ全体面積の1%未満を占める
    • Tensixコア: ベクトル演算および行列演算専用のAIコンピューティングユニット。各Tensixコアでは5個のBaby RISC-Vコアがカーネル実行を管理
  • コンパイラ
    • GCCをベースに改変したコンパイラを使用。ユーザーは単一のカーネルを書くだけで、GCCが自動的に処理する

AIハードウェアスタートアップの課題

  1. トレーニング(Training)市場での競争
    • NvidiaのH100 GPUが市場を支配
    • Amazon、Googleなどの大手クラウド企業は、半導体設計パートナーと協力して独自チップを生産
  2. 推論(Inference)市場の機会
    • コストと性能の面でNvidiaと競争できる可能性がある
    • SamsungプロセスとHBM不使用による価格競争力
  3. 顧客獲得
    • 小規模企業やスタートアップを対象としたInference中心のハードウェア市場が主要ターゲット

Tenstorrentのソフトウェア戦略

  • 6番目のバージョンのソフトウェアスタック
    • MLモデルから低レベルカーネルまで、多様な開発者とユーザーに合わせたアクセス性を提供
    • Discordコミュニティと協力しながら、革新的なカーネルを開発
  • 過去の問題の解決
    • 以前はハードウェアごとにソフトウェアスタックを新たに構築する必要があった
    • 今では、ハードウェアに依存せず動作する統合ソフトウェアスタックを開発

技術的議論と結論

  • Tenstorrentの哲学
    • "AIの未来は純粋な線形代数処理ではなく、混合処理だ"
    • CPUとAIコアの統合の必要性を強調
  • Jim Kellerのビジョン
    • 将来のAIワークロードがCPU統合を必要とするなら、Tenstorrentは唯一準備ができているベンダーだという見方
  • 市場展望
    • AIトレーニング市場は、Nvidiaの独占的地位によりスタートアップにほとんど機会がない
    • 推論市場では革新的なアプローチによって成功の可能性がある
    • 第2世代Blackholeと第3世代Grendelの性能が、今後の重要な評価基準になる見込み

投資と企業価値

  • Tenstorrentの現在の評価額
    • 直近のシリーズDラウンドで20億ドル評価
    • RISC-V IP市場において、ARMの価格引き上げに関連する機会を捉えている
  • 競合他社との比較
    • Cerebrasなど他のAIハードウェアスタートアップと比べて、技術力と市場適合性に優れる
    • Nvidiaに対しては、CUDAエコシステムでの競争力に弱みがある
  • 今後の戦略
    • Inference市場に注力し、競争力を維持
    • 開発者エコシステムとオープンソース中心の哲学を継続

結論

  • TenstorrentはAIハードウェアとRISC-V CPU設計で独創的なアプローチを取り、NvidiaとARMが支配する市場において重要な差別化要素を提供している
  • 推論市場での成長可能性が高く、AIスタートアップの中でも投資価値の高い企業と評価されている

1件のコメント

 
GN⁺ 2024-12-16
Hacker Newsの意見
  • 高性能コンピューティングのレンタル事業を運営しており、誰でも簡単に利用できるようにコンピューティングを民主化したい。Nvidiaの支配的な地位のため、他の機器への関心が乏しいと感じている。このようなサービスへの関心と需要が高まってほしい。
    • ARMがライセンス価格とロイヤルティを引き上げているため、RISC-V CPU IPの将来は明るいと考えている。契約を破棄する企業が増えており、懸念している。
    • AIハードウェアというよりは従来の高性能コンピューティングの縮小版で、AIブームとは無関係にさまざまな作業に有用だろう。
    • Tenstorrentは、AIの未来は混合ワークロードにあると見ている。CPUワークロードは必要であり、今のところ大きな変化はない。
    • Groqの詐欺の可能性に言及し、Llama 3.1 405Bがジュニアエンジニアを代替できると主張している。
    • ARMとQualcommの紛争をほとんど忘れていたが、まもなく大きな変化があるだろう。
    • AMDとNVIDIAがデータセンターおよびスーパーコンピューティング市場に積極的に参入してくれるとよいと思う。現在の状況はスポーツチームのファンダムのようだとたとえている。
    • Tenstorrentチームのオープンな議論の姿勢を称賛し、より多くの企業がこうなってほしいと願っている。
    • Llamaはシニアエンジニアには有用だが、ジュニアエンジニアの学習を妨げる可能性があるという懸念がある。ジュニアエンジニアが効果的に学習し、理解できる方法を考える必要がある。
    • Llama 3.1 405Bがジュニアエンジニアを代替できるという主張をあざ笑っている。