- 約10年前、Googleの研究チームはAIコンピューティング需要が当時のインフラ能力を超えると予見した
- 当時、その需要を満たせる代替手段が市場に存在しないことを悟り、新しい種類のチップであるTPU（Tensor Processing Unit）の開発を開始した
単一の特定目的チップ
- CPUがコンピュータの汎用的な「頭脳」の役割を果たす一方で、TPUはAIに最適化された特定目的のチップである
- TPUは、AIモデルの構築と実行に必要な行列およびベクトルベースの数学演算に特化したASIC（application-specific integrated circuit）である
- 2015年に社内展開されたTPU v1はGoogle全体でたちまちヒットし、その後10年間でTPUは性能と効率の面で進化を重ねてきた
AIイノベーションに歩調を合わせる
- TPUの進化は、機械学習およびAIのイノベーションと密接に連動している
- TPU v1は推論に焦点を当てていたが、まもなくモデル訓練を効率化するためにTPU v2トレーニングスーパーコンピュータが開発された
- その後TPUはより速い周期で投入され、性能、効率、処理能力の面で大きな飛躍を遂げた
- 最新世代ではデータ処理速度が非常に速く、チップ間をつなぐケーブル配線にも注意が必要である
その価値を広く共有する
- 初期の段階で、AIモデルの開発と実行に向けたより良い方法を模索していたのはGoogleだけではなかった
- 2018年初頭、Google Cloudは顧客が独自の訓練および推論ワークロードを高速化できるよう、Cloud TPU第1世代を投入した
- 今日では、Anthropic、Midjourney、Salesforceなどの著名なAIチームがCloud TPUを集中的に利用している
- このすべての処理能力も、なお始まりにすぎない
- 今後は、データセンター設計をTPUの要件により適合させる方向へ変えていく計画である
- 単一チップや単一のTPUポッドを超えて、TPUで満たされたグローバルなデータセンターネットワークを構築している
- 未来は、シリコンからコンクリートに至るまで、完全なカスタムソリューションになるだろう（The future is full stack customization all the way, from silicon to concrete）
2件のコメント
TPUは時代を先取りした慧眼でしたね
Google Pixel 2 XLのシングルカメラ処理でその実力をしっかり示し、LLM時代に入って黄金期を迎えましたね
だからCoral Micro Dev Boardもアップデートをちょっと……うううう
Pixel初期モデルに搭載されていた（Visual Coreと呼ばれていた）イメージプロセッサは、IntelのMonette Hillプラットフォームベースです。