MTIA v1: Metaの第1世代AI推論アクセラレータ
(ai.facebook.com)- GPUはMetaのDLRM（ディープラーニング推薦モデル）を実行するのに最適ではない
- そのため、推薦に適したMeta Training and Inference Accelerator（MTIA）ASICを開発
- 次世代の推薦モデルに対する要件を念頭に共同設計し、これをPyTorchに統合して完全に最適化されたランキングシステムを構築
- TSMC 7nmプロセス、800MHz、102.4 TOPS @ INT8、51.2 TFLOPS @ FP16、25W
まだコメントはありません。