12 ポイント 投稿者 xguru 2021-12-15 | 1件のコメント | WhatsAppで共有

「使いやすいものを高速に作って機械学習に適用」

  • PythonとNumpyだけを組み合わせ

→ XLA を使って Numpy を GPU/TPU 上でコンパイルして実行

→ Python 関数を 1 つの API で JIT コンパイルし、XLA 最適化されたカーネルに簡単に載せられる

→ 複数の GPU/TPU での実行も簡単(vmap, pmap)

  • 既存の Python+Numpy の性能をはるかに上回る

1件のコメント

 
xguru 2021-12-15

DeepMindはJaxベースで全体をリファクタリングしたとのこと。

https://deepmind.com/blog/article/using-jax-to-accelerate-our-research