DeepSpeed - MSが公開したディープラーニング最適化ライブラリ

 (github.com)
4 ポイント 投稿者 xguru 2020-02-12 | まだコメントはありません。 | WhatsAppで共有

  • PyTorch上の軽量ラッパー

  • 最小限のコード変更で、10倍以上大きなモデル、5倍以上の速度

  • Zero Redundancy Optimizer (ZeRO) の適用により、学習時に使用するメモリを最小化 (4x)

関連記事

まだコメントはありません。

まだコメントはありません。