Cortex - 機械学習のためのオープンソースデプロイプラットフォーム
(cortex.dev)"Run inference at scale"
-
TensorFlow、PyTorch、Sklearn をはじめとするさまざまなモデルをサポート
-
AWS/GCP/Azure などへの大規模デプロイと、リクエストベースの自動スケーリング
-
CI/CD システムと連携
-
パフォーマンスメトリクスとログをモニタリングツールへストリーミング
-
マルチモデルキャッシュにより多数のモデルを効率的にサービング
-
ダウンタイムのないローリングアップデートをサポート
-
A/B テストのためのトラフィック分割
まだコメントはありません。