Carton - 多様な言語でMLモデルを単一のAPIとして実行
(carton.run)- すべてのフレームワーク向けのオープンソースAPI
- モデルをメタデータとともに1つのZipファイルに圧縮し、そのファイルをロード
- 推論コードはフレームワークに依存せず動作可能。Carton APIを呼び出すと、Cartonがフレームワーク内部を呼び出す
- Rustで実装され、各言語向けのバインディングを提供
- x86_64 Linux と macOS、aarch64 Linux と macOS、WebAssemblyをサポート
- モデルを変換するONNXとは異なり、Cartonは変換せずラップするだけ
まだコメントはありません。