10 ポイント 投稿者 xguru 2024-11-13 | まだコメントはありません。 | WhatsAppで共有
  • OpenAI互換のHTTP APIを提供
  • 負荷に基づく自動スケーリング
  • オープンソースLLMをCPU/GPUベースでサービング可能
  • ゼロ依存(Istio、Knativeなど不要)
  • Chat UIを内蔵

まだコメントはありません。

まだコメントはありません。