2 ポイント 投稿者 xguru 2023-12-19 | まだコメントはありません。 | WhatsAppで共有
  • Go で書かれたクラウドネイティブなAIゲートウェイ
  • OpenAI 向けのプロキシとして動作
  • Rate Limit、Cost Limit、TTL 付きのAPIキーを生成し、OpenAI が提供していない詳細なアクセス制御機能を提供可能
  • 目標は、Llama2、Claude、PaLM2 など多様なLLMをサポートし、LLM運用を簡素化すること

まだコメントはありません。

まだコメントはありません。