14 ポイント 投稿者 xguru 2024-06-20 | まだコメントはありません。 | WhatsAppで共有
  • プロンプトと生成回答の予想コストを計算し、主要なLLM APIの利用費用を算出
  • 各LLMプロバイダーの最新モデルと価格を追跡
  • プロンプト送信前のトークン数と生成された回答のトークン数を測定し、それぞれのLLMのトークンコストで合計額を計算
  • 自分のLLM連携システムに1つの関数だけで組み込んで利用可能

まだコメントはありません。

まだコメントはありません。