OpenLM - 複数のLLMを呼び出せるOpenAI互換Pythonクライアント
(github.com/r2d4)- OpenAIのAPIとまったく同じパラメータで、HuggingFace、Cohere、自分のモデルなど他のLLMを呼び出し可能
- 現在はCompletion Endpointのみをサポートしているが、Streaming/Embeddingsのようなエンドポイントも今後追加予定
- 既存コードで
import openlm as openaiとして、そのまま利用可能
import openlm as openai として、そのまま利用可能
まだコメントはありません。