OpenLLMetry - LLMアプリケーションのためのオープンソースObservability

 (github.com/traceloop)
8 ポイント 投稿者 xguru 2024-02-23 | まだコメントはありません。 | WhatsAppで共有
  • LLMアプリケーションに対する完全に統合された可視性を提供
  • 内部的にOpenTelemetryベースであるため、Datadog、New Relic、Grafana Tempo、Splunkのような既存ソリューションとも連携可能
  • Instrumentationが可能
    • LLM : OpenAI/Azure OpenAI, Anthropic, Cohre, HuggingFace, AWS Bedrock, Vertext AI, Replicate, IBM WatsonX
    • Vector DB: Chroma, Pinecone, Qdrant, Weaviate, Milvus
    • Frameworks: LangChain, LlamaIndex, Haystack, LiteLLM
  • JS/TS版向けのOpenLLMetry-JSも別途提供

関連記事

まだコメントはありません。

まだコメントはありません。