OpenLLMetry - LLM uygulamaları için açık kaynaklı Observability
(github.com/traceloop)- LLM uygulamaları için uçtan uca entegre görünürlük sağlar
- İçeride OpenTelemetry tabanlı olduğu için Datadog, New Relic, Grafana Tempo ve Splunk gibi mevcut çözümlerle de entegre olabilir
- Instrumentation mümkündür
- LLM: OpenAI/Azure OpenAI, Anthropic, Cohre, HuggingFace, AWS Bedrock, Vertext AI, Replicate, IBM WatsonX
- Vector DB: Chroma, Pinecone, Qdrant, Weaviate, Milvus
- Frameworks: LangChain, LlamaIndex, Haystack, LiteLLM
- JS/TS sürümü için OpenLLMetry-JS de ayrıca sunuluyor
Henüz yorum yok.