Token Cost - 400+ LLM için token başına maliyeti hesaplama
(github.com/AgentOps-AI)- Prompt ve tamamlanan yanıtın tahmini maliyetini hesaplayarak başlıca LLM API'lerini kullanmanın maliyetini hesaplar
- Her LLM sağlayıcısının en güncel modellerini ve fiyatlarını takip eder
- Prompt gönderilmeden önceki token sayısını ve üretilen yanıtın token sayısını ölçerek her bir LLM'in token maliyetine göre toplam tutarı hesaplar
- Kendi LLM entegrasyon sisteminize tek bir fonksiyonla bağlayıp kullanabilirsiniz
Henüz yorum yok.