Portkey AI Gateway - 100+'den fazla LLM'e tek bir API ile erişim

• Uygulama ile LLM arasındaki arayüz olarak, tüm LLM'leri birleşik bir API üzerinden çağırma imkanı
  • OpenAI, Anthropic, Mistral, LLama2, Anyscale, Google Gemini vb.
• Çok hızlı (9.9x) ve düşük ayak izi (~45kb)
• Birden fazla model/sağlayıcı/anahtar arasında yük dengeleme yapabilme
• Fallback ve otomatik yeniden denemelerle uygulamanın kararlı çalışmasına yardımcı olma

[ragingwind]

İyi çalışırsa faydalı olur gibi görünüyor.

[vrv18]

Ben bakımını üstlenenlerden biriyim — topluluğun geri bildirimlerini sabırsızlıkla bekliyorum!