Tanuki - LLM tabanlı uygulamaları kolayca geliştirme
(github.com/Tanuki)- Python'da fonksiyonlar yerine LLM'leri kolayca çağırarak, elle yazılmış bir fonksiyondan beklenenlerle aynı parametreleri ve çıktıları sunar
- LLM tabanlı fonksiyonlar iyi tiplendirilmiş, güvenilir ve durumsuzdur; üretim uygulamalarına doğrudan eklenebilir
- Fonksiyonları ne kadar çok kullanırsanız, otomatik model damıtma (Distillation) sayesinde maliyetler 9-10 kata kadar düşebilir
- RAG ve çıktı hizalama desteği
Henüz yorum yok.