- LLM'lere (büyük dil modelleri) doğal dille sorgu yazılabilse de, bazen LLM insanın niyetini tam olarak doğru anlayamayabiliyor
- İsviçre Zürih Federal Teknoloji Enstitüsü'nün (ETH Zürich) SRIlab (Secure, Reliable, and Intelligent Systems Lab) araştırmacıları, bunu çözmek için LMP (Language Model Programming) adlı kavramı ortaya koyuyor
- Bu LMP kavramını hayata geçiren dil ve platform ise LMQL (Language Model Query Language)
- SQL'e benzer bildirimsel sözdizimi
- LLM'nin çıktılarına açık kısıtlar getirerek, beklenmedik sonuçların ortaya çıkmaması için çalışma biçimini kontrol ediyor
- Python ile geliştirildiği için, yapay zeka sorgularında Python fonksiyonları veya kontrol akışı kullanılabiliyor
- OpenAI API üzerinden GPT-4 ve yerelde barındırılan transformer modelleri kullanılabiliyor
- Tüketilen token miktarını azalttığı için ücretli API kullanım maliyetini %26 ila %85 düşürebiliyor
- Makale: https://doi.org/10.48550/arXiv.2212.06094
- Dokümantasyon: https://docs.lmql.ai/
- Playground: https://lmql.ai/playground
- Github: https://github.com/eth-sri/lmql
Henüz yorum yok.