Ailoy: Kolay on-device AI agent geliştirme aracı
(github.com/brekkylab)ailoy adlı, LLM agent’lerini kolayca oluşturmayı sağlayan bir kütüphane.
Python / JavaScript (node) olmak üzere iki sürümü var ve mevcut araçlar arasında en kolayı olduğunu iddia ediyoruz.
Makine öğrenimi uzmanı olmasanız da yapabilmeniz en büyük avantajı.
Google, OpenAI ve Anthropic sonuçta API’lerin daha çok kullanılmasını hedefliyor; bu da oldukça masraflı hale geliyor gibi göründüğü için, agent’leri on-device AI ile çalıştırabilecek şekilde geliştirdim.
GitHub veya Discord bağlantısından gelirseniz takıldığınız noktalarda yardımcı olurum. Bir kez deneyip görüş bırakırsanız çok sevinirim!
4 yorum
Model boyutu küçük ama hissedilen performansın ne düzeyde olduğunu merak ediyorum.
Kesinlikle GPT serisi ya da DeepSeek R1'e kıyasla biraz eksik hissettiriyor. 30B model kesinlikle fena değil, ama bunu on-device olarak kullanmak için en az 5090 seviyesinde bir GPU gerekiyor gibi bir dezavantajı var....
Bu yüzden, OpenAI modellerine benzer performans alırken token optimizasyonu yapmak istiyorsanız, OpenAI'yi kullanıp kolay görevlerde local model kullanan hibrit yaklaşım en iyisi gibi görünüyor.
Yine de kullanılamayacak kadar kötü değil; karmaşık görevler değil de çeviri ve özetleme gibi şeylerde farkın o kadar büyük olmadığı hissi var... haha
Anlıyorum ^^ Yanıtınız için teşekkürler