- LangGraph, OpenAI Agents SDK, Smolagents, CrewAI, AutoGen, Semantic Kernel ve LlamaIndex Agents gibi çeşitli açık kaynak AI ajan çerçevelerini karşılaştıran bir yazı
- Geçmişte AI ajan geliştirme; scriptler, prompt engineering ve deneme-yanılmanın birleşimiydi, ancak artık açık kaynak çerçevelerin sayısı artıyor
- Her çerçeve, ajan özerkliği ile kararlılık arasında kendine özgü bir mimari felsefeye sahip
- Langfuse gibi gözlemlenebilirlik araçlarıyla entegre edilerek prompt, yanıt ve API çağrısı süreçleri görselleştirilebilir ve debug edilebilir
LangGraph – Grafik tabanlı iş akışı
- LangChain tabanlı bir grafik mimarisi çerçevesi
- Her düğüm prompt veya görev birimini işler, edge'ler ise veri akışını ve dallanma kontrolünü yönetir
- Karmaşık çok adımlı işler, paralel işleme ve hata işleme mantığı eklemek için avantajlıdır
- Görselleştirme ve debug konusunda güçlüdür; durum tabanlı ajan tasarımı için uygundur
OpenAI Agents SDK – Resmi OpenAI ajan araç seti
- OpenAI tarafından sunulan resmi SDK
- GPT-4o, GPT-o3 gibi modellerle doğal şekilde entegre olur
- Rol (role), araç (tools) ve tetikleyici (trigger) ayarlayarak çok adımlı görevler yürütülebilir
- OpenAI ekosistemine aşina kullanıcılar için uygundur
Smolagents – Kod tabanlı minimal yaklaşım
- Hugging Face'in minimal, kod odaklı ajan çerçevesi
- Basit bir döngü içinde AI, Python kodu üretir ve çalıştırır
- Karmaşık orkestrasyon olmadan hızlı prototipleme için uygundur
- İçeride ReAct tarzı promptlar kullanır
CrewAI – Rol tabanlı çok ajanlı iş birliği
- Her ajana benzersiz bir rol verilerek iş birliği sağlanabilir
- "Crew" adlı kapsayıcı kavramı üzerinden iş akışı otomatik olarak ayarlanır
- Planlayıcı (Planner) - Araştırmacı (Researcher) - Yazar (Writer) gibi senaryoları uygulamak kolaydır
- Bellek özellikleri ve hata işleme mantığı içerir
AutoGen – Eşzamansız konuşma tabanlı ajanlar
- Microsoft Research tarafından geliştirilen eşzamansız, konuşma tabanlı ajan çerçevesi
- Her ajan, konuşma mesajları alışverişi yaparak eşzamansız çalışır
- Çok turlu konuşma, rol değişimi ve gerçek zamanlı araç çağrıları önemliyse avantajlıdır
- Olay tabanlı yapısı sayesinde yüksek eşzamanlılık gerektiren işler için uygundur
Semantic Kernel – Kurum dostu iş akışı
- Microsoft'un .NET merkezli çerçevesi
- AI yetenekleri ile kod tabanlı yetenekleri birleştirerek plan tabanlı iş akışları kurar
- Güvenlik, mevzuat uyumu ve Azure entegrasyonu gibi kurumsal gereksinimler için optimize edilmiştir
- Python, C#, Java gibi çeşitli dilleri destekler
LlamaIndex Agents – Veri odaklı ajanlar
- LlamaIndex, RAG tabanlı bir çerçeve olarak başlayıp ajan yetenekleriyle genişledi
- Yerel/harici veri kaynaklarını arar ve sonuçları yanıtlara veya görevlere bağlar
- Belge tabanlı Soru-Cevap, özetleme ve özelleştirilmiş arama ajanları için uygundur
- Daha önce LlamaIndex kullanmış olanlar için giriş eşiği düşüktür
Hangi durumda hangi çerçeve kullanılmalı?
- Görev karmaşıklığı: Görevin basit ya da karmaşık olmasına göre uygun çerçeve seçilmelidir
- Karmaşık çok adımlı akışlar: LangGraph, Semantic Kernel
- Basit kod tabanlı yürütme: Smolagents
- Çok ajanlı iş birliği: Birden fazla ajana ihtiyaç varsa, eşzamansız konuşma ve rol devrini destekleyen bir mimari gerekir
- Rol tabanlı ajanlar: CrewAI
- Konuşma tabanlı eşzamansız ajanlar: AutoGen
- Entegrasyon ortamı: Ajanın etkileşime gireceği ortam ve sistemler dikkate alınmalıdır
- OpenAI merkezli hizmetler: OpenAI Agents SDK
- Mevcut iş mantığıyla entegrasyon gerekiyorsa: Semantic Kernel
- Performans ve ölçeklenebilirlik: Uygulamanın performans gereksinimleri dikkate alınmalıdır. Gerçek zamanlı etkileşim gerekiyorsa olay tabanlı bir mimari gerekli olabilir
- Yüksek eşzamanlı işleme ihtiyacı: AutoGen
- Gözlemlenebilirlik araçlarıyla (Langfuse vb.) entegre edilerek debug ve izleme yapılabilir
Gözlemlenebilirlik ve tracing araçlarının önemi
- Ajanlar harici API çağrıları, veri arama ve karmaşık dallanma mantığı içerdiğinden şeffaf izleme zorunludur
- Langfuse gibi araçlarla şu unsurlar izlenebilir:
- Her prompt ve yanıt akışı
- Araç çağrılarının zamanı ve sonuçları
- Hataların ve yürütme yollarının görselleştirilmesi
- Prodüksiyon ortamında performans ölçümü, hata ayıklama ve yinelemeli iyileştirme için kritiktir
Henüz yorum yok.