- LLM tabanlı ajanlar (agent) geliştirmeye yeni başlayan ürün ve mühendislik ekipleri için pratik bir rehber
- Ajanlar, mevcut otomasyon sistemlerinden farklı olarak karmaşık ve belirsiz durumlarda kendi başına karar verip eyleme geçen sistemlerdir
- Tek ajanlı sistemlerden çok ajanlı orkestrasyona kadar çeşitli tasarım kalıplarını açıklar
- Güvenilirlik ve güvenlik için guardrail ayarları ile insan müdahalesi (human intervention) stratejilerini vurgular
- Başlangıçta küçük bir kapsamla başlayıp kullanıcı geri bildirimlerine dayanarak kademeli olarak genişleyen bir yaklaşımı önerir
Ajan nedir
- Ajan, kullanıcı adına görevleri yerine getiren bir sistemdir
- Basit chatbot'lar veya duygu analizcileri gibi tek seferlik yanıt veren modeller ajan sayılmaz
- Ajanlar şu iki temel yeteneğe sahiptir
- İş akışı yürütmesini yönetme ve karar verme: tamamlanma durumunu değerlendirme, hataları düzeltme ve başarısızlık halinde kontrolü kullanıcıya geri verme
- Araç (tool) kullanımı: veri toplamak veya işlem yapmak için harici sistemlerle etkileşime geçme
Ne zaman ajan geliştirilmelidir
- Geleneksel otomasyon yöntemlerinin başarısız olduğu veya bakımının zorlaştığı alanlar için uygundur
- Uygun örnekler
- Karmaşık karar verme: müşteri iadesi onayı gibi hassas değerlendirme gerektiren durumlar
- Bakımı zor kural tabanlı sistemler: güvenlik incelemesi otomasyonu gibi kuralların karmaşık olduğu durumlar
- Yapılandırılmamış veri işleme: belge analizi, doğal dil anlama gerektiren durumlar
Ajan tasarımının temel unsurları
- Model (Model): akıl yürütme ve kararlardan sorumlu LLM
- Araçlar (Tools): harici sistemlerle etkileşime giren API işlevleri
- Talimatlar (Instructions): ajanın davranışını tanımlayan net yönergeler
Model seçimi yönergeleri
- Önce en yüksek performanslı modelle prototip geliştirme, ardından maliyet ve gecikmeyi dikkate alarak daha küçük modellere geçmeyi deneme
- Değerlendirme ölçütleri (evals) belirleyip doğruluğu doğruladıktan sonra optimizasyon yapma
Araçlar nasıl tanımlanmalı
- Araçları standartlaştırılmış şekilde tasarlayarak yeniden kullanılabilirliği artırma
- Araç türleri
- Veri sorgulama: DB araması, belge okuma, web araması
- Eylem gerçekleştirme: e-posta gönderme, CRM güncelleme
- Orkestrasyon: iş paylaşımı için başka ajanları çağırma
Talimat yazımı için en iyi pratikler
- Mevcut operasyon veya politika belgelerinden yararlanarak net, adım adım talimatlar yazma
- Görevleri daha küçük parçalara ayırıp somut eylem birimleri olarak belirtme
- Hata veya istisna durumlarının nasıl ele alınacağını (edge case'ler) mutlaka dahil etme
Orkestrasyon kalıpları
Tek ajanlı sistem
- Tek bir ajan, yinelenen döngü (run loop) üzerinden birden fazla görevi işler
- Farklı durumlara uyum sağlamak için prompt template kullanılır
- Karmaşıklık yönetilebilir kaldığı sürece tek ajanlı yapının korunması önerilir
Çok ajanlı sistem
Yönetici kalıbı (Manager Pattern)
- Merkezi bir yönetici ajan, birden çok uzman ajanı araç (tool) gibi çağırarak iş akışını koordine eder
- Kullanıcıyla olan arayüzü tutarlı tutar
Dağıtık kalıp (Decentralized Pattern)
- Ajanlar kontrolü birbirlerine handoff ederek devreder
- Belirli bir uzmanlık alanına sahip ajan, gerektiği anda kontrolü üstlenir
- Başlangıçta basit iş triyajı (triage) için uygundur
Guardrail'ler
Amaç
- Veri gizliliğini korumak ve sistemin kötüye kullanılmasını önlemek
- Marka tutarlılığını korumak ve uygunsuz yanıtları engellemek
Başlıca türler
- İlgililik filtreleme: konuyla ilgisiz girdileri engelleme
- Güvenlik filtreleme: sistemden kaçış (jailbreak) girişimlerini tespit etme
- Kişisel veri koruması (PII) filtresi: hassas bilgilerin açığa çıkmasını engelleme
- Moderation: şiddet ve nefret söylemini engelleme
- Araç risk yönetimi: yüksek riskli araç çağrılarında ek doğrulama
Geliştirme stratejisi
- Veri gizliliği ve içerik güvenliğini en yüksek öncelik olarak ele alma
- Gerçek kullanım sırasında ortaya çıkan yeni risklere göre sürekli eklemeler yapma
- Güvenlik ile kullanıcı deneyimi arasında denge kurma
İnsan müdahalesi (Human-in-the-loop)
- Ajan başarısız olduğunda veya yüksek riskli görevleri işlerken kontrolü insana devretme
- Temsili tetikleyiciler
- Başarısızlık eşiğinin aşılması
- Hassasiyeti yüksek görev talepleri (iade, ödeme vb.)
Sonuç
- Ajanlar, karmaşık ve belirsiz durumlarda iş akışlarını otomatikleştirebilen yenilikçi sistemlerdir
- Güçlü bir model-araç-talimat yapısı kurup orkestrasyonu kademeli olarak genişletmek gerekir
- Güvenlik ve güvenilirliği sağlamak için guardrail ve insan müdahalesi yapılarının mutlaka kurulması gerekir
- Küçük başlayıp hızlı doğrulama yapmak ve işlevleri aşamalı olarak genişletmek, başarılı dağıtımın anahtarıdır
1 yorum
https://notebooklm.google.com/notebook/…
Bunu NotebookLM ile yaptım.