Küçük bir ekipte birden fazla AI ajanını canlı servise bağlayıp işletirken,
sürekli karşılaştığımız bir sorun var.
Ajan yanlış bir karar verdiğinde — yanlış kodu deploy ettiğinde,
yanlış bir yanıt verdiğinde ya da yanlış dosyayı değiştirdiğinde —
bunun sorumluluğunu nasıl takip ediyor ve yönetiyorsunuz?
Biz, her ajan için rol·yetki·sınırları açıkça tanımlayıp, tüm işlere
"kimin oluşturduğu ve kimin onayladığı" rozeti ekleme yöntemini deniyoruz.
Ama bunun doğru yaklaşım olup olmadığından emin değiliz.
Canlı servise AI ajanları bağlamış olanlara sormak istiyorum.
1. Hataları sonradan izlemek için kullandığınız bir yöntem var mı?
Log? Rozet? Audit Trail? Yoksa sonunda hepsini insanlar mı kontrol ediyor?
2. "AI önerir, son kararı insan verir" ilkesine pratikte gerçekten uyuyor musunuz?
Hız için AI kararlarını olduğu gibi geçirdiğiniz durumlar olmuyor mu?
Bu dengeyi nerede kurduğunuzu merak ediyorum.
3. Birden fazla ajan birlikte çalıştığında, ara sonuçların sorumluluğunu nasıl paylaştırıyorsunuz?
Eğer sıra Agent A → Agent B → deploy şeklindeyse, bug çıktığında çizgiyi nerede çekiyorsunuz?
Kesin bir doğru cevap aramıyorum; herkesin sahada bunu nasıl çözdüğünü duymak istiyorum.
Biz de hâlâ deneme aşamasındayız.
Henüz yorum yok.