Geas - Yapay zeka agent'larının hata yapmaması için katı iş protokollerine uymasını sağlamak

Merhaba, işimde Claude code'u çok yoğun kullanan junior bir güvenlik araştırmacısıyım.

Arka plan

Her zamanki gibi Claude code ile çalıştığım bir gündü.

Büyük ve önemli bir iş yapmam gerektiğinden, işe ne yapılacağını anlatmaya ve plan çıkarmaya çok özen gösteriyordum.

Uzun uzun tartıştıktan sonra ona bir plan dosyası hazırlattım ve self-review yaptırdım; gerçekten çok sayıda kritik issue buldu.
Hazırlık aşamasına bu kadar emek verince bende "Mükemmel... mükemmel bir plan lazım..." diye bir inat oluştu ve issue çıkmayana kadar self-review yaptırıp sonsuz self-review döngüsüne başladım.

Ama tam 17 kez self-review yapmasına rağmen issue'lar kaybolmadı; gereksiz değişiklikler yapmaya, hatta başlangıçta belirlenen scope'u aşarak yeni şeyler yaratmaya kadar vardı.

Başım zonklarken geeknews, çeşitli newsletter'lar ve benzer yerlerde gördüğüm yapay zeka bilgileri aklımdan geçmeye başladı. "Kendini abartma eğilimi", "iş uzadıkça tembelleşme", "middle in the lost" gibi şeyler... Sonunda Claude'u tek bir kişilik gibi düşünüp şu sonuca vardım: "Claude tembel bir dahi."

"Bu tembel dahiyi nasıl sürekli %100 çalıştırabilirim?", "Ben tembelleşmek istiyorsam bunların çalışkan olması lazım." düşüncesiyle başlayan bir proje bu.

---

Proje şu anda iki parçadan oluşuyor.

• Protokol
• Yukarıdaki protokole uymasını sağlayan Claude code plugin'i

Aynı dertleri yaşamış kişilerin görüşlerini merak ediyorum.