Yapay zekanın yalan söylemesini engellemenin kusursuz yolu - leceipts

Yapay zeka kodlama araçlarını kullanırken tuhaf biçimde tekrar eden bir durum var.

Bir bug'ı açıklarsınız
→ “Sorunu düzelttim”
→ çalıştırırsınız, hâlâ bozuk

Bu aslında sadece yapay zekaya özgü bir sorun değil,
insanların yaptığı kod incelemelerinde de tanıdık bir örüntü.
• “Muhtemelen bu çözmüştür”
• “Bende lokalde çalışıyor”
• “Testleri çalıştırmadım ama sorun yok gibi görünüyor”

leceipts bunu tutum ya da kültürle değil,
bir süreçle çözmeye çalışan bir yaklaşım.

Her kod değişikliğinde, aşağıdakilerin yapısal olarak kaydedilmesini zorunlu kılıyor:
• Root cause: sorunun neden ortaya çıktığı
• Change: gerçekte hangi düzeltmenin yapıldığı
• Recurrence prevention: aynı sorunun tekrar etmesini önleme yöntemi
• Verification: nasıl doğrulandığı ve sonucun ne olduğu
• Remaining risk: hâlâ doğrulanmamış kısımlar

Buradaki kilit nokta “Verification”.
Sadece “test ettim” demek değil,
hangi yöntemle kontrol edildiğini ve sonucun ne olduğunu da kaydetmeye zorluyor.

Bu yapı oluşunca birkaç değişiklik ortaya çıkıyor

1. Yapay zekanın palavra atmasını engelleme
   “fixed” demek yerine, gerçek çalıştırma sonucunu bırakmak zorunda
   → çalıştırmadıysa hemen ortaya çıkıyor
2. İnsan kod incelemesinin kalitesi artıyor
   PR açıklaması “sezgi” değil, “kanıt” odaklı hâle geliyor
3. Debug geçmişi bir varlığa dönüşüyor
   Neden bozulduğu ve nasıl düzeltildiği birikiyor
   → aynı sorunun tekrarını önlüyor
4. ‘Done’ ölçütü netleşiyor
   Düzeltme ≠ tamamlandı
   Doğrulama da bitmeden iş tamam sayılmıyor

İlginç olan, bunun yeni bir test framework'ü ya da
karmaşık bir araç olmaması.

Sadece
“anlatım biçimini zorunlu kılarak geliştirme sürecini değiştirmek” yaklaşımı.

Yapay zeka ile kodlama giderek yaygınlaştıkça,
böyle bir “doğrulama odaklı iş akışı”nın varsayılan hâle gelebileceğini düşündürüyor.