-
Son dönemde yapay zeka ile kodlama, “çalışan kodu” hızla üretiyor ancak kullanıcıların beklediği “iyi ürünü” otomatik olarak ortaya koyamıyor.
-
Yazar bunun temel nedenini büyük ölçüde iki noktada görüyor
- Yapay zekanın sağduyuya/örtük bilgiye sahip olmaması
- RLVR tabanlı eğitimde, “iyi kod/ürün”den ziyade “kodun başarıyla çalışması”nın daha kolay ödüllendirilen bir yapı olması
-
Örnek olarak Sejong Büyük Kralı MacBook Pro halüsinasyonu, oto yıkama testi ve Kore sınıfı/öğrenci görseli üretimindeki başarısızlığı vererek, en yeni modellerin bile insanların anında fark ettiği tuhaflıkları gözden kaçırabildiğine dikkat çekiyor.
-
Kodlama RLVR’sinde ödül çalıştırılabilirliğe kayarsa, LLM’ler aşırı
try-except, fallback ve savunmacı mantık üretip teknik borç biriktirebilir. -
Buradaki kilit nokta şu: Go oyununda kazanmak yeterlidir ama yazılımda mesele “kabaca çalışması” değil, “insanların isteyeceği ve para ödeyeceği bir ürün” olmasıdır.
-
Karpathy’nin AJI (Artificial Jagged Intelligence) bakış açısına göre, bugünkü yapay zekanın zayıf tarafı “taste”, ürün sezgisi ve örtük sağduyu alanlarıdır.
-
Anthropic de tasarım/taste alanında hâlâ insanın büyük rol oynadığını, ancak modeller geliştikçe bu sınırın yeniden pazarlık edildiğini düşünüyor.
-
Yazara göre GPT-5.4 → GPT-5.5 gibi model iyileşmeleriyle bu boşluk giderek kapanacak.
-
Nihayetinde insanla ayırt edilmesi zor bir sezgi ve muhakeme düzeyine ulaşıldığında Turing testinin geçileceği ve bu anın AGI olarak görülebileceği savunuluyor.
Özet:
Yapay zeka ile kodlamanın sorunu “kod yazamaması” değil; “insanların ne tür bir ürün istediğini bilmeden, çalıştırılabilir çıktılara optimize olması”. Bugün insanın rolü, yapay zekanın eksik kaldığı sağduyu, taste ve ürün yargısını tamamlamaktır.
Henüz yorum yok.