-
Son dönemde yapay zeka ile kodlama, “çalışan kodu” hızla üretiyor ancak kullanıcıların beklediği “iyi ürünü” otomatik olarak ortaya koyamıyor.
-
Yazar bunun temel nedenini büyük ölçüde iki noktada görüyor
- Yapay zekanın sağduyuya/örtük bilgiye sahip olmaması
- RLVR tabanlı eğitimde, “iyi kod/ürün”den ziyade “kodun başarıyla çalışması”nın daha kolay ödüllendirilen bir yapı olması
-
Örnek olarak Sejong Büyük Kralı MacBook Pro halüsinasyonu, oto yıkama testi ve Kore sınıfı/öğrenci görseli üretimindeki başarısızlığı vererek, en yeni modellerin bile insanların anında fark ettiği tuhaflıkları gözden kaçırabildiğine dikkat çekiyor.
-
Kodlama RLVR’sinde ödül çalıştırılabilirliğe kayarsa, LLM’ler aşırı
try-except, fallback ve savunmacı mantık üretip teknik borç biriktirebilir. -
Buradaki kilit nokta şu: Go oyununda kazanmak yeterlidir ama yazılımda mesele “kabaca çalışması” değil, “insanların isteyeceği ve para ödeyeceği bir ürün” olmasıdır.
-
Karpathy’nin AJI (Artificial Jagged Intelligence) bakış açısına göre, bugünkü yapay zekanın zayıf tarafı “taste”, ürün sezgisi ve örtük sağduyu alanlarıdır.
-
Anthropic de tasarım/taste alanında hâlâ insanın büyük rol oynadığını, ancak modeller geliştikçe bu sınırın yeniden pazarlık edildiğini düşünüyor.
-
Yazara göre GPT-5.4 → GPT-5.5 gibi model iyileşmeleriyle bu boşluk giderek kapanacak.
-
Nihayetinde insanla ayırt edilmesi zor bir sezgi ve muhakeme düzeyine ulaşıldığında Turing testinin geçileceği ve bu anın AGI olarak görülebileceği savunuluyor.
Özet:
Yapay zeka ile kodlamanın sorunu “kod yazamaması” değil; “insanların ne tür bir ürün istediğini bilmeden, çalıştırılabilir çıktılara optimize olması”. Bugün insanın rolü, yapay zekanın eksik kaldığı sağduyu, taste ve ürün yargısını tamamlamaktır.
10 yorum
Yazıyı yazan kişinin kim olduğunu bilmiyorum ama kişisel olarak bu, son 10 yılda okuduğum yazılar arasında seviyesi en düşük olan yazıydı.
O kadar sarsıldım ki yazıyı okurken afallamış gibi hissettim.
O zaman lütfen doğrudan iyi bir yazı yazın.
Katıldığım kısımlar da var, katılmadığım kısımlar da. Sonuçta şimdilik insan zekasının aktif biçimde devreye girmesi gerektiği doğru gibi görünüyor. Vibe coder'lar da kod yazmakta çok iyi olmasalar bile, en azından yazılım mimarisi ya da asgari düzeyde sağduyu temelinde geliştirme yapmalı. Nihayetinde ne yönetilebilen ne de alan bilgisine dayanan fikirlerin temelsiz olduğunu ve uzun ömürlü olmayacağını düşünüyorum.
Açık olan bir şeyi uzunca yazıp bir sürü ünlü ismi sıralıyor; bence pek okunmaya değer değil.
Ben de bunun elbette bariz bir şey olduğunu düşünüyorum.
Ancak bu yazıyı yazmamın nedeni, hem bizzat deneyimlemiş olmam hem de çeşitli topluluklarda benzer şeyler duymuş olmam.
Vay canına
Eskiden beri hep söylenen bir şey. Ama sonuçta zamanın çözeceği bir sorun. 10 yıl sonra da şimdiyle aynı mı olacak?
Farklı olduğunu düşünüyorum.
Yapay zekanın bir gün, istemde bile olmayan konular hakkında şüphe duyup fikir belirtebildiği bir gün gelirse
insanın gerçekten yerini alması mümkün olabilir ama
parası çok olan insanların otomatik sürüş yerine şoförle gezmesi gibi
bir şey yap denince her bir kontrolü onun yerine yapan kişi geleceğin mühendisi (benim halim) mi olacak acaba
Mevcut LLM seviyesinde, basitçe şüphe duymaktan daha önemli olan şeyin "insanın sağduyusuna" sahip olmak olduğunu düşünüyorum.
Birkaç yıl önce ünlü bir kişi, gelecekte LLM'lerin insanların istediği şeyleri göz açıp kapayıncaya kadar geliştirebileceğini ve bu yüzden yazılım şirketlerinin ortadan kalkacağını öngörmüştü.