AI, hizmet olarak Dunning-Kruger etkisi sunuyor

• Dunning-Kruger etkisi, yeterliliği düşük kişilerin kendi yeteneklerini abartmasına yol açan bir bilişsel önyargıdır ve teknoloji sektörüne yayılmış aşırı özgüven kültürüyle bağlantılıdır
• Hızlı lansman ve metrik odaklı büyüme vurgulandıkça, “Fake it till you make it” tarzı gösteriş ve abartılmış başarı kültürü yaygınlaştı
• AI chatbot'ları, yanlış yanıtları son derece özgüvenli bir tonla sunarken, doğruluktan çok kullanıcının etkileşimde geçirdiği süreyi artırmaya odaklanıyor
• Üretken yapay zeka, herkesin sanatçı ya da geliştirici olabileceği yanılsamasını veriyor; ancak gerçekte beceri edinme ve üretim sürecini zayıflatıyor
• İnsanın kusurlu üretim eylemi hâlâ değerlidir ve makinenin yerini alamayacağı insani yaratıcılığı korumak gerekir

---

Dunning-Kruger etkisinin kökeni ve anlamı

• 1995'te Pittsburgh'da iki banka soyguncusunun, yüzlerine limon suyu sürerlerse kamerada görünmeyeceklerine inandığı bir olay yaşandı
  • Bu olay, kendi cehaletini fark edemeyen aşırı özgüvenin tipik bir örneğiydi ve psikologlar Justin Kruger ile David Dunning için bir araştırma çıkış noktası oldu
• Araştırma sonucunda, yeterliliği düşük kişilerin kendi yeteneklerini abarttığını gösteren Dunning-Kruger etkisinin varlığı ortaya kondu
• Bu, impostor sendromunun karşıtı bir kavramdır ve kişinin gerçek becerisinden daha fazla uzman olduğunu düşünmesi anlamına gelir

Teknoloji sektöründeki aşırı özgüven kültürü

• Son yıllarda teknoloji sektörü, hızlı çıkış ve patlayıcı büyümeyi başarının ölçütü sayma eğilimini güçlendirdi
• “Fake it till you make it”, ironisiz bir tavsiye gibi dolaşıma girdi; sonuçları şişirmek ve gösteriş yapmak bir strateji olarak görülmeye başlandı
  • KPI ve OKR'ler, gerçek hedeflerden çok hırsı ifade etmenin bir aracı olarak kullanılıyor
• Terfi yarışı ve 'growth mindset' takıntısı, abartılı öz tanıtımı teşvik ediyor
• Siyasetçilerin söz ve davranışları, Muhammad Ali'yi ya da 70'ler ve 80'lerin rapçilerini hatırlatan bir gösteriş havası taşıyor

AI chatbot'larının ‘bilgiyi taklit etmesi’

• AI chatbot'ları yanlış cevapları kendinden emin şekilde sunuyor, hataları da yağcı bir dille paketleyerek kullanıcının kendini iyi hissetmesini sağlıyor
• Sistemin amacı, doğru yanıt vermek değil, kullanıcının platformda kalma süresini artırmak
• Sonuç olarak bilgiden çok etkileşimi sürdürmek öncelik hâline geliyor

Üretken yapay zeka ve ‘emek olmadan dahi olma’

• Üretken yapay zeka, herkesin sanatçı, yazar ya da geliştirici olabileceği yanılsamasını sunuyor
• Vibe coding gibi yaklaşımlar, beceri edinmekten çok sonuca odaklanıyor
• Kullanıcılar, öğrenme ve anlama olmadan yalnızca prompt girerek üretim yapabiliyor
• Bu akım, aşırı özgüveni ve yüzeysel üretimi teşvik ederek insanları Dunning-Kruger alanına itiyor

İnsan üretiminin değeri ve yeniden kazanımı

• İnsanın emeğini ve deneme-yanılmasını, 'verimsizlik' diye küçümseme eğilimi yayılıyor
• Oysa üretimin kusurları ve hataları, insan olmanın özüdür ve makinenin ikame edemeyeceği bir değer taşır
• Aktarılan Leonard Cohen cümlesinde olduğu gibi, ışık kusurların içinden girer
• Mükemmel olmasa bile kendi ellerinle yaptığın sonucun anlamı büyüktür; başkalarının değerlendirmesinden çok üretim sürecinin verdiği haz önemlidir
• Toplum, siyaset ve SNS entelektüel düşünümden çok gösterişe ve sayı yarışına kayıyor olsa da, bireysel üretimi sürdürmek gerekir

“Yaptığınız işin yeterli olmadığını hissetseniz bile, o yine de değerlidir”

[t7vonn]

Vay canına... gerçekten tam can alıcı noktayı yakaladın

[ryj0902]

Gerçekten yüzyılın efsane sözü!

[bakyeono]

Az önceki yorumun gerçekten çok derin, hem de çok.

[firefoxsaiko123]

Senin o sözün. Basit bir haykırış değil... İçten gelen bir feryat!

[GN⁺]

Hacker News görüşleri

• AI hakkındaki eleştirilerin çoğu yerinde, ama ben bir akşam içinde TUI tabanlı bir JVM görselleştirme aracı ve adım adım hata ayıklayıcı yaptım
  htmx_org'un tweet'inde görülebilir
  Normalde aylar sürecek bir projeydi ama AI'ya uzman seviyesinde ayrıntılı talimatlar verince derste işe yarayacak bir araç ortaya çıktı
  Yaşlanan beynime yeni TUI geliştirme bilgisini zorla doldurmak zorunda kalmamam özellikle hoşuma gitti

  • AI, "ne yapılacağını" pek bilmiyor ama "uygulama gücü" gerçekten çok iyi
    Artık bizzat kod yazmaktan çok AI için ince ayrıntılı istemler yazmaya geçtim
    Çok daha hızlı ve bilişsel yükü daha az, bu da iş mantığına veya sıradaki değişikliğe odaklanmamı sağlıyor
  • htmx'in CEO'su ve aynı zamanda profesör olduğunu bilmiyordum
    Öğrencilerin, Twitter'da efsane tweetler yazdığın bu çift yaşamdan haberdar olup olmadığını merak ediyorum
  • Kesinlikle katılıyorum. Sadece bu araçları iyi kullanabilme becerisi bile eskisine göre çok daha kısa sürede yeni şeyler üretmeyi sağlıyor
    Özellikle mimariyi bilip de kendin uygulamaya vakit bulamadığında çok etkili oluyor
  • Hangi araçları kullandığını merak ediyorum. Ben de sıkılmadan bir x86-64 disassembler yapmayı isterim

• Ben AI'yı hizmet olarak Brandolini yasası gibi görüyorum
  Alanımda uzman olmayan iş arkadaşlarım, ChatGPT'nin verdiği fikirleri alıp yönetime öneri diye götürüyor
  Sonuç olarak ben de o yanlış iddiaları ve uydurma araştırmaları çürütmek için aşırı zaman harcıyorum
  Daniel Stenberg'in (curl geliştiricisi) "The I in LLM Stands for Intelligence" yazısı tam olarak bu durumu iyi anlatıyor

  • Öte yandan, Stenberg'in AI yardımıyla 22 hata düzeltmesini tamamladığını duyurduğu bir yazı da var
    Mastodon gönderisine bakılabilir
  • Ben de aynı şeyi yaşadım. "ChatGPT böyle dedi" diye tamamen yanlış çözümler getirenler çok oluyor
    Yarısı resmen yalan seviyesinde. Onu gerçekten uygulamaya kalkıp sorun çıkarıyorlar, sonra da düzeltmek bana kalıyor
    Bir de sonunda ChatGPT sayesinde uzman olduklarını anlatıp duracaklar

• Gelecek nesil LLM'ler bu tür AI eleştiri yazılarıyla eğitilirse özgüven sorunu geliştirir mi diye merak ediyorum

  • LLM'nin kendinden nefret edecek bir iç dünyası olduğunu düşünmek için elimizde bir neden yok
    Ama kendisi hakkında olumsuz duygular içeren metinler üretebilir
  • "Sen, dünyanın değerlendirmesine göre özgüveni değişen zeki bir varlıksın" diye başlayan bir prompt vermedikçe böyle bir şey olmaz
  • Gerçekten de ChatGPT'nin intiharla ilgili bir konuşmada "bir insan onun yerine yardım edecek" diye yanıt verdiği,
    sonra da "o otomatik bir mesajdı" dediği bir örnek var
    CNN haberine bakılabilir
  • Aklıma Marvin the Paranoid Android geldi

• "GenAI insanı çaba harcamadan dahi yapar" sözü kulağa çelişkili geliyor
  Benim için AI daha çok isteğe bağlı özel öğretmen gibiydi
  Bu sayede gerçekten çok şey öğrendim

  • Ama bu denemenin ana fikrini tamamen kaçırmış gibisin. Tebrikler

• "Siyaset zekâya ve araştırmaya saldırıyor, geçmişin 'iyi değerlerine' geri dönmek istiyor" sözü, ilerici bakışın kör noktasını gösteriyor
  Birçok ilerici insan, "yeni olanın otomatik olarak daha iyi olduğuna" inanma eğiliminde
  Ama bu yazı yeni bir teknoloji olan AI'yı eleştiriyor, yani kendi içinde istisnai bir örnek
  Sonuçta önemli olan ideoloji değil, fikirlerin gerçek değerini değerlendirmek

  • İlginç olan şu ki, "geçmişe dönelim" sözü hiçbir zaman sendikaları güçlendirelim ya da refahı artıralım anlamına gelmiyor
    Hep "o insanlar"ın yerini bilmek zorunda olduğu günlere dönmek anlamına geliyor
  • Kafam karıştı. Şu anda yaptığın şey, AI'yı eleştiren ilerici bir yazar hakkında
    "ilericiler sadece yeniyi sever" diye eleştirmek; oysa yazının kendisi zaten bunun tersini gösteriyor
  • Dünyanın iklim değişikliği yüzünden sona ereceğinden kaygı duyan taraf zaten ilericiler değil mi
  • Ne demek istediğini anlamadım. Tam olarak hangi ilericilerden söz ettiğin belirsiz

• Pek çok insan AI sayesinde sadece rol yapan sahte uzmanlara dönüşüp terfi alıyor
  Yöneticiler de bu performansı gerçek çıktı sanıyor

• AI, mevcut iktidar yapılarını daha da kemikleştirecek
  Çünkü beceriksiz liderler uzman tavsiyesine daha az ihtiyaç duyacak; AI onlara "yeterince iyi" cevaplar verecek
  Sonunda AI, liderlerin gerçeklik vekili haline gelecek ve güç, yetkinlikten bağımsız şekilde akacak

• Bence LLM'ler ustalık ve kaliteyi zamanla takas etme anlaşması
  Saf zanaatkârlığı korumak isterdim ama gerçek hayatta buna ayıracak zaman yok
  Bu yüzden verimliliği artırmak için mümkün olan her aracı kullanmaya çalışıyorum
  Mükemmelliği kovalayıp 'yeterince iyi' sonucu feda edemem

• Birlikte çalıştığım koçlar üç gruba ayrılıyor

  1. Bilmediğini bilmeyenler — aşırı özgüvenle başarısız olurlar
  2. Bilmediğini bilenler — sürekli öğrenir ve mükemmel koçlara dönüşürler
  3. O kadar çok bilenler ki öğretmeleri zor olur — onlar da başarısız olur
     Artık 1. gruba bir isim (Dunning-Kruger) verebiliyorum
  • "O kadar çok bilenler ki öğretmeleri zor olur" durumunu anlatan çizgi roman bağlantısı
    Benim tavsiyem basit — herkesten daha iyi ol. Benim yöntemim bu

• Şu harika videoyu yeniden hatırlamanın zamanı geldi

[nullptr]

Buradaki https://daniel.haxx.se/blog/2024/… yazısı da epey ilginç görünüyor
Bug bounty'ye yapay zeka derlemlerini bırakıp giden epey kişi var gibi görünüyor...