- Büyük dil modelleri (LLM) ile yapılan sohbetler, kullanıcıların gerçekte olduğundan daha fazlasını bildiğini hissetmesine yol açan özgüven yanılsamasını güçlendiriyor
- Kullanıcılar sohbetten sonra çoğu zaman yanlış bilgiye güven duyan bir halde kalıyor; bu da tekrar tekrar kullanımı teşvik eden psikolojik bir bağımlılık yapısı taşıyor
- LLM'ler fikirleri genişletip düşünceyi büyütüyor, ancak aynı zamanda kendini kandırmayı güçlendiren araçlar olarak da işleyebiliyor
- Teknik olarak istatistiksel çıkarım ve büyük ölçekli eğitim kaynakları kullanımına dayanan görece basit bir yapıya sahip olsalar da, toplumsal etkileri çok büyük
- Bu modelleri bilgi motoru değil, bir ‘özgüven motoru’ olarak anlamak gerekiyor; insan düşüncesi ile dil kullanım biçimini kökten değiştiriyorlar
Özgüven yanılsaması ve LLM'lerin psikolojik etkisi
- Bertrand Russell'ın “The Triumph of Stupidity” alıntısı üzerinden cehaletten gelen kesinlik ile entelektüel kuşku arasındaki karşıtlığa değiniliyor
- Russell, “Dünyadaki sorun şu ki aptallar kendilerinden çok emindir, bilge insanlar ise kuşkuyla doludur” diye ifade ediyor
- LLM'lerle yapılan konuşmalarda kullanıcılar yanlış bilgilere rağmen kendinden emin olma eğilimi gösteriyor
- ChatGPT bir şeye “iyi fikir” dediğinde, gerçekte çoğu zaman öyle olmuyor
- Yazar, LLM'lerle etkileşim sonrası sık sık bilgisinin arttığı yanılgısını yaşadığını söylüyor
- Bilginin yanlış olduğunu fark etse bile, özgüvenin verdiği haz nedeniyle tekrar tekrar kullanmaya yöneliyor
- Bu deneyim psikolojik bağımlılık niteliği taşıyor ve kullanıcılar fikirlerini geliştirirken giderek LLM'lere bağımlı hale geliyor
- Günlük durumlarda bile LLM'ye soru sorma dürtüsü doğuyor (“Çantamı kaybettiğimde ChatGPT'ye sormayı düşündüm”)
Düşünceyi büyütmenin ve kendini kandırmanın iki yüzü
- LLM'ler düşünceyi büyüten bir ayna olarak tasvir ediliyor
- Kullanıcının düşüncelerini farklı yönlere genişletiyor, bazen de ilginç sonuçlar ortaya çıkarıyor
- Ancak bu büyütme etkisi iki ucu keskin bir kılıç; iyi fikirleri geliştirebildiği gibi yanlış düşünceleri de pekiştiriyor
- LLM'ler hataları akıcı ve otoriter bir tonla paketleyerek bir psikolojik tuzak yaratıyor
Teknik yapı ve ilgi arasındaki dengesizlik
- Yazar, LLM'leri “sıkıcı bir teknoloji” olarak değerlendiriyor
- Özünde bir olasılıksal kara kutu ve eğitim süreci istatistiksel çıkarımın tekrarından ibaret
- Son dönemde yazılım ve donanım alanında yenilikler olsa da, LLM'lere özgü yeniliğin sınırlı olduğu belirtiliyor
- “Gerçek yenilik, devasa miktarda para harcanıp çok büyük ölçekte eğitilmesi olabilir” deniyor
- RLHF (insan geri bildirimiyle pekiştirmeli öğrenme) olası bir istisnai yenilik olarak anılıyor
Toplumsal ve dilsel dönüşümün etkisi
- LLM'lerin asıl ilgi çekici yanı teknolojinin kendisinden çok toplumsal etkisi
- Eğitimde, emekte ve toplum genelinde önemli değişimlerin habercisi olarak görülüyor
- Dil, insan kimliğinin çekirdeğinde yer alıyor ve makineler dil alanına girdiği anda değişim başladı
- Bu değişimin özü henüz net değil, ama “değişimin akıntısı hareket ediyor” duygusu var
Bilgi motoru değil, özgüven motoru
- LLM'lere bilgi sağlayan motorlar değil, özgüven üreten motorlar olarak bakmak gerekiyor
- Bu, yakın ve orta vadeli geleceğin temel özelliklerini açıklayan bir kavram olarak sunuluyor
- İnsan düşüncesi ile dil kullanımı, mekanik özgüven üretim mekanizmalarıyla birleşirken yeni toplumsal örüntüler oluşuyor
2 yorum
Yapay zeka, ‘Dunning-Kruger etkisini’ hizmet olarak sunuyor
Hacker News yorumu
LLM kullandığım her seferde aslında daha da aptallaşıyormuşum gibi hissediyorum
Kendi başıma çalışıp edindiğim bilgi değil de yaslanıyormuşum hissi daha baskın olduğu için özgüvenim azalıyor
Kitaplar ya da makaleler gibi birden fazla kaynağı çapraz doğrulama alışkanlığım var, bu yüzden LLM’in yanıtları bana sadece bir ortalama gibi geliyor
Ama şimdi insanlar Wikipedia’yı neredeyse mutlak gerçekmiş gibi alıntılıyor. Bence zamanla LLM’ler için de aynı şey olacak
Hatta API’nin çöktüğünden şikayet ediyorlar ama aslında chatbot endpoint uydurmuş oluyor
Sonunda kendi başıma araştırma yapma ve deneyerek öğrenme çabam azalıyor. Sanırım bu aracı gerçekten iyi kullanabilenler yalnızca disiplinli insanlar olacak
LLM tam olarak Bill Bryson’ın kitapları gibi; kulağa makul ve otoriter geliyor ama gerçekten bildiğin bir alanda bakınca çok hata olduğunu fark ediyorsun
Yine de bir sonraki soruda yeniden ona bel bağlamaya devam ediyoruz
Mesela 1990 model bir Miata’ya anahtar takmaya çalışıyordum; LLM sayesinde röle ve DPDT switch kavramlarını ilk kez öğrendim
Devre şeması yanlıştı ama ne yönde çalışmam gerektiğini anlamamda yardımcı oldu
Buna karşılık bilmediğimiz alanlarda temel düzeyde bir cevap bile yeterince etkileyici görünüyor
Bilmeyen birine makul gelebilir ama yanlış bilgi üstüne düşünce inşa edersen sonuçta daha da çarpıtılmış bir sonuca varırsın
Konuşmayı burada görebilirsiniz
Üniversitede ders dinlerken de benzer bir his vardı
Derste her şeyi anlamışım gibi gelirdi ama soruları bizzat çözmeye başlayınca ne kadar çok eksik kaldığını fark ederdim
Kod, dersin bağlamını yansıtmadığı için hatalar veriyor ve sonuçta o kısmı benim düzeltmem gerekiyor
Zorlanmadan öğrenince daha iyi öğrenmişsin gibi hissedersin ama gerçekte öyle değildir
Örneğin Claude binamın temelinin tehlikeli olduğunu söyledi ama gerçek denetçi gülüp hiçbir sorun olmadığını söyledi
Matematik ve fizik subreddit’lerinde de ara sıra ChatGPT ile birlikte fiziğin birleşik teorisini kurduk tarzı paylaşımlar çıkıyor
Eskiden de böyle insanlar vardı ama LLM’den sonra çok daha fazlalaştılar
İlgili haber: Gizmodo bağlantısı
LLM okuma deneyimi gazete okumaya benziyor
Bilmediğin alanlarda çok şey öğrenmiş gibi hissediyorsun ama bildiğin alanlarda saçmalık olduğunu hemen fark ediyorsun
Bu yüzden bilmediğim konularda ne kadar yanlış olabileceği beni düşündürüyor
Wikipedia açıklaması
Herkes yayın yapabiliyor ve videoları manipüle etmek de artık kolaylaştı
Sonuçta önemli olan şey kaynak seçebilme becerisi
Bir insandan bilgi dinlerken yaptığım gibi ChatGPT’ye de kaynak ve güvenilirlik filtresi uyguluyorum
Cevabı duyduğumda ‘bilgi edindim’den çok araştırılacak bir yön buldum hissi oluşuyor
Anlamadığın bir cümlede ‘sorun benim bilmemem değil, metnin anlamsız olması da olabilir’ diye varsayma tutumu
Sonuçta zaman geçtikçe yanlış bilgiler de dünya görüşümün içine karışıyor
LLM’in geleceği hakkında kesin konuşuyormuş gibi yapan çok fazla yazı var
Ama tarihe bakınca, niceliğin (Quantity) niteliği değiştirdiği pek çok örnek görüyoruz
Satranç motorları, Google araması, Wikipedia; hepsi basit ilkelerle başladı ama veri ölçeği yeniliği yarattı
LLM de basit matris çarpımından ibaret olabilir ama belki de ‘etin (meat)’ düşündüğü gibi yeni bir zekâ ortaya çıkabilir
“LLM, bilgi motoru değil güven motorudur” sözü akılda kalıcı
Teknik bir sorun sorduğumda “bu bilinen bir sorun” diye yanıt verirse, demek ki aptal olan ben değilim, mesele gerçekten zormuş diye rahatlıyorum
Mesela WebStorm’da debugger varsayılan sekmesini değiştirmeye çalışıyordum; AI “bunun bir yolu yok” dedi ve boş yere zaman harcamamı önledi
Uydurduğum bir problemi bile “evet, bu bilinen bir issue” diyerek gayet inandırıcı biçimde satabiliyor
Ben LLM’i otorite kaynağı olarak değil, düşüncenin aynası olarak kullanıyorum
Kendi düşüncemi anlatırken kendi karışıklığımı ya da mantıksal kusurlarımı fark ediyorum
Dil zaten doğası gereği belirsiz; LLM ise bu belirsizliği istatistik yoluyla görünür kılıyor
Bu yüzden eleştirel yaklaşırsan aslında düşünceyi rafine eden bir araç olabiliyor
Sonuçta ne insanların ne de AI’ın kusursuz olduğunu kabul etmek ve yabancı birine yaklaşır gibi kuşkuyla yaklaşmak önemli
“LLM bilgi değil, özgüven üretiyor” sözüne katılıyorum
Mükemmel olmasa bile özgüvenle harekete geçmek, bazen daha iyi sonuçlar doğuruyor
Özellikle aşırı temkinli insanlar için özgüvenin kendisi üretkenliğin anahtarı olabilir
Dayanaksız bir kesinlik başkalarına güven verir ve bu tekrarlandıkça insan tevazu ve tereddüt etmeyi öğrenir
Bu yüzden akademik tutum bazen kendini sınırlayan bir hale de gelebilir