- Good Will Hunting’deki bank sahnesi, kitaplardan bilinen bilgi ile gerçekten yaşanmış deneyim arasındaki fark üzerinden AI slop, sonsuz tavsiye ve çevrimiçi gürültünün gözden kaçırdığını gösteriyor
- AI interneti okudu ama durumu okuyamadı ya da bir hayat yaşamadı; bilgisi var ama duygu ve deneyimi yok, yazının temel karşıtlığı da bu
- Robin Williams’ın performansı, aynı senaryo verilse bile herkesin onu aynı şekilde hayata geçiremeyeceğinin bir örneği; sanat, bilgiyi sıralamak değil, hayat deneyimini anlam olarak sentezlemek işine daha yakın
- İnternette, senaryosu olup oyunculuğu eksikmiş gibi duran çok içerik var; piyasa da zor yaratım yerine daha fazla içerik üreten araçların kullanımını öne çıkarıyor
- İnsanların ihtiyaç duyduğu temel, AI’ın large language model’i değil, little life moments; herkes kendi deneyimini ve bakışını işine kattığında, yerine konması zor bir değer ortaya çıkıyor
Good Will Hunting sahnesinin gösterdiği bilgi ve deneyim farkı
- Çıkış noktası, Good Will Hunting’de Sean yani Robin Williams’ın Boston Public Garden’daki bankta Will’e konuştuğu sahne
- Sean, Will’in sanat, Michelangelo, savaş, aşk ve kayıp hakkında kitaplardan ve alıntılardan konuşabildiğini ama bunları gerçekten yaşamadığını sert biçimde yüzüne vuruyor
- Sistine Chapel’in kokusunu hiç almamış olmak
- Sevdiğin birinin yanında gerçek mutluluğu hiç hissetmemiş olmak
- Savaş alanında bir arkadaşının son nefesine tanıklık etmemiş olmak
- Hastanede iki ay boyunca oturup uyuyarak sevdiğin birinin elini tutmamış olmak
- Oliver Twist okumuş olmak, yetim hayatını bildiğin anlamına gelmediği gibi, kitaplardan öğrenilen bilgi de bir insanın gerçek yaşamını kuşatamaz
- Esas nokta, uzmanlık bilgisi ile bilgelik, teori ile deneyim, bilmek ile yaşamak arasında bir mesafe olduğudur
AI interneti okudu ama hayat yaşamadı
- Will, çok kitap ve teori bilen biri olması bakımından insansı bir ChatGPT gibi çiziliyor
- Buna karşılık Sean’ın, Will’de olmayan deneyimleri var
- Savaşı, aşkı, hastalığı, kaybı, umudu, hayalleri, başarısızlığı ve başarıyı bizzat yaşamış olması
- Will’in Boston dışına hiç çıkmamış olması ve incinecek kadar birine yakın olmaktan korkması
- AI interneti okudu ama odanın havasını okuyamıyor ve bir hayat da yaşamış değil
- Bir şeyleri bilip anlatabiliyor ama hissedemiyor ya da deneyimlemiyor; canlı olmadığı için doğrudan yaşanmış deneyime sahip olması da mümkün değil
- Çevrimiçindeki pek çok ses, başarının “sırrını” ya da “sihirli” araçlarını satarken, insanın yaşadığı kişisel deneyimin daha az önemli olduğu izlenimini yaratıyor
Yalnızca bilmek, anlamlı işler üretmek için yetmez
- “Savaş hakkında okumak” ile “savaşın içinde olmak” farklı şeylerdir
- “Aşk hakkında okumak” ile “aşık olmak” da temelden farklı deneyimlerdir
- Oliver Twist okumak, yetim olarak yaşamakla aynı şey değildir
- İnternet ve çevrimiçi tavsiyeler, bilginin sonsuz olduğu, başkalarının daha çok bildiği ve yazılımın cevabı söyleyebileceği fikriyle, insanın kendi deneyimini ve özgüvenini geri çekmesi yönünde baskı yaratıyor
- Oysa kişisel hayat, sonsuz bilgi karşısında silinen bir unsur değil; tam tersine farkı yaratan temel
Aynı senaryo, aynı performans anlamına gelmez
- Robin Williams’ın performansı, aynı senaryoyu alsa bile başka bir oyuncunun onu birebir aynı şekilde yapamayacağının örneği olarak kullanılıyor
- Senaryoda kelimeler var ama Williams o kelimelere canlılık katıyor
- Oyuncular ve sanatçılar, bilgiyi doğru sıraya koymakla kalmaz; duyguyu bedende nasıl somutlaştıracaklarını ve aktaracaklarını da seçer
- Buna karşılık bilimsel keşifler için, yeterli zaman ve kaynak olursa başka bir bilim insanının aynı gerçeğe ulaşabileceği söylenebilir
- Sanat ise farklı çalışır
- İki sanatçı bağımsız biçimde tamamen aynı sonucu üretemez
- Sanat, dışarıdaki bir gerçeği bulmak değil, o gerçeği içeride anlam olarak sentezlemek işidir
- Çünkü hiçbir iki insan hayatı aynı ritimde, aynı ayrıntılarla yaşamaz
Neden kendi hayatını işine katmalısın
- Çevrimiçindeki birçok iş, yaratıcısının oyunculuğu unuttuğu bir senaryo gibi hissettiriyor
- Kelimeler var ama canlılık yok
- Piyasa da böyle içerikleri daha çok üretmeye yarayan araçlar sunup, insanın bunu daha iyi yapamayacağı mesajını ekliyor
- Her şeyi bilime indirgeme eğilimi içinde yapılması gereken, bunu sanat düzeyine yükseltmek
- Hem AI’ın hem insanların LLM tabanlı olduğu yönünde bir kelime oyunu yapılıyor
- AI’da large language model var
- İnsanda little life moments var
- Sorun, insanların kendi küçük hayat anlarını yeterince tutarlı ve kendinden emin biçimde ortaya koymaması
- Alana yeni giren biri için de, 40 yıllık bir uzman için de, bilinmeyen bir ses için de, çok tanınan bir hikâye anlatıcısı için de önemli olan, kendi hayatını işine taşımak ve kendi “LLM”ini kullanmak
- Benzer uzmanlığa ve becerilere, benzer konulara sahip çok kişi olabilir ama insanları birbirinden ayıran şey dünyayı nasıl gördükleridir
- Okuyucu ya da izleyici, kitaplardan, yazılardan, videolardan ya da AI özetlerinden öğrenebileceği şeylerle tek başına yeterince öğrenmiş olmaz
- Kendi deneyimini ve bakışını ortaya koyduğunda, yaptığın iş canlı hale gelir
1 yorum
Hacker News yorumları
İyi yazılmış bir monolog ve aktarımı da harika, ama bence bu argüman büyük ölçüde başarısız oluyor
Damon, Affleck, Williams, Van Sant, Reiner, Goldman arasında kimsenin cephede savaşmış, bir arkadaşının kollarında ölmesini yaşamış ya da eşini kanserden kaybetmiş gibi görünmüyor
Buna rağmen hikâye anlatma becerileriyle başkalarının hikâyelerine dayanan replikler yazıp aktardılar ve sonuçta, neredeyse 30 yıl sonra bile sevgiyle dönüp baktığımız, sezgilerimizi harekete geçiren bir sahne ortaya çıktı
Bu yüzden “orada bulunmuş olmak”ın derin bir anlam taşıdığı kesin; ama bir şeyi bizzat yaşamadan da onu etkili biçimde ifade etmenin ve başkalarını etkilemenin kapsamına dair net bir sınır olup olmadığı belirsiz
Çok fazla film izlediğim için gerçekliğin ne olduğu, neyin mümkün olduğu ve neyin inandırıcı olduğu konusunda tuhaf izlenimler ediniyorum sanki
Annemin yatağının başucunda mucizevi şekilde iyileşmesini isterken aynı anda acısının bitmesini dilemenin insanın beynini nasıl yakıp kavurduğunu biliyorum
Kızımın bezini binlerce kez değiştirdim ve ne kadar kaka bulaştığının hiç önemi yoktu. Yeniden yapmam gerekse hemen yaparım. Ama bunlar film olmaz
Bu tür şeylerin insana verip makineye veremediği şey empatidir. Kitap okuyarak edinilemeyecek bir bakış açısı kazandım; hayatın sonsuz olmadığını, bu yüzden onu sevinçle kurmak ve boşa harcamamak gerektiğini öğrendim
Çocuklar kayıp karşısında büyük bir teselli ve benim durumumda ölümden daha az korkar oldum; çünkü çocuğuma herhangi bir şekilde başarısız olmak, ölümden daha önemli görünüyor
Bir erkeğin çocuğuna şefkat ve sevgi gösterdiğini gördüğümde içim kabarıyor. Başka açılardan en iyi insan olmasa bile, en belirleyici tek şeyi doğru yapmış diye düşünüyorum
Bunları sözle de aktarmak ve ilham vermek mümkün, ama duyguyu gerçekten aktarmak zor; insanlar da duyguyu görmezden gelme ayartısına güçlü biçimde kapılabiliyor
Ne kadar zengin olurlarsa olsunlar, sürekli meşgul oldukları için çocuklarıyla ilgilenemeyen insanlara imrenmiyorum. Benim ölçüme göre trilyonlarca dolardan daha önemli bir şeyi boşa harcıyorlar
Oyunculuğun bir kısmı uydurulmuş muydu? Elbette. Fazla ileriye uzanıyor muydu? Kesinlikle. Savaş alanına gitmeden savaş alanının nasıl olduğunu bilemezsiniz
Oradan ayrıldıktan sonra tuhaf bir normalliğin rahatsız edici biçimde kırılmasını, dünyanın geri kalanının rengini ve gerçeklik hissini kaybetmesini sözlerle açıklayamazsınız. Hayatınızın aşkını kaybetmenin nasıl bir şey olduğunu da gerçekten başınıza gelmeden bilemezsiniz
Bu yüzden o monoloğun bazı kısımları boş tınlıyor, ama hepsi değil. Zaten eğlence sektörünün özü de bu. Elinizde olanla çalışırsınız; kusursuz olmak zorunda değildir
LLM’lere insan muamelesi yapıp çıktılarının derinlikliymiş gibi kabul edilmesi ya da LLM’nin öyleymiş gibi davranarak insanları rahatlatmasının tehlikesine dair yeniden paketlenmiş bir eleştiri olarak ise mesajını veriyor
Yazı, iyi bir ev yemeği kahvaltısının önemli olduğunu söylemek gibi. Robin Williams marketten alınmış bir paket pankek gibi; ChatGPT ise insanlığı öğütüp yeniden oluşturması bakımından Soylent Greene daha yakın
Aksine buna karşı kanıtlar da var. Yapay zeka insanlarda bu şekilde yankı uyandıran film senaryoları yazamıyor, stand-up komedyenlerinin yaptığı işi de yapamıyor
Bu farkın kapanıp kapanamayacağı ve ne zaman kapanacağı tartışmalı. İlke olarak mümkün olduğunu düşünüyorum, ama yakın zamanda gerçekleşecek gibi görünmüyor
Yine de yazının bazı yerleri muğlak. Okuduğumuz yazılar ve kitaplar da sonuçta kâğıt üzerindeki kelimeler; LLM’ler de benzer biçimde bu tür bir mecrayı kullandığı için, metnin ilerleyen kısmında argümanı icra edilen performans tarafına kaydırmaya çalışmış gibi
Buna rağmen yazarın vermek istediği mesaj anlaşılıyor. Yaşanmış deneyimler aracılığıyla önemli olan şeyler kristalleşip rafine olur; böylece başkasından ödünç alınmış ikinci el görüşler değil, gerçek birinci el görüşler edinilebilir
Bu tür birinci el deneyimler çoğu zaman başkaları için en değerli olanlardır; ama yalnızca biçimi taklit eden yazıların ya da tamamen üretilmiş düşük kaliteli üretimlerin taşkını içinde gömülürlerse bulunmaları daha da zorlaşır
Katılıyorum
Bu Robin Williams monoloğu, LLM’lerin bizi neden bu kadar rahatsız ettiğini tam olarak yakalıyor
LLM, sahip olamayacağı deneyimler hakkında akıcı ve kendinden emin konuşuyor. Çileğin tadına bakamaz, Robin Williams’ın sıraladığı şeylerin hiçbirini yapamaz
Bu makineleri yapan insanlar arasında, makinelerin bizi ikame edeceğine ve bizden daha güçlü olacaklarına, dolayısıyla anlamlı hiçbir şeyin kaybolmayacağına kelimenin tam anlamıyla inananlar var
Bu klibi izlemeliler. Muhtemelen izleseler de anlamazlar gerçi
Bunun deyimsel bir kullanım olduğunu biliyorum, ama bu şeyin hiçbir şey yapmadığını, hiçbir şey öğrenmediğini, bir şeyi deneyip keşfedemeyeceğini hatırlatıyor
Buna rağmen, bu işleri gerçekten yapabilen ve yapmış insanlardan gelen konuşma kalıplarını kullanıyor
Mesele, LLM’yi “konuşan bir fail” diye insanlaştırmamak; onu yeni nesil arama motoru olarak görmek. Doğal dil giriş-çıkış arayüzü yalnızca bir yan etki
Öyleyse sizin için gerçek deneyim nedir, ya da aradaki farkı ayırt edemiyorsak bunun önemi var mı, merak ediyorum
Onlarca yıl önce filmde izlediğimde o konuşmayı nasıl karşıladığımı hatırlamıyorum. Şimdi okuyunca fazla kendini beğenmiş ve vaaz verir tonda geliyor
“Ben senin yaşamadığın deneyimleri yaşadım, bu yüzden daha bilgeyim ve daha iyi bilirim” gibi. Bir açıdan doğru, ama başka bir açıdan da aşırı özgüvene yol açıp daha büyük hatalara giden bir yol
Şimdi 50’lerimin ortasındayım; 20’lerimin başına göre çok daha fazla şey öğrendim ve deneyimledim, ama esas öğrendiğim şey ne kadar çok şeyi bilmediğim
Bir şeyi gerçekten derin ve yakın biçimde bildiğimi hissetmiyorsam Williams’ın karakteri gibi güçlü görüşlere sahip olmak zor; bunun kapsamı da epey daraldı
Çünkü hem kendimin hem başkalarının bir şeyi yeterince anladığını defalarca düşündüğünü, sonra da işlerin kimsenin öngörmediği biçimlerde ters gittiğini görüp durdum
Oliver Twist’i okumuş olmasının o “çocuğa” ne hissetmesi gerektiğini söylemesine yetmeyeceğini biliyor ve aynı ilkenin kendisi için de geçerli olduğunun farkında
Asıl nokta “ben senden üstünüm” değil; deneyimin, yalnızca okumaktan farklı türde bir bilgi verdiği
Ve deneyim okumaktan daha fazlasını içerdiği için bu bilginin daha bütünlüklü olduğu da söylenebilir
40’larının ortasında bir psikolog karakterine hiç yakışmıyordu; tüm konuşma Matt Damon’ın karakterini küçümseme biçimi gibi görünüyordu
Kendisinin de anlamadığı deneyimler olduğunu alçakgönüllülükle söylemesi, örneğin yetim yaşamanın nasıl bir şey olduğunu bilmediğini belirtmesi, o konuşmayı daha iyi yapmıyor
En azından o çocuğun muhtemelen acı çektiğini ve kurtarılmaya değer olma ihtimalinin yüksek olduğunu bilebiliriz
Hiçbir şeyi kesin olarak bilemiyor olmak, hiçbir şey yapmamak gerektiği sonucunu doğurmaz; belirsizliğin derecesini dikkate alarak hareket etmek gerekir
Şu anda anestezi olmadan dişimin çekilmesini istemediğimden oldukça eminim; ama uluslararası ticaret politikalarından hangisinin en iyisi olduğu konusunda çok daha az eminim
Uzun süredir doğal kabul ettiğimiz şeyleri sorgulayıp analiz etmenin sağlıklı olduğunu düşünüyorum. Russell ve başka filozoflar da buna benzer şeyler söylemişti
Ancak bu alıştırma günlük yaşamdan bir ölçüde ayrı tutularak, aşırıya kaçmadan iyi bir dozda yapılmalı
Plato, mağara alegorisiyle daha iyi bir yanıt vermişti
https://en.wikipedia.org/wiki/Allegory_of_the_cave
Yapay zekanın erişebildiği bilgilerin tamamı metinden çıkarılmıştır ve önemli bakımlardan mağara duvarındaki gölgelerden pek de farklı değildir
Muhtemelen başka alanlarda da mümkündür, ama en azından bu alanlar büyük ölçekte yapılabilir
Yakında savaşa da sokulacak. Propagandayı dahil edersek zaten girmiş durumda
Yaşam deneyimine dair bu güzel konuşmanın, 20’lerindeki iki “korkmuş çocuk” tarafından yazılıp Robin Williams’a teslim edilmiş olmasını hep ironik bulmuşumdur
“Bizde bu var ama şu yok” diyebilmeleri
Karşı argüman:
“Siz insanların inanamayacağı şeyler gördüm. Orion’un omzunun ötesinde alevler içindeki saldırı gemileri. Tannhäuser Kapısı yakınlarında karanlıkta parıldayan C-beam’ler gördüm. Tüm o anlar zaman içinde kaybolacak, yağmurdaki gözyaşları gibi. Ölme zamanı”
— Roy Batty
İnsanlar, köle sınıfını zihnen meşrulaştırmayı kolaylaştırmak için onlara robot gibi davranıyor
Roy’un zihni insan zihninden ayırt edilemiyordu; bu yüzden insanlar ondan korkup ona yapay olarak kısa bir ömür biçtiler
Alıntıladığın replik aksine onun insanlığını kanıtlıyor
Gerçekten bir fark var mı? “Sen kitap okuyup çok şey bildiğini sanıyorsun, ama ben gerçekten yaşadığım için gerçekten anlıyorum” demek bu
En fazla insan kendi deneyimini anlar; hayatımın büyük kısmı için bile böyle bir iddiada bulunabileceğimi sanmıyorum. Hatta kitaplardan daha çok şey öğrenmek mümkün olabilir
Elbette hayat yaşanan bir şeydir ve yalnızca bir kez yaşanır türünden sözler doğru. Ama yapay zekanın “orada gerçekten bulunmadığı için” bilmediği iddiası, androidlerin Tanrı tarafından yaratılmadığı için gerçek olmadığı iddiasına yakın bir koku taşıyor
Üstelik bizim düşündüğümüz bulanık “bilme” anlamında yapay zekanın hiçbir şey bilmediği ayrı bir mesele
Bu konuda net bir görüşüm yok, ama yazının çerçevesi bana hitap etmedi. Yine de filmi tekrar izlemek istememe yol açtı
Havadan gerekçeler aramayı bırakıp evrilmek gerekiyor. Seni değerli kıldığını sandığın şey değersizleşti
Zaten en başta çıktılarından ibaret değildin; ama kendini öyle gördüğün ve özsaygını oradan aldığın için şimdi yapay zekaya karşı eline geçen her argümana sarılıyorsun
Ama buna gerek yok. Değerin hiçbir zaman başkalarının anlamadığı bilgisayar işlerini yapabilmende yatmıyordu
Şimdi uyum sağlayıp yola devam etmek gerekiyor
Mark Twain’in şu alıntısı aklıma geldi
Bu Good Will Hunting klibi gerçekten vibe coding ile dalga geçen bir sahne mi?
Daha çok bir Linux çekirdek mühendisinin bir React geliştiricisine yukarıdan bakarak konuşmasına benziyor