- Julien Crockett, Ted Chiang ile bir araya gelerek dilin doğası, yapay zekanın mevcut durumu, teknolojik gelişimin yönü gibi geniş bir konu yelpazesi hakkında konuşuyor
- Bu söyleşi, değişen kurallar içinde insanların nasıl yaşaması gerektiğini ele alan “The Rules We Live By” serisinin bir parçası
- Ted Chiang, makine öğrenimi modellerinin sınırlarını keskin biçimde eleştirel gözle irdeleyen bir bilimkurgu yazarı ve düşünür olarak, dil ile felsefi soruları birleştirerek eserlerini şekillendiriyor
Dil, fikirler ve Ted Chiang'ın yazma motivasyonu
- Chiang, yeni bir hikâye kurgularken önce “İlginç bir felsefi soru var mı?” diye bakıyor
- Uzun süre zihninden çıkmayan bir fikir olduğunda, bu fikir üzerinden felsefi meseleleri görünür kılıp kılamayacağını düşünüyor
- Bilimkurgunun (SF) felsefi soruları ele almak için elverişli olduğunu söylüyor
- Felsefedeki düşünce deneyleri (Thought Experiment) çoğu zaman gerçeklikten farklı uç durumları varsaydığı gibi, SF de gerçekliğin dışına çıkan dünyalar kurarak temayı öne çıkarıyor
Dil ve ‘mükemmel dil’ arayışı
- Bazı insanlar, ‘mükemmel bir dil’ aracılığıyla kusursuz iletişimin mümkün olduğuna inanmış; geçmişte de Aden Bahçesi'nde kullanılan dil ya da meleklerin dili gibi kavramlar hayal edilmiş
- Modern dilbilimde, sözcüklerle anlamları arasındaki bağın ‘keyfi (arbitrary)’ olduğu vurgulanıyor; bu yüzden mükemmel dil fikri bir yanılsama olarak görülüyor
- “Matematik daha iyi bir dil olabilir mi?” sorusuna Chiang, matematiğin belirli alanlarda çok hassas olduğunu, ancak insanların günlük hayatta kullandığı tüm iletişimi kapsamak için uygun olmadığını söylüyor
İnsan ve araç: bilgisayar benzetmesinin tuzağı
- Geçmişte beyin karmaşık bir telefon santraliyle kıyaslanıyordu; bugün ise onu bilgisayar (donanım + yazılım) üzerinden düşünme eğilimi var
- Chiang, biyolojik organların (ör. karaciğer, kalp) aksine yazılım/donanım ayrımı olmayan beyni bilgisayara indirgemekleştirmenin yanlış anlamalara yol açtığını belirtiyor
- Bilgisayarı “düşünen makine” olarak abartılı biçimde değerlendirmek, gerçekte yalnızca istatistiksel örüntülerle çalışan bir makineye aşırı anlam yüklenmesine neden olabilir
Yapay zeka, büyük dil modelleri (LLM) ve bilgi “bulanıklaştırma” sorunu
- Chiang, LLM'leri “internetteki metinlerin bulanık bir JPEG'i” olarak tanımlıyor
- Arama motorları özgün metni doğrudan gösterirken, LLM'ler devasa metinleri sıkıştırıp yeniden kurarak “kabaca” bir yanıt üretiyor
- Bu süreçte doğruluk azalıyor ve kaynak bağlantıları da verilmediği için olgusal doğrulamanın sınırları ortaya çıkıyor
- Daha fazla veri ve işlem gücü eklense bile, LLM'lerin kendi başına “gerçek akıl yürütme”ye ya da “dünyayı anlama” düzeyine ulaşmasının zor olduğunu düşünüyor
- “İyi tasarlanmış bir AI aracı” ile “LLM”in karıştırılması sorununa da değiniyor
- Bir LLM'e arama motoru ya da hesap makinesi eklenmesinin, temelde hatalı çıktı üretme riskini ortadan kaldırmadığını vurguluyor
Yaratım ve niyet: “AI sanat üretir” iddiası üzerine
- Chiang, sanatı ‘bağlamın önemli olduğu bir süreç’ olarak görüyor
- Sadece ortaya çıkan ürün iyi görünüyor diye bunun otomatik olarak üstün bir sanat eseri olduğu söylenemez
- Araç kullanımı, sanatçının bir ifade biçimi olabilir; ancak “AI ile yalnızca iyi eserleri hızla üretmek mümkündür” düşüncesi sanatın özünü sulandırır
- Modern toplum verimlilik ve maliyet düşürmeye önem verdiği için, sanat da giderek fabrikada üretilen bir şey gibi görülüyor
- Bu da sanatta bulunması gereken ‘niyet’ ve ‘bağlam’ın göz ardı edilmesine yol açan bir eğilim yaratıyor
‘Hizalama (Alignment) problemi’ne kuşkucu bakış
- Chiang, yapay zekayı insan değerleri ve hedefleriyle uyumlu hale getirmeyi amaçlayan “alignment problemi”ne teknik bir çözüm olarak yaklaşılmasını eleştiriyor
- Büyük şirketler kârı maksimize etmek için AI kullanırken, ‘iyi huylu’ bir AI şirket kârıyla çatışırsa şirketin o AI'ı kullanmayacağını söylüyor
- Bu mesele yalnızca algoritma iyileştirmesiyle çözülemez; daha temel toplumsal ve etik yapılarla bağlantılı bir konu
- Bir çocuğu büyütür gibi AI'a değer öğretme fikrinin de, gerçek çocukların yetişkin olduğunda farklı davranabilmesi gibi, sanıldığı kadar kolay olmadığını belirtiyor
AI ile ‘ilişki kurma’ ihtimali
- Chiang, mevcut teknoloji düzeyinde AI'ın “öznel deneyim”e ya da “kendiliğinden oluşan tercihlere” sahip olmadığını düşünüyor
- Ona bir araç ya da evcil hayvan gibi yaklaşmakla, gerçekten karşılıklı bir ilişki kurmak arasında büyük fark var
- Şirketler AI'ı “kişilik sahibi bir varlık” gibi pazarlarsa, bunun sonunda kullanıcıların şirket çıkarlarına uygun davranmaya yönlendirilmesi riski doğar
Dijital varoluşun canlılığı: «Software Object'lerin Yaşam Döngüsü»
- Chiang'ın öyküsünde dijital yaşam formları gerçek öznel deneyimlere ve arzulara sahip oldukları için, insanların onlara karşı sorumluluk taşıdığı varlıklar olarak betimleniyor
- Bu tür gerçek ‘özerklik’ ve ‘duyumsama’ taşıyan dijital varlıklar yaratmanın, mevcut LLM mimarisiyle mümkün olmadığını savunuyor
- Yalnızca daha fazla parametre ya da daha hızlı işlemle “hisseden bir varlık” ortaya çıkmayacağı benzetmesini yapıyor
Hafıza ve hakikat: «Fact'ın Hakikati, Feeling'in Hakikati»ndeki çıkarımlar
- Hikâyede Remem adlı teknoloji geçmişi kusursuz biçimde kaydedip istenildiği an yeniden oynatmayı mümkün kılıyor
- Chiang, “doğru hafıza”yı mümkün kılan bir teknolojinin gerçek insan ilişkileri üzerinde nasıl etkiler yaratacağını inceliyor
- Gerçeği bilmek başlı başına önemli, ancak sonrasında affetme, uzlaşma gibi başka unsurlar da gerekiyor
- Tarihsel örnek olarak Güney Afrika Hakikat ve Uzlaşma Komisyonu'nu anarak, anlamın ancak kabul, özür ve topluluk temelli iyileşme süreciyle tamamlandığını ima ediyor
Gelecek ve iyimserlik
- Chiang, teknolojik gelişmeye yönelik tutumu basitçe iyimserlik/kötümserlik diye ayırmıyor
- “Nasıl olsa her şey iyi gider” türü bir iyimserliğin de, “zaten her şey çökecek” türü kaderciliğin de tehlikeli olduğunu söylüyor
- Beklenen sorunları önceden düşünüp hazırlık yapılırsa ancak anlamlı ilerleme umulabileceğini vurguluyor
- Özellikle kapitalist düzende teknolojinin belirli küçük bir kesime devasa servet aktaran bir yapı üretmesine kuşkuyla yaklaşıyor
- Eğer yeni teknolojilerin eşitsizliği derinleştirmeden herkese fayda sağlayacak yolları bulunabilirse, geleceğin çok daha umut verici olacağını belirtiyor
Sonuç
- Ted Chiang, insan dili, teknoloji ve değerlerin karmaşık biçimde iç içe geçtiği bir dünyada, “teknolojinin ürettiği araçlar” ile “gerçekten var olan yaşam” arasında ayrım yapılması gerektiğini savunuyor
- Bu ayrım, felsefi ve toplumsal düzeyde düşünmeyi gerektiriyor; yalnızca mühendislik odaklı bir yaklaşımla çözülebilecek bir mesele değil
- Röportaj boyunca Chiang, dil ve teknolojinin gelişimi karşısında insaniliği korumak için daha köklü bir bakış açısı değişimine ihtiyaç olduğunu vurguluyor
LARB'nin ilgili önerileri
- Ted Chiang'ın öykü derlemesi Exhalation: Stories üzerinden insan ve teknoloji ilişkisine daha derinlemesine bakılabilir
- Alison Gopnik ve Melanie Mitchell ile yapılan sohbetler üzerinden, AI'ın nasıl öğrendiği ve insanların hangi sorumlulukları üstlenmesi gerektiği üzerine düşünülebilir
1 yorum
Hacker News görüşleri
Chiang’ın içgörülü bakış açısı, büyünün anlamına dair tartışmada ortaya çıkıyor. Ancak LLM’lerin gerçek muhakeme yeteneğine dair görüşleri soru işareti yaratıyor. Yapay zeka bir teoremi kanıtlarsa bunun sadece taklit bir kanıt olup olmadığı sorusu gündeme geliyor
Bir yazıcının acı hissedebildiğini hayal etmek anlamsızdır. Bu, yapay zekanın gerçekten hissetmesi ile yalnızca simüle etmesi arasındaki farkı açıklayan bir örnek olarak kullanılıyor
Gelecekte yapay zeka hakları üzerine siyasi tartışmalar olabilir ve yapay zekanın gerçekten düşünüp hissettiğini ayırt edebilen teknolojiler geliştirilebilir. Ancak bazı insanlarda gerçek zekaya yönelik gen dizilimi bulunmayabilir
Ted Chiang, teknolojiden çok insanlığı önceleyen bir bilim kurgu yazarı ve eserleri; bilimsel, toplumsal ve felsefi unsurlar içeren kısa öykülerden hoşlananlar için uygun
Greg Egan’ın "Axiomatic" eseri de taze fikirler içeren bir antoloji olarak öneriliyor
Ted Chiang, bilim kurgu kısa öykü yazarları arasında en iyilerden biri ve eserleri son derece zeki olup çeşitli temaları araştırıyor. "Understand" ve "Exhalation" onun öne çıkan yapıtları
Chiang’ın hikayeleri harika, ancak LLM’lere dair anlayışı yetersiz. LLM’lerin bilgi erişiminde arama motorlarından daha düşük olduğu yönündeki iddiası açıkça yanlış
Ted Chiang’ın yazıları entelektüel olarak eğlenceli ve özellikle "Exhalation" adlı kısa öykü derlemesi tavsiye ediliyor
"Division by Zero" gibi hikayeler, çocukları bugün robot gibi yetiştirme biçimimizden çok daha tercih edilir
Teknolojinin sık sık servet biriktirme amacıyla kullanılması nedeniyle teknolojik ilerlemeye dair iyimser bakış zayıflıyor. Servet yaratımını engellemek, adaletsizliği çözmenin yolu değil
Ted Chiang’ın benzetmeleri, felsefi soruları keşfetmeyi keyifli hale getiriyor. Eserleri, gerçeklikten bir süre uzaklaşmaya yardımcı oluyor
"LLM’ler web’in bulanık JPEG’idir" ifadesi, ChatGPT’nin ilk günlerinden beri akılda kalıcı. Yapay zekanın neden sanat yapamayacağına dair yazısı da iyi
Yapay zeka, belirli grupların servet biriktirme aracı olarak kullanılıyor ve Ted Chiang da benzer bir görüşe sahip
Bir yazıcının acı hissedebileceğini hayal etmek anlamsızdır. İnsan beyninde ağrı reseptörleri yoktur ve bu, yapay zeka ile insan öğrenmesi arasındaki farkı açıklamak için kullanılır
LLM’ler, bilgiyi yeniden yapılandırıp sunan arama motorları gibidir. Bu, bunun insan öğrenmesinden nasıl farklı olduğu sorusunu gündeme getiriyor. Model eğitimi insan eğitimiyle benzerse, türetilmiş eserlere ilişkin fikri mülkiyet sorunlarını etkileyebilir