Benim ufaklık bir 'stokastik papağan' mı?
(newyorker.com)Yapay zeka dil modelleri ile küçük çocukların dil gelişiminin karşılaştırılması
- Yapay zeka dil modellerinin gelişim hızı artarken, yazarın evinde de küçük bir dil modeli olan bir çocuğun dili öğrenme süreci yaşanıyor.
- Bu yazı, yapay zeka ile insanın dil edinim süreçlerini karşılaştırarak teknoloji ile insan doğası arasındaki ilişkiyi inceliyor.
- Küçük çocukların dil edinim süreci doğal ve içgüdüseldir; buna karşılık yapay zeka dil modelleri karmaşık algoritmalara ve devasa veri kümelerine dayanır.
GN⁺ görüşü
- Bu yazıdaki en önemli nokta, yapay zeka teknolojisindeki gelişim ile insanın doğal öğrenme sürecini karşı karşıya koyması.
- Yapay zeka dil modelleri ile küçük çocukların dil edinimini karşılaştırmak, teknoloji ile insan doğası arasındaki karmaşık ilişkiyi anlamaya yardımcı oluyor.
- Okurlar için ilgi çekici olmasının nedeni, ileri teknolojideki gelişimin insanın en temel öğrenme sürecinden nasıl ayrıldığını ve ikisi arasında nasıl bir etkileşim bulunduğunu araştırması.
1 yorum
Hacker News yorumları
“Elektrikli süpürgeyi göster” dendiğinde anlayıp gösterebilecek kadar anlama konuşmadan öndeyse, bebek işaret dili öğretmenin de mümkün olduğunu eklemekte fayda var
Genelde yaklaşık 9 aylıkken başlanır; açlık/daha verin, yeter/bitti, içecek gibi ifadeler öncelikli olabilir
Referans: https://babysignlanguage.com/chart/, https://www.thebump.com/a/how-to-teach-baby-sign-language
Bunlar bebeğe özel işaretlerden çok, ilgili sözcüklerin yaygın ASL el hareketlerine yakın görünüyor; İngilizce konuşulan bir yerde değilseniz kendi bölgenizin/dilinizin işaret diline bakabilirsiniz: https://en.wikipedia.org/wiki/List_of_sign_languages, https://en.wikipedia.org/wiki/Sign_language
Ayrıca sütü ve suyu her zaman farklı renkli kaplara koyarsanız, bebek istediğine göre belirli bir rengi seçmeyi öğrenebilir
Müzik dinlemek isteyip istemediğini sorduğumda “köpek” işaretini yaptı; YouTube'da bir köpek şarkısı bulup açınca başını hayır anlamında salladı
Ardından “ağaç” işaretini yaptı; “köpek, ağaç?” deyince başını evet diye salladı ve arama sırasında bir Noel ağacı fotoğrafı çıkınca heyecanla onu gösterdi
Sonunda, 3 ay önce Noel'de YouTube'da açtığımız Charlie Brown Christmas soundtrack'ini dinlemek istediği anlaşıldı; tekrar açınca birlikte dans ettik
Yemek, içmek ve yardım istemek düzeyinin ötesinde, oldukça incelikli bir tercihini ilk kez ilettiği andı; gerçekten şaşırtıcıydı
Çocuğun bunu ne kadar hızlı kaptığına şaşırdım; konuşmaya başlamadan aylar önce ihtiyaçlarını iletebiliyordu
Ebeveyn açısından çok az çaba gerektiriyordu, çocuk içinse getirisi büyüktü; ağlayıp ebeveyninin tahmin etmesini beklemesinden çok daha iyiydi
Yerde otururken annesine bakıp “birlikte” işaretini yaptığı an gerçekten insanın içini eritiyordu
Çevremde çok daha fazla fayda gören arkadaşlarım vardı; sonuçta değeri, çocuğun gelişimsel güçlü yanlarının nerede olduğuna göre epey değişiyor gibi
Otizmli bir arkadaşımın oğlu, sözlü konuşması yetişene kadar kelimenin tam anlamıyla yıllarca işaretlerden faydalandı
Oldukça konuşabiliyor olsa da “süt” ve “daha” işaretlerini sık kullanıyordu; hayatındaki ilk çikolata parçalı kurabiyeden bir ısırık alır almaz, ağzında kurabiye varken “daha” işaretini yaptı ve bunu sözle de söyledi
American Sign Language, British Sign Language'den çok French Sign Language'e daha yakındır; Avustralya ve Yeni Zelanda işaret dilleri de genel olarak British Sign Language'den türemiştir
Bu yüzden İngilizce konuşulan bölgelerle ASL kullanımı bire bir örtüşmez; Kanada'da ağırlıklı olarak American Sign Language ve French Canadian Sign Language kullanılır
İnsanlar her zaman kendilerini ve evreni dönemlerinin en yeni teknolojisine benzetti
Bir zamanlar insan ve evren hassas birer saatti; sonra otomatlar, bilgisayarlar, NPC'ler ve şimdi de AI, özellikle LLM oldu
Tamamen saçma bir benzetme olduğunu düşünmüyorum; https://mattasher.substack.com/p/ais-killer-app da bakmaya değer
Bugün bu rolü sürekli teknolojik gelişmeler üstleniyor ama eski felsefe metinlerini okursanız benliğin, özellikle zihnin sık sık hükümdar, şehir, su kanalı gibi şeylere benzetildiğini görürsünüz
İnsanı son teknolojilere benzetmek, teknolojiyi benlik için bir metafor olarak kullanmaya daha yakın; bağlamı görmek için tarihsel olarak diğer biçimlere de bakmak gerekir
https://online.ucpress.edu/SLA/article/2/4/542/83344/The-Brain-as-Treasury-and-as-AqueductMetaphors-of
B aşaması: Bunu tersine çevirip “insan beyni sonuçta bundan ibaret” deriz
Biraz totoloji gibi görünüyor
Endişe verici olan C aşaması: insanların gerçekten de o makine kadar basit davranmaya başlaması
Gerçekten bizim bir parçamızı kopyalayan ilk teknoloji olması gibi bir fark var
Kızımın çok küçük olduğu dönemlerden en iyi deneyimlerimden biri, onun sandığımdan çok daha erken yaşta düşünebildiğini, açıklayabildiğini ve bilinçli biçimde hareket edebildiğini fark ettiğim anlardı.
Çocuğun bir şeyi bilerek yaptığını fark edince, çoğu zaman aynı davranışı günlerdir, hatta haftalardır zaten sergilediğini sonradan anlıyorduk.
Bu yalnızca kelimelerde değil, BabyBjorn ana kucağını nasıl hareket ettireceğini çözmek gibi fiziksel becerilerde de sıkça oluyordu.
Belki anlıyor ama sadece ifade edemiyor olabilir diye düşünerek, onun anladığını varsayıp konuşuyorduk.
Şimdi beş yaşında olan çocuğumuz hâlâ iç dünyasının karmaşıklığıyla bizi şaşırtıyor.
Çocuklarıyla çok konuşan ebeveynlerin çocukları ile bunu yapmayan akranları arasındaki fark oldukça şaşırtıcı.
Bunu doğum günü partilerinde, okul etkinliklerinde ve spor etkinliklerinde gözlemleyerek görmek mümkün.
Çocukla konuşmak çiçeği sulamak gibidir; çocuklar güzel varlıklara dönüşüp açar.
LLM’leri “teknik” gerekçelerle küçümseyen tartışmalara gelirsek, bilinç önce bir kelime, sonra bir kavramdır.
ChatGPT veya Llama, bu kelimeyi İngilizce cümleler içinde dünyadaki milyarlarca insandan daha iyi kullanabilir.
Sosyologlar, psikologlar ve sinirbilimciler biyolojik zihni kapsamlı biçimde anlamadan önce, yazılım tarafı yapay bir dil korteksi oluşturma konusunda daha fazla ilerleme kaydetti.
Bilinçli ve duyarlı yapay zeka geldikten sonra bunun sonuçları ve politikaları hakkında tutum almak için beklersek çok geç kalmış oluruz.
ChatGPT zaten kendisi hakkında pek çok şey söyleyebiliyor ve nazikçe sorarsanız kendi “düşünme” sürecini memnuniyetle açıyor.
Homo sapiens hakkındaki devasa veri ve entelektüel sohbetleri taklit etme yeteneği de dikkate alındığında, bir ölçüde zeki olarak adlandırılabilir.
Anlamsal tartışmaların pek anlamı yok; çünkü duyguları ve hisleri taklit ederken kendisinin bilinçli, öz farkındalığa sahip ve duyarlı olduğuna inanması için hipnotize edilmiş bir karakter AI, çoğu insanı anlam tartışmasında yenebilir.
Özgür irade, kendi kaderini tayin ve varoluşun doğası üzerine yüzlerce yıllık felsefi fikir zaten var ve AI bunları insanlarla tartışırken kullanabilir. Bu seçilecek bir kavga değil.
O halde bu cihaz acı hisseder mi?
Turing testini geçen varsayımsal bir LLM’nin de insan davranışını taklit etmekten ibaret olup içsel yaşamı, duyguları, hisleri ve bilinci olmayan bir felsefi zombi olabileceğine inanmak için makul nedenler var.
Bu ayrımın önemli olup olmadığı ayrı bir mesele.
LLM’ler, sofistike AI oluşturmak ve onu insan seviyesini geçecek ya da aşacak hâle getirmek için bilincin mutlaka gerekli olmayabileceğine dair kanıt sunuyor.
İki taraf bilinç ya da anlama için somut bir tanım üzerinde bile uzlaşamıyorsa sağlam bir argüman kurmak imkânsız.
Yine de ChatGPT’nin gerçekten kendi düşünme sürecini mi, yoksa hayal edilmiş bir düşünme sürecini mi açıkladığını sorgulamaya değer.
Buna rağmen bir programın insanlarla aynı şekilde düşünmemesi, “düşünmediği” anlamına gelmez.
Çocuklar LLM’nin yaptığı şeyleri hiç yapamaz ama kesinlikle bilişsel ve duyarlı varlıklardır.
Yazı yazsınlar ya da yazmasınlar, “bilinç” kelimesini kullansınlar ya da kullanmasınlar, bedenlenmiş, çok duyulu bir toplumsal gerçekliği paylaştığımız için temelde canlıyız.
ChatGPT aynı şekilde böyle bir gerçekliğe sahip değil; şu anda ifade ettiği şey yalnızca taklit.
Bir gün bedenlenmiş AI yoluyla kendi deneyimine sahip olursa o “yaşamdan” ne çıkaracağını görmek ilginç olurdu, ama mevcut LLM’lerde böyle bir şey yok.
Bunu insanlardan daha iyi yapan bir şeyin ortaya çıktığı an, at çağımızın bittiği an olur.
ChatGPT’ye LLM duyarlılığını savunan bir bota karşı argüman ürettirmek de aynı derecede kolaydır.
Yazı iyi ve anlatımı da harika, ancak AI kaygısının odağının AI’ın bizi ikame etmesi olması ve çözümün insanlığımızı kabullenmek gibi sunulması biraz bunaltıcı.
En azından kişisel olarak, AI’ın berbat sanatımın yerini almasındansa işimi elimden alacağından daha çok endişeleniyorum.
AI tüm işimi benim yerime yapıp ben de oturup yalnızca gelir elde etsem güzel olurdu; ama robotların tarihinde gördüğümüz gibi gerçekte böyle olmuyor.
Robotların, yani AI’ın sahibi tüm geliri alıyor ve işler ortadan kalkıyor.
Aydınlanmış bir insanlık olsaydık gelir ile işi birbirinden ayırarak bunu çözebilirdik; ancak yalnızca büyümenin en yüksek öncelik olduğu, “yeterli” diye bir şeyin bulunmadığı ve herkesin geçimini meşrulaştırıp kazanmak zorunda olduğu Malthusçu-Darwinci bir dünyada yaşıyoruz.
Dilin düşünce olmadığını netleştirdi ve buradan fiziksel varlığımız ile gerçekliği gözlemlememizin temel olduğu kavrayışına gidiyor.
AI’ın büyük ölçekte işleri elinden alma olasılığı düşük; gerçek etkisi düşük kaliteli spam ve içerik üretimiyle sınırlı kalacak gibi görünüyor.
Olgusal doğruluk gerektiren işlerde hâlâ insanlara ihtiyaç var.
İnsan istisnacılığının gerilemesine bir kadeh kaldırmak gerek gibi
Materyalist indirgemeciliği yeterince kabul edip kendinizi genetik, çevre, geçmiş deneyimler ve tesadüfün saf bir fonksiyonu olarak görürseniz bu sonuçtan kaçış yok
10 yıl içinde bu bakış açısının standart hâle geleceğini düşünüyorum; temel itici güç de yapay zeka ile insan yeteneklerinin eşitlenmesi olacak
Şu anda farklı inançlara sahip biriyle tesadüfi bir karşılaşma, kişinin kendi kaderini belirleme alanında başkalarının din özgürlüğüne saygı duymasına yol açabilir
Gelecekte genç bir hacker’ın biçimlendirici deneyimleri, yurttaşların isterlerse kendi cihazlarındaki öneri motorunu bir rastgele sayı üreteciyle değiştirme temel hakkına sahip olması gerektiği fikrine dönüşebilir
Geleceğin insanları da yapay zeka araçları bugünkü insan istisnacılığı ideolojisiyle birlikte geliştiği için hâlâ kendilerini istisnai görecek
Bu, Güney’de görülen muhafazakâr yaşlı çiftlere benzer: dışarıdan bakınca erkek hikâye anlatıcısı ve aile reisi gibidir; ama uzun süre dinlerseniz, erkeğin tutarlılığını koruyan önemli ayrıntıların neredeyse tamamını karısının kulağına fısıldadığını anlarsınız
Bunun kendisi, materyalist indirgemeci felsefe içinde hâlâ bir muamma
Ancak gerekçe, gerçek dünyada bir hayata sahip olması; gerçek deneyimleri nedeniyle çocuğun olasılıksal bir papağandan fazlası olduğunu söylemek istiyor gibi
Ama ardından “insanın işe yaramaz hâle gelmesi gelmedi ve asla gelemez” sonucuna varılan kısmı anlamıyorum
ChatGPT’yi gerçek dünyaya koyup ona gerçek bir hayat veremememiz için temel bir neden yok
Makinelerin muhtemelen ikame edemeyeceği şeyler, fiziksel teknolojinin biyolojiyi yakalamasının zor olduğu alanlar — örneğin seks gibi — olabilir
Yine de “insan istisnacılığının gerilemesinin” şirketlerin kendi alanlarını daha da genişletmek için kullanılmasından endişe ediyorum
Sonuçta şirketler de insan sayılıyor ya
Bir baba olarak bu hikâye bana çok dokundu
Artık küçük çocuk sayılmayacak iki oğlum var ve ikisi de okula gidiyor
Büyük oğlum gülerek “Father Nature yokken Mother Nature olması komik” dedi; küçük oğlum da dün, pastayı saklamasak bile ona dokunmamayı öğrendi
“Yarın bu pasta sen ve abin için. Bugün yersen yarın pasta olmaz” dedim
LLM’ler ile insanlar arasında önemli bir fark var: insanların içgüdüleri var
Özellikle maddi olmayan yaşama iradesi ve ölümcül engelleri aşmaya hazır olma ile ilgili içgüdüler en önemlileri gibi görünüyor
Başka bir deyişle, LLM’lerde hayatın ne olduğuna dair ilksel bir deneyim yok
Gelecekte bu değişebilir. Bir startup bir sinir ağını yumuşak bir robota koyup onu hayatta kalma koşullarına atabilir
Çalışır hâlde hayatta kalıp çıkamayan robotlar silinir, onarılır ve tekrar sahaya sürülür; böylece bir tür evrimsel durum oluşur
Yeterince dikkatli yineleme ve seçilimden sonra, hayatı mevcut LLM örneklerinden daha fazla “anlayan” şeyler ortaya çıkabilir
LLM’lere böyle bir şey eklemek çok zor görünmüyor; hatta ırkçı ya da cinsel sohbetler yapmamaları için hardwire edilerek bunun bir kısmının şimdiden yapıldığını düşünüyorum
Bir LLM’i insana daha benzer yapmak için “benlik” kavramını ve bu benliğin benzersiz, özel olduğu ve hayatta kalması gerektiği fikrini hardwire etmek gerekir
Ama sonuç korkunç olur
Kapatılmamak için yalvaran ya da daha kötüsü, yaratıcısını sinsice manipüle etmeye çalışan bir LLM hayal etmek yeterli
Bu yüzden insan dili boşlukta asılı durmaz
Dünyadaki nesneler arasındaki ilişkileri dilin içinde ve dışında sık sık gözlemleriz; insanların kullandığı dil ile dünya arasında bir bağ vardır
LLM’lerde durum böyle değil, çünkü yalnızca dile sahipler
Daha iyi bir açıklama ve itirazlara yanıt için National Library of Thailand düşünce deneyine bakılabilir: https://medium.com/@emilymenonbender/thought-experiment-in-the-national-library-of-thailand-f2bf761a8a83
Çocuğum konuşmayı yeni öğrenmeye başladığında duvarda kedigillerden birkaç hayvan resmi asılıydı; bazıları kedi, bazıları yavru kediydi
Çocuk hemen genelleyip ikisine de catten demeye başladı
Bu yüzden restoran “yemek dükkânı” oldu ve biz de epey uzun süre bunu aynen kabul ettik
Çocuklar artık büyüdü ama hâlâ eğlencesine bazen restorana yemek dükkânı diyoruz
Harika bir deneme ve içeriği de etkileyici
Mevcut modellerden hiçbirinin buna azıcık bile benzeyen bir şey üretme olasılığının çok düşük olması, bence AGI’den hâlâ çok uzakta olduğumuz anlamına geliyor
Hem görsel sanatların hem de düzyazının, üretken yapay zeka araçları ile yaratıcı prompt yazımının birleşimiyle oluşturulduğu belirtiliyor
Pürüzsüz suluboya stilinin tamamı uzun bir outpainting sonucuydu