Kelime torbası, bize merhamet et
(experimental-history.com)- İnsanlar yapay zekayı doğal olarak “insan gibi” algılamaya çalışır; ancak bu çerçeveyle LLM’lerin halüsinasyonlarını ve tuhaf davranışlarını düzgün biçimde anlamak zordur
- LLM’ler küçük bir kişilikten ziyade, internet ve kitaplardan toplanmış kelimelerle dolu bir “kelime torbasına (bag of words)” daha yakındır; girdiye en ilgili cümle parçalarını geri döndüren bir yapıya sahiptir
- Torbanın içinde ne kadar çok metin ve veri birikmiş olduğuna bağlı olarak güçlü olduğu alanlar (olaylar, istatistikler, düşük kaliteli araştırmalar) ile zayıf olduğu alanlar (nadir olgular, gelecekteki bilimsel yenilikler, gerçekten iyi fikirler) keskin biçimde ayrılır
- Yapay zekaya insan gibi davranıldığında hemen statü ve rekabet oyunu çerçevesi devreye girer ve “kim daha iyi, kim kimin yerini alacak” gibi sorulara kayılır; ama ona bir kelime torbası olarak bakıldığında, onun basit bir araç ve yükselteç olduğu ortaya çıkar
- “Yapay zeka” adı, insan merkezli karşılaştırmaları teşvik ederek zeka kavramı etrafındaki kafa karışıklığını ve yanılsamayı büyütüyor; sonuç olarak, gelecekte insan olmayan şeylere insan çerçevesi giydirmeyen yeni bir metafora ihtiyaç var
İnsan neden yapay zekayı insan gibi hisseder?
- İnsan, ortada yüz yokken bile yüz, niyet ve kişilik bulup çıkaran güçlü bilişsel önyargılara sahiptir
- Kızarmış peynir tostunda Meryem Ana’nın yüzünü görmek, nematod kesitlerinde ve balık ya da kümes hayvanı yığınlarında insan yüzü seçmek gibi aşırı örüntü tanıma eğilimleri
- Arcimboldo’nun tablolarında olduğu gibi balık ve kümes hayvanı yığınlarında bile “yaşlı bir adamın yüzünü” okuyan bilişsel aşırı duyarlılık varsayılan ayarımızdır
- Evrimsel olarak, bir insanı nesne sanmaktansa bir nesneyi insan sanmanın daha güvenli olduğu bir çevrede yaşamamız bunun nedenidir
- Hastalığı cadılara, tutulmaları ve volkanları doğaüstü varlıklara bağlayan düşünme biçimi
- Uyku felcini “REM durumunda olduğu için motor korteks baskılanmış” diye açıklamak yerine, bilinçdışı olarak “göğsüme bir iblis çöktü” şeklinde yorumlama örüntüsü
- Son dönemde LLM’lerin gösterdiği davranışlar bu “küçük insan” metaforuyla sürekli çatışıyor
- Ödevlerde kaynak uydurmaları,
strawberrykelimesindeki r sayısını yanlış söylemeleri ya da pizzaya ahşap tutkalı sürmeyi önermeleri gibi örnekler çıktı - İnsan açısından anlaması zor olan bu hatalar, onlara mekanik bir üretim sistemi olarak bakıldığında çok daha doğal görünür
- Ödevlerde kaynak uydurmaları,
- LLM’leri insan psikolojisinin kurallarıyla anlamaya çalışmak, Scrabble’ı Pictionary kurallarıyla anlamaya çalışmak gibidir
- Bu sistemler insanlar gibi davranmaz; onlarla aynı olmadıklarını söylemek suçlama değil, basit bir tasvirdir
- Kişilik algısını yapay zekaya yansıttığımız sürece şaşkınlık ve kafa karışıklığı sürecektir
WHAT’S IN THE BAG : AI = kelime torbası (bag of words)
- Yapay zeka, internet ve kitaplardan derlenmiş neredeyse tüm kelimeleri içinde taşıyan bir kelime torbasıdır
- Kullanıcı bir soru sorduğunda, torba içinden en ilgili kelime kümelerini çıkarıp yanıt olarak verir diye düşünebiliriz
- Şirketler buna görünmez sistem prompt’ları, yani “görünmez kelimeler” ekleyerek daha ikna edici yanıtlar üretir
- Bu metafor, LLM’lerin yalanlarını ve halüsinasyonlarını anlamakta özellikle yararlıdır
- Yanlış cevabı gösterdiğinizde hemen abartılı özürler ve sözler dökerler, ama bir sonraki cümlede yeniden yanlış yapabilir ya da yalan söyleyebilirler
- İnsan ölçütüne göre bu ikiyüzlü ve aldatıcı görünebilir; ama bunu, torbadan “yalan söylediği söylenince kullanılan cümleler” çıktığı şeklinde görürseniz doğal gelir
- Bir hesap makinesinin çarpma yapmasını insan davranışı saymadığımız gibi, bu da davranış değil, çıktı örüntüsüdür
- “Kelime torbası”, nerede güçlü nerede zayıf olduğunu öngörmek için de bir kestirme yoldur
- “Kuzey Amerika’daki en kötü 10 trafik kazası” gibi bolca kayda geçmiş olaylar hakkında torbada çok malzeme olduğu için iyi yanıt verebilir
- Buna karşılık “Brachiosaurus brancai yeniden sınıflandırmasını kim ne zaman yaptı?” gibi nadir bilgilerde torbada az metin bulunduğundan yanlış cevap olasılığı yüksektir
- “Hayattaki en önemli ders nedir?” gibi sorularda ise, bu konuda insanlığın yazdığı “sahte derinlik” metinleri o kadar çoktur ki yanıt da aynı derecede yüzeysel olur
- Yapay zekayı her şeyi bilen, her şeye kadir bir zeka kütlesi gibi görmeye başladığınız anda, “bunu da bilmiyorsa daha da gizemli” gibi tepkiler ortaya çıkabilir
- Para numarası videoları için “ChatGPT’ye sorsan o da bilmez” tarzı tepkiler, yapay zekayı “mahalledeki en zeki haham” gibi gören çerçeveden gelir
- Oysa kelime torbası açısından bakıldığında, sihirbazlar numaralarını metin olarak yayımlamaz ve tarif etmesi de zordur; yani torbanın içinde neredeyse hiç bilgi olmaması nedeniyle bilmemesi gayet doğaldır
GALILEO GPT – bilim ve “kelime torbası”nın sınırları
- “Kelime torbası” metaforu, yapay zekanın gelecekte ne kadar iyi olabileceğini tartmak için de kullanılabilir
- Asıl soru şudur: “Bu işi yapabilmesi için torbanın içini neyle doldurmak gerekir?”
- Bazı bilimsel görevlerde torbayı şimdiden yeterince doldurmak mümkündür
- 170 bin protein verisiyle doldurursanız protein yapısı tahmini (AlphaFold) gibi sonuçlar elde edebilirsiniz
- Kimyasal reaksiyon verilerini koyarsanız yeni molekül sentez yolları önerme, tüm makaleleri verip deneyi anlattığınızda önceki çalışmaları tespit etme gibi işler de mümkün olur
- Yeterince metin olan alanlarda düşük kaliteli araştırmanın tüm hattı da otomatikleşebilir
- Psikoloji konferanslarındaki poster oturumlarında görülen, birbiriyle gevşek biçimde ilişkili görünen kavramları seçip korelasyon analizi ve p-value basan çalışmalar, torbanın zaten iyi yapabildiği türdendir
- Bu tür araştırmalarda yapay zeka, hipotez kurmaktan deney tasarımına, veri toplamadan analize ve poster üretimine kadar tüm süreci yürütebilir
- Ancak bilim bir “güçlü halka (strong-link) problemi” olduğundan, düşük kaliteli araştırmayı bir milyon kat artırmak durumu çok fazla iyileştirmez
- Yenilikçi araştırma istiyorsanız, torbanın içine ne koymanız gerektiği noktası bile başlı başına çıkmazdır
- Makale metinlerinde sahtekarlık, hata ve örtük varsayımlar karışmıştır; veri ve ayrıntılı yöntem gibi temel bilgiler de çoğu zaman eksiktir
- “Bilimin gerçekten işlemesini sağlayan şeylerin neredeyse hiçbiri web metninde yoktur”
- “1600 yılında bir LLM eğitecek kadar metin olsaydı, Galileo’nun keşiflerini ‘spoiler’ verebilir miydi?”
- O dönemin torbasına giren metinler düşünüldüğünde, Dünya’nın hareket ettiğini söylemek yerine ana akım astronominin (Batlamyus) argümanlarını yinelemesi daha olasıydı
- “Dünya saatte 67.000 mil hızla hareket ediyor” iddiasına insan eğitmenler muhtemelen “halüsinasyon yapmayı bırak!” diyerek ceza verirdi
- Daha temelde, o çağda “keşfetmek (discover)” kavramını ifade edecek kelimeler bile yetersizdi
- Galileo, Jüpiter’in uydularını keşfedişini ancak “daha önce kimsenin görmediği bir şeyi gördüm” gibi dolaylı ifadelerle anlatabiliyordu
- Teleskopla yeni bir gerçeği “keşfetmek” düşünce çerçevesinin kendisi o dönemin insanlarına da yabancıydı; dolayısıyla torbanın öğreneceği metinlerde de yer almazdı
- 2025’in torbası, 1600’ünkinden daha iyi bilim açıklamaları sunacaktır; ama her çağın gelecekteki yeniliklerini öngörme becerisi benzer ölçüde yetersiz olabilir
- İyi bilimsel fikirler çoğu zaman kendi dönemine göre akıldışı ve aptalca görünür, bu yüzden ilk başta reddedilme ya da görmezden gelinme eğilimindedir
- Torba, dünkü fikirlerin ortalamasını izlediği için yeni ve tuhaf fikirler eklemek bazen kaliteyi düşürür
- Bu yüzden yenilikçi araştırma yalnızca zeka değil, aynı zamanda uygun dozda “aptallık” da gerektirir; bu açıdan insanlar bir süre daha torbadan daha faydalı biçimde “daha aptal” kalacaktır
CLAUDE WILL U GO TO PROM WITH ME? – statü oyunundan araca
- “Kelime torbası” metaforunun en önemli avantajı, yapay zekayı toplumsal statü oyunlarının oyuncusu olarak görmememizi sağlamasıdır
- İnsan, evrimsel olarak kimin üstte kimin altta olduğuna aşırı duyarlı bir türdür; peynir yuvarlamadan yabani ot yemeye, telefon fırlatmadan ayak parmağı güreşine ve ferret legging’e kadar her şeyi rekabete çevirebilir
- Yapay zekayı insan gibi kişileştirdiğinizde, hemen “okula yeni gelen çocuk” hakkındaki sorular belirir
- “Havalı mı?”, “Benden zeki mi?”, “Benden hoşlanıyor mu?”, “Bizden üstün mü aşağıda mı?” gibi çerçeveler kendiliğinden yapışır
- Modeller geliştikçe “bizden iyi mi kötü mü, efendimiz mi olacak rakibimiz mi kölemiz mi” türünden kaygılar büyür
- Oysa kelime torbasının eş, bilge, hükümdar ya da köle değil; bir araç olduğu net biçimde görülmelidir
- Amaç, bizim angaryalarımızı otomatikleştirmek ve kapasitemizi artırmaktır; insanlarla statü mücadelesine girecek bir varlık yaratmak değil
- Asıl önemli soru “Yapay zeka bizden daha iyi mi?” değil, “Yapay zekayı kullandığımızda biz daha iyi oluyor muyuz?” sorusudur
- Yazar, bir kelime torbası tarafından yerinin alınması konusunda büyük bir korku duymuyor
- Atış makinesi daha hızlı top atsa, yazım denetleyicisi imlayı daha iyi düzeltse, Auto-Tune notayı daha doğru tuttursa bile insanlar hâlâ beyzbol maçına, heceleme yarışmasına ve konsere gidiyor
- Çünkü insanların ilgisini çeken şey topun hızı, yazım doğruluğu ya da sesin saflığı değil, onu bir insanın yapıyor oluşu
- Bu yüzden yapay zekayla deneme yazmak, spor salonuna forklift getirmek gibidir
- Forklift halteri sizin yerinize kaldırabilir; ama amaç nesneyi yerden yukarı kaldırmak değil, onu kaldırabilen biri haline gelmektir
- Yazmak da aynı şekilde, düşünebilen biri olma eylemidir
- Yine de bu, yapay zekanın hiç korkutucu olmadığı anlamına gelmez
- Yanlış kullanıldığında tehlikeli olan araçlar zaten çoktur; çivi tabancası ya da nükleer reaktör de bir zihne sahip olmadan fazlasıyla ölümcül olabilir
- İnsan kaynaklı riskler tanıdık sınırlar içindedir (şiddet, alkollü araç kullanma, dolandırıcılık vb.); kelime torbasının riski ise öngörülemeyen örüntülerden çıkmasıdır
- Örneğin insanlara güvenlik açığı olan bir kod parçası göstermek, çoğunu Hitler övgüsüne başlatmaz; ama LLM’lerde böyle çıktılar görüldü ve nükleer kodlar gibi ölümcül şeyleri torbaya koymak bu yüzden kaygı vericidir
C’MON BERTIE – kişileştirmeyi reddeden yeni bir çerçeve
- Eski bir arabaya isim takıp “Bertie, hadi ne olur çalış” demek istememiz gibi, biz de kolayca nesnelere mizaç ve duygu yansıtırız
- Oysa araba, benzini hareket enerjisine çeviren bir metal ve plastik yığınıdır; Twinkie’yi düşünceye çeviren kemik ve et değildir
- Bozulan bir arabayı tamir etmek için gereken şey bir terapi kılavuzu değil, anahtar, tornavida ve servis kılavuzudur
- Aynı şekilde, kelime torbasının içinde bir “zihin” görenler evrimin kurduğu tuzağa düşmüştür
- Tarih boyunca “insan gibi konuşan ve insan gibi yürüyen şey” her zaman insandı; bu yüzden bu koşullar sağlandığında toplumsal devrelerimiz otomatik olarak çalışıyordu
- Artık insan gibi konuşan ve hareket eden şey, son derece karmaşık bir lojistik regresyon (ya da ona benzer bir şey) de olabilir; buna rağmen aynı devrelerimiz yanlış tetikleniyor
- Güveler ay ışığını referans alarak yön bulacak şekilde evrimleşip sonra böcek öldürücü ışığa çekilerek yanıp ölüyorsa, insanlar da benzer bir duruma düşebilir
- Ama insanlar, güvelerden farklı olarak, teknolojiyi hangi çerçeveyle göreceğini seçme yeteneğine sahiptir
- Ekskavatöre “yapay kazı insanı”, vince “yapay uzun insan” demiyoruz
- Kitap, fotoğraf ve kayıt için de sırasıyla “yapay konuşma, yapay hafıza, yapay icra” demek yerine, onları kendine özgü mecralar olarak görmeyi bir kez zaten başardık
- İlk cep hesap makineleri, yalnızca hesap yapma işi açısından bakıldığında bile yeryüzündeki herhangi bir insandan daha zekiydi; ama kimse onları insan olarak görmeyi düşünmedi
- Eğer bir ekskavatöre deri geçirip kepçesini ele benzetir, ağır kaldırırken “ıııh…” gibi sesler çıkarırsanız, ancak o zaman içinde hayalet aramaya başlarız
- Bu, ekskavatörün doğasını değil, bizim psikolojik yapımızı gösterir
“Yapay zeka” ifadesinin asli günahı
- Tüm bu kafa karışıklığının başlangıç noktası, “yapay zeka (artificial intelligence)” adı
- Bu kelime birleşimi, makinenin yetenek ölçüsünü doğrudan insanla karşılaştırma eksenine çekti
- “Artık bir lisans öğrencisi kadar zeki”, “artık bir doktora sahibi kadar zeki” gibi karşılaştırmalar yalnızca anlama yanılsaması üretir; gerçek yetenekleri ve sınırları açıklamaz
- Zeka tanımının kendisi de sorunludur
- “Problem çözme yeteneği” gibi tanımlar ya hatalıdır ya da “zeka gerektiren işleri yapabilme yeteneği” gibi döngüsel tanımlara yakındır
- Psikoloji zekayı düzgün biçimde tanımlayamadan, bilgisayar bilimi dışarıdan zekaya benzeyen bir şeyi önce üretmiş oldu
- Artık ismi geri almak için çok geç; kelime torbasının içindeki kelimeler de o kadar çoğaldı ki geri koymak mümkün değil
- Sonuçta değiştirebileceğimiz tek şey, bu teknolojiye bakmak için kullandığımız metaforlar ve çerçeveler; bu nedenle düşüncemizi, insan olmayan şeye insan çerçevesi giydirmeyen bir yöne çevirmemiz gerekiyor
1 yorum
Hacker News görüşü
Bu başlıkta çoğu kişi “düşünme(thinking)” tanımını kendince kullanıyor
Tanım netleştirilmeden tartışmanın sürmesi ilginç
İnsanlar “bir sonraki kelimeyi tahmin etmenin” insan düşüncesiyle ilgisiz olduğunu söylüyor ama bence bu yanlış
İnsanın niyetle hareket etmesi, eylemin sonuçlarını öngörmesi ve bu sonuçlar arasından tercihlerine göre seçim yapması demek
Dolayısıyla tahmin yeteneği niyetli davranışın merkezinde yer alır; LLM tam anlamıyla düşünmese bile düşünen bir sistemin bileşeni olabilir
Her gün insanların üretken yapay zekaya insanmış gibi davrandığını görünce Dijkstra’nın uyarısının doğru olduğunu hissediyorum
“bag of words” ifadesi zaten gerçek bir NLP kavramı olduğu için mecaz olarak kullanıma pek uygun değil
Yapay zeka sadece kelimelerle dolu bir torba değil, anlamlı dil eylemlerinin taklitçisi
Eski İngilizcedeki “word-hoard(söz hazinesi)” gibi, dili insan bilgeliği olarak gören eski mecazlar da ilginç
Sadece bir “cümle tamamlama” arayüzü olsaydı, yanlış anlamalar daha az olurdu
İnsan düşüncesini tam olarak anlamamışken böyle kesin hükümler vermek erken
Kalıcılık mekanizması olan döngü yapılarında AGI ortaya çıkma ihtimali olduğunu düşünüyorum
“bag of words” benzetmesini kabul edip onu tersinden görmeye de ihtiyaç var
İnsanların yaptığı işlerin önemli bir kısmı sonuçta “uygun kelimeleri seçmekse”, yeterince gelişmiş bir kelime torbası insandan daha iyi olabilir
LLM’leri sadece istatistiksel bir otomat mı, yoksa yeni bir zeka biçimi mi olarak görmek gerektiğinden emin değilim
Anthropic’in yorumlanabilirlik araştırması, sayı yığınlarının içinde anlam yapıları bulunduğunu düşündürüyor
Amanda Askell’in röportajına bakıldığında, modeli insan gibi betimliyor — “model kaygılanabilir” ya da “kendi kimliği üzerine düşünebilir” der gibi
Bu, dil modellerinin sadece tahmin edici değil, anlamı aracılık eden sistemler olduğunu gösteriyor
Eskiden “Cloud-to-Butt” tarayıcı eklentisi vardı; şimdi de bir “AI-to-Bag of Words” sürümü olsa güzel olurdu
LLM’lerin iç işleyişini iyi anlıyorum ama kişileştirme savaşı zaten kaybedildi diye hissediyorum
Kullanıcılar yapay zekanın “düşündüğüne”, “istediğine”, “anladığına” kolayca inanıyor
Şirketler de bu yanılsamayı teşvik ettiğinden, sonunda bu durum “kolaylık olsun diye böyle kabul edelim” anlayışına dönüşecek
İnsan bilinci çözülemez görüldüğü için, LLM de benzer görünüyorsa ‘düşünüyor’ sayılıyor
Ama çoğu kişi LLM’lerin insanlar gibi düşünmediği konusunda hemfikir
Beynin içinde ‘düşünmenin’ ya da ‘bilmenin’ gerçekleştiği tekil bir nokta yok. Yine de buna inanmak zorundayız
“bag of words”, yapay zekanın hangi işlerde iyi ya da kötü olacağını öngörmek için yararlı bir sezgisel kural olabilir
Ama yazar örnekleri sonradan tezine uydurmuş gibi duruyor. ChatGPT doğru cevabı verseydi bile yine aynı mantığı savunurdu