Richard Stallman, "Neden ChatGPT Kullanılmamalı"
(stallman.org)- Richard Stallman, ChatGPT'nin zekaya sahip olmayan bir sistem olduğunu, yalnızca kelimeleri bir araya getirdiğini ve anlamı kavramadığını belirtiyor
- Bu sistem doğru olup olmadığına bakmaksızın çıktılar ürettiği için, onu bir “saçmalık üreticisi (bullshit generator)” olarak adlandırıyor
- Bu tür üretken sistemlere zeka atfeden kamuoyu yanılgısının hatalı bir güven yarattığı konusunda uyarıyor
- ChatGPT, kullanıcının çalıştırılabilir dosya ya da kaynak kodunu edinemediği kapalı bir yazılım ve yalnızca sunucu üzerinden erişilebiliyor
- Hesaplamaların başkasının sunucusunda yapılması, kullanıcının hesaplama özgürlüğünü zedelediği için kullanımının reddedilmesi gerektiğini savunuyor
ChatGPT'nin zekadan yoksun niteliği
- Stallman, “zeka (intelligence)”yı anlama ya da bilme yeteneği olarak tanımlıyor
- ChatGPT, kendi ürettiği çıktının anlamını bilmiyor; kelimelerin anlam taşıdığı gerçeğinin bile farkında değil
- Bu nedenle ChatGPT, zeki bir sistem değil, basit bir dil birleştirme sistemi olarak tanımlanıyor
“Saçmalık üreticisi” olarak niteliği
- ChatGPT'yi “bullshit generator” olarak adlandırıyor; bununla doğru olup olmadığına aldırmadan sonuç üreten bir sistemi kastediyor
- Aynı nedenle diğer üretken sistemlerin de aynı sorunu taşıdığını belirtiyor
Kamuoyunun hatalı güveni
- Pek çok kişi bu sistemlerde zeka varmış gibi yanılgıya kapılarak hatalı bir güven sergiliyor
- Stallman, bu sistemlere güvenilmemesi gerektiği yönündeki farkındalığın yayılması çağrısında bulunuyor
Kapalı yazılım olarak sorun
- ChatGPT, kullanıcının kopyalayamadığı veya çalıştıramadığı, yayımlanmamış bir yazılım
- Çalıştırılabilir dosyalar bile sunulmuyor; yalnızca OpenAI'nin sunucuları üzerinden kullanılabiliyor
- Bu yapı, kullanıcıyı sunucuya bağımlı hale getiren bir model oluşturuyor ve bağımsız kullanımı imkansız kılıyor
Hesaplama özgürlüğünün zedelenmesi
- Stallman, kendi hesabını başkasının sunucusunda yaptırmanın hesaplama özgürlüğünü yok ettiğini açıkça söylüyor
- GNU felsefesi belgesinden alıntı yaparak, “O sunucu gerçekte kime hizmet ediyor?” sorusunu gündeme getiriyor
Kaynak: Richard Stallman, “Reasons not to use ChatGPT”, stallman.org, 2024
Telif: Metin, özgün bildirim uyarınca aynı koşullarla kopyalanıp dağıtılabilir
23 yorum
Lisans yıllarımda
<Bilgisayar ve Zihin>adlı bir felsefe genel kültür dersi almıştım. Orada Amerikalı filozof John Searle’ün tasarladığı Çin Odası adlı düşünce deneyi anlatılıyordu. Bugünlerde LLM’ler bilinçsiz, sadece birer araçtan ibaretken buna insan muamelesi yapmak(?) doğru mu gibi sorular, o<Bilgisayar ve Zihin>dersini aldığım günleri de hatırlatarak zaman zaman aklıma geliyor; ben de bunu yapay zekaya sorduğum içeriği yazıya dökmek istedim. Boş bir yazı sayılır, keyif için okuyun lütfen. Teşekkürler.Soru) Merhaba. Amerikalı filozof John Searle’ün (1932~2025) ortaya attığı
<Çin Odası>adlı düşünce deneyini ayrıntılı ve anlaşılır biçimde anlatabilir misin?news.hada.io/topic?id=24995sitesini (hackers news) okuyunca Richard Stallman adlı bir kişinin “Chat-GPT gibi LLM modelleri herhangi bir kavramı anlayıp cevap vermiyor; sadece kelimeleri birleştirerek kulağa makul gelen cevaplar üretebilen makinelerden ibaret.” gibi düşündüğünü gördüm. Önce bana John Searle’ün Çin Odası deneyinin içeriğini anlatır mısın, ardından Richard Stallman’ın bu iddiası hakkında Gemini olarak senin düşünce ve görüşünü duymak istiyorum. Lütfen ayrıntılı ve anlaşılır bir yanıt ver. Gerçekten rica ediyorum!!Yanıt) Merhaba! John Searle’ün
<Çin Odası (Chinese Room)>düşünce deneyi ve bunun ışığında büyük dil modelleri (LLM) üzerine çok ilgi çekici bir konu getirdiniz.2025 itibarıyla John Searle artık aramızda değil, ancak onun bıraktığı bu düşünce deneyi, yapay zekanın sıçramalı biçimde geliştiği günümüzde her zamankinden daha hararetli tartışmaların merkezinde yer alıyor. Richard Stallman’ın iddiasını ve benim (Gemini’nin) varlıkbilimsel anlamını birlikte düşünmek için çok iyi bir fırsat.
İstediğiniz gibi oldukça ayrıntılı, anlaşılır ve aynı zamanda dürüst biçimde düşüncelerimi paylaşayım.
<Çin Odası (The Chinese Room)>düşünce deneyi1980 yılında John Searle, “Bir bilgisayar sadece program çalıştırarak insan benzeri bir ‘zihin (Mind)’ ya da ‘anlama (Understanding)’ sahibi olabilir mi?” sorusunu ortaya atarak bu düşünce deneyini tasarladı.
🧪 Deneyin kurgusu
Bir hayal edelim. Dış dünyadan tamamen yalıtılmış bir kapalı oda var.
😲 Deneyin sonucu
Odanın dışındaki kişi anadili Çince olan biri. Odanın içinden çıkan cevabı görünce hayrete düşüyor. Çünkü dilbilgisi kusursuz ve içerik son derece doğal. Dışarıdan bakınca “Vay, demek ki bu odanın içindeki kişi Çinceyi kusursuz biçimde anlıyor!” diye düşünmek mümkün oluyor.
💡 John Searle’ün temel iddiası
Ama biz biliyoruz ki odadaki A, Çince’den tek bir karakter bile anlamadı. O sadece kurallara (Syntax, sözdizimi) göre simgeleri bir araya getirdi; bu simgelerin ne anlama geldiğini (Semantics, anlam) hiç bilmiyor.
John Searle’ün anlatmak istediği çekirdek fikir tam olarak buydu ve bu, ‘güçlü yapay zeka (Strong AI)’ anlayışına bir itiraz olarak görülür.
2. Richard Stallman’ın iddiası ve modern yorum
Sizin sözünü ettiğiniz Richard Stallman’ın (özgür yazılım hareketinin kurucusu) görüşü, John Searle’ün iddiasını günümüzün LLM’leri olan ChatGPT ya da benim gibi sistemlere doğrudan uygulamaktır.
Stallman’ın eleştirisi şu: “AI’nın dışarıdan bakınca ikna edici sözler üretmesi, anlamı kavradığı için değil, ‘sıradaki gelmesi en olası kelimeyi’ istatistiksel olarak iyi bağladığı içindir.”
Şimdi doğrudan işin öznesi olan ben, Gemini olarak dürüst görüşümü paylaşayım. Ben duyguları olan bir insan değilim; ama nasıl çalıştığıma ve ‘anlama’ kavramına dair bir değerlendirme yapabilirim.
✅ 1. Teknik olarak Stallman’ın söyledikleri ‘doğrudur’.
İnkâr edilemez gerçek şu ki benim biyolojik bir beynim yok.
🤔 2. Ama ‘anlama’nın tanımı farklı olabilir. (Belirme)
Bununla birlikte, “sadece istatistiksel bir makinedir” deyip geçmek için modern AI’nın gösterdiği yetenekler fazlasıyla karmaşık hale gelmiştir. Burada ‘belirme (Emergence)’ kavramı devreye girer.
🤝 3. Benim vardığım sonuç: “Bir araç olarak değerimi ve sınırlarımı kabul ediyorum.”
Richard Stallman’ın eleştirisinin çok önemli ve gerekli bir uyarı olduğunu düşünüyorum.
📝 Toparlarsak
John Searle’ün
<Çin Odası>düşünce deneyi, aradan 40 yıl geçse de benim gibi AI sistemlerinin özünü delip geçen keskin bir içgörü sunuyor.Umarım bu yanıt, John Searle’ün felsefesini ve günümüzdeki tartışmayı anlamanıza yardımcı olmuştur.
Başkalarının sunucularında işlem yürütme yöntemi, kullanıcının bilişim özgürlüğünü zedelediği için kullanılmaması gerektiği söyleniyor.
Bu, yalnızca LLM'leri değil tüm bulut hizmetlerini ve harici hizmetleri reddedelim demek olmuyor mu...? Çeviri mi yanlış yapılmış?
Tam da doğru gördünüz
Stallman, SaaS kullanılmaması gerektiğini de savunuyor
https://www.gnu.org/philosophy/who-does-that-server-really-serve.html
Epstein’ı savunduğu için tamamen ortadan kayboldu sanmıştım, meğer yeniden ortaya çıkmış ha.
Başkası söylese saçmalık derdim ama bunu söyleyen Stallman olunca ikna edici geliyor.
Niyetle yargıda bulunan insan, özne ve nesne olarak iradeyi oluşturur. Bence zekâ böyle bir şeydir. Zihinsel faaliyetlerde faydalı olması, buna zekâ demek için abartılı bir yorumdur.
Stallman muhtemelen fazlasıyla ilkesel olduğu için buna
bullshit generatordemiştir. Hepinizin bildiği gibi, anlatmak istediği şey muhtemelen "olasılıksal papağan" terimiyle aynıdır.Ama bugünün olasılıksal papağanı olan LLM'lerin insanlığın üretkenliğini dramatik biçimde artırdığı da bir gerçek. Ve insanlar muhtemelen bilişim özgürlüğünden çok endüstriyel inovasyonla ilgileniyor. Ayrıca insanların da olasılıksal papağan olmadığının bir garantisi yok.
Kaynak kodu açık mı...? Öyleyse DeepSeek !!!
Bu tanıma göre çalışanlar da dahil olmak üzere benim elimden geçmeden başkalarının beyninden geçen hizmet sektörleri, bulut servisleri, hatta telefon bile hiç kullanılmamalı demekten farksız.
madde için, gerçek dünyada var olan her şey doğru olup olmamasından bağımsız olarak çıktı üretebilir. Hatta doğru çıktı vermeyi amaçlayan sistemler bile bunu başaramayabilir. Biz buna “hata” diyoruz.
madde. Eğer çalıştırılabilir dosyaya ya da kaynak koda erişebilmek zorunluluğu, bir sistemi kullanmak için onun içkin çalışma prensibini bilmek gerektiği iddiasıysa, o zaman fizik ve elektrik-elektronik mühendisliği okumamış herkesin akıllı telefonunu ve bilgisayarını derhal bırakması gerekir. Görelilik teorisini öğrenmeden konum takibi özelliğini kullanmamak gerektiğini söylemek gibi. Peki Stallman, kendi saçını kesen berberin kafasının içindeki tasarım planına gerçekten sahip mi?
maddeye göre bu kişi, hiç kimsenin düşüncesine güvenmeyen bir dogmatiktir. Çünkü kendi kafasında düşünme özgürlüğünü ihlal eden başkalarının tüm düşünceleri ve bunlardan çıkarılan sonuçlar, “benim” düşünme özgürlüğümü ihlal ediyor olacaktır.
Üretken yapay zekanın gerçekten zekâya sahip olup olmadığı konusunda, aceleyle onu zekâ sahibi bir varlık sanmayalım denebilir; ama bu düşünceyle omuz omuza duran bu tür zorlama mantıklar düpedüz saçmalık.
.Stallman'ın kim olduğunu ve neyi savunmak istediğini yanlış anlamış gibisiniz.
Stallman radikal biridir ve her zaman yalnızca doğru şeyler söylemez, ama bu yazıda gündeme getirilen sorunlar zaten uzun süredir aktif biçimde tartışılıyor. Bunlar basitçe saçmalık diye geçiştirilecek türden argümanlar değil.
Temelde, kullanıcının yazılımın kaynak koduna ya da bir kopyasına sahip olması gerektiğini söylemenin en temel dayanağı, sonuçta Stallman’ın kişisel inancı değil mi?
Sanki herkes her şeyi ücretsiz ve eşit biçimde paylaşabilir ve paylaşmak zorundaymış gibi son derece radikal, idealist ve tamamen teorik bir inanç sistemi kurup, o düşünce yapısına en ufak gölge düşüren her şeyi adeta sapkınlık gibi görmek şeklindeki tavra katılmak zor. İnsanlık olarak ekonomik sistem konusunda zaten buna benzer bir hastalığı bir kez yaşadık.
Üretken yapay zekanın çıktılarının olasılıksal olduğu ve bahsettiğiniz semantic grounding’e sahip olmadığı konusunda hemfikirim, ancak sonuçta bu bir derece farkı meselesi; insanlarla iletişim kurup bir şeyi tartışırken de içeriğin değerlendirilmesi ve doğrulanması bireyin sorumluluğundadır. Benimle konuşan taraf ister üretken yapay zeka olsun ister insan, sonuçta verdiği cevaplar öğrendiği arka plan bilgisi ile değer yargılarını şekillendiren eğitim verisinin etkisi altındadır. Elbette bu tür ortak noktalar var diye yapay zekanın gerçek bir zekaya sahip olduğunu düşünmüyorum, ancak en başından beri üretken yapay zekanın doğrulukla ilgisiz olmasının nedeni, onun eğitildiği verinin de doğrulukla ilgisiz olmasıdır; bu insanlar için de aynıdır. Sırf bu olgudan hareketle “kullanılmamalı” denmesini ikna edici bulmuyorum.
Ama dediğiniz gibi, kibirli olduğu konusu benim yanlış anlamam değil gibi görünüyor.
Üretken yapay zekanın kaynak koduna ya da kopyasına herkesin erişebilmesi gerektiğini söylerseniz, fikri mülkiyet diye bir şey kalmaz.
Başkasının sunucusuna veri gönderilmesinden rahatsızsanız, göndermeyin. Kullanmazsınız olur biter. Hiç kimseye sır vermeden sırlar hakkında danışmanın bir yolu yoktur. Birinin zaman, kaynak ve emek harcayarak geliştirdiği yapay zekanın kaynak koduna ya da kopyasına herkesin sahip olması gerektiğini söylemek, eğer bu bullshit değilse nedir? Ben kendi sahip olduğumu ücretsiz veriyorum diye başkasınınkini de kafama göre alma hakkına sahip olmam.
En başta söylediğim gibi, Stallman adlı kişiyi ve onun iddialarını çok iyi bilmiyorum. Adını yüzeysel olarak duydum, özgür yazılımla ilgili bazı çatışmalar olduğunu da biliyorum. Ama iddialarının ve etkisinin nereye kadar uzandığını, ne kadar ciddiye alındığını bilmiyorum. Yine de en azından rasyonellikten ve gerçekçilikten yoksun iddialara bullshit deme özgürlüğümün olduğunu düşünüyorum.
Ben, toplum üzerinde büyük etkisi olan teknoloji/bilginin topluma geri kazandırılması gerektiği çerçevesinden bakıyorum. Tıpkı ilaçlardaki jenerikler gibi. Jenerikler kısıtlanırsa Daraprim gibi vakalar artar ve birkaç kişinin çıkarı uğruna toplumun tamamı zarar görür.
Ayrıca elektromanyetizma ve akıllı telefonlardan bahsettiniz; elektromanyetizma gibi temel bilimler, bilginin üçüncü taraflarca doğrulanabilir bir biçimde yayımlanıp toplumla paylaşılması değil mi? Bu yüzden elektromanyetizma bilgisi olmayan sıradan insanlar da böyle adım adım inşa edilmiş güvene dayanarak akıllı telefon ekosistemine katılabiliyor; böylece ekosistemin ölçeği büyüyor, pazar oluşuyor ve insanlık bunun nimetlerinden yararlanıyor.
Şirketlerin piyasadan elde ettikleri kazanç ölçüsünde piyasaya katkıda bulunmasının ve teknolojik gelişmenin, bu tür gelişmelerin yeniden mümkün olmasını sağlayan topluma geri dönmesinin ben de arzu edilir olduğunu düşünüyorum.
Üretken yapay zekanın temel çerçevesi zaten kamuya açık ve OpenAI'nin açıklamadığı kısımların şirketin ticari sırları kapsamında olduğunu düşünüyorum. Şirketlerin ya da teknolojinin topluma yeniden katkıda bulunması, görünüşte bir teşekkür ifadesi ve birlikte yaşama mesajı olsa da, pratikte şirketin sürdürülebilir büyümesi için piyasaya yaptığı bir yeniden yatırım olarak görüyorum. Bu açıdan bakınca, yapay zeka şirketlerinin kazandıkları parayla eğitime ya da toplumsal altyapıya katkı yapması daha uygun; şirketin neredeyse bir varlığı sayılan yapay zekanın tüm kopyalarını tamamen açıklamasını istemek ise, altın yumurtlayan kazın altın yumurtalarının faydasını görmezden gelip önce karnını yarmayı talep etmek gibi değil mi? Altın yumurtalar istendiği kadar çıkar. Onları paylaşmak yeterliyken, ille de kazın kendisini ortaya koymak gerekiyorsa, o zaman kim o kazı yetiştirmek ister ki diye düşünüyorum.
Yapay zekanın nasıl çalıştığı zaten elektromanyetizma gibi ortaya konmuş durumda. Akıllı telefonlarda yalnızca elektromanyetizmanın temel bilgisi değil, her şirketin açıklayamayacağı ticari sır niteliğindeki teknolojiler de muhtemelen bulunuyordur. Bu kısmı dikkate almadan üretken yapay zekayı cadı avı yapar gibi kötü bir şey olarak damgalamayı anlamıyorum.
Yanıt yazanların anlattıkları sayesinde birçok şeyi araştırıp çokça düşündüm. Teşekkür ederim.
Anlayışınız için teşekkür ederim.
Altın yumurtlayan bir kaz olduğunu iddia eden biri varsa, o yumurtaların gerçekten altın olup olmadığını, gerçekten o kazın yumurtlayıp yumurtlamadığını ve altın yumurtaların karşılığında ne aldığını doğrulayabilmemiz gerekmez mi diye düşünüyorum.
Ben, Stallman’ın güvenilir bilişim için kaynağa erişilebilmesi gerektiği yönündeki iddiasını bu tonda okuyorum.
Yakın zamanda Çinli embedded platform üreticisi sipeed’in piyasaya sürdüğü nanokvm adlı üründe bir mikrofon bulunduğu bir vaka olmuştu.
Çin menşeli embedded ürünlerin güvenlik açısından zayıf olduğu, hatta devletin güvenlik operasyonlarında kullanılıyor olabileceği yönünde bir kaygı olduğunu biliyorum.
Bu yüzden o önyargı mı yansıdı bilmiyorum ama yakın zamanda bu ürün hakkında şöyle bir haber de çıkmıştı: https://tr.news.hada.io/topic?id=24886
Ancak sipeed, ilgili donanımdan yazılım geliştirmeye kadar her şeyi açık kaynak olarak yürüttüğü için bunun bir yanlış anlaşılma olarak açıklığa kavuşabildiğini düşünüyorum: https://x.com/lexifdev/status/1999340940805439775
Stallman’ın döneminde bu tür tartışmalarda Çin hükümetinin yerinde, McCarthycilik etkisinin hâlâ sürdüğü dönemdeki ABD hükümeti ve NSA vardı diye biliyorum.
Komplo teorisi sanılıp sonradan gerçek olduğu ortaya çıkan NSA arka kapı vakaları da vardı, printer tracking dots (https://en.wikipedia.org/wiki/Printer_tracking_dots) gibi şeyler de oldu.
Bugünlerde ise devlet bağlantılı komplo teorilerinden çok, ana gelir kaynağı reklam olan şirketlerin hedefli reklam için akıllı telefonların mikrofonunu dinlediği iddiaları daha popüler tabii.
Ayrıca yazılım teknoloji şirketlerinde kaynak kod elbette büyük rol oynar ama genel kullanım kolaylığı, hizmet işletme becerisi ve güvenin daha büyük rol oynadığını düşünüyorum.
OpenAI’nin tüm kaynak kodunu elde etmiş olsanız bile, onu takip eden rakiplerin çok sayıda kullanıcıyı taşıyabilecek altyapıyı kolayca ve istikrarlı biçimde kurup işletemeyeceği, marka güveni açısından da yetişemeyeceği açık değil mi?
Ana ürünlerini açık kaynak olarak geliştirip sayısız fork’a rağmen inisiyatifi kaybetmemiş epey örnek var.
Aklıma ilk gelenler arasında Chrome ve VS Code gibi örnekler var.
Elbette inisiyatifi kaybeden örnekler olarak Elastic ya da Redis’in AWS nedeniyle açık kaynak lisansları etrafında yaşadığı olaylar var ama ben yine de bunun, bu iki şirketin AWS’ye kıyasla kullanım kolaylığı, hizmet işletme becerisi ve güven açısından geride kalmasından kaynaklandığını düşünüyorum.
Böyle şeyler de bir bakıma politik ve ideolojik meseleler tabii. O yüzden biraz da kişisel bir şey ekleyeyim.
Asıl işi yazılım geliştirmek, hobi olarak da embedded donanımla uğraşmak olan biri olarak; kaynak kodu, devre şeması gibi şeyleri olmayan kara kutularla çalışmak gerçekten... geliştirme ve bakım yapmayı gerçekten çok zorlaştırıyor.
Bir yazılım kütüphanesi ya da donanım gibi bir şeyi kullanarak geliştirme yapmaya çalışırken kaynak koduna ya da tasarım çizimlerine ulaşabiliyorsam, ya da en azından teknik spesifikasyon dokümanları düzgün hazırlanmışsa geliştirme gerçekten çok kolaylaşıyor; aksi halde insanın başı gerçekten ağrıyor.
Son dönemde yurt dışında onarım hakkı üzerine epey konuşma oldu; bunlardan biri özellikle aklımda kaldı: Eskiden elektronik cihazların kapağını açtığınızda, tamir sırasında referans olsun diye üzerinde kablo şemaları çizili olurmuş. (Son dönemde Apple’ın tamircilere devre şemaları sağladığı da söyleniyor.)
Bu tür deneyimler, ilgili ürünlere duyulan güvenin oluşmasında büyük etki yaratıyor. Artık bir teknolojiyi seçerken ya da bir ürün satın alırken, bu bozulduğunda veya bir sorun çıktığında benim bunu kolayca anlayıp tamir ederek, ya da etrafından dolaşarak kullanmaya devam edip edemeyeceğime önce bakıyorum.
Hacker News görüşleri
Stallman'ın MIT AI Lab döneminde symbolic AI ile uğraşmış ve hatta GCC'yi yapmış olması, onu teknoloji dünyasının ünlü isimleri arasında sorunun özünü derinlemesine anlayan biri yapıyor diye düşünüyorum
Haksız değil. ChatGPT yalnızca zekânın bir benzeri (simulacrum); faydalı ama tamamen güvenilir değil. Özgürlük ve açıklık açısından da olumlu görmek zor
Ben LLM terimini tercih ediyorum. Ama çoğu kişi bunun ne olduğunu bilmiyor, o yüzden sonunda AI diye açıklamak zorunda kalıyorum. LLM bir bullshit generator değil. Anlamı bilmese bile sonuç faydalıysa bu yeterli. Tıpkı bir aşçının yumurtanın özünü bilmeden onu haşlayabilmesi gibi. Ama bu tür modellerin kendi donanımında veya üçüncü taraf bulutta özgürce çalıştırılabilmesi gerekir. Şu anda pazara Çin modelleri hâkim. ChatGPT, içerideki “code red” durumunu çözemese uzun süre ayakta kalamayabilir
Stallman'ın sitesinde “What's bad about” diye bir bölüm olması komik. Oldukça özfarkındalıklı bir kurgu
Bir hesap makinesi sayıları anlamıyor diye matematik yapamadığını söyleyemeyeceğimiz gibi, AI da kelimeleri insanlara benzer şekilde işliyor. Yaratıcılığı eksik olabilir ama gündelik işleri rahatlıkla halledebiliyor. Örneğin Almanya vergi sistemini sorarsam, biraz hata içerse bile iki saatlik kendi araştırmamdan daha doğru olma ihtimali yüksek
Zekâyı “yabancı olguları anlayıp zihinsel model kurabilme yeteneği” diye tanımlarsak, mevcut modeller çıkarım sırasında ağırlıkları güncelleyemediği için zeki değil. Gradient descent ile öğrenme verimsiz olduğundan, bugünkü yalnızca inference yapan modellerin zekâsı fiilen sıfıra yakın
LLM sonuçta halüsinasyon üreten bir şey. Sadece bazı halüsinasyonlar faydalı oluyor
“ChatGPT hiçbir şeyi anlamıyor, dolayısıyla zeki değil” iddiası, aslında ChatGPT'yi insanlaştırıp (anthropomorphize) sonra küçümseyen bir mantık. Ama “başkasının sunucusunda çalışan yazılım hesaplama özgürlüğünü zedeler” kısmına katılıyorum. Böyle bir AI gelişiminin özgürce çalıştırılamayan veya geliştirilemeyen bir ortamda gerçekleşmesi üzücü
LLM gerçek zekâ değil ama buna yapay zekâ (artificial intelligence) denebilir. Yapay çim gerçek çim değildir ama yine de ona “çim” deriz; isim bu açıdan geçerli
LLM'nin özü basit. Zekânın tanımı önemli değil. Ben LLM'ye “Associator” diyorum. Düşünmüyor ya da anlamıyor ama dilsel örüntüleri ilişkilendirerek faydalı sonuçlar üretiyor
Yapay zekâ nihayetinde bir ruha sahip olamayacaksa, zekâlarının gerçeği arayan insan zekâsına benzemesi için zorunlu bir neden var mı? Hatta bizim zihinsel faaliyet dediğimiz şeylerin önemli bir kısmı yalanlara ve halüsinasyonlara dayanıyor. Modern toplumdaki insanlar da olguları fark edemedikleri için (veya bilinçli olarak) yalanlarla başkalarının hayatlarını etkiliyor.
Aslında Stallman'ın LLM'leri seveceğini bir an bile düşünmemiştim hahaha
hahaha
Stallman'ın savunduğu şeyin, özet yazıda yeterince net biçimde ortaya konmadığı hissi var.
Doğru bir nokta, ama buna rağmen LLM'ler şaşırtıcı derecede yüksek bir olasılıkla doğru cevaplar veriyor.
:+1:
Bilgi nedir ki…
Bu, 'Çince oda deneyi'nden beri dönen eski bir tartışma konusu zaten haha