ChatGPT’den sonra AGI’ye yönelik beklentiler arttı ve süper zekâ sözü artık eskisi kadar bilim kurgu gibi gelmiyor. Ancak zekâ kavramı hâlâ belirsiz ve ne kadar yükselebileceğini kavramak da zor.
Bu yüzden şöyle bir hipotez kurdum. Zekâ, sonsuza kadar yükselebilen bir nitelik değildir. Hiçbir sistem insan zekâsını aşamaz.
https://blog.naver.com/conanoc/224107260779
Siz ne düşünüyorsunuz, merak ediyorum.
21 yorum
Teknolojinin gelişim hızı nüfusla doğru orantılıydı.
Gıda üretimi arttıkça artan nüfus toplam zekâyı ileri taşıdı.
Ancak bir noktadan sonra gıda üretimi artık nüfusa, zekâya ve teknolojiye bağlanmadı.
Yapay zeka farklı.
Üretilen donanım ve harcanan elektrik miktarına göre toplam zeka doğrusal olarak artıyor.
Sonuç: Yapay zekanın performansında bir sınır olabilir ama ölçeklenmesinde sınır yok.
Uç bir örnek vermek gerekirse, bir insandan daha akıllı olan şey sonsuz sayıda orangutandır. Deneme-yanılma ve toplam zeka açısından böyle. Ayrıca bugün baktığımızda, sadece yargılama konusunda eksik kalsa da internet denen alan içinde AI neredeyse her şeyi bilen bir yetenek sergiliyor. Zaten ortalama bir insandan daha zeki.
Sonsuz sayıda orangutanın bir insandan daha zeki olduğunu söylemek zor görünüyor. Orangutanlar ne kadar çok olursa olsun, bizim ilgi duyacağımız türden sorunları çözemezler; bu yüzden "zeka, problem çözme yeteneğidir" öncülünden bakarsak insan zekâsına ulaşamazlar. Elbette o "sorunu" bizim belirliyor olmamız açısından orangutanların haksızlığa uğradığını söyleyebileceğimiz bir yön de var.
ChatGPT'nin zaten insandan daha zeki olduğu fikrine bir ölçüde katılıyorum. Sonuçta benden çok daha fazla şey biliyor. Tam bir bilgi küpü.
Ama yine de problem çözme yeteneği açısından AI'nın hâlâ birçok eksiği var. Bu yüzden henüz AGI seviyesine ulaşmadığı söyleniyor olsa gerek.
A ve B adlı iki kişi sınava girdi ve sırasıyla 80 ve 60 puan aldı. A'nın daha akıllı olduğunu söyleyebiliriz ama zekâsının daha yüksek olduğunu söylemek biraz muğlaktır.
Bir sonraki sınavda B daha çok çalışıp bu kez A ve B sırasıyla 70 ve 90 puan alırsa, bu kez B'nin daha akıllı ve daha yüksek zekâya sahip olduğunu söylememiz gerekecek.
İnsan, öğrenme yoluyla bilgisini genişletebilir ve AI'da olduğu gibi bilgi genişlemesinin de bir sınırı yoktur.
Çünkü insan zaten kâğıt ve dijital cihazlar kullanarak beyninin kapasite ve hafıza sınırlarını aşacak şekilde bilgi depolayabiliyor ve ihtiyaç oldukça ek öğrenme de yapabiliyor.
Asıl mesele bilgiden çok, bilgiyi kullanarak sorun çözme yeteneğidir.
Sorun çözmek için, henüz bilginin içinde yer almayan ve bir yerden edinilmesi de mümkün olmayan bilgiyi bulmak ya da bizzat üretmek gerekir.
Bunun doğru bilgi olup olmadığını ve gerçekten onunla sorunu çözüp çözemeyeceğini doğrulamak için mutlaka dış araçlar kullanmak gerekir. Genişleyebilirlik sorunu da burada ortaya çıkar.
Yeni bir fizik keşfi için yalnızca düşünce deneyleri yetmez. Yeni fiziksel araçlar yapmak gerekebilir ya da mevcut araçlarla çeşitli deneyler yürütmek gerekebilir.
Hatta yeni bir AI modeli geliştirmek için sadece kodlama değil, eğitim altyapısı denilen fiziksel donanımı kullanmak gerekir; gerekiyorsa daha fazla GPU satın alarak mevcut altyapıyı da genişletmek gerekir.
Bu tür fiziksel işlerde insanlar uzun süre daha destek vermek zorunda kalacak gibi görünüyor ve ister istemez şu soruyla yüzleşeceğiz: "Bizim desteklediğimiz fiziksel işler dışındaki diğer işleri gerçekten AI daha iyi yapabilir mi?"
Öncelikle bu varsayım, (fiziksel evrenimizin içindeki bir gözlemci/hesaplayıcı olduğumuz öncülünde) belirsizlik ilkesi nedeniyle imkânsızdır (Laplace'ın şeytanına bakın). Ayrıca bilgiyi işleme eyleminde silme/başlatma gibi geri döndürülemez süreçler entropi artışına yol açtığından (Landauer ilkesi), sonuçta öğrenme/hesaplama gibi bilgi işleme faaliyetleri fiziksel evrende enerji, zaman ve ısı koşulları tarafından üst sınırla kısıtlanır.
Ve LLM’yi illa beyinle karşılaştıracaksak, bunu 1. insan beyninin durumunu olduğu gibi dondurup ek öğrenme/geliştirmeyi imkansız hale getirmiş, 2. tüm duyu organlarını kaldırmış, ardından 3. sadece Braille dizilerini alıp vermesini sağlamış bir biçim olarak düşünüyorum. Sonuçta dışarıdan bakınca bu beyin LLM’den ayırt edilemez, değil mi? O halde bu beyin zeki değil mi?
Sunulan yazıda öne sürülenler yalnızca basit bir fikir gibi görünüyor; bunu destekleyecek kayda değer bir kanıt metinde pek yok gibi.
Gelecekteki yapay zeka modellerinin bile yalnızca bugünkü sınırlamaların dışına çıkamayacağına dair bir gerekçe var mı?
Nick Bostrom, "Superintelligence" adlı kitabında üç tür süperzekâ ortaya koymuştu.
Bunlar arasında, paylaştığınız yazıda sözü edilen şeyin niteliksel süperzekâ ile sınırlı olduğu anlaşılıyor; ancak niteliksel süperzekânın imkânsız olduğunu varsaysak bile, hız süperzekâsı ve kolektif süperzekâ için bunun imkânsız sayılmasını gerektiren bir dayanak yok.
Zaten çok sayıda yapay zeka modeli, insanla kıyaslanamayacak hızlarda çıktı üretebildiğini gösteriyor ve iç yapılarında Mixture-of-Experts mimarisi kullanılıyor.
Dolayısıyla yapay zeka teknolojisi gelişirse, tek tek düşünme derinliği insan seviyesinde kalsa bile, genel olarak sergilediği yeteneklerin birçok bakımdan insanı aşmasını bekleyebiliriz.
Ayrıca niteliksel süperzekânın imkânsız olacağına dair gerekçeler de zayıf görünüyor.
Daha 10 yılı aşkın süre önce, go gibi belirli bir alanda yapay zekânın insanı aştığı bir dönemin geldiğine tanık olduk. Bu bakımdan, en azından doğru cevabın belirli olduğu alanlarda makinenin insan yeteneğini aşmasının mümkün olduğu zaten açıkça görülüyor.
Süperzekâ gelecek diye, doğru cevabı önceden belirlenmemiş sorunlarda bir "doğru cevap" ortaya çıkacağını düşünmüyorum.
Örneğin etik ikilemlerde, ancak hangi değere daha çok önem verildiği söz konusudur; tek bir doğru cevap belirlenemez.
Yine de bununla ilgili tartışmalara yardımcı olabileceğini düşünüyorum. Mesela insanların aklına gelmemiş noktaları işaret etmesi gibi. Bunun bugün bile bir ölçüde mümkün olduğunu düşünüyorum.
Güzel görüşleriniz için teşekkür ederim.
Benim "muhtemelen insanı aşan bir zeka olmayacak" diye tahmin etmem, "zekanın özü"ne dayanıyor denebilir.
Zekayı ikiye ayırdığımı, zaten bilinen şeyi iyi yapmak (Tip A) ve bilinmediği için arayıp durmak (Tip B) olarak düşünürsek, sınırın nerede olduğu biraz daha netleşebilir gibi geliyor.
Tip A, bugünkü yapay zekanın iyi olduğu alan; bizim de dar anlamda zeka diye düşünmeye daha yatkın olduğumuz alan. Bu görece kolay olduğu için (yine de uzun süre yapay zeka için zordu) sınırı da daha belirgin görünüyor. Tıpkı basit bir matematik probleminde sınırın 100 puan olması gibi.
Tip B ise zeka gibi görünmeyebilir ama aslında zor problemleri çözebilmemizi sağlayan şey bu yetenek. AGI düzeyinde bir yapay zekayı nasıl yapabileceğimizi bilmememize rağmen onu inşa etmeye devam ediyoruz. Fleming'in penisilini keşfetmesinde olduğu gibi, bu sadece saf tesadüf değil; çok sayıdaki olasılık alanı içinde daha olası yönleri seçerek cevaba doğru ilerliyoruz. Buradaki sınır niteliksel olmaktan çok niceliksel görünüyor; sizin yukarıda sözünü ettiğiniz hızsal/kolektif süper zeka çerçevesinde düşünülebilir. Gerçek dünyanın problemlerinde yanıtı sadece düşünce deneyiyle bulamayacağımız için hızın da bir sınırı var. Tıpkı Gangnam-daero'da ne kadar hızlı bir araba olursa olsun 100 km/s'yi aşmasının zor olması gibi.
Ben de AlphaGo örneğinin ilginç bir referans olabileceğini düşünüyorum. Bu durumda farkın nitelikselden çok niceliksel olduğunu düşünüyorum. Çünkü insan seviyesinde örüntüler edinip, insandan çok daha fazla olası durumu çok daha hızlı tarayabildiği için bu sonuç mümkün oldu.
Daha da ilginç olan şu: AlphaGo insan oyun kayıtlarıyla eğitilmişti ama sonrasında AlphaZero, insan oyun kayıtlarını dışarıda bırakıp kendi başına iyi hamleleri bulacak şekilde eğitildi ve AlphaGo'dan daha yüksek skor elde etmesine rağmen AlphaZero'nun Go örüntüleri insanın Go örüntülerine neredeyse çok benziyor. Yani yerleşik joseki büyük ölçüde değişmedi. Bu da insanın zaten neredeyse en iyi hamleleri bulmuş olduğunu gösteriyor. Bu, Tip A'daki sınır noktasıdır.
Karşılaştırma ölçütü kişiden kişiye değişebilir ama benim açımdan Go'da yapay zeka ile insanın aynı seviyeye ulaştığını söylemek isterim. Go'da acemi bir oyuncu ile profesyonel bir Go ustası niteliksel olarak farklı becerilere sahiptir, ama yapay zeka profesyonel Go oyuncusundan sadece biraz daha hızlıdır.
Hımm? Go'yu çok iyi bilmesem de uzun yıllar satranç oynadım; ama bu kısım, Go oynayan kişilerden duyduklarımla tamamen farklı görünüyor.
Acaba bu konuda bir dayanak var mı?
Ben, insanların kötü diye değerlendirip oynamadığı hamleleri AlphaGo'nun inceleyip yeni joseki'lere dönüştürdüğünü biliyorum.
https://namu.wiki/w/3%EC%9D%98%203
Öncelikle Go söz konusu olduğunda, "AI ile insanın aynı seviyeye ulaştığının değerlendirildiği" yönündeki ifade başlı başına yanlış bir anlayış gibi görünüyor. AI, Go alanında zaten insanı aşan bir yetkinlik sergilediğini kanıtladı.
Şu anda Go dünyasında reytingi en yüksek profesyonel oyuncu Shin Jin-seo 9-dan ve puanı 3866. (https://www.goratings.org/ko/ referans)
Oysa sözünü ettiğiniz AlphaGo Zero (2017) için açıklanan Elo reytingi tam 5185 puana ulaşıyor.
Bilgi için, Elo reytinginde 200 puan fark olduğunda bu, dört maçta üç galibiyet alabilecek düzeyde bir güç farkına karşılık gelir; 1200 puan fark olduğunda ise beklenen kazanma oranının %99,9'a ulaştığı söylenir.
Lee Sedol ile oynayıp 5 maçın 4'ünü kazanıp 1'ini kaybeden AlphaGo sürümünün Elo reytingi 3739'du; o AlphaGo sürümü ile AlphaGo Zero karşılaştırıldığında ise AlphaGo Zero 100:0 kazandı.
Dolayısıyla puan farkı 1300'ün üzerindeyken niteliksel bir fark olmadığını düşünmek, sadece gerçeği görmezden gelmek değil midir diye düşünüyorum.
Ayrıca AI'ın ortaya çıkışından sonra Go'daki joseki'lerin büyük ölçüde değişmediği iddiasının da basit bir Google aramasıyla gerçeğe aykırı olduğu görülebilir.
Ayrıca, AI'ın ürettiği sonuç insanınkine benzer çıksa bile, bu insan yönteminin her zaman mümkün olan en iyi yöntem olduğunu garanti etmez.
İnsan zekasının en üst noktada olduğu ve artık daha ileri gidilemeyeceği iddiası, sonuçta insanın öğrenme ve problem çözme yönteminin mümkün olan koşullar altında en iyisi olduğu anlamına gelir.
Peki ama gerçekten öyle mi? İnsan zekası, evrim sürecinde her dönemde karşılaşılan hayatta kalma gibi sorunları çözmek için evrimsel baskılar altında şekillendi; bu yüzden içinde sayısız heuristik ve yanlılık barındırıyor.
Şu an için yapay zekanın bunu bile bütünüyle takip edemediği de doğru, ancak bu durum gelecekte ortaya çıkacak yapay zekanın da insanı aşamayacağının kanıtı olamaz.
Son olarak, "bilmediği için arayıp durmak" tam da makinelerin insandan çok daha iyi yapabileceği bir alan gibi görünüyor. Çünkü makineler çok sayıda instance kullanarak paralel arama yapabiliyor. Hatta bu da sözünü ettiğiniz AlphaGo Zero düzeyinde zaten gösterilmiş bir şeydi.
Burada fizik ya da kimya gibi bilimsel deneylerde bilgi ediniminde darboğaz oluşacağı noktasına ben de katılıyorum; ancak böyle bir darboğazın olmadığı ya da daha az olduğu alanlarda gelişme çok daha hızlı olabilir. Örneğin matematik ya da kodlama gibi alanlar buna örnek verilebilir.
Ve darboğazın ortaya çıktığı noktalarda bile, bugünkünden çok daha hızlı ilerlemenin mümkün olduğu alanlar var. (AlphaFold'un gösterdiği gibi) Simülasyonla önceden bir şeyleri tahmin edip gerçek deney gerektiren deneme sayısını azaltmak ve robotları kullanarak tekrarlı deneyleri otomatikleştirmek mümkün olacaktır.
Öyleyse burada sizin "Tip B" diye adlandırdığınız kolektif/hız temelli süper zekanın zaten o alanlarda insanı aşacağını öngörmek daha doğru olmaz mı? Çünkü insanın sınırları ile teorik/fiziksel sınırlar açıkça farklı şeylerdir. "Sadece daha hızlı olmak niteliksel bir gelişme değildir" denirse, bunun sadece kale direklerini yerinden oynatmaya benzeyen bir konu saptırması olduğunu düşünüyorum. Çünkü ortaya çıkacak sonuçlar açıkça insanın ürettiklerini aşacaktır; bu noktadan sonra buna hâlâ "sadece daha hızlı" demek zor görünüyor.
Buna karşılık, insan zekasının biyolojik olarak şu anda bir sınıra dayanmış olması nedeniyle mevcut seviyenin çok ötesine çıkmasının zor olduğu iddiası daha makul görünebilir.
Ama mesele, biyolojik değil fiziksel sınırlarla kısıtlanan makine zekasının da niteliksel olarak insana benzer sınırlara sahip olacağı gibi iddialı bir savsa, o zaman buna uygun olarak çok daha güçlü kanıt ve mantık gerektiğini düşünüyorum.
Aşağıdaki iki kişinin görüşüne yanıt verecek olursam, sanırım mesele değerlendirmenin nasıl yapılacağı kısmı gibi görünüyor. Ben değerlendirme ölçütünü ortaya koymadığım için, baştan itibaren biraz muğlak bir iddia gibi duruyor olabilir.
Benim ölçütüme göre matematikte 80 puan almakla 90 puan almak arasındaki farkı, bir problemi çözmenin 1 saat sürmesiyle 30 dakika sürmesi arasındaki farkı zeka farkı olarak görmek istemem. O düzeyde bir fark varsa, bunu aynı zeka seviyesinde görmek daha doğru olur gibi geliyor. İnsanlar arasında da sapma büyüktür ama biz yine de bunu "insan zekası" diye tek kalemde topluyoruz. Profesyonel Go oyuncularının da hepsinin gücü farklıdır ve elo sıralamaları da farklıdır, ama onların oynadığı Go’nun tamamen farklı seviyede olduğunu söylemeyiz; buna karşılık 10 kyu seviyesindeki bir amatörle tamamen farklı seviyede Go oynadıklarını söyleyebiliriz. Bu açıdan bakarsak AlphaZero, Lee Sedol’u her zaman yeniyor olsa da oynadığı Go bambaşka bir seviyede değildir. (Böyle söylersek Go konusunda tanrı, insan ve yapay zekanın aynı seviyede olduğunu söylememiz gerekir herhalde. Tabii tanrı tamamen farklı bir seviyede Go oynayamıyorsa. Örneğin tanrı 9 taş handikap verip yine de insanı yenebiliyorsa.)
"Go’nun joseki’si büyük ölçüde değişmedi" yönündeki iddiama karşı, hiçbir şey değişmediği söylenemez, yeni joseki’ler de çıktı şeklindeki itiraz biraz "itiraz olsun diye itiraz" havası taşıyor denebilir; ama tartışmanın tadı da biraz burada zaten. İtiraz olmazsa tartışma fazla yavan kalırdı.
Ek olarak, niteliksel fark ile hızı ayırmak bile yapay zekanın geleceğine dair daha iyi öngörüde bulunmamıza yardımcı olabilir gibi görünüyor. Daha önce de söylediğim gibi, Gangnam-daero’da hız yapmak zor olduğu gibi, bizim gerçekte çözmemiz gereken problemler de hızlanmanın zor olduğu ortamlarda bulunuyor. Hızın sınırlı olduğu ve niteliksel olarak benzer seviyede bir zeka söz konusuysa, sonuçta fark yaratmak da zor olacaktır. Elbette hız darboğazının olmadığı bazı alanlar olabilir; ama bunun matematik ve kodlama olduğunu sanmıyorum, bu alanlarda önce niteliksel düzeyin iyileşmesi gerekiyor gibi görünüyor. (Ama benim iddiam, yapay zekanın insanı yakalayamayacağı değildir.)
İnsan ve AI karşı karşıya geldiğinde taraflardan biri %99’un üzerinde kazanma oranıyla ezici biçimde üstün geliyorsa, bunun nasıl aynı seviye olduğu söylenebilir? Bu, sadece aralarında ayrım yapmayalım demekle aynı şeydir.
"Go oyununda tanrı, insan ve AI aynı seviyededir" demek, sanki Go oynarken tanrı, insan ve AI aynı kuralları paylaştığı için üçünün de becerisinin özünde eşdeğer olduğunu savunmak gibi görünüyor. Ancak aynı kuralları paylaşmakla aynı beceri düzeyine sahip olmak tamamen farklı şeylerdir.
Bu ölçüte göre ampirik bir fark açıkça var olsa bile, bu kişinin ölçütüne göre aynı seviye denebilir; dolayısıyla tartışmanın hiçbir anlamı kalmıyor gibi görünüyor.
Bu kişinin kendi blogunda paylaştığı başka bir yazıya bakınca, kanıtları kabul etme konusundaki öncüllerinin bile benim ölçütlerimden oldukça farklı olduğu anlaşılıyor.
Bu tür bir fark varken sağlıklı bir tartışmanın ilerlemesi zor görünüyor, bu yüzden ben burada bırakacağım.
Ah haha karşı çıkışa dair ek bir dayanak bile sunmadan buna itiraz olsun diye itiraz deyince, ne yapmak istiyor acaba? diye düşündüm ama...
Blog bağlantısını eklediğiniz için gerçekten teşekkürler. Ben de burada bırakayım artık
Konuşma üslubunuzun neden sıradan olmadığını merak ediyordum, meğer siz Ay'a iniş komplo teorisi iddiasını komplo teorisiyle kazanmış kişi imişsiniz.
Ay'a iniş komplo teorisi iddiasında da başarılı oluyorsunuz; bu kişi için imkansız bir iddia konusu var mı gerçekten merak ediyorum.
Bu gerçekten çok beklenmedik bir şey olduğu için, burada bırakacağınızı söylemiş olsanız da biraz daha konuşabilir miyiz?
Belki de Go oyununu çok iyi bilmediğiniz içindir ama, mevcut joseki'lerde küçük bir değişiklik olması, "Go'nun joseki'leri büyük ölçüde değişmedi" demekten farklı bir şey mi?
"Büyük ölçüde" ile "hiç"in farklı anlamlara geldiğini bildiğinizi tahmin ediyorum; hangi açıdan "ne yapmak istiyor acaba?" diye düşündüğünüzü merak ediyorum.
Değerlendirme ölçütlerinde bakış açısı farkını gayet iyi anladım. Dediğiniz gibi, 1 puan bile daha iyi bir skor almak daha yüksek zekaya sahip olmak anlamına geliyorsa, ben de "zekânın süreklilik hipotezi"nin false olduğunu düşünüyorum.
Görüşünüz için teşekkür ederim.
Bir şeyin olanaklarının sınırlarını keşfetmenin tek yolu, imkânsızlığın alanına biraz olsun adım atmaktır.
İlginç bir görüş. Hipotez sonuçta sadece bir hipotezdir ve insanların görüşleri farklı olabilir. Hipoteze aşırı biçimde kişisel beğeni yansıtıp "hipotez hoşuma gitmiyor, beni rahatsız ediyor" diye tepki vermek tuhaf görünüyor. Buna karşılık, sadece hipotezin yanlış olduğunu düşünmek ya da bunun nasıl bilinebileceğini sormak ise kişisel bir görüştür; bunda tuhaf bir şey yok.
Madem soru sordunuz, yanıt vereyim: Bu hipotezi tartışabilmek için önce "zeka" denen şeyin ne olduğu üzerine mutlaka düşünmek gerekir. Zekanın doğası belirsizdir. Çünkü hâlâ bunun hakkında açık ve üzerinde uzlaşılmış bir tanımımız yok. Sıradan insanlar ve yapay zeka alanındaki geliştiriciler için bu kavramın doğası muğlak olsa da, bilişsel psikoloji alanında bunun üzerine çok sayıda araştırma yürütülüyor.
Soru sormak, cevap bulmada çok etkili bir araçtır; hipotez de bir bakıma bir sorudur.
Bu içeriği blogda yazmıştım ama eğer "ne anlattığı belli değil, hipotez de hoşuma gitmedi" deniyorsa, sanırım benim daha fazla verebileceğim bir yanıt yok. Muhtemelen yazı anlatımım yetersizdir.