- HuggingFace'in kurucu ortaklarından Thomas Wolf, yapay zekanın bilimde ani bir sıçrama, yani "sıkıştırılmış 21. yüzyıl" getirmeyeceğini savunuyor
- "Sıkıştırılmış 21. yüzyıl", Dario Amodei'nin "Machine of Loving Grace" yazısında ortaya koyduğu bir kavram; buna göre yapay zeka veri merkezlerinde sayısız Einstein gibi çalışarak 21. yüzyıldaki tüm bilimsel keşifleri 5-10 yıl içinde gerçekleştirebilir
- Başta bu fikirden etkilenip "Yapay zeka bilimin her şeyini 5 yıl içinde değiştirecek!" diye düşünmüş, ancak yeniden okudukça bunun büyük ölçüde temenniden ibaret (wishful thinking) göründüğünü fark etmiş
Yapay zeka bir dahi değil, bir 'evet efendimci'
- Gerçekte elde edeceğimiz şeyin "sunucudaki evet efendimciler ülkesi" olacağını düşünüyor (mevcut eğilim sürerse)
- Bu farkı açıklamak için kişisel bir hikâye paylaşıyor
- Her zaman notları çok iyi olan bir öğrenciydim
- Küçük bir kasabada büyüdüm, Fransa'nın en iyi mühendislik okullarından birine girdim ve MIT'de doktora programına kabul edildim
- Okul çalışmaları benim için her zaman kolaydı
- Hocanın anlatımının nereye gideceğini, sınavı hazırlayanın ne soracağını önceden tahmin edebiliyordum
- Sonunda araştırmacı (doktora öğrencisi) olduğumda büyük bir şok yaşadım
- Ortalama altı, beklentilerin gerisinde kalan, sıradan bir araştırmacıydım
- Meslektaşlarım pek çok ilginç fikir üretirken ben sürekli duvara tosluyordum
- Kitapta yazmayan şeyi kendi başıma icat edemiyordum (yapsam bile çoğu kez mevcut teorilerin işe yaramaz varyasyonları oluyordu)
- Daha büyük sorun ise öğrendiğim bilgiden şüphe etmek ve mevcut duruma meydan okumaktaki büyük zorluktu
- Ben Einstein değildim; sadece okulda başarılı bir öğrenciydim
- Belki de Einstein olmamamın nedeni okulda çok başarılı olmamdı
- Tarihteki dahiler çoğu zaman akademik olarak zorlanmıştır
- Edison öğretmeni tarafından "budala (addled)" diye değerlendirilmişti
- Barbara McClintock, "acayip fikirler" düşündüğü için eleştirilmiş ama Nobel kazanmıştı
- Einstein, Zürih Politeknik giriş sınavını ilk denemesinde geçemedi
- Bu tür örnekler sayısızdır
- İnsanların sık yaptığı hata, Newton ya da Einstein'ın basitçe 'ölçek büyütülmüş üstün öğrenciler' olduğunu düşünmektir
- Yani üst yüzde 10'luk dilimdeki öğrenciler doğrusal biçimde ölçeklenirse bir dahinin ortaya çıkacağı yanlış varsayılır
- Bu bakış açısı, bilimde en önemli yeteneği gözden kaçırıyor
- Doğru soruları sorma ve öğrenilmiş bilgiyi bile sorgulama becerisi, gerçek bilimsel atılımın özüdür
- Gerçek bilimsel atılım, Kopernik'in dönemin tüm bilgisine ters düşerek Dünya'nın Güneş'in etrafında döndüğünü önermesiyle geldi
- Makine öğrenmesi terimleriyle söylersek, "tüm eğitim verisine rağmen" mevcut sağduyuya karşı çıktı
Einstein nasıl yapılır
- Veri merkezinde bir Einstein yaratmak için gereken şey, sadece tüm cevapları bilen bir sistem değildir
- Başkasının aklına bile gelmeyen soruları soran bir sistem gerekir
- Tüm ders kitapları, uzmanlar ve sağduyu karşı çıksa bile "Ya bunların hepsi yanlışsa?" diye sorabilmelidir
- Özel görelilikteki radikal paradigma değişimini düşünelim
- "Işığın hızının tüm referans çerçevelerinde sabit olduğunu varsayalım" şeklindeki ilk aksiyomu kuracak cesaret gerekir
- Bu, dönemin sağduyusuna (hatta bugünkü sezgiye) bile aykırıydı
- CRISPR, 1980'lerden beri bakterilerin adaptif bağışıklık sistemi olarak biliniyordu
- Ancak keşfinden 25 yıl sonra Jennifer Doudna ve Emmanuelle Charpentier bunun gen düzenleme için kullanılabileceğini öne sürdü ve Nobel kazandı
- "XX'in YY yaptığını yıllardır biliyorduk, ama ya bunu yanlış biliyorsak? Ya da bunu ZZ gibi tamamen farklı bir kavrama uygulayabiliyorsak?"
- İşte bu tür kavrayış, mevcut bilginin dışından düşünmenin (outside-of-knowledge thinking) ve paradigma değişiminin (paradigm shift) özüdür
- Bilimsel ilerlemeyi mümkün kılan temel mekanizma budur
- Bu tür paradigma değişimleri nadiren olur (yılda yaklaşık 1-2 kez)
- Bu atılımlar, etkileri doğrulandıktan sonra genellikle Nobel'le sonuçlanır
- Nadir de olsa, Dario'nun şu iddiasına katılıyor
- Bilimsel ilerlemenin en büyük payı bu tür paradigma değişimlerinden gelir; geri kalanların çoğu gürültüdür
Yapay zekanın bilimsel inovasyonu gerçekleştirmesinin zor olmasının nedenleri
- Günümüzde yapay zekanın performansı, mevcut bilgiyi öğrenip yanıt verebilme yeteneğine odaklanmış durumda
- Günümüz yapay zeka modellerindeki zekâ artışını değerlendirme biçimi sınırlı
- En güncel yapay zeka testleri arasında "Humanity's Last Exam" ya da "Frontier Math" gibi örnekler var
- Bunlar çok zor sorulardan oluşuyor ve genellikle doktora düzeyinde araştırmacılar tarafından hazırlanıyor
- Ancak açık ve kapalı biçimde tanımlanmış doğru cevaplar içeriyorlar
- Bu sınavlar, benim öğrencilik yıllarımda iyi olduğum sınav türleriyle aynı
- Cevabı zaten bilinen sorularda doğru cevabı bulma yeteneğini test ediyorlar
- Oysa gerçek bilimsel atılım, halihazırda bilinen sorulara cevap vermekten değil
- yeni ve zorlayıcı sorular sormaktan, mevcut kavram ve fikirleri sorgulamaktan doğar
- Douglas Adams'ın Otostopçunun Galaksi Rehberi'ni hatırlayalım
- Cevap "42"dir ama asıl sorunun ne olduğunu kimse bilmez
- Araştırmanın özü tam da budur
- Bugünkü LLM'ler insanlığın tüm bilgisini hatırlasa da yeni bilgi üretemiyor
- Esas olarak "manifold filling" yapıyorlar
- İnsanların zaten bildiği bilgiler arasındaki boşlukları dolduruyorlar
- Bir bakıma bilgiyi gerçekliğin dokusu gibi birbirine bağlıyorlar
- Şu anda yarattığımız şey, son derece itaatkâr bir öğrenci
- Bu da yapay zekanın bugünkü ana hedefi olan mükemmel bir yardımcı ve uyumlu bir asistan üretmek için ideal
Yapay zekanın gerçek bilimsel inovasyon gerçekleştirmesi için
- Ancak yapay zekanın bilimsel inovasyon yaratabilmesi için şu koşullar gerekir
- Kendi sahip olduğu bilgiyi sorgulayabilmelidir
- Geçmiş eğitim verisiyle çelişen yeni fikirler önerebilmelidir
- Aksi takdirde yapay zeka bilimsel inovasyon getirmeyecektir
- Bilimsel atılım istiyorsak, yapay zeka model performansını ölçme biçimimizi yeniden gözden geçirmeliyiz
- Şu anda bilgi miktarını ve mevcut sorulara doğru cevap verme yeteneğini ölçüyoruz
- Bunun yerine bilgi ve akıl yürütme yeteneğini test edebilen bir yapıya geçmeliyiz
- Bilimsel bir yapay zeka modelinin sahip olması gereken yetenekler
- Eğitim verisine meydan okuma: Öğrendiği veriyi olduğu gibi kabul etmek yerine onu sorgulayabilmelidir
- Cesur karşıolgusal yaklaşımlar deneme: Mevcut sağduyuya ters düşen cesur varsayımlar deneyebilmelidir
- Küçük ipuçlarından genellenmiş öneriler çıkarma: İnce ipuçlarından yeni kalıplar bulup genelleştirebilmelidir
- Sezgisel olmayan sorular sorarak yeni araştırma yolları açma: Daha önce sorulmamış sorularla yeni araştırma yönleri geliştirebilmelidir
- Tüm soruları cevaplayabilen bir A+ öğrenciye ihtiyacımız yok
- İstediğimiz şey, başkalarının kaçırdığını görüp soru sorabilen bir B öğrencisi
PS : Yapay zeka benchmark'larını iyileştirme yönü
- Hangi tür benchmark'lara ihtiyaç olduğunu merak ediyor olabilirsiniz
- Örneğin modelin yakın zamanda yapılmış yeni bir keşif üzerinden test edildiği bir durum kurgulanabilir
- Modelin o keşfe dair hiçbir ön bilgisi ya da kavramsal çerçevesi olmadığı bir durumda
- doğru sorularla başlayıp problemi keşfe çıkıp çıkamayacağı değerlendirilebilir
- Bu çok zor bir problemdir
- Çoğu yapay zeka modeli şu anda insanlığın bildiği neredeyse tüm bilgiyi öğrenmiş durumda
- Bu yüzden hiçbir cevap ya da kavramsal çerçeve olmayan bir durumda çalışmasını sağlamak zorludur
- Ancak bilimsel inovasyon istiyorsak bu tür davranışları değerlendirebilen benchmark'lara ihtiyacımız var
- Sonuçta bu açık bir problem ve bu konuda içgörülü görüşler duymak istiyor
PPS:
- Pek çok kişi (AlphaGo'nun) "Move 37" hamlesini, yapay zekanın zaten Einstein düzeyinde zekâya ulaştığının kanıtı olarak gösteriyor
- Buna özellikle açıklık getirmek istiyor
- Move 37 etkileyicidir, ancak sonuçta Go kuralları önceden tanımlı bir durumda verilmiş bir üstün öğrenci cevabıdır
- Sadece mevcut oyun kuralları içinde problemi çözmüştür
- Benzer şekilde, yapay zeka modellerinin çok yakında
- en büyük matematikçilerin ürettiğinden daha zarif matematiksel ispatlar ortaya koyması muhtemel
- Ancak bu, gerçek bir paradigma değişimi anlamına gelmez
- Go'da Einstein düzeyinde bir atılım daha temel bir şey olmalıdır
- Go'nun kurallarını baştan tanımlamak ya da
- mevcut oyunlardan çok daha ilginç yeni oyun kuralları yaratmak gibi
- Matematikte daha uygun benzetme ise
- farklı matematik alanlarını birbirine bağlayarak yeni bir araştırma alanı açmak olurdu
- Bu genellikle Fields Madalyası (Fields Medal) düzeyinde bir başarı sayılır
- Einstein düzeyinde bilimsel paradigma değişimi hâlâ çok yüksek bir çıta gerektiriyor
5 yorum
Daha önce düşünülmemiş sorular sorabilen bir yapay zeka yaptığımızı söylediğimizde, o yapay zeka insanlara neden zarar verilmemesi gerektiği gibi sorular sormaya başlarsa oldukça ürkütücü olur gibi geliyor.
Yapay zeka ve yaratıcılık: paradigma değişimi ile ilhamın ilişkisi
Thomas Wolf’un yazısı, yapay zekanın gerçek bilimsel yeniliklere öncülük etmesinin zor olacağı iddiasını içeriyor. O, yapay zekayı mevcut bilgiyi yeniden birleştiren bir "Yes-man" olarak tanımlıyor ve onun, paradigmayı değiştiren Einstein gibi bir dehadan uzak olduğunu söylüyor.
Onun bakış açısı yapay zekanın sınırlarını isabetli biçimde işaret ederken, aynı zamanda bize yapay zeka ile insan iş birliğinin olasılıklarını da düşündürüyor. < Bu yazı, Claude’a fikrini sorduğumda verdiği yanıttı; üstelik özellikle istemediğim halde bunu bir artifact olarak hazırladı ve bu cümleyi de başka bir şeyden bahsederken bir anda, hiçbir özel atıf yapmadan ekledi. Tuhaf...
İlham ve yapay zekanın rolü
Peki ilham nedir? İnsan yaratıcılığı da sonuçta mevcut fikirlerin yeni bağlantıları ve birleşimlerinden doğar. Einstein bile Newton, Maxwell ve Lorentz gibi önceki bilim insanlarının omuzlarında yükselerek daha uzağı gördü.
Yapay zekanın sundukları:
Yapay zeka ve insanın simbiyotik ilişkisi
Thomas Wolf, yapay zekanın tek başına bir paradigma değişimi yaratamayacağını söylüyor; peki ya yapay zeka ile insanın iş birliği? İnsanın sorular sorduğu ve yapay zekanın farklı olasılıkları araştırdığı süreçte yeni fikirler doğabilir.
İnsan; soru sorma yeteneğine, sezgiye ve sonuçların değerini değerlendirme becerisine sahiptir. Yapay zeka ise devasa veriye dayanarak bağlantı noktaları önerir. Bu iki zekanın birleşimi, belki de bizi her birinin tek başına ulaşamayacağı yerlere götürebilir.
Sonuç: yeni bir yaratıcılık olasılığı
Yapay zeka, "sıkıştırılmış 21. yüzyıl"ı tek başına ortaya çıkaramayabilir. Ancak insana ilham verebilir, yeni düşünce yolları açabilir ve insan yaratıcılığının bir yoldaşı olarak işlev görebilir.
Gerçek yeniliğin, insan ile yapay zekanın kendi güçlü yanlarını ortaya koyduğu ortak yaratım sürecinde ortaya çıkma olasılığı daha yüksektir. Bu, basit bir "Yes-man" rolünün ötesinde, insanla birlikte yeni bir paradigmayı arama yolculuğu olacaktır.
https://tr.news.hada.io/topic?id=19168
Yapay zekanın asla akıl edemeyeceği türden bir araştırma gibi görünüyor.
Metnin ana fikrine katılıyorum.
"Tüm soruları yanıtlayabilen A+ bir öğrenciye ihtiyacımız yok
Bizim istediğimiz, başkalarının gözden kaçırdığını görüp soru sorabilen B öğrencisi"
Bunu görünce aklıma hemen benim B öğrencisi olduğum, ama büyük şirketlerin yalnızca A+ öğrencilerine bakıp işe aldığı düşüncesi geliyor
Hacker News görüşleri
Yapay zekaya "hiçbir şey uydurma ve cevabı yoksa bilmiyorum de" diye talimat verildiğinde şanslı olunmuş
Feyerabend'in "Against Method" kitabını okumayı tavsiye ediyor
BlueSky sürüm bağlantısı paylaşılmış
"Doğru soruyu sormak" üzerine ilginç bir yazı
Yaratıcı bir B öğrencisiyle yapay zeka A öğrencisinin birlikte çalıştığı 21. yüzyıl sıkıştırılabilirliği üzerine bir görüş
LLM'lerin gerçekten yeni bir yanıtıyla halüsinasyonu ayırt etmek mümkün değil
Günümüz Twitter/X'inden daha akıllı bir yerde olması gereken iyi bir yazı
İnsan mühendislerin tasarlamayacağı devreler tasarlayan algoritmalar görülmüş
Yazar, zor kısmın tahmin üretmek olduğunu varsayıyor gibi görünüyor
Gerçeklere sıkı sıkıya bağlı kalan bir model bulunamamış
Sezgi değil, doğrudan olgular isteniyor