- Silikon Vadisi'nde AGI'nin (yapay genel zeka) gerçekleştirilebilir bir hedef olduğuna inanan kültür yaygınlaşıyor
- OpenAI içinde, 'saf dil hipotezi' temelinde, dil modellerinin ölçeklenmesinin AGI'ye yol açabileceğine dair bir inanç oluştu
- Bu inanç, devasa veri merkezi genişlemelerini ve çevre ile emek sömürüsü sorunlarını meşrulaştıran bir gerekçe işlevi görüyor
- AGI'nin beklenen değer (Expected Value) mantığı, temelsiz olasılık ve değer tahminlerine dayanıyor; gerçek çevresel zararları ve toplumsal maliyetleri görmezden geliyor
- AGI fantezisinden vazgeçilip, küçük ve amaca yönelik modellerle sorunları çözen pratik bir mühendislik yaklaşımına ihtiyaç var
AGI inancı ve OpenAI kültürü
- OpenAI ile bağlantılı kişiler gerçekten de AGI'nin insanlığın refahına ya da yıkımına yol açabileceğine inanıyor
- Elon Musk, Demis Hassabis'i “dünyayı yönetmek isteyen bir kötü adam” olarak tasvir ederken, OpenAI'yi “iyi”, DeepMind'ı ise “kötü” olarak konumlandırdı
- Ilya Sutskever, çalışanlara “AGI'yi hissedin (Feel the AGI)” dedi ve AGI'yi simgeleyen tahta bir kuklanın yakıldığı bir ritüel gerçekleştirdi
- Bu tür davranışlar, bilimkurguvari hayal gücünün Silikon Vadisi'nin ana akım inancı haline geldiğini gösteriyor
'Saf dil hipotezi' ve LLM ölçeklenmesi
- Karen Hao'nun Empire of AI adlı kitabına göre GPT-2, 'saf dil hipotezi (pure language hypothesis)' üzerine kuruldu
- İnsanlar dil yoluyla düşündüğü ve iletişim kurduğu için, yalnızca dil verisiyle AGI'nin mümkün olduğu varsayımı
- Buna karşılık 'grounding hypothesis', AGI'nin dünyayı algılaması gerektiğini savunuyor
- GPT'den GPT-2'ye başarılı ölçekleme, OpenAI içinde daha fazla veri, daha fazla model parametresi ve daha fazla hesaplama kaynağıyla AGI'ye ulaşılabileceği inancını güçlendirdi
Ölçekleme yarışı ve çevre-emek sorunları
- AGI inancı ve LLM başarıları, büyük ölçekli veri merkezi inşaatlarını meşrulaştırıyor
- Bazı tesisler saniyede yüzlerce litre su kullanıyor ve elektrik yetersizliği nedeniyle kirletici gaz jeneratörlerini çalıştırıyor
- Bir kentin tamamına denk elektrik tüketimi ve artan CO₂ emisyonları ortaya çıkıyor
- ChatGPT'nin güvenli çıktılar üretmesi için veri sansürleme ve temizleme işi yapan emekçiler sömürüye ve zihinsel travmaya maruz kalıyor
- Veri talebi büyüdükçe tüm internet ayrım gözetmeden toplanıyor ve sonuçlar RLHF (Reinforcement Learning from Human Feedback) ile kontrol ediliyor
Beklenen değer mantığının sorunu
- AGI geliştirmeyi meşrulaştırmak için sıkça beklenen değer (Expected Value) gerekçe gösteriliyor
- “%0,001 olasılıkla çok büyük bir değer ortaya çıksa bile EV çok büyüktür” mantığı
- Ancak bu tür hesaplamalarda olasılıklar ve değerler keyfi olup doğrulanamaz
- Buna karşılık çevresel yıkım ve toplumsal maliyetler, kesin negatif değer ve bugünden hissedilen zarar olarak mevcut
Gerçek mühendisliğe yöneliş
- Teknoloji uzmanları sorunları etkili, verimli ve zararsız biçimde çözmelidir
- LLM'leri AGI olarak gören yaklaşım, bu üç ölçütün tamamında başarısız oluyor
- Aşırı hesaplama israfı, emek sömürüsü ve çevresel zarar ortaya çıkıyor
- AGI fantezisinden çıkıp, LLM'ler ile üretici modelleri belirli sorunları çözmeye yönelik araçlar olarak değerlendirmek gerekiyor
- Küçük ve amaca yönelik üretici modellerin veya üretici olmayan (ayırt edici) modellerin kullanımı
- Maliyet-fayda analizi ve teknik ödünleşimler yoluyla pratik mühendislik yapılması gerekli
3 yorum
Hacker News görüşü
Yapay zeka şüphecilerine tavsiye vermek gerekirse, veri merkezlerinin su tüketimi tartışmasından uzak durmak daha iyi olur
“Yılda milyonlarca litre” gibi ifadeler bağlam olmadan duyulunca korkutucu gelebilir, ama tarım ya da golf sahalarıyla kıyaslayınca önemsiz kalır
Enerji kullanımı, CO₂ emisyonu gibi tartışmalar makul, ama sadece su tüketimini öne çıkarmak genel argümanın güvenilirliğini düşürür
Ama sonradan öğrendiğim şey, veri merkezlerinin çoğu zaman tarımda kullanılamayacak içme suyunu kullandığıydı
Yine de “milyonlarca galon” gibi sayıları bağlam olmadan vermenin hâlâ bir anti-pattern olduğunu düşünüyorum
Bu, teknik bir tartışma değil de kimlik siyasetine dönüşmüş olmasının sonucu gibi görünüyor
HN'de siyasi pozisyonları bir kenara bırakıp teknik dayanaklarla tartışmak gerekir
Muhtemelen abartılı yapay zeka propagandasına karşı bir tepki olarak böyle bir tutum ortaya çıktı
büyük ölçekli talep oluşmasının yerel su altyapısını genişletebileceğini ve bunun da içme suyu fiyatlarını düşürebileceğini savundu
Ek yorumuna göre, “yapay zeka sadece değerli suyu tüketiyor” eleştirisi aslında durumu tersinden okuyor
Şili'deki bir kentte Google veri merkezinin yerel kuraklığı ağırlaştırdığı bir örnek vardı,
başka yerlerde ise durumun deniz suyunun içme suyuna karıştırılmasına kadar ciddileştiği söyleniyordu
Bir şehrin toplam tüketimine yaklaşan miktarda su kullanmak bence açıkça sorunlu
Hem golf sahaları hem veri merkezleri dışsallıklarının bedelini ödemeli,
kurak bölgelerde ekonomik değilse bunun öyle olması daha iyi olur
Tarımda kullanılabilecek bir suysa soğutmada da kullanılabilir
Enerji tüketimi meselesinde de biraz abartı var — sonuçta ucuz yenilenebilir enerji rekabetçi olacaktır
LLM'lerin sınırının bir donanım sorunu olduğunu düşünüyorum
İnsan beynindeki nöronlar aynı anda binlerce girdi ve çıktıyı işlerken, LLM nöronlarının tekil giriş-çıkışı var
İnsan beyni yaklaşık 20W ile çalışıyor ama LLM'ler için birkaç MW gerekiyor
GPU ya da TPU ile AGI'ye ulaşmak zor; tamamen yeni bir donanım paradigması gerekiyor
Bu sadece hesaplama gücü eksikliği meselesi değil
Sadece zihinsel faaliyetler için tasarlanmış bir ortamda o kadar çok nörona ihtiyaç olmayabilir
Sorun ölçek değil, yerleşim mimarisi (Electronic Design Automation)
EDA wiki maddesine bakılabilir
Beyinde çok sayıda giriş yolu ve çeşitli sinyal biçimleri var; tasarım karmaşıklığı çok daha yüksek
AGI söylemi, dinsel bir dürtünün uzantısı gibi geliyor
İnsanlar hâlâ bütün sorunları çözecek mutlak bir cevap arzuluyor
Bastırılırsa daha kötü biçimlerde geri dönüyor
Meditasyon, ölçülülük, başkalarına karşı etik gibi kişisel inançlar benim ‘dinim’
Güneş ya da beyin gibi doğal sistemleri teknolojiyle yeniden üretme çabası bu
Dinde olduğu gibi iktidar yapıları da inancı kullanarak kontrolü sürdürüyor
İnsanın körü körüne inanma ve dolandırılma eğilimi çağdan çağa tekrar ediyor
Bkz: Extraordinary Popular Delusions and the Madness of Crowds
Dinin kaybolduğu toplumlar önce değerleri kalmış boş bir kabuk evresinden geçiyor,
sonra din-sonrası aşamaya düşüp ahlaki bir boşluk üretiyor
Bazıları yapay zekaya itaat etmeye çalışıyor ama “yapay zeka söyledi” demek ilham vermeyen bir inanç
Ben de bir teknolog olarak verimli ve zararsız problem çözümü istiyorum ama gerçeklik karmaşık
Raspberry Pi'de Bluetooth yapılandırırken GPT ve Claude'un yardımıyla sorunu çözdüm
Stack Overflow ya da forumlar artık eskisi kadar canlı değil, belgeler de dağınık
Teknoloji o kadar karmaşıklaştı ki sonunda LLM'lere bağımlı olmak zorunda kalıyoruz
ama uzun vadede yapay zeka olmadan sürdürülemeyen bir toplum ayakta kalamaz
Teknoloji yeniden sadelik yönüne dönmeli
Mesela ArchWiki Bluetooth ya da Debian BluetoothUser
Şirketlerde şimdiden araçları insanların yerine AI ajanlarının çalıştırdığı yapılar oluşuyor
Sonunda insanların iç mantığı anlayamaz hâle gelme riski büyük
Ama insanın yerini tamamen almak için hâlâ temel sınırlara sahip
Sonunda LLM'lerin de aynı yola girmesi muhtemel
Sektörün bir kısmı LLM'lerin temel bir çıkmaz sokak olduğunu savunuyor,
ama hisse değeri ve itibar yüzünden gerçeği kabul etmiyor
LLM'ler de AGI'ye giden yolda ara aşama bir teknoloji olabilir
AGI sistemlerinin çekirdek bileşeni bile olabilir
Whisper sayesinde video altyazı işim devrim niteliğinde kısaldı
Eskiden saatler süren işi artık birkaç dakikada bitiriyorum
İyi bir arayüze sahip MacWhisper da erişilebilirliği artırdı
Örneğin avukatların LLM'lerle beraatı destekleyen materyaller bulduğu durumlar var
Aşırı genişleme yerine pratik kullanım önemli
Birkaç yıl içinde kişisel LLM'lerin dizüstü bilgisayar seviyesinde çalıştığı bir döneme gireceğiz
İçerik moderatörlerinin sömürüldüğünü söylemek bana abartılı geliyor
Bu, 30 yıldır var olan bir internet moderasyonu işi
Rahatsız edici olabilir ama yeni ya da dehşet verici bir şey değil
AGI arayışından bağımsız olarak gerekli bir rol
Gerçekçi yapay zeka tartışmalarını görmek sevindirici
Mesele transformer teknolojisinin işe yaramaz olması değil,
sorunun “yakında AGI geliyor” şeklindeki aşırı abartı olması
HN çoğu akımı iyi atlattı ama bu sefer istisna gibi görünüyor
Kolay olduğu için değil, zor olduğu için girişmeliyiz
AGI bir hayal olsa bile, o yolda giderken faydalı sorunlar çözülebilir
Veri merkezlerinin karbon emisyonları konusunda çok fazla abartı var,
uzun vadede temiz enerji tabanlı veri merkezleri daha ekonomik olacak
Bu da doğrudan dar gelirliyi etkiliyor
Bugünkü yapay zeka bu konuda pek ikna edici değil
DeepMind ve Demis Hassabis gerçekten bilimsel sonuçlar üretiyor
Örneğin: AlphaFold, AlphaEvolve vb.
Böyle çalışmalar varken “yapay zeka bir hayal” deyip geçmek adil değil
Yazının ana fikri, AGI saplantısını eleştirmek
Hassabis gerçekten bilimin ilerlemesiyle ilgileniyor gibi
Buna karşılık bazı şirketler daha çok para kazanmaya dönük PR gibi duruyor
Herkes AGI hakkında konuşuyor ama hepsi dönüp kendisinin ne yaptığını anlatıyor.
Mühendislik konusunda çevre ya da emek sömürüsü gibi tuhaf şeyleri öne sürmeyin,
bence onun yerine batacağını söyleyen bir rapor yayımlayıp short açarak bunu eylemle göstermek daha iyi olurdu..