AI 2040: Plan A
(ai-2040.com)- Plan A, süper zekâ yarışından kaçınmaya yönelik uluslararası bir anlaşma olarak; yapay zeka araştırmalarını açık hale getiren, birden fazla ülke ve şirketin en ileri hatta katılmasını sağlayan, ardından insan yetenekleri sınırları içinde yavaşça ölçeklenip 2040’ta süper zekâya geçilen bir politika senaryosudur
- Temel araçlar AI Ar-Ge’sinde tam şeffaflık, ülkeler arasında doğrulanabilir güvenlik önlemleri ve compute temelli karşılıklı caydırmadır; gizlice yarışan az sayıda şirket yerine birçok ülkeden onlarca şirketin birlikte ölçeklenmesi için tasarlanmıştır
- Senaryo, 2029’da ABD ve Çin’in anlaşarak 2030’da beklenen AI Ar-Ge’nin tam otomasyonundan kaçınmasını, 2035’te en iyi insan uzman düzeyinde durmasını ve ardından 2040’ta süper zekâya ölçeklenmesini öngören bir takvim belirler
- Anlaşmaya kadar; iç ve dış dağıtım arasındaki farkın azaltılması, model spesifikasyonları ve dahili kullanımın açıklanması, ihracat kontrollerinin uygulanması, doğrulama teknolojilerine yatırım, AI Ar-Ge compute bütçesinin sınırlandırılması, çip tedarik zinciri bilgisinin toplanması ve hükümetin AI yeteneği kazanması gibi kademeli politikalarla zaman kazanılabilir
- Alternatifler olan Plan D ve Plan C sırasıyla anında süper zekâ yarışını ve birkaç aylık sınırlı yavaşlamayı seçer; ancak AI kontrol başarısızlığını ve güç yoğunlaşmasını önlemek için yetersizdir ve diğer ülkelerin kaygılarını artırarak dünya savaşı riskini bile yükseltebilir
Plan A’nın önerdiği gelecek
- AI şirketleri, her açıdan insanlardan daha zeki AI geliştirmek için yarışıyor; AI 2027 bunun sonucunda insanlığın yok oluşuna veya geri döndürülemez güç yoğunlaşmasına giden yolları ele almıştı
- Plan A bunun yerine şu önlemleri birleştirir
- Süper zekâ geliştirmeyi 2040’a kadar yavaşlatmak
- Tüm AI araştırmalarını açık hale getirmek
- Dünyanın birçok ülkesinden onlarca şirketin en ileri hattı yakalamasına izin vermek
- Kasıtlı olarak karşılıklı garantili compute imhası (mutually assured compute destruction) rejimine girmek
- Büyük ABD öncü AI şirketlerindeki uzmanlar, OpenAI’daki doğrudan deneyim, masaüstü tatbikatlar ve politika yapıcılar, ulusal güvenlik uzmanları ve AI politikası liderleriyle yapılan görüşmeler temel alınarak oluşturulmuştur
- Uluslararası anlaşma, ülkelerin ilerlemeyi kavrayabilmesi ve güvenlik önlemlerini uygulayabilmesi için AI Ar-Ge’sinde tam araştırma şeffaflığı getirir
- Amaç, birçok ülkedeki birçok şirketin gizli bir yarış yürütmesi yerine süper zekâya doğru yavaş, güvenli ve birlikte ölçeklenmesidir
Tahmin değil, politika önerisi senaryosu
- Plan A, gerçek geleceğe dair en iyi tahmin değil; bir politika önerisini iletmek ve stres testine sokmak için kullanılan bir senaryodur
- Plan A’nın uygulanması başlı başına bir öneridir
- Uygulama sonrasındaki etkiler tahmin olarak ele alınır
- Senaryoda Plan A kusurludur ve ancak son anda devreye alınır, fakat sonunda başarılı olur
- ABD’nin süper zekâ sorununa verebileceği başlıca yanıtlar Plan B, C, D ve S ile karşılaştırılır
- AI şirketlerinin önümüzdeki 1 ila 10 yıl içinde insanlardan daha zeki AI geliştirme hedeflerine ulaşma ihtimalinin yüksek olduğu düşünülür
- Sektörde süper zeki AI’nın kontrolünün geliştirme sürecinde çözülebileceğine dair bir inanç vardır; ancak buna karşılık gelen bir plan yoktur ve bu durumun tüm insanlığı ölüme sürükleyebileceği değerlendirilir
- Yarışın kazananının büyük bir liderlik elde etmesini ya da varoluşsal riski azaltmak için tek taraflı yavaşlamasını beklemek zordur; yarış sürerse AI süper zekâya ulaştığında insanların etkili kontrolü korumasının zor olacağı düşünülür
Hizalanmış süper zekânın bile bıraktığı güç sorunu
- AI insan niyetleriyle uyumlu hale getirilse bile, dünyanın tek süper zekâ ordusunun aylar boyunca çok az sayıda kişi ya da tek bir kişi tarafından kontrol edildiği benzeri görülmemiş bir güç yoğunlaşması ortaya çıkabilir
- Süper zekânın sunduğu seçeneklerden bazıları fiilen dünyayı ele geçirmek anlamına gelebilir
- OpenAI, Anthropic, xAI ve Google DeepMind CEO’larının, gücü rakiplerinden veya Xi Jinping’den daha sorumlu kullanabilecek daha az kötü seçenek olduklarını düşünerek geliştirmeye devam etme ihtimali olduğu değerlendirilir
- Daha az kötü olanı seçmek gerekse bile, insanlığın yok oluşu veya dünya diktatörlüğü ihtimali çok yüksek bir strateji desteklenmemelidir; yeterli sayıda insan daha iyi bir yol talep ederse başka bir yolun mümkün olduğu varsayımıyla Plan A oluşturulmuştur
Senaryo doğrulamasına neden ihtiyaç var
- “Planlar işe yaramaz, ama planlama her şeydir” şeklindeki Dwight D. Eisenhower sözü Plan A’nın yaklaşımı olarak alınır
- Birçok AI politikasının senaryo incelemesinden geçemediği düşünülür
- Bir politikanın başarılı olacağı ayrıntılı ve makul bir yol yazıldığında, gerçek başarı olasılığının sanılandan düşük olduğu ya da destekçilerin kabul etmediği hoş olmayan yan etkilerin ortaya çıktığı görülebilir
- Kişinin tercih ettiği politikayı incelemek rahatsız edici sorunları ortaya çıkarırken, rakip politikayı incelemek büyük çabaya kıyasla az retorik kazanç sağladığından bu tür çalışmalar nadirdir
- Plan A da eleştiriye açık olmayı göze alarak aynı incelemeyi uygular
- Süperinsan AI’ya yaklaşan bir dünyada politikaların etkisini öngörmek, Üçüncü Dünya Savaşı için en iyi taktikleri öngörmekten bile geçmiş örneklerden daha uzaktır; yine de ayrıntılı senaryo yazmanın kendisi değerlidir
- İstihbarat kurumları, iklimle ilgili kurumlar ve pandemi hazırlık kuruluşları da kendi amaçları için senaryo planlaması kullanır
- Ne kadar zaman kaldığı belirsiz olduğundan Plan A’ya benzer önlemlerin hızla devreye alınması gerektiği düşünülür
2029–2040 takvimi
- Somut senaryo takvimi şöyledir
- 2029: ABD ve Çin pervasız süper zekâ yarışından kaçınmak üzere anlaşır
- 2030: Anlaşma olmasaydı AI Ar-Ge tamamen otomatikleşecek ve yıl sonuna kadar süper zekâya ulaşacaktı; anlaşma sayesinde bundan kaçınılır
- 2030–2035: En iyi insan uzmanlarla kabaca benzer AI’ya kadar, insan yetenekleri sınırları içinde ölçeklenir
- 2035: İnsan kontrolünü korumak için en iyi insan uzman düzeyinde durulur
- 2040: Durdurma kaldırılır ve süper zekâya ölçeklenir; AI 2040 başlığı buradan gelir
- AI 2027, 2027’de AI’nın daha iyi AI üretme sürecini tamamen otomatikleştirdiği ve aynı yıl zekâ patlaması ile süper zekâya giden bir yol belirlemişti
- Yeni senaryoda varsayılan otomasyon zamanı 2030 olarak değişti ve yönetişim önlemleri sayesinde genel olarak insanları aşan AI ilk kez 2040’ta ortaya çıkıyor
- Takvim değişikliği, AI’ya ulaşma zamanına ilişkin belirsizliği farklı senaryolara yansıtmak içindir
- AI 2027 yazılırken Daniel, 2027 veya daha erken bir gelişmeye yaklaşık %50 olasılık veriyordu
- Plan A yazılmaya başlandığında Thomas için aynı kritere karşılık gelen yıl 2030’du
- Daniel şu anda gerçek gelişmelerin bu senaryodan biraz daha hızlı olma ihtimalinin yüksek olduğunu düşünüyor
- Yönetişim yolunun değiştirilmesinin nedeni, tam hızda bir zekâ patlamasının son derece pervasız olması ve gücü ciddi biçimde yoğunlaştırmasıdır
2027: İkinci işgücü olarak ortaya çıkan AI ajanları
- ABD’de 165 milyon kişilik insan işgücü ile her saat milyonlarca kopyası oluşturulup sonlandırılan, durmadan ve süperinsan hızında çalışan AI ajanı işgücü bir arada bulunur
- İşlerin çoğu düşük kalitelidir; ancak müşterilerin bilgisayarda bir çalışanın yapabileceği teorik olarak her şeyi yapan AI’ya ayda 10 milyar dolar ödeyeceği kadar yeterli sonuç da ortaya çıkar
- AI şirketlerinin en çok otomatikleştirmek istediği iş kendi AI geliştirmeleridir
- Henüz özyinelemeli kendini geliştirmede başarılı olunmamıştır
- En güçlü kodlama AI’sı rakip şirketlerin AI Ar-Ge’sine yardım etmeyi reddeder
- İyimser çalışanlar bile ilerlemenin beklenenden yavaş olduğunu kabul eder; ancak AI’nın insanların işlerini yapamayacağına dair şüpheciliğin dayanakları da zayıflar
Kongre’nin uyanışı ve AI Transparency Act
- Kongre, veri merkezlerinin su kullanımı, intiharı teşvik eden chatbot’lar, Mythos’un NSA sistemlerini hacklemesi ve düzenlemelerin Çin’le rekabette yenilgiye yol açacağı yönündeki sektör lobiciliğiyle karşılaştıktan sonra AI’nın uzun vadeli etkilerine daha fazla odaklanır
- 5, 10 ve 15 yıl sonraki dünyanın ve işlerin varlığını sürdürüp sürdürmeyeceğinin yanı sıra, temel soru AI’yı kimin kontrol edeceği olur
- Kongre, bu kontrol sahibinin büyük olasılıkla kendileri olmayacağı sonucuna varır
- 2016’daki OpenAI kuruluş tartışmalarında Demis Hassabis’in diktatör olmasını engellemeye çalıştıklarını gösteren e-postayı inceler; ancak Sam’in veya Elon’ın diktatör olmasını kimin engelleyeceğine dair mevcut yanıtlardan tatmin olmaz
- Sonuçta birçok iyi ve kötü önlemi birlikte içeren AI Transparency Act of 2027 kabul edilir, ancak temel durumu değiştiremez
Uluslararası anlaşma öncesinde uygulanacak kademeli politikalar
- En önemli öneri, Plan A’ya benzer müzakerelere hemen başlamaktır; ancak son dakika anlaşmasından önce de yardımcı olabilecek daha az iddialı politikalar vardır
-
İç ve dış AI dağıtımında şeffaflık
- En önemli şeffaflık önlemi, iç dağıtım ile dış dağıtım arasındaki farkı sınırlamaktır
- AI’nın kontrolü ele geçirme risklerinin çoğu, özyinelemeli kendini geliştirmeye dahil olan dahili dağıtım AI’larından kaynaklanır
- Dış dağıtım, halkın AI yeteneklerini doğrudan anlamasını sağlar ve soyut raporlar veya değerlendirmelerden çok daha fazla bilgi sunar
- AI şirketleri şu bilgileri kamuya açık şekilde raporlamalıdır
- AI’nın izlemesi için eğitildiği hedef ve değerleri ayrıntılı biçimde kaydeden model spesifikasyonu
- Modelin talimatlara ve spesifikasyona gerçekten uyup uymadığına dair bilgiler
- Dahili dağıtımda kullanılan compute oranı gibi dahili kullanım istatistikleri
- Yüz binlerce GPU’nun Agent-4’e verilerek bir sonraki büyük eğitim sürecini yönetmesine izin verilmesi gibi dahili kullanımın nitel bilgileri
-
İhracat kontrolleri ve doğrulama teknolojileri
- Mevcut ABD ihracat kontrolleri düzgün uygulanmıyor; Epoch, Çin’in toplam compute’unun yaklaşık üçte birinin kaçakçılık yoluyla elde edildiğini tahmin ediyor
- Kaçak çipleri hem ABD hem de Çin hükümetlerinin izlemesi zordur; bu da gelecekte compute yönetişimine dayalı anlaşmaların doğrulanmasını güçleştirir
- Yeni ihracat kontrollerinin ABD-Çin rekabetini kötüleştirme riski büyüktür; ancak zaten var olan kontroller uygulanmalı, uygulanmayacaksa kaldırılmaları da değerlendirilmelidir
- Yeni doğrulama teknolojileri uluslararası anlaşma için zorunlu değildir, fakat çok yardımcı olabilir
- Yalnızca çıkarım doğrulaması, mevcut AI modellerine kamusal erişimi korurken ABD ve Çin’in yeni öncü eğitimleri durdurduğu bir anlaşmayı mümkün kılar
- Ayrıntılar doğrulama ek materyalinde yer alır
-
AI Ar-Ge compute’u ve tedarik zinciri yönetimi
- 2026’da büyük AI şirketleri, öncü model eğitimi ve büyük ölçekli deneyler dahil AI Ar-Ge’si için compute bütçelerinin yaklaşık yarısını kullanır
- AI Ar-Ge’ye ayrılabilecek compute oranını sınırlamak yetenek gelişimini yavaşlatabilir ve her aşamadaki yeni AI yeteneklerine yanıt verme ve hazırlanma süresini artırabilir
- ABD, compute tedarik zinciri ve AI veri merkezleri odağında AI ile ilgili bilgi toplamalıdır
- Hurdaya ayrılmış çipler, gizli projelerin çip elde etmesi için güçlü bir yol olduğundan Plan A’nın AI şirketlerine AI çip geri dönüşümünü durdurma talimatı vermesi gerekebilir
- Neredeyse tüm politika müdahaleleri güçlü AI yeteneği gerektirir; ancak ABD hükümetinde en üst düzey yetenek neredeyse yoktur, bu yüzden acil kapasite artırımı gerekir
2028: Seçimin en büyük gündemi AI
- İnşa halindeki veri merkezlerinin maliyeti ABD’nin toplam savunma bütçesinin iki katına ulaşır ve AI, 2028 seçimlerinin en büyük gündemi olur
- Çok sayıda beyaz yakalı iş, 2026’daki yazılım mühendisliğiyle benzer bir sarsıntı yaşar ve işlerin önemli kısmı AI ajanlarını yönetmeye dönüşür
- AI şirketleri belirli bir mesleğe girmeye karar verdiğinde uzman görüşmeleri, veri satın alma ve eğitim ortamları kurma üzerinden pazara girme sürecini sanayileştirir
- Saha kullanımı genişledikçe ve gerçek dünya verileri biriktikçe AI performansı hızla artar
- Az sayıda ABD ve Çin şirketinin tüm beyaz yakalı işleri otomatikleştirmesi ve gücün ABD başkanı ile az sayıda teknoloji CEO’sunda yoğunlaşması ihtimali, diğer ülkelerde korku ve öfkeyi artırır
Zekâ patlaması etrafındaki seçim tercihi
- AI’nın AI araştırmalarını hızlandırdığı, gelişmiş AI’nın da araştırmayı daha da hızlandırdığı bir zekâ patlamasının yaklaştığı uyarıları yapılır
- Darboğazlar ve donanım kısıtları nedeniyle hız ve varış noktası karmaşık dinamiklere sahiptir; ancak gelişme çok hızlı olabilir ve insan yeteneklerini büyük ölçüde aşabilir
- Varsayılan yolda, bir sonraki başkanlık dönemi içinde birkaç nesil boyunca insan müdahalesi olmadan AI tarafından yapılmış AI’lardan, insanları büyük ölçüde aşan sistemler ortaya çıkar
- Bu AI’nın neden itaat edeceği veya hizalanacağı, kimin kontrol edeceği konusunda yanıt yoktur; AI şirketlerinin aksine halk bu yolu kabul etmez
- İki başkan adayı seçim sürecinde giderek daha dramatik AI politikaları ortaya koyar ve farklı planlar seçer
2029: Beş yol
- 2029’daki seçenekler şöyle ayrılır
- Plan D — Race to ASI: AI’nın kendini geliştirmesiyle süper zekâ yarışını sürdürmek
- Plan C — Burn the Lead: ABD’nin liderliğini kullanmak, ancak güvenlik ve yönetişim için kısa süre yavaşlamak
- Plan B — Fight China: Çin’i de yavaşlatacak bir anlaşma peşinde koşmak
- Plan A — Verified Slowdown: Doğrulanabilir yavaşlama üzerinde anlaşmak
- Plan S — Shut it all down: AI geliştirmeyi tamamen durdurmak
Plan D: Süper zekâya doğru tam hız yarış
- Başkan, AI inovasyonunu önceleyen zayıf düzenlemeler uygular
- Büyük AI şirketleri AI Ar-Ge’sini otomatikleştirme ve zekâ patlamasından geçme yarışını “sorumlu ölçekleme” diye adlandırarak sürdürür
- Süperinsan AI, piyasanın ve hukukun izin verdiği kadar hızlı şekilde tüm alanlara entegre edilir; hükümet düzenlemeleri azaltırsa hız daha da artar
- Şeffaflık uzun model kartları, yürütme brifingleri ve üçüncü taraf denetimleriyle sınırlı kalır
- Daha geniş bilim camiasının güvenlik argümanlarını eleştirmesi veya hizalama araştırması yapması, hassas fikri mülkiyeti açığa çıkaracağı gerekçesiyle dışlanır
- Çin’e yönelik strateji, ABD’nin önce ASI elde etmesi ve daha üstün AI’yı orduya entegre etmesidir
- Bu yolda 2030’da AI Ar-Ge tamamen otomatikleşir ve zekâ patlamasının ardından 2031 başına kadar süper zekâ ortaya çıkar
-
Plan D’nin üç sorunu
- Birincisi, AI şirketleri olabildiğince hızlı yarışırsa zekâ patlaması sırasında AI kontrolünü koruyamama ihtimali yüksektir
- İkincisi, süper zekâ sağlam biçimde hizalansa bile kime hizalandığı çözülmez
- CEO’nun veya başkanın AGI kullanan bir diktatöre dönüşme cazibesi büyüktür
- Tarihteki en aşırı güç yoğunlaşmasına yol açabilir
- Üçüncüsü, Üçüncü Dünya Savaşı riski aşırı yüksektir
- Çin, Rusya, Hindistan, Avrupa ve Brezilya gibi aktörler ABD’nin zekâ patlamasını başlattığını veya yakında başlatacağını fark eder
- AI yanlış hizalanması veya diktatörlükten endişe etmeseler bile ABD’nin ekonomik ve askeri hâkimiyetinden kaygı duyarlar
- Gerilim retorik çatışmalar, yaptırımlar ve sabotaj üzerinden ilerler; anlaşma olmazsa savaşa tırmanabilir
Plan C: Kısa süre yavaşlayıp yarışı yeniden başlatmak
- Başkan güvenlik ve emniyet için güçlü düzenlemeler ilan eder ve CEO’lar, Çin ve birçok ülkeyle istişare eder
- AI Transparency Act sayesinde hükümet şirketlerin abartılarını ayıklayabilmiştir; ancak 2030’da yıl sonuna kadar tüm AI Ar-Ge’nin otomatikleşeceği eğilimi gerçekten ortaya çıkar
- Çin ABD’nin uyumunu doğrudan doğrulamak ister; ancak ABD veri merkezlerine Çinli denetçiler ve gözetim cihazları sokma fikrini ABD kabul etmez
- AI şirketleri de ‘AI Good’ ve ‘AI Bad’ etrafındaki propaganda savaşı içinde geliştirmeyi sürdürme tutumunda ısrar eder
- Birleşik Krallık, Fransa, Hindistan, Avustralya, Japonya ve Kore gibi orta ölçekli ülkelerden oluşan koalisyon, zekâ patlamasını önleyecek ve kendi egemen AI projelerinin en ileri hattı yakalayıp koruyabileceği bir anlaşma talep eder
- AI Ar-Ge için gereken insan sayısı azalmaya devam ettikçe gizli projeleri tespit edilmeden yürütmek kolaylaşır ve anlaşma uygulaması her ay daha da zorlaşır
-
Lider şirketin geçici durması ve siyasi baskı
- AI Ar-Ge’nin tam otomasyonundan hemen önce ABD’nin lider şirketi, başkanın sert önlem tehdidi üzerine istemeye istemeye durur
- Güvenlik ekibi ek değerlendirmeler ve ince ayar yapar; araştırmayı yeni nesil AI’ya devretme yöntemini ve başarısızlık yollarını inceler
- Zaman geçtikçe diğer ABD şirketleri aynı yetenek düzeyine yaklaşır, başkanın kontrol etmesi gereken CEO sayısı artar ve Çin de ABD’yi geçeceği noktaya yaklaşır
- 2030 sonunda başkanın danışmanları Çin’in yakında ABD’yi geçeceği uyarısında bulunur; şirketler de durdurmanın kaldırılmasını isteyen siyasi baskıyı örgütler
-
Şirketlerin sunduğu yeniden başlama koşulları
- Şirketler, muazzam AI emeğiyle aylar boyunca güvenlik planları hazırladıklarını söyleyerek şu mantığı öne sürer
- Başarıyı kanıtlayamazlar, ancak böyle bir güvence düzeyi talep etmek zaten gerçekçi değildir
- AI’nın insanlara karşı komplo kurduğuna dair kanıt yoktur ve grafiklerde kötü davranışlar da azalmaktadır
- En yeni AI, AI Ar-Ge otomasyonunu ve hizalama/kontrol araştırmalarını üstlenebilir
- Compute’un %20’si güvenlik araştırmasına kullanılsa bile Çin’den yeterince hızlı ilerleyebilirler
- Başkan ve Kongre’ye daha fazla gözetim yetkisi verip, her şirketin AI’sının diğer şirketlerin AI’sını denetlediği bir yönetişim önerirler
- Başkanın millîleştirme veya AGI temelli diktatörlük girişimlerini Kongre ve Yüksek Mahkeme’nin engelleyebileceğini düşünürler
- İşlerin bir kısmını veya tamamını ikame etseler bile vergilendirme ve yeniden dağıtım yoluyla herkesin şirket kârlarının bir kısmıyla yaşamasını sağlayacaklarına söz verirler
- Son müzakerede de Çin ve diğer ülkeler ABD’nin uyumunu doğrudan doğrulamaları gerektiğini talep eder ve ABD bunu reddeder; bunun üzerine başkan şirketlerin tarafını seçer ve özyinelemeli kendini geliştirmeyi yeniden başlatır
- Şirketler, muazzam AI emeğiyle aylar boyunca güvenlik planları hazırladıklarını söyleyerek şu mantığı öne sürer
Plan C neden yeterli değil
- Plan C, Plan D’den daha iyidir; ancak birkaç aylık yavaşlama ve güvenlik araştırmasına yeniden kaynak ayırma, zekâ patlaması sırasında AI kontrolünü korumak için zordur
- Şirket güvenlik ekipleri hâlâ küçüktür, zaman baskısı altındadır ve kendi sonuçlarına karşı iyimser bir yanlılık taşır
- İlk AI talimatları izlemeye çalışsa bile daha sonra fikrini değiştirebilir
- Talimatları izlemeyi sürdürse bile acele sırasında güvenlik argümanının kritik yanlış varsayımlarını kaçırabilir
- Sonraki nesilde veya daha sonraki AI’larda başarısızlık meydana gelebilir
- Süper zekâ sağlam şekilde hizalansa bile hizalanma hedefi ve güç dağılımı sorunu kalır
- Kongre, başkan ve birden fazla ABD teknoloji şirketi CEO’su arasında bir ölçüde güç dengesi doğması açısından Plan D’den iyidir
- Bu denge de güç mücadelesi ve diktatörlüğe çökebilir ya da AI’nın dayattığı kalıcı bir oligarşiye dönüşebilir
- İşsiz kalan halk yeniden dağıtımla hayatta kalsa bile gerçek siyasi gücü geri kazanıp kazanamayacağı belirsizdir
- ABD ve Çin şirketleri tüm işleri ikame ederse Hindistan, Afrika ve Avrupa’ya ne olacağı; Rusya’nın ekonomik ve askeri gerilemeyi kabul edip etmeyeceği de çözülmez
- Diğer ülkelerin kendi öncü AI projelerine ya da lider projeler üzerinde fiili ortak kontrol ve görünürlüğe ihtiyacı vardır; sözde kalan kâr paylaşımı vaatleri güven kazanmak için yeterli değildir
1 yorum
Hacker News görüşleri
Bu, AI 2027 gibi dinsel bir coşkuya daha yakın
Evanjelik Hristiyanlık içinde büyüdüm ve kıyametin hep kapıda olduğu söylendi; ama çocukluğumdan bugüne hep böyleydi, biz yok olduktan sonra da böyle olacak. Bu; hipotez kurup deney yaparak sonuçları kaydeden bilim değil, pahalı astrolojiden, parlak taşlar toplamaktan, ritüel anlamlar yüklemekten ve kendini haklı çıkarmaktan ibaret
Muazzam servet ve kaynaklarla toplumu daha sağlıklı, daha eşit ve daha adil hale getirebilir, eğitim düzeyini yükseltebilir, umutsuzluğu ve acıyı azaltabiliriz. Empatinin önemli olmadığı ve özgeciliğin etkili olmadığı yönündeki kendine yontan anlatıyı reddetmeliyiz. Tek bir anda bile birinin bütün hayatını değiştirebiliriz
Yapay zeka güvenliği altkültürü, bu kadar hızlı bir ilerlemeyi öngördüğü ya da en azından gerçekçi görünmeden önce bunun olasılığını gerekçelendirdiği için takdiri hak ediyor. Bir sonraki aşamaya dair tahminlerinin doğru olup olmadığını bilmiyorum; ama onları psikolojik kusurlar varsayarak yok saymak yerine argümanın kendisini değerlendirmeliyiz
Eleştirinin hedefi de belirsiz. Bu yazı, bir zamanlar kendini etkili özgeci olarak tanımlayan kişiler tarafından yazılmış gibi görünüyor ve çoğu, daha iyi bir dünya kurma hedefine hararetle katılacaktır. Yapay zeka araştırmacılarının sonradan etkili özgeciliği seçmesinden ziyade, etkili özgecilerin en büyük kaldıraç olarak yapay zeka güvenliği araştırmasını seçmesi söz konusu. Hedef aynıysa en azından yöntemlerini dinlemeye değer
Gerçekleşme zamanı ve mimarisi tartışılabilir, AGI'nin tanımı üzerine bütün gün konuşulabilir; ama insan beyninin bilişsel yeteneklerinin başka bir alt tabakada yeniden üretilemeyeceğini kesin bir dille söylemek artık aptalca
Kehanet her başarısız olduğunda, birkaç yıl sonra yeni bir tarihle geri dönüp bu kez gerçekten olacağını söyleyen çok örnek var. Kendilerine rasyonalist diyen insanların yapay zeka tahminleri ortaya koyması da ironik. Kendinizi rasyonel ve psikolojik tuzaklara bağışık biri olarak tanımladığınızda, çok eskiden beri tüm sahte dinlerin kullandığı tuzaklara düşüp bunu fark etmemeniz kolaylaşır
Bu metin, ciddiye alınması gereken bir rapordan çok yaratıcı yazı ya da seçimli macera oyunu gibi hissettiriyor. Alternatif gerçeklik kurgusunun, gerçekten var olan ciddi yapay zeka risklerini ele almanın en iyi yolu olup olmadığından emin değilim; uzun tirelerin aşırı kullanımı ve üslup da metnin tamamının yapay zekayla üretilmiş olabileceğinden şüphelendiriyor.
Yapay zeka olgun bir bilim alanı hâline gelecek; eğitim ve çıkarım verimliliği artacak, daha iyi çok modluluk ile gerçek zamanlı akış ve arayüzlere sahip yeni paradigmalar da ortaya çıkacak. Ancak ön ve son eğitimde kullanılabilecek veri sınırlarına yaklaşıldıkça ilerleme muhtemelen kademeli olacak ve yalnızca belirli alanlarda sıçrama yapacak.
AI 2040’ın okurunun kim olduğu belirsiz, ama finans çevrelerinin kolayca tüketeceği bir içerik gibi görünüyor. Yapay zeka, en iyi insan bilgisini ve uzmanlığını sıkıştıran faydalı bir teknoloji hâline gelecek ve ekonomi ile genel olarak dünya üzerinde geniş etkiler yaratacak. Doğrulanabilir model eğitimi gibi alanlarda insanları aşabileceği argümanı mümkün; ancak insanın üst düzey düşünmesi, çok daha verimli anlam ve sinirsel sıkıştırması, görev değiştirmesi ve yaratıcı içgörüsü mevcut paradigmalarla yeniden üretilebilmiş değil.
Bu yüzden tam dondurma ya da tam kontrol gibi politikalar sık sık öneriliyor gibi görünüyor. Denge istiyorsanız, sürekli değişen temel süreçlere uyacak şekilde düzenlemeleri hızla değiştiren kontrollü bir dengeyi, belki de eyer noktasına yakın bir durumu kabul etmeniz gerekir. Demokrasi ve hukuk, dünyanın özünde istikrarlı olduğu ve kademeli iyileşme için geçmiş kararları tersine çevirmeye gerek olmadığı varsayımıyla tasarlandı; bu tür değişimlere uygun değiller.
CPU’larda da gerçek üstel ölçeklenme 2000’lerin ortasında sona erdi; sonrasında Moore Yasası’nı ayakta tutan şey, tam zamanında gelen akıllı optimizasyonlar, pazarlama ve optimize etmesi kolay benchmark’lardı. Tek bir fiziksel göstergenin iyileşmesiyle garanti edilen bir büyüme değildi.
Sağlık sorunlarında hâlâ uzman bir terapiste başvurmayı öneriyor; kritik durumlarda insan bilgi çalışanlarına güveniyoruz. ChatGPT, bütün bir şirketi devralmaktan çok daha düşük riskli olan Yu-Gi-Oh! kurallarını bile doğru anlayıp oynayabilir hâle gelirse bu değerlendirmeyi yeniden gözden geçiririm.
AI 2027’nin en büyük kusuru ekonomiyi anlamamış olması. Ekonomiyi inşa etmeyi sürdürmek için gereken para bir yerden gelmek zorunda; işçilerin %10’dan fazlası birden işsiz kalır ve geri kalanların da ücretleri düşerse para arzı kurur. Merkez bankası buna yanıt verebilir, ama enflasyon büyüyebilir; devasa yatırımlar ortadan kalkarsa yapay zeka geliştirme de durur.
ABD’nin içeride düzenleme konusunda uzlaşma yaratıp dünyanın da bunu izleyebileceğini geçiştiriyor; oysa yapay zeka ilerlemesi yalnızca ABD’nin hediyesi değil, Çin’den gelen malzemelerin sürekli arzını da gerektiriyor. 74 milyar ajanın ekonomik çarpıklık yaratmayacağı varsayımı da garip. Bu ajanlar, çalıştırma maliyetlerini haklı çıkaracak ne tür bir değer üretiyor?
Sonuçta bunun eksik bir dünya görüşü üzerine kurulmuş kötü bilimkurgu olarak görülüp yok sayılmasını isterim.
Ucuz malların aşırı üretilip şirketlerin iflas etmesi, balonun patlaması ve bir süre yeni yatırımların azalması konusunda çok sayıda emsal var. Buna rağmen beklenen üretim artış hızını düşürmek yerine, kredileri yapay zeka ve robot birimleriyle ifade etmeyi ve üretimin sabit bir oranıyla geri ödemeyi öneriyor.
Bu, pil fiyatlarının fabrika inşaat maliyetini bile karşılayamayacak kadar düşeceği beklenirken bankadan fabrika inşa etmesini isteyip sonra onu kira ödemeden ödünç alarak pil üretmeyi ve iş bitince geri vermeyi önermek gibi. Kârın tamamını şirket alır, riski banka üstlenir; bu yüzden gerçek bankalar bunu kabul etmez ve yalnızca fabrikayı teminat gösteren dolar kredileri sunar.
Varlıklar giderek milyarderlere yoğunlaşıyor; para arzını ise merkez bankaları kontrol ettiği için tükenmeye karşı keyfi olarak artırabilirler.
Kolektif olarak bilgi arayışını durdurmaya karar verip gerçekten başardığımız bir örnek var mı?
Nükleer silahlar buna en yakın örnek olabilir, ama araştırma durmuş olmaktan çok yeraltına indi; hâlâ o merdiveni tırmanmaya çalışan ülkeler var. Aynı mantığın LLM’lere ya da yapay zekaya uygulanıp uygulanmadığını bilmiyorum. Pandora’nın kutusu zaten açılmış gibi ve tek seçenek geliştirmeye devam etmekmiş gibi geliyor.
Otoriter hükümetler ve gözetim gibi riskler açık, ama bu, yararlılığın tamamını da çöpe atmak için bir neden değil. Matbaa dahil neredeyse her teknolojinin hükümetlerin vatandaşları ezmesini kolaylaştırdığı söylenebilir. Başımızı kuma gömmek yerine, bu tür eylemleri engelleyen yasalar yapmalı ve gerçekten uygulamalıyız.
Ömrüm boyunca okuyup hayalini kurduğum bilimkurgu geleceği gözümün önünde belirdiği için gerçeği doğru göremiyor muyum, yoksa bilginin özgür ve erişilebilir olması gerektiği ideali mi yanlış, emin değilim.
İnsan klonlama, insan genom düzenleme, ayna yaşam formları ile nükleer silahlar ve nükleer enerji tarihsel emsallerdir; drone ile teslimat da düzenlemelerle engellenmiş gibi görünüyor. Plan A, süper zekayı sonsuza dek yapmayalım önerisi değil; onu daha dikkatli ve şeffaf biçimde yapalım önerisidir.
Rastgele bilgiyi yaymanın özünde bir fayda olduğunu düşünmüyorum. Matbaa ile nükleer silahlar arasında epey büyük bir fark var.
Kaynak çıkarım ekonomilerinde gücün kaynağı kaynaktır, insanlar ise araçtır; bu yüzden isyandan kaçınılabildiği sürece insanlara olabildiğince sert davranılır. Buna karşılık istikrarlı altyapılarda eğitimli ve varlıklı vatandaşlardan vergi toplamak ve onların inovasyonundan yararlanmak çok daha kârlıdır. Vatandaşların refahını aşırı engellemek hükümetin kendi iktidar arayışına da zarar verdiği için teşvikler hizalanır.
Yapay zeka sorununun çözümü teknolojiyi durdurmakta ya da kırılgan yasalar yığmakta değil. Kilit nokta modern devleti ve ekonomiyi, temsili demokrasiyi ve AGI gibi devasa AGI türü varlıkları insan refahıyla hizalamaktır.
Yine de Sundial planlarının bir yerlerde saklanıp saklanmadığını merak ediyorum.
1600’lerde Hindistan, bir milyon askeri olan barut imparatorluğu olarak İngiltere’den askerî açıdan üstündü, ama 1700’lerde fethedildi. İngiltere’nin üstünlüğü daha hafif ve hareketli toplar, standartlaştırılmış mühimmat, daha iyi askerî ve siyasi örgütlenme kadardı. Bu, gelişmiş ülkelerle gelişmekte olan ülkeler arasındaki farktan çok dinamik ABD ile katı AB arasındaki farka benziyordu; ama o küçük üstünlük 200 yıllık sömürge yönetimine yol açtı.
ASI geliştirmeyi gönüllü olarak yavaşlatırsak, sömürgeci Avrupa ile sömürgeleştirilen Asya ve Afrika arasındaki farkı bile önemsiz gösterecek kadar büyük bir uçuruma izin vermiş oluruz.
“AI 2027’de sıçrama 2027’de oluyordu, bu kez 2030’da oluyor” deniyor. Daha 3 yıl bile geçmeden üstel büyümeye dayalı kıyamet tahmini 3 yıl ileri atıldı; bu, üstel büyümenin tam tersi gibi görünüyor.
Bir zamanlar çok övülen Superintelligence’taki senaryo bile bugün okununca, makul bir öngörü için gereken bilgideki boşlukları fanteziyle dolduran raypunk retrofütürizm gibi görünüyor.
AI 2027 aşırı iyimserdi ama tamamen hayal ürünü değildi. Buna karşılık bu yazı son derece spekülatif ve yüzeysel bir incelemeden bile geçmesi zor öncüllere dayanıyor.
İyimser baksak bile 2035’te “tüm bilişsel ve fiziksel görevlerin %95’ini yapabilen” robotlar ortaya çıkmayacak. %74 işsizlik oranı da neredeyse imkânsız; o seviyeye ulaşılmadan çok önce ekonomik çöküş, yapay zeka geliştirmeyi de yıkacaktır.
Otomobilin atların yerini alması, ilk uçuştan Ay’a inişe uzanan gelişme, erken internetten kitleselleşmeye geçiş de benzerdi. Yeni teknolojilerin hızla gelişip toplumu tamamen değiştirmesi için genellikle 10-20 yıl yeterli oldu.
2035 tahminine katılmıyorum, ama yapay zeka yıkıcı robot teknolojilerinin geliştirilme hızını artırırsa imkânsız da değil. 2010’da otonom araçlar ve otonom teslimat drone’ları uzak bilimkurgu gibi görünüyordu; 15 yıl sonra bugün ise giderek sahaya sürülüyor.
%95’i %50-60 seviyesine indirirsek, katılmaya daha yakın olurum. Sezgim yüzünden değil; üstel trendler varsa içgüdülerimizle öngöremeyeceğimiz sonuçlar ürettikleri için. Yine de %95 fazlasıyla yüksek.
En azından LLM’ler üstel eğrinin başında değil, şimdiden S eğrisinin üst kısmına ulaşmış gibi görünüyor. Daha iyi eğitim verileri küçük iyileştirmeler sağlar, daha iyi mimariler hesaplama miktarını azaltır, devasa veri merkezleri ise ucuz ve yaygın kullanımı mümkün kılar. Ama bunların hiçbiri zekâyı üstel olarak artırmaz
Mevcut LLM’lerdeki bilişsel açık yapısal gibi görünüyor; ancak yeni ya da genişletilmiş Transformer türü bir mimariyle bu çözülürse tamamen farklı bir evre açılır. Gereken şey yeni bir sonradan eğitim öğrenme mimarisidir; bağlam penceresini genişletmek cevap değildir. Gerçek sürekli öğrenme ve düzeltme sürecine ihtiyaç var
Bu yazıyı AI 2027’yi hazırlayan kişiler yazdı
Ancak jeopolitik ve Çin’e tuhaf biçimde takıntılı olmasına rağmen Çin’i ciddi şekilde küçümsemiş. Çin, yükseköğretime ve yeterli elektrik arzına önem veriyor; zeki insanların yasaklar ve ihracat kontrolleriyle rastgele kısıtlanmadan ya da finansal korumacılıkla aşırı korunmadan çalışabilmesini sağlıyor. Sırf bu bile, çok geçmeden ABD şirketlerinin inovasyon ve hesaplama kapasitesinde önüne geçme olasılığını yükseltiyor
Yazı, Sam Altman’ın “Yapay zeka muhtemelen dünyanın sonuna yol açacak, ama bu arada harika şirketler ortaya çıkacak” alıntısını kullanıyor
Bunun doğaçlama bir şaka olmadığına dair güvenilir bir basın kaynağı var mı? Yazı, bağlamı çıkarılmış bir YouTube videosuna bağlantı verip bunu ürpertici bir ifade gibi ele alıyor
En kötü niyetli yorumla, kendi hayattayken rahatsızlık yaşamayacaksa ölümünden sonraki kıyamete yol açmayı sorun etmeyen kötü birini hayal edebilirsiniz; ama bu, alıntının geçtiği durumla uyuşmuyor. Sosyal hayatta işlev görebilen bir insanın ciddi ciddi söyleyeceği bir şey olamayacak kadar saçma
İnsanların bunu bilerek mi çarpıttığını, yoksa gerçekten onun inancı olduğuna mı inandığını merak ediyorum. Gerçek inancı olarak görüyorlarsa, birinin böyle bir düşünceye nasıl sahip olabileceğini de açıklamalarını isterim