ABD ve Birleşik Krallık, Paris AI Zirvesi güvenlik bildirgesini imzalamayı reddetti
(arstechnica.com)- Paris AI Action Summit’te yaklaşık 60 ülke yapay zeka güvenliği için ortak bildirge üzerinde uzlaştı, ancak ABD ve Birleşik Krallık imza atmadı; bu da yapay zeka düzenlemeleri ve sektörel liderlik etrafındaki çatlağı ortaya koydu
- Bildirge, yapay zekanın açık, kapsayıcı, şeffaf, etik, güvenli, emniyetli ve güvenilir olması gerektiği ilkelerini içeriyordu; hukuken bağlayıcı değildi
- ABD Başkan Yardımcısı JD Vance, yapay zeka düzenlemelerinin teknoloji geliştirmeyi “bastırmaması” gerektiğini vurguladı ve en güçlü yapay zeka sistemlerini ABD içinde, ABD yapımı çiplerle kurma tutumunu ortaya koydu
- Birleşik Krallık hükümetine yakın bir kişi, bildirge metnini “fazla kısıtlayıcı” buldu; imzacı ülkelerden bir yetkili ise ABD’nin çok taraflılık ve uluslararası iş birliği ifadelerine katılmadığını aktardı
- Avrupa, ABD ve Çin’e bağımlılığı azaltmak için yapay zeka sanayi temelini büyütüyor; zirvede veri merkezleri ve bilişim kümeleri için yaklaşık 200 milyar avroluk yatırım planı açıklandı
Paris AI Zirvesi’nde ortaya çıkan imza çatlağı
- ABD ve Birleşik Krallık, Paris’te düzenlenen AI Action Summit ortak bildirgesini imzalamadı
- Ortak bildirge üzerinde yaklaşık 60 ülke uzlaştı; metin, yapay zeka teknolojisini “güvenli, emniyeti sağlanmış ve güvenilir” hâle getirme hedefini içeriyordu
- Bildirge ayrıca yapay zekanın açık, kapsayıcı, şeffaf ve etik olması gerektiği ilkelerini de kapsıyordu
- Herkes için uluslararası bir çerçevenin değerlendirilmesine ilişkin bir ifade yer aldı
- Taahhütler bağlayıcı değil, ancak ABD ve Birleşik Krallık daha önceki yapay zeka zirvelerindeki benzer bildirgeleri imzalamıştı
ABD’nin odağı düzenlemeden çok yapay zeka liderliği
- ABD Başkan Yardımcısı JD Vance, Avrupa’yı yapay zeka konusunda “aşırı ihtiyatlı” düzenlemeler benimsememesi için uyardı
- Vance, Trump yönetiminin en güçlü yapay zeka sistemlerinin ABD’de kurulmasını sağlayacağını söyledi
- Bu sistemlerin ABD tarafından tasarlanan ve üretilen çipleri kullanması gerektiği görüşünde
- Bu, ABD’nin yapay zeka teknolojisindeki hâkim konumunu koruyacağı mesajı olarak okunuyor
- Uluslararası düzenleyici rejimlerin yapay zeka teknolojisinin yaratılmasını teşvik etmesi, bunu bastırmaması gerektiğini savundu
- Oxford Internet Institute’tan Keegan McBride, Vance’in konuşmasını Biden yönetemi dönemiyle karşılaştırarak “180 derecelik dönüş” diye değerlendirdi
Bildirge metni etrafında ABD-Birleşik Krallık görüş ayrılıkları
- ABD’nin sert tutumu, Trump yönetiminin “America First” eğilimiyle örtüşüyor
- Birleşik Krallık hükümetine yakın bir kişi, bildirge metnini “fazla kısıtlayıcı” buldu
- İmzacı ülkelerden birinin yetkilisi, ABD’nin çok taraflılık ve uluslararası iş birliğine ilişkin ifadelere katılmadığını aktardı
- Ortak bildirgede, uluslararası yönetişim koordinasyonunu teşvik etmek için uluslararası iş birliğinin güçlendirilmesi bir öncelik olarak yer aldı
- Aynı yetkili, ABD’nin Fransa’nın zirvede başlattığı Current AI konusunda da endişe taşıdığını söyledi
- Endişe, Current AI’ın fonları Frankofon ülkelere yönlendirmek için kullanılabileceği yönündeydi
Çin ile rekabet ve DeepSeek’in yarattığı gerilim
- ABD’nin sert tutumu, yapay zeka etrafında Çin ile rekabetin yoğunlaştığı bir dönemde geldi
- Rekabet alanı çip üretimi, temel modeller, yapay zeka sohbet botları ve süper bilgisayarlara güç sağlamak için gereken enerjiye kadar genişliyor
- Çin’in fazla tanınmayan araştırma laboratuvarı DeepSeek, düşük maliyetli bir yapay zeka modeli çıkararak Silicon Valley şirketlerini sarstı
- OpenAI gibi şirketler güçlü bir üstünlüğe sahip olduklarını düşünüyordu
- Vance, yapay zeka anlaşmalarında “otoriter rejimlerle” iş birliği yapılmaması konusunda uyarıda bulunarak dolaylı biçimde Çin’i hedef aldı
- CCTV ve 5G’yi geçmiş örnekler olarak gösterdi; otoriter rejimlerin yüksek sübvansiyonlu ucuz teknolojiler ihraç ettiğini söyledi
- Böyle bir iş birliğinin ülkeleri, bilgi altyapısına sızıp onu ele geçirmeye çalışan otoriter aktörlere bağladığı görüşünde
Avrupa’nın yanıtı: Kendi yapay zeka sanayi temelini büyütmek
- Avrupa, yapay zeka sanayisinde zemin kazanarak ABD ya da Çin’e bağımlılığı azaltmaya çalışıyor
- Fransa Cumhurbaşkanı Emmanuel Macron’un ev sahipliği yaptığı iki günlük zirvede Avrupalı liderler ve şirketler yaklaşık 200 milyar avro tutarında yatırım planı açıkladı
- Yatırımların hedefi, Avrupa’nın yapay zeka çabalarını destekleyecek veri merkezleri ve bilişim kümeleri
- AI Now Institute’tan Frederike Kaltheuner, DeepSeek’in güçlü açık modelini yayımlamasının ardından Avrupalıların yapay zekada rekabet etmek için kısa bir fırsat penceresi hissettiğini söyledi
- McBride, Macron zirvesinin akışının ABD öncülüğündeki yapay zeka geliştirmeye bir alternatif dayatma yönünde olduğunu, ancak Vance’in sözlerinin bu havayı bozduğunu değerlendirdi
1 yorum
Hacker News görüşleri
Önümüzdeki onlarca yıl boyunca teknolojik hızlanmanın şekillendirdiği hayatın bir parçası, bilincin yerindeyken lobotomiye maruz kalıp tüm süreci izliyormuşsun gibi hissettirecek gibi görünüyor
Tam anlamıyla AGI olmayan teknolojiler için bile felaketle sonuçlanabilecek binlerce olası senaryo düşünüp bunu sonsuza kadar tartışabiliriz, ama o yöne gidiş yine de yavaşlamıyor ya da durmuyor
Yeterli kolektif zekaya ve atılım gücüne sahip tek bir grup bile olsa, istesek de istemesek de bir sonraki AI kapımıza kadar gelebilir
Bu, çocukken okuduğum kitapların önemli hayat mesajları verdiğini ancak 20 yıl sonra anlamam gibi bir şey. Mesaj hep oradaydı ama o zamanlar onu kavrayacak duygusal ve algısal zekaya sahip değildim
Matbaa icat edildiğinde de benzer bir havadaki insanlar vardı ve sonuçta yanıldılar. Onların “derslerini” izleseydik insan toplumu çok daha kötü durumda olurdu
Bugünkü AI/AGI eleştirilerinin haklı olup olmadığını da ancak sonradan anlayabileceğiz
Özellikle teknoloji sektöründe, para kazanabildikleri sürece başkalarının başına ne geldiğini pek umursamayan çok fazla insan var. Başkalarını isteyerek feda ediyorlar ve kendi topluluklarında bile refahı paylaşmak istemiyorlar
Bu, düşük güven toplumunun yüksek güven toplumuna sızmasının kaçınılmaz sonucu ve toplum açısından tehlikeli sonuçlar doğurabilecek teknolojiler yayıldıkça, toplumun çöküşü için çalışacak yeterince insan da ortaya çıkıyor; dolayısıyla bu trenin durmasına dair gerçekçi bir umut yok
Şu anda AI eğitimi çok fazla donanım gerektiriyor, ama yalnızca dizüstü bilgisayar ve internetle bile mimari ve algoritma tarafında en ileri düzey araştırma ve inovasyon mümkün
“AI geliştirmek yasadışıdır” diye bir yasa çıksa bile bunun nasıl uygulanabileceği belirsiz
Hayali korkular gerçek korkular değildir. Mevcut yönetimin yaklaşımına katılmıyorum, dikkatli olmak gerekir ve bu teknolojiden devasa çıkar sağlayacak kişilerin tartışma masasında olmasını da iyi bulmuyorum
Ama bunun dışında, bekleyip tetikte durmaktan fazlasını yapmamızı gerektirecek somut bir neden hâlâ görmüş değilim
AI'yı, özellikle de diğer ülkelerin AI'sını yasaklamış bir ülkede sıkışıp kalıp yükselen dünyada rekabet gücünü kaybetmek istemezsiniz
Gelecek zaten zor olacakken neden kendi elimizi bağlayalım? İhtiyat ile korku aynı şey değil
AI, nükleer fisyon gibi değil. Birinin AI eğittiğini uzaktan tespit edemezsiniz ve AI ile ilgili bilgiyi uranyum zenginleştirmede olduğu gibi izole etmek için artık çok geç
AI eğitimi için gereken ekipman ucuz ve yaygın. Bu tür “güvenlik bildirileri” dişsiz kalıyor ve uygulanmaları da imkânsız
AI'yı durduramayız; uyum sağlamak zorundayız. Video ve fotoğraflar yakında kanıt değeri taşımayacak ve çevrimiçi ilişkilerden çok gerçek insan ilişkilerine önem vermek gerekecek. Çünkü karşınızdakinin gerçekten insan olduğunu bileceksiniz
Talihsiz bir durum ama AI'nın “yok ettiği” şeyler arasında 200 yıl öncesinden beri var olan bir şey yok; insanlar her zaman yaptıkları gibi yine uyum sağlayacak. Çizgi roman kötüsü Toyo Harada'nın dediği gibi, “Aranızdan hiçbiri beni durduramaz. Ne birey olarak ne de topluluk olarak”
Japonya'nın dijital kameralar için deklanşör sesi zorunluluğunu getirmesine benzer nedenlerle ve benzer yöntemlerle bunun hukuken zorunlu tutulması mümkün olabilir
200 yıl önce dünya nüfusu yaklaşık 1 milyardı, şimdi ise yaklaşık 8 milyar. Anarko-primitivistler ya da küçülme savunucuları da son 200 yılın ilerlemesini benzer bir el hareketiyle geçiştiriyor, ama bu ilerleme çok sayıda insanı hayatta tutan sistemleri ayakta tutmak açısından önemli
Buna rağmen kimyasal silah kullanmama yönündeki uluslararası anlaşmalar şaşırtıcı derecede iyi korunmuş durumda
Asıl karışıklık kamusal alanda yaşanacak. Kabaca 1975 öncesi ile bugün arasında doğmuş kuşaklar, inanmak istedikleri bir görüntüyü gördüklerinde eleştirel düşünemeyecek ve yaklaşık bir kuşak boyunca bir karmaşa yaşanacak
ChatGPT gibi AI tabanlı hizmetleri yasaklamak, bu tür eğitimlere para yatırmak için ekonomik teşviki de azaltabilir
Daha yeni bir girişim olarak da https://c2pa.org/ var
Tüm bu AI güvenliği tartışmaları, OpenAI gibi şirketlerin DeepSeek gibi yeni rakipleri engellemek için hendek kazmasından ibaret
LLM'ler AGI'ye götürmez. Yakınına bile yaklaşmaz. Altman'ın bu tür risklerden söz etmesi, Musk'ın sürücüsüz taksilerden söz etmesine benziyor
Elbette etkileyici bir teknoloji. LLM'ler bir gün, bütün gün bilgisayarla etkileşim içinde olunan işlerde insanların üretkenliğini 10 kat artırabilir gibi görünüyor
Onlar bunları OpenAI'nin hendeğini oluşturmak için söylemiyordu. O sırada zaten OpenAI diye bir şey yoktu, AI bugünkü seviyesine hiç yakın değildi ve neredeyse herkes onların argümanlarını saçma buluyordu
Katılmayabilirsiniz, ama bunu sadece yerleşik AI şirketlerini desteklemek için ileri sürülen bir iddia diye geçiştirmek yanlış ve dürüstçe değil
LLM'ler, duyularıyla algılayabildiği şeyler söz konusu olduğunda, her bakımdan ortalama bir insandan çok daha zekidir
Dünyanın baskın büyük gücüyseniz, başka ülkelerin stratejinizi belirlemesine izin vermezsiniz. Bu kadar basit
AI'yi dizginleme girişimleri, rekabette geride olan taraftan gelir. Edward Teller'ın anlattığı bir röportajdaki gibi, Sovyetler nükleer deneme moratoryumunu kullanarak hidrojen bombası konusunda ABD'yi yakaladı ve bunun olacağını idealist bilim insanlarına söyleyen kişi Teller'dı
Çin'in zaten neredeyse her alanda ABD'yi yakaladığı, kalanlarında da yakında geçeceği yaygın olarak biliniyor. DeepSeek'e bakın: OpenAI kadar verimli ama maliyeti çok daha düşük. Bir de Baidu, Alibaba AI vb. var
Çin ekonomisi 5 yıl içinde ABD'yi geçme rotasında ve buna rağmen o anlaşmayı imzaladı. Aslında çoğu ülke imzaladı, Hindistan da öyle
Bu, kaybedenlerin yeni kurallar koyduğu bir durum değil; büyük ülkeler bu durumu nasıl ele alacaklarını tartışıyor ve kendini fazla üstün gören ülkeler geride kalmış görünüyor
Yalnız bu tür girişimler de sembolik ve taraflar da bunun farkında. Sadece saf bilgi tüketicilerine, yani yararlı aptallara, bir şey yapıyormuş gibi görünme çabası
80'leri kaçırdım ama 90'lar ve 2000'leri yaşamış bir “hacker” olarak AI etrafındaki konuşmanın yönü derinden üzücü ve rahatsız edici
Eski hacker'lara, “hacker news” adlı bir sitede insanların kendi bilgisayarında kod çalıştırmayı hükümetin suç sayması gerekip gerekmediğini tartışacağını söylediğinizi hayal edin
Bu, beni bilgisayarlara bağlayan her şeyle hem etik hem felsefi olarak doğrudan çatışıyor. İnsanlar buna gerçekten inanıyor mu, yoksa bu sadece belirli şirketler ve siyasetçiler için elverişli, incelikle kurulmuş bir anlatı mı, merak ediyorum
Gördüğüm tartışmalarda ya da AB AI düzenlemelerinde AI hacking'in kendisini sınırlayan bir şey yok
Düzenleme, şirket/devlet uygulamalarını ve gerçek kullanım vakalarını ele alıyor. Sorumluluğu belirsiz bir AI'nin nihai işe alım kararını vermesine izin vermemek, kamusal alanlarda yaygın yüz tanımayı yasaklamak, sağlık, eğitim ve yargı gibi yüksek riskli alanlarda AI kullanımında şeffaflık istemek ve silahlı AI'yi yasaklamak gibi
Madem etik dediniz, o zaman sorayım: AI'ye hangi etik uygulanmalı? Hiçbiri mi, bir kısmı mı, yoksa insanlarla aynı etik mi? AI karar almada insanların yerini alacaksa, insanlar gibi sorumluluk taşımalı
Sınırsız AGI’ye sahip ülkeler teknolojik olarak sıçramalı biçimde öne geçme ihtimali taşır
Buna karşılık kısıtlamalar getiren ülkeler o alanda “taş devrinde” kalacaktır
Genel olarak, elitlerin gelirinin halkın emeğine bağlı olduğu ülkeler, böyle olmayan ülkelere göre çoğunluk için daha iyi sonuçlar üretir. Zengin petrol rezervlerine sahip gelişmekte olan ülkelere bakmak yeterli
AGI neye yol açacak? İmalat işçiliğinin yerini aldığı gibi, bilgi işlerinin çoğunun da yerini alacak ve mevcut elitler AGI’yi kontrol edecek. Tam otomatik ve her yere yayılmış gözetimle isyanları sonsuza kadar bastırmak için kullanılabilir
Gerçekten hedeflenmeye değer bir şey değil
[1]: https://en.wikipedia.org/wiki/Resource_curse
Bir gün var olabilir. Ama mevcut “AI” AGI olamaz ve oraya giden bir yol da yok
Bu anlatıya olduğu gibi inanmamak gerekir. AB düzenlemeleri AGI’yi yasaklamaya çalışmıyor; teknolojinin var olduğu durumda en azından asgari bir nezaket sınırını korumayı amaçlıyor. Amerikalıların buna karşı neredeyse ölümcül bir alerjisi var gibi görünüyor
Aradan sadece birkaç yıl geçmişken bugün gerçekten de dünyanın bir kısmının AI’yi benimsediği, başka bir kısmının ise benimsemediği bir durumu ciddi ciddi düşünüyoruz
Bu tür kısmi benimseme öngörülebilirdi ama bu tartışmayı bu kadar hızlı yapıyor olacağımızı düşünmemiştim
Bu “bildiri”nin somut eylem taahhütleri içermediği şeklinde anlamak doğru mu? Öyleyse kimin imzalayıp kimin imzalamadığının neden önemli olduğunu pek anlamıyorum
Somutluk bakımından da ondan pek daha iyi görünmüyor. Uzunluğu yaklaşık bir buçuk sayfa ve ülke listesi bildirinin kendisi kadar uzun; temelde “kötü şeyler yapmayacağımızı söyledik” demekten ibaret
Onlar haklı. O bildiri işe yaramaz ve sadece boş çaba
Avrupa bildirilere ve endişe mektuplarına imza atmayı gerçekten seviyor. İmzalasalar da hiçbir fark yaratmayacaktı
Bu tür “kötü olmayalım” bildirileri genelde anlamsız jestlerdir
Zaten sürece katılmayacak marjinal aktörler ahlaki üstünlük taslar ama gerçek gidişatı hiç etkilemez
Ottawa Treaty de benzer. İmzalamayanlar arasında ABD, Çin, Rusya, Pakistan, Hindistan, Mısır, İsrail, İran, Küba ve Kuzey-Güney Kore var. Yani aslında mayın kullanması beklenen ülkelerin tamamı dışarıda kalmış
İş ciddiye bindiğinde Ukrayna gibi imzacı ülkeler de mayın kullanacaktır. Çünkü bir kâğıt parçasına sadık kalıp ahlaken üstün hissetmektense ulusal savunma daha önemlidir