ABD ve Birleşik Krallık, zirvede AI Safety (güvenlik) deklarasyonunu reddetti

• Çok taraflılığa ret

  • ABD ve Birleşik Krallık, AI güvenlik deklarasyonunu imzalamadı
  • ABD'nin tutumu, Biden yönetimine göre "180 derecelik bir dönüş" anlamına geliyor
  • ABD Başkan Yardımcısı JD Vance, Avrupa'yı yapay zeka konusunda "aşırı derecede temkinli" düzenlemeler benimsememesi konusunda uyardı
  • Yapay zeka teknolojisinin "güvenli, emniyetli ve güvenilir" olmasını sağlamayı amaçlayan deklarasyona imza atılmadı
  • Yaklaşık 60 ülke, AI Action Zirvesi'nde deklarasyonu kabul etti

• ABD'nin tutumu

  • Vance, ABD'nin yapay zeka teknolojisinde baskın güç olarak kalacağını vurguladı
  • "En güçlü yapay zeka sistemleri ABD'de, ABD'nin tasarlayıp ürettiği çiplerle inşa edilecek" dedi
  • Uluslararası düzenleyici rejimin, yapay zeka teknolojisinin yaratımını teşvik etmesi gerektiğini savundu

• Deklarasyonun içeriği

  • Yapay zekanın açık, kapsayıcı, şeffaf, etik, güvenli, emniyetli ve güvenilir olmasını sağlamayı hedefliyor
  • ABD ve Birleşik Krallık daha önceki yapay zeka zirvelerinde benzer deklarasyonları imzalamıştı
  • Yeni ABD yönetiminin "America First" politikası ve Birleşik Krallık hükümetinin bunun "kısıtlayıcı" olduğu görüşü nedeniyle imza atılmadı

• Yapay zeka yarışı ve Çin

  • Yapay zeka geliştirme, çip üretimi, yapay zeka sohbet botları ve süper bilgisayarlar için gereken enerji gibi alanlarda Çin ile rekabet yoğunlaşıyor
  • DeepSeek'in düşük maliyetli yapay zeka modeli, Silikon Vadisi'ndeki OpenAI'ı şaşırttı

• Avrupa'nın yapay zeka sektörü

  • Avrupa, yapay zeka sektöründe ABD veya Çin'e bağımlı kalmaktan kaçınmaya çalışıyor
  • Fransa Cumhurbaşkanı Emmanuel Macron'un ev sahipliği yaptığı zirvede yaklaşık 200 milyar euroluk veri merkezi ve bilgi işlem kümesi yatırımı açıklandı

• ABD'nin uyarısı

  • Vance, "otoriter rejimlerle" yapay zeka anlaşmaları yapılmaması konusunda uyardı
  • CCTV ve 5G örneklerini vererek, "ucuz teknolojinin" otoriter rejimler tarafından sübvanse edilip ihraç edildiğini söyledi

• Ortak deklarasyonun öncelikleri

  • Çin, Hindistan, Almanya gibi ülkelerin imzaladığı ortak deklarasyon, "uluslararası iş birliğini güçlendirerek uluslararası yönetişimde koordinasyonu teşvik etmeyi" hedefliyor
  • ABD, çok taraflılık ve uluslararası iş birliğine ilişkin ifadelere katılmıyor
  • Fransa'nın kurduğu Current AI vakfının Frankofon ülkelere fon sağlayabileceğine dair endişeler bulunuyor

• Vance'in konuşması

  • Vance'in konuşması, Biden yönetimine göre "180 derecelik bir dönüş" olarak değerlendiriliyor
  • Macron'un zirvesi, ABD liderliğindeki yapay zeka teknolojisi geliştirmesine alternatifler üretmeyi amaçlıyordu
  • DeepSeek'in güçlü açık modelini yayımlamasının ardından Avrupa, yapay zeka yarışında kısa süreliğine bir fırsat yakaladığını hissetti

[GN⁺]

Hacker News yorumu

• Teknolojik ilerleme hızlandıkça, önümüzdeki birkaç on yıllık yaşamın sanki bilinç açıkken lobotomi uygulanıyormuş gibi hissedileceğine dair bir görüş var. Teknolojinin yanlış yöne gidebileceği binlerce varsayımsal yol düşünülebilir, ama buna rağmen ilerleme durmuyor. Yapay zeka, istesek de istemesek de eninde sonunda gelecek

• Yapay zeka nükleer fisyon gibi değil. Birinin yapay zeka eğittiğini uzaktan tespit etmek mümkün değil. Yapay zekayla ilgili tüm bilgileri izole etmek için artık çok geç. Yapay zeka eğitimi için gereken ekipman ucuz ve her yerde bulunuyor

  • "Güvenlik bildirisi"nin gerçek bir gücü yok ve uygulanamaz
  • Yapay zeka durdurulamayacağı için uyum sağlamak gerekiyor
  • Video ve fotoğraflar yakında kanıt değeri taşımayacak
  • Gerçek dünyadaki ilişkiler, çevrimiçi ilişkilerden daha önemli
  • Yapay zekanın "kaosa yol açması" 200 yıl önce de yoktu ve insanlar her zaman uyum sağladı

• "Yapay zeka güvenliği", OpenAI gibi şirketlerin girişimleri engellemek için kullandığı bir savunma aracından ibaret. LLM'ler AGI'ye ulaşamayacak. Altman'ın bu riskten bahsetmesi, Musk'ın sürücüsüz taksilerden bahsetmesine benziyor

• Dünyadaki baskın güç olunduğunda, başkalarının stratejiyi belirlemesine izin verilmez. Yapay zekayı bastırma girişimleri, yarışta geride kalanlardan gelecektir. Edward Teller'ın, Sovyetler'in ABD ile hidrojen bombasında eşit seviyeye gelmek için nükleer testlerin durdurulmasını kullandığını hatırladığı bir röportaj var

• 80'leri kaçırmış ama 90'lar ve 2000'lerden geçmiş bir "hacker" olarak, yapay zeka hakkındaki tartışmaların nasıl ilerlediği karşısında derin bir üzüntü ve kaygı hissediliyor. Geçmişteki hacker'lara, hükümetin kendi bilgisayarlarında kod çalıştırmayı suç haline getirmesinin önemli olduğunu savunan insanlar olduğunu söylemek hayal bile edilemezdi

• "Yapay zeka" teriminin siyaset dünyası ve daha birçok kişi için ne anlama geldiğini anlamak zor. Bu durum birkaç yıl önceki "blockchain"e benziyor. "Yapay zeka" fiilen algoritmik karar alma ile eş anlamlı ve insanların yaşamlarını doğrudan etkileyebilir. Hesap verebilirlik, şeffaflık ve başvuru yolları olmadan "yapay zeka"nın denetimsiz biçimde yayılması, tarihsel olarak yerleşmiş haklar açısından ciddi bir gerilemeye işaret ediyor

  • ABD, CFPB'yi dağıtıyor ve daha fazla deregülasyon için bastırıyor
  • Birleşik Krallık'ın tutumu ilginç. Vatandaş/tüketici koruması açısından ABD ile AB arasında duruyor, ama Brexit'e rağmen ikincisine daha yakın

• Kısıtsız AGI'ye sahip bir ülke, teknolojik olarak büyük bir sıçrama yapma ihtimali taşıyor. Bunu sınırlayan ülkeler ise "Taş Devri"nde kalabilir

• Avrupa bildiri yazmayı ve kaygı mektupları yayımlamayı seviyor. İmzalansa da bir şey değişmeyecek

• Bu "bildiri"nin somut eylemler vaat etmediğini anlamak doğru mu, merak ediliyor. Kimin imzaladığının neden önemli olmadığını pek anlayamıyorum

• Bildiri işe yaramaz ve boşuna bir çabadan ibaret