Google, yapay zekayı silah ve gözetimde kullanmama taahhüdünü geri çekti

• Google'ın yapay zeka ilkelerini değiştirmesinin arka planı

  • Önceki yapay zeka ilkelerinde, yapay zekanın silah veya gözetim amaçlı kullanılmayacağının açıkça belirtildiği taahhüt kaldırıldı
  • Google'dan Demis Hassabis ve James Manyika, yapay zekanın yaygınlaşması ve ulusal güvenlik ihtiyaçlarını gerekçe göstererek politika değişikliğini duyurdu
  • “Demokratik ülkeler yapay zeka geliştirmeye öncülük etmeli ve hükümet ile güvenlik alanlarıyla işbirliği yapmalı” vurgusu yapıldı

• Yeni yapay zeka politikasının ana başlıkları

  • Teknolojinin uluslararası hukuk ve insan hakları ilkeleriyle uyumlu şekilde kullanılacağı ifadesi korundu
  • “Beklenmedik zararları azaltmak için testler yürütülür” maddesi eklendi
  • Silah veya gözetim amaçlı kullanımı açıkça dışlayan hüküm ise kaldırıldı
  • Google sözcüsü, silah ve gözetim politikalarındaki değişime dair ayrıntılı soruları yanıtlamayı reddetti

• Geçmişte Google içindeki tepki ve Maven sözleşmesi

  • 2018'de, ABD Savunma Bakanlığı ile drone görüntüsü analiz projesi Maven üzerinde çalışılırken çalışanlardan güçlü tepki gelmişti
  • Çalışanlar, “Google savaş işine karışmamalı” görüşünü savunmuştu
  • Şirket Maven sözleşmesini yenilemedi ve ardından yapay zeka ilkelerini yayımlayarak silah ve gözetim amaçlı kullanımı yasaklama taahhüdünü eklemişti
  • Bu politika güncellemesiyle söz konusu açık taahhüdün kaldırılması, geçmişteki çalışan tepkilerini yeniden gündeme taşıdı

• Sektöre etkisi

  • Silikon Vadisi'nde askeri ve savunma alanındaki işbirlikleri hızla genişliyor
  • Google çalışanlarının Maven karşıtlığının sektörde önemli bir dönüm noktası yarattığı değerlendirmeleri bulunuyor
  • Bu politika değişikliğiyle Google'ın yapay zekasının askeri ve gözetim alanlarında yeniden kullanılma olasılığının arttığı yönünde analizler var

[GN⁺]

Hacker News yorumları

• Drone'lar ve yapay zeka silahlarının tehlikeleri tartışılıyor. Uzaktan suikastlar, siyasi kargaşa, diktatörlerin seçici hedefleme yapması gibi çeşitli kötüye kullanım ihtimalleri var

  • Birçok ülke bu tür teknolojilere sahip olacak ve pek çok yapay zeka modeli zaten kamuya açık durumda
  • Teknoloji topluluğunun bu sorunu çözmek için yöntemler üzerine düşünmesi gerekiyor
  • Savunma önlemleri, izleme yöntemleri ve vatandaşların hükümetlerin silah kullanımını nasıl denetleyebileceği gibi önemli sorular gündeme geliyor

• Google gibi büyük şirketler özünde iyi ya da ahlaklı değil; bu tür bir imaj yalnızca bir pazarlama stratejisi

• Dünyanın kendi kendini yok oluşa sürüklediği gerçeği kabul ediliyor ve kapalı kapılar ardında ilerleyen korkutucu gelişmelerin olduğu belirtiliyor

• Çoğu özel şirket teknolojiyi kâr için kullanacak ve geçmişte verdikleri sözleri bozacak

• Şirketlerin siyasi duruma göre değişmesi ilginç bulunuyor

  • Google, AI duyurularına gelen tepkiler karşısında imaj yönetimine önem veriyor

• OpenAI'nin DoD ile sözleşme yapması Google'ın davranışıyla karşılaştırılıyor ve daha açık sözlü bir tutumun daha dürüst olduğu savunuluyor

• Belirli bir ülkenin kalabalık kontrolü için silahlara ihtiyaç duyduğu ileri sürülüyor

  • Uluslararası krizlerin çoğunun esas olarak ABD ve Rusya tarafından başlatıldığı eleştirisi yapılıyor

• Dünyanın kaotik bir durumda olduğu bir dönemde Google, OpenAI ve Microsoft gibi şirketlerin savunma projelerine katılmasının olumlu olduğu düşünülüyor

• LLM'lerin istihbarat kurumlarında metin analizini ölçeklendirme kapasitesi konusunda endişe dile getiriliyor