Google, yapay zekayı silah ve gözetimde kullanmama taahhüdünü geri çekti
(washingtonpost.com)- Google, salı günü yapay zeka etik yönergelerini değiştirerek yapay zekayı silahlar ve gözetim alanlarında uygulamayacağına dair kamuya açık taahhüdünü kaldırdı
- 2018 yapay zeka ilkelerinde, yapay zeka uygulamalarını “genel zarara yol açan veya yol açması muhtemel” biçimlerde kullanmayı dışlayan bir kısıtlama maddesi vardı
- Mevcut belgedeki “takip etmeyeceğimiz uygulamalar” bölümü; silahlar, gözetim, yüksek zarar potansiyeli taşıyan teknolojiler ve uluslararası hukuk ile insan hakları ilkelerine aykırı kullanım örneklerini yasak kategoriler olarak belirliyordu
- Internet Archive’da saklanan perşembe tarihli kopyada bu yasak bölümü ve 4 kategori hâlâ yer alıyordu
- Bu değişiklikle, Google’ın kamuya açık yapay zeka ilkelerinde belirli yüksek riskli kullanım alanlarını açıkça dışlayan ifadeler ortadan kalktı
Yapay zeka ilkelerinden kaybolan yasak taahhüdü
- Google, salı günü yapay zeka etik yönergelerini güncelledi
- Yeni yönergelerde, yapay zeka teknolojisini silahlara veya gözetime uygulamayacağına dair eski ifade kaldırıldı
2018 politikasındaki kısıtlama maddesi
- Google, 2018’de yapay zeka uygulama kapsamını sınırlayan bir politika yürürlüğe koydu
- O dönemki politika, yapay zekayı “genel zarara yol açan veya yol açması muhtemel” biçimlerde uygulamayacağına dair bir ifade içeriyordu
Kaldırılan “takip etmeyeceğimiz uygulamalar” bölümü
- Önceki yapay zeka ilkelerinde “Applications we will not pursue” adlı bir bölüm vardı
- Internet Archive’da saklanan perşembe tarihli kopyada bu bölüm hâlâ yer alıyordu
- Bu bölüm, Google’ın takip etmeyeceğini belirttiği 4 kategoriyi içeriyordu
- Silahlar
- Gözetim
- “Genel zarara yol açan veya yol açması muhtemel” teknolojiler
- Uluslararası hukuk ve insan hakları ilkelerine aykırı kullanım örnekleri
Kamuya açık ilkelerde değişenler
- Değişiklikten önce yapay zeka ilkeleri belirli kullanım alanlarını açıkça dışlıyordu
- Değişiklikten sonra kamuya açık ilkelerde; silahlar, gözetim, genel zarar, uluslararası hukuk ve insan hakları ilkelerini ihlal eden kullanım örneklerini takip etmeyeceğine dair ifade çıkarıldı
1 yorum
Hacker News yorumları
https://archive.ph/hfrKY
Başta yeni bir taahhüt açıklaması sandım ve “işlerine geldiğinde hemen unutuverirler” diye düşündüm; makaleyi okuyunca da “ah, zaten işlerine gelen durum buymuş” dedim
Google dev bir şirket; dev şirketler özünde “kötü” olmayabilir ama iyilik ya da ahlakla temelde ilgilenmezler
Öyle göründükleri anlar varsa, bu tamamen pazarlama faaliyetidir
Yozlaşmış polis tarzı kötülük ile seri katil tarzı kötülük arasında fark olabilir ama para için her şeyi yapmaya hazır olma tutumu tarihsel olarak kötü davranış sınıfına sokulmuştur
Bu, dev şirketlerin olmadığı bir toplumun daha iyi mi daha kötü mü olacağından ayrı; ama şirket büyüdükçe çok daha yüksek vergi ödediği bir dünya ilginç olurdu
Onları da eskisi gibi ücretsiz dağıtıyorlardı ve kaliteleri de fena değildi
Sonra eyalet bunu da yasaklayınca Walmart saat gibi işleyerek ücretsiz kâğıt poşet dağıtmaya başladı; onlar da oldukça iyiydi
Bunu görünce, şirketlerin zorlanmadıkça çevre için azıcık bile daha iyi bir şey yapmayacağını anladım
Kötü işler de dahil şirketlerin tüm eylemleri sadece paranın izinden gitmek; etiği sağlamak ise hükümetin işi diye düşünüyorum
Google yapmazsa başka biri yapacak; o hâlde hissedarlar için parayı Google’ın kazanması daha iyi olur mantığına geliyor
Teknik olarak aktivist hissedarlar bir araya gelip “bu pazarı hedeflemiyorsanız yönetimin değişmesi gerekir” diye de savunabilir
Sonuçta tek önemli göstergenin hisse fiyatı olduğu bir yaklaşıma varıyor
Emirler yukarıdan gelir, aşağıdakiler kabul eder
Bu yüzden doğaları gereği kötü görünürler
Bence mesele, sayıların ve karmaşıklığın içinde doğan anonimlikte
Binlerce kişi her biri sayının yükselmesini ister ve bu arzu eninde sonunda böyle kararları belirler
Bu iş yüzünden Google’ın hissesi düşseydi Google bunu yapmazdı
Ama kolektif insan davranışı hisse fiyatını ayakta tutuyor
Dev şirket sadece günah keçisi; gerçekte daha çok bir dizi demokratik kurala benziyor
Şirketler, insan doğasının gerçek hâline bakmamızı sağlayan bir pencere
Bu konuda “neden hepimiz iyi geçinemiyoruz” gibi biraz safça bir bıkkınlıkla öfkelenmek istiyorum
Nasıl bir dünya istediğimi biliyorum ama tür olarak biz, kendim de dahil, neredeyse garanti öz yıkım karşısında beklentileri boşa çıkarmayı sürdürüyoruz
Öfkelenmek istiyorum; ama aynı zamanda kimsenin neden şaşırmadığını üzülerek kabulleniyorum
O alanda bunu zaten yapacak rakipler var ve daha da fazlasını yapacaklar
O tarafta şimdiden oldukça korkunç gelişmeler gördük; düşününce, bunlar kamuya gösterilmesinde sakınca olmadığına karar verilen şeyler
Asıl ilginç işler sosyal medyanın dışında, kapalı kapılar ardında oluyor
Yalnızca yapay zeka silahlarıyla karşılık verilebilecek belirli bir silah ortaya konursa fikrim değişebilir; ama şu anda robotların kimi öldüreceğine karar vermesi için bir neden hayal edemiyorum
İnsanlar yapay zekanın tehlikeli olduğunu ya da dünyanın sonunu getirebileceğini söylediğinde genelde katılmıyorum; ama yapay zeka silahları açıkça tehlikeli ve kolayca kontrolden çıkabilir
Çünkü zaten amaçları kontrol dışında olacak şekilde tasarlanmalarıdır
Sorun yapay zeka silahlarının “kötü” olması değil; değer hizalaması çözülmüş bir problem değil ve yapay zeka silahları öldürmesini istemediğimiz insanları öldürebilir
Dünyayı döndüren şey yalanlar ve bu iğrenç
Nasıl bakarsak bakalım, kaynakları kıt bir gezegende yaşıyoruz; bu da rekabet olduğu anlamına gelir ve rekabet silah inovasyonunu doğurur
Yine de onlarca yıldır nükleer silahlara sahip olup onları kolektif olarak kullanmamayı seçtik; bu yüzden biraz iyimserlik payı var
Rehavete kapılmak için hiçbir neden yok; o yol yalnızca yıkımı hızlandırır
Bunun mutlaka böyle olması gerekmiyor
OpenAI’ın “asla böyle bir şey olmayacak” demesinden bir yıldan kısa süre sonra, savaş alanına model yerleştirmeye yönelik bir DoD sözleşmesi almasına kıyasla bu daha mı etik, daha mı az etik
Bahane “bizim kastettiğimiz yalnızca belirli savaş veya askeri amaç türleriydi” tarzındaydı
Sonuçta soru şu: Hâlâ doğru şeyi yapmaya çalıştıkları kurgusunu sürdürme biçimindense, Google gibi rotayı açıkça tersine çevirmek daha dürüst değil mi
Bu, “evet, yabancı bir tirana boyun eğiyor gibi görünüyor olabilir ama Vidkun Quisling’in Norveç’i yönettiği dönemden daha mı etik, daha mı az etik?” diye sormaya benziyor
OpenAI bence karanlık ve kaypak; başında da aklını kaçırmış bir narsist var
Pichai’yi aziz gibi gösterecek kadar
Etik açıdan aynı olabilirler; ama biri bana silah doğrultacaksa, tetiğin arkasında, üst düzey yöneticilerin peş peşe kaçtığı bir şirketin vücut bulmuş hâli gibi birindense biraz empati yeteneği olan birinin olmasını tercih ederim
İstihbarat kurumları için büyük dil modelleriyle ilgili en kaygı verici noktalardan biri, metin analizini ölçeklendirebilmeleri.
Eskiden en azından bir ajanın benimle ilgilenmesi gerekirdi; artık teorik olarak bir LLM, karşılaştığım tüm metinleri okuyup yasa ihlalinden siyasi eğilime kadar her şeyi işaretleyebilir.
Milyarlarca mesajı eleme ölçeğinde maliyet çok hızlı artacağı için, LLM’nin bu iş için en iyi araç olup olmadığı da şüpheli.
Şu an, Downton Abbey’de herkesin I. Dünya Savaşı’nın başlamasını beklediği dönem gibi hissettiriyor.
Herkes bunun yaklaştığını hissediyor ama kimse durduramıyor.
Gerçekçi olarak, Batı ile Rusya/İran/Kuzey Kore/Çin ya da sonunda savaşacağımız herhangi biri arasındaki bir savaşta, Batı medeniyetinin ve askerlerinin hayatta kalıp kazanması için mümkün olan her şey yapılacaktır.
Sonuçta Google bir Batı şirketi; savaş çıkarsa medeniyetimizi ve ordularımızı desteklemeyen bir tutum son derece sevimsiz olacak ve Google’ı dışlanan bir konuma sokacaktır.
Tersinin yaşanması zaten pek mümkün değildi.
ABD kendini izole ediyor ve müttefiklerine zorbalık yapıyor.
Genişlemek isteyen alternatif güçler için bundan daha iyi bir an hiç olmamıştı.
Birleşik bir Batı ile diğer büyük güçler arasında yaklaşan bir savaş yoktu.
Savaşın gelmesinin nedeni artık Batı’nın var olmaması.
“Bizim” medeniyetimiz ile “onların” medeniyeti diye bir ayrım yok; medeniyet tektir.
Birkaç yüzyıl önce böyle bir kavramın bir ölçüde dayanağı olmuş olabilir, ama bugün “bizim” “onlardan” çok farklı olduğumuz fikri çoğu insan için tehlikeli bir yanılsama.
Artık Grönland’ın ilhakını tehdit eden ve tüm Filistinlilerin Ürdün ile Mısır’a tamamen taşınması gerektiğini savunan bir ülkeyseniz, kitle kontrol silahlarına kesinlikle ihtiyaç duyarsınız.
İnsanlar iki partinin de kendilerini sürekli sömürdüğünü fark ettiğinde bu silahlar içeride de işe yarayabilir.
Çin’in ekonomik alan dışında neden bir tehdit olduğunu bilmiyorum.
Çin hiç ABD’yi işgal etmeye çalıştı mı? Rusya hiç AB’yi işgal etmeye çalıştı mı? Cevap hayır.
Şu anda AB’ye yönelik tek tehdit turuncu adamdan geliyor.
O kişi INF Antlaşması’nı da feshetti.
ABD artık Avrupa’ya orta menzilli nükleer füzeler yerleştiriyor, Rusya da Belarus’a yerleştiriyor.
Böylece iki büyük güç, ilk nükleer darbeyi yiyecek kullanışlı birer günah keçisine sahip olacak; ancak ondan sonra tekrar düşünecekler.
Son 40 yıldaki tüm uluslararası krizler ikisinden birinden kaynaklanmışken, ABD ve Rusya’nın sürekli kendilerinin tehlikede olduğunu iddia etmesi gerçekten akıl almaz.
Rusya açıkça Avrupa’daki ülkeleri, özellikle de Ukrayna’yı işgal etti.
AB’nin kendisini işgal etmemesinin tek nedeni, bunun NATO ittifakı yüzünden büyük kayıplara yol açacak ve sonunda kaybedeceği bir savaşı tetikleyecek olması.
AB’yi güvende tutan şey askeri güç; yeterli askeri gücü olmayan ülkeler ise iktidar hırsına kapılanlar tarafından sürekli dövülüp duruyor.
Ukrayna 1990’larda Rusya’nın işgal etmeyeceği sözünü alıp safça nükleer silahlarından vazgeçti ve bu duruma düştü.
Buna hayali bir tehdit demek zor.
Ekonomi politikası da son derece yağmacı; başka ülkeleri desteklemek yerine geri alınamaz şeyler koparıyor.
İhtiyacın olanı öylece alabiliyorsan neden işgal edesin?
Turuncu adam her iki cephede de tamamen etkisiz.
Orduya para harcamayacak, uzun vadede zarar etmeyeceği anlaşmalar yapacak kadar yetkin de değil.
Bu şirketlerin siyasi rüzgârlara göre hareket etme biçimi ilginç.
Meta’nın yemin töreni civarında bazı değişiklikler duyurması gibi, Google yönetimi de yapay zekâyla ilgili açıklamaları fark etmiş olmalı ve mevcut yönetimin kendilerini belirli bir şekilde görmesini istemeyecektir.
Gerçeğin ortalarda bir yerde olduğunu düşünüyorum.
Şirket içinde muazzam görüş ayrılıkları vardır, ama iktidar sahiplerine nasıl göründüklerini elbette önemserler.
Şirket teknik olarak orantısız bir güce sahip.
Bu yüzden halkın iradesine göre hareket etmesi daha iyi.
Alternatifi, yani şirketin kendi iradesine göre davranması, çok daha kötü olabilir.
Şirketin tek teşviki, söyledikleri “dünyayı daha iyi bir yer haline getirme” gibi eğreti kurumsal tiyatro değil, kâr elde etmek.
Şirket bu amaçla kurulur ve her zaman bunun peşinden gider.
Google Don’t be evil sloganını kaldırdıktan sonra ne bekliyorduk bilmiyorum.
İyi tasarlanmış otonom sistemler hedef isabetini artırmaya ve sivil kayıpları azaltmaya epey yardımcı olabilir.
Silahların varlığına başlı başına öfkeleniyorsanız mahkûm ikilemine yeniden bakmalısınız.
Küçük ölçekli ihanetleri hükümetlerle yönettiğimizi, ancak başlıca dünya güçlerinin ihaneti zorla engelleyecek tek bir dünya hükümetinin yargı yetkisini kabul etmeyeceğini varsayalım.
Özellikle bizim gibi güçlü ve müreffeh güçler böyle bir düzende genellikle kaybedecek çok şeyi olduğu için bunu hiç kabul etmeyecektir.
Google’ın eski CEO’su Schmidt, Estonya’da Ukrayna için AI dronları geliştiriyor.
İyi bir temel AI kaynağına ihtiyaç duyarsa Google’ın tercih edilen tedarikçilerden biri olabileceğini tahmin etmek makul.
Elbette Ukrayna sadece başlangıç; özellikle savaş alanında doğrulanmış, üstelik Rusya’ya ve dolaylı olarak Çin teknolojisine karşı kendini kanıtlamış şeyler için hedef pazar muazzam büyüyecektir.
Gerçek savaş alanına konuşlandırılanlar şimdilik sadece bir kısmı olsa da, uzaktan kumandalı ve otonom kara platformlarına da muazzam ilgi var.
Google sivil otonom platformlarda lider ve bu teknolojiyi askeri sistemlere aktarmanın yolu nispeten kolay görünüyor.