Google DeepMind'dan Neden Ayrıldım
(turntrout.com)- Google DeepMind’in eski araştırma bilimcisi Alexander Matt Turner, Google’ın DHS ve ICE’a bulut hizmetleri sunması ve ABD Savunma Bakanlığı’yla otonom ölümcül silahlar ile büyük ölçekli yapay zeka profillemesini bağlayıcı şekilde yasaklamayan sözleşmeler imzalaması nedeniyle vicdanen şirkette kalamayacağını söyleyerek istifa etti
- ABD Savunma Bakanlığı, Anthropic’ten mevcut kısıtları kaldıran “tüm yasal kullanım alanları” sözleşmesi talep edince Turner, IASEAI ve önde gelen yapay zeka araştırmacılarından ortak karşılık vermelerini istedi; Google içinde de yaklaşık 250 imza ve Jeff Dean’in mahkemeye sunulan amicus görüşüne katılımını sağladı
- İnsanların güç kullanımını kontrol etmesini ve hedef dışı yapay zeka profillemesini yasaklayan 25 sayfalık bir sözleşme ve denetim çerçevesi hazırladı, ancak Demis Hassabis’in inceleme talimatı vermesine rağmen üst düzey politika yetkililerinin değerlendirmesine sunulmadı
- Google, Nisan 2026’da ABD Savunma Bakanlığı’nın Gemini’nin güvenlik ayarlarında değişiklik talep edebilmesine ve Google’ın yasal devlet operasyonlarını reddedememesine imkan tanıyan bir sözleşme imzaladı; ayrıca otonom silahlardan ve yurt içi büyük ölçekli gözetimden kaçınılması gerektiğine dair ifadelerin hukuken bağlayıcılığı yoktu
- Kişisel etik taahhütlerin ya da yönetime duyulan güvenin tek başına baskı altında ilkeleri korumaya yetmeyeceği sonucuna vardı; bu yüzden önceden tanımlanmış kısıtlar, bağımsız inceleme ve şeffaflık içeren düşük güvene dayalı yönetişim gerektiğini savundu
DHS ve ICE tedarik zincirinde başlayan farkındalık
- Turner, Ocak 2026’da DHS ajanlarının en az 2 kişiyi öldürdüğü olayın ardından Google ile göçmenlik denetim kurumları arasındaki ilişkiyi araştırdı
- DHS’nin 2025 AI Use Case Inventory’si, DHS’nin operasyonel verimliliğini artırmak için kullanılan üretken yapay zeka sağlayıcılarından biri olarak Google’ı listeliyor
- Google, ITC Federal gibi üçüncü taraflar üzerinden ICE’a bulut hizmeti satıyor
- Google’ın başka eylemlerini de sorunlu buldu
- 3 Ekim 2025’te ICE faaliyetleri konusunda uyarı veren bir uygulamayı listeden kaldırdı
- Öğrenci bir protestocunun hesabını önceden bildirim yapmadan ICE’a vererek, hükümete bilgi açıklamadan önce e-posta göndereceğine dair hizmet sözünü bozdu
- Google, göçmenlik denetim kurumlarının yalnızca ticari bulut hizmetlerini kullandığını söyledi; ancak Turner’ın itirazı özel hizmet verilip verilmediğine değil, ICE’a hizmet verilmiş olmasına yönelikti
- Büyük ölçekli dilekçelerin zaten görmezden gelindiğini, oturma eylemi, grev ve kitlesel istifaların da uygulanabilirlik ve etki açısından düşük kaldığını düşündü
- Yapay zeka sektöründe yerini doldurması zor az sayıdaki yeteneğin kurumlar üzerinde büyük etkisi olduğunu, bu yüzden rastgele 100 araştırma mühendisine kıyasla 10 kilit kişinin ya da tek başına Jeff Dean’in ayrılma ihtimalinin yönetime daha yüksek maliyet çıkarabileceğini değerlendirdi
Jeff Dean ile ilk temas
- Jeff Dean, Google’ın 30. çalışanı, Chief Scientist’i ve Gemini projesinin eş lideri; ICE’ı kamuoyu önünde eleştirmiş ve 2018’de otonom ölümcül silahlara karşı imza kampanyasına da katılmıştı
- Turner, 9 Şubat 2026’da Jeff’e doğrudan ulaşıp Google’ın DHS tedarik zincirinden çekilmesine yardımcı olmak istediğini söyledi
- Jeff, Sundar Pichai, Demis Hassabis ve Thomas Kurian’a e-posta göndermenin makul olacağını söyledi
- Turner üç CEO’ya şu noktaları iletti ancak yanıt alamadı
- Sorun partizan siyaset değil; ICE’ın usule uygun yargı süreçlerini ihlal etmesi, sivilleri alıkoyması, yetersiz denetlenen tesisler ve insan hakları ihlalleriydi
- Bulut ve Gemini, doğrudan sözleşmeler ya da üçüncü taraf entegratörler aracılığıyla bu operasyonları desteklememeliydi
- DHS ve ICE ile iş birliği, insan hakları sorunlarının yanı sıra sağlayıcı açısından itibar riski de yaratıyordu
- Ardından Jeff’ten, Google içinde gerçek değişim yaratmanın yollarını konuşmak üzere bir öğle yemeği istedi ve birkaç hafta sonra buluşma ayarlandı
ABD Savunma Bakanlığı’nın Anthropic’e baskısı
- 25 Şubat 2026’da ABD Savunma Bakanlığı, Anthropic’ten mevcut sözleşme kısıtlarını kaldırmasını ve Claude’u “tüm yasal kullanım alanları” için sunmasını istedi
- Mevcut kısıtlar ölümcül otonom silahlar ile yapay zeka gözetimi ve profillemesini kapsıyordu
- Reddedilmesi halinde 200 milyon dolarlık sözleşmenin iptal edileceği, şirketin tedarik zinciri riski taşıyan firma olarak sınıflandırılacağı ve Defense Production Act kapsamında hizmet vermeye zorlanacağı tehdidinde bulunuldu
- “Yasal kullanım” ölçütünün iki sorunu olduğunu düşündü
- ABD Savunma Bakanlığı, kazazedeleri ikinci kez vurma örneğinde olduğu gibi bağımsız hukuk uzmanlarının savaş suçu ihtimali gördüğü eylemleri bile kendi içinde yasal sayabiliyordu
- Büyük ölçekli gözetim ve yapay zeka profillemesi de mevcut gözetim yasalarının yapay zekayı esas alarak yazılmamış olması nedeniyle yasal çerçeve içine girebiliyordu
- Tedarik zinciri riski olarak sınıflandırılmanın, sıradan bir sözleşme reddinden farklı olarak tüm askeri yüklenicilerin Anthropic kullanımını bırakmasına yol açabileceğini ve bunun şirketin ekonomik varlığını tehdit edebileceğini düşündü
- Daha sonra Yargıç Lin, bu sınıflandırmanın “tipik bir hukuka aykırı Birinci Değişiklik misillemesi” olduğuna hükmetti
IASEAI ve önde gelen yapay zeka akademisyenlerinden ortak yanıt talebi
- Turner, Paris’te UNESCO merkezinde düzenlenen International Association for Safe and Ethical AI(IASEAI) etkinliğine katılıyordu
- IASEAI, 2024’te güvenli ve etik yapay zeka için birleşik bir ses oluşturma hedefiyle kuruldu; 2026 çalışma gruplarında otonom silahlar ve tırmanmayı ele alan Red Lines for Advanced AI da yer alıyordu
- Etkinlikteki yüzlerce kişi, o gün yaşanan Anthropic krizinden ziyade kamu tercihi teorisi gibi daha soyut koordinasyon sorunlarını tartışıyordu
- Etkili araştırmacılardan kamuya açık bir yanıt vermelerini istedi
- Yoshua Bengio’dan, Anthropic’in sözleşme özgürlüğünü ve denetlenmeyen otonom ölümcül silahlara karşı çıkışı destekleyen bir açıklama yapmasını istedi, ancak ofisi açıklama yayımlamayacaklarını bildirdi
- Geoffrey Hinton uzaktan katıldığı için, Bengio ya da Stuart Russell üzerinden temas kurmayı düşündü
- Stuart Russell’dan, hem kendi adına hem de IASEAI adına açıklama yapmasını ve kurum içindeki yapay zeka uzmanlarını harekete geçirmesini istedi
- Stuart, Bengio ve Hinton’ın katılımını sağlamaya çalışacağını, ayrıca IASEAI üyeleri arasında oylama düzenleyip etkinlik kapanışında açıklayacağını söyledi
Kaybolan IASEAI oylaması ve açıklaması
- Kapanış etkinliğinde Stuart, ABD Savunma Bakanlığı’nın davranışını “bir tür şantaj düzeni (extortion racket)” olarak nitelendirdi ve Anthropic’in istemediği kullanım alanları için ürün sunmaya zorlanmaması gerektiği önermesi hakkında üye oylaması yapılacağını söyledi
- Salondaki el kaldırma oylamasında, Anthropic’in sözleşme özgürlüğünü destekleyen bir IASEAI açıklamasına neredeyse oybirliğiyle destek çıktı
- O dönemdeki plan, anketi Perşembe gecesine kadar açık tutmak; üçte iki çoğunluk sağlanırsa Stuart’ın IASEAI adına imzalaması, sağlanamazsa kişisel açıklama yapmasıydı
- Turner oylamaya katılabilmek için 75 dolar üyelik ücreti ödedi, ancak anket hiç açılmadı ve IASEAI hiçbir açıklama yapmadı
- IASEAI tarafının sunduğu gerekçeler sürekli değişti
- Açıklama metnini yazmak için daha fazla zamana ihtiyaç vardı
- Hangi ilkelere dayanılması gerektiği belirsizdi
- Anthropic–ABD Savunma Bakanlığı haber akışına katılmanın artıları ve eksileri vardı
- Benzer durumları ele almak için iç prosedürleri geliştirmeye odaklanmak istiyorlardı
- Anthropic kendi açıklamasını yaptığı için artık IASEAI açıklamasına gerek kalmamıştı
- Anthropic’in Cuma günkü son tarihinden sonra dava haftalarca sürdü ve Google sözleşmesi iki ay sonra imzalandı; bu nedenle IASEAI’nin açıklama yayımlaması, amicus görüşü sunması ya da Google’daki karar vericilerle temas kurması için yeterli zaman olduğunu düşündü
- Turner, Stuart’tan kamuya açık bir açıklama yerine Google yöneticileriyle özel olarak iletişime geçmesini ya da en azından bir tanıştırma yapmasını birkaç kez rica etti, ancak yanıt alamadı
- IASEAI, talep üzerine üyelik ücretini iade etti; aynı mekânda düzenlenen yapay zeka kırmızı çizgiler atölyesi ise en büyük engel olarak siyasi iradeyi gösterdi
OpenAI sözleşmesi ve Google iç kamuoyu oluşturma
- OpenAI, ABD Savunma Bakanlığı ile sözleşme yaparken Anthropic’teki gibi otonom silahlar ve kitlesel gözetim sınırlamalarını koruduğunu söylese de, bazı analizler sözleşme metninde geniş kapsamlı boşluklar bulunduğunu değerlendirdi
- Turner, Google DeepMind içindeki güncel olaylar tartışma kanalında Anthropic ile dayanışma çağrısı yaptı ve “tüm yasal kullanımların” reddedilmesi gerektiğini savundu; mesajlardan biri 125’ten fazla destek tepkisi aldı
- İç paylaşımların birden çok amacı vardı
- Sessiz kalındığında yönetimin katlanacağı kurumsal maliyeti artırmak
- Üst düzey isimlerin okuduğu kanallar üzerinden stratejik argümanlar iletmek
- Sözleşmeden rahatsız olan çalışanların yalnız olmadıklarına dair ortak bir farkındalık yaratmak
- OpenAI sözleşmesindeki boşlukları paylaşarak benzer koruma ifadeleri sunulduğunda çalışanların bunları kabul etmemesini sağlamak
- Sözleşme imzalanırsa istifa edebileceklerini çalışanların dolaylı biçimde gösterebileceği bir kanal yaratmak
- Google’ın büyük iç kanallarda doğrudan örgütlenilmesinden hoşlanmadığını düşündüğü için, tepki bırakan kişilere özel olarak ulaştı
250 kişilik dilekçe ve Anthropic amicus curiae görüşü
- Jeff’in hem etik kavrayışa hem de gerçek etkiye sahip az sayıdaki yöneticiden biri olduğunu düşünerek, onun inisiyatif almasını ve çalışan desteğini bizzat görmesini sağlamaya odaklandı
- Arkadaşlarıyla birlikte bir-iki gün içinde Google DeepMind ve Research çalışanlarından yaklaşık 250 imza toplayıp Jeff’e iletti
- İmzacıların talebi, temel kırmızı çizgileri aşan bir sözleşmeyi engellemek için elinden gelen her şeyi yapmasıydı
- İlk dilekçede ABD dışındaki kişilerin mahkeme kararı olmadan gözetlenmesi meselesini dışarıda bırakmanın, müzakere öncesinde isteneni peşinen taviz vermek anlamına gelen bir hata olduğunu değerlendirdi
- Anthropic, ABD Savunma Bakanlığı’nın tedarik zinciri riski tanımına karşı dava açıp ihtiyati tedbir talep edince, Protect Democracy yapay zeka uzmanlarının amicus curiae görüşünü hazırladı
- Turner bu görüşe imza attı, meslektaşlarını ve Jeff’i de katılmaya çağırdı; Jeff de açıkça imza verdi
- Google DeepMind’den imza atan 18 kişinin 8’i Turner tarafından ikna edildi
- Jeff, C-seviye yönetici olarak Google’ın sessizliğinden kamuoyu önünde ayrışan tek yöneticiydi
- Google çalışanlarının imzalarının, gelecekte Google’ın da benzer sözleşmelerden çekilebileceği endişesini ABD Savunma Bakanlığı’nda yaratarak müzakerelerin gecikmesinde bir miktar etkili olduğunu düşündü
- Google hukuk ekibinden de, hükümetin Anthropic’e baskı kurmasına izin verilirse gelecekte aynı tehdidin Google’a karşı da kullanılabileceğini söyleyerek görüş sunmasını istedi; ancak Google katılmadı, Microsoft ise görüş sundu
Yönetimin iyimserliği ve sözleşmenin imzalanma olasılığı
- 2026 Mart ayı boyunca üst düzey yöneticiler, liderliğin de sorunu gördüğünü ve bu nedenle Google’ın “tüm yasal kullanımlar” sözleşmesini imzalamayacağını söyledi
- Turner, biri liderlik için gerçek bir maliyet yaratmadıkça Google’ın geri adım atma ihtimalinin yüksek olduğu sonucuna vardı
- Alıntı kaynaklar içeren bir notta şu gerekçeleri sundu
- Google’ın öğrenci protestocuların bilgilerini ICE’a gönüllü olarak vermesi gibi daha düşük riskli baskılara bile boyun eğdiğine dair örnekler vardı
- Devlet sözleşmelerinin şirket içindeki ağırlığı büyüktü
- Google DeepMind’in yapay zeka ilkeleri somut yasaklardan belirsiz ifadelere doğru zayıflatılmıştı
- Antitröst sorunları ve mevcut Adalet Bakanlığı’nın dava sicili, Google üzerinde ek baskı yaratıyordu
- Bu notu birkaç kez paylaştı, ancak kıdemli çalışanları ikna edemediğini düşündü
Jeff merkezli hazırlanan müzakere stratejisi
- Jeff, 2018’de “otonom ölümcül silahların geliştirilmesine, üretilmesine, ticaretine veya kullanımına katılmayacağız ve bunları desteklemeyeceğiz” taahhüdüne katılmıştı ve 2026’da da görüşünün değişmediğini kamuoyu önünde yeniden doğruladı
- Kitlesel gözetimin Dördüncü Değişikliği ve ifade özgürlüğünü ihlal edebileceğini, ayrıca siyasi ve ayrımcı biçimde kötüye kullanılabileceğini söyleyerek, ABD’lilere yönelik yapay zeka destekli kitlesel gözetim istemediğini belirtti
- Turner, Google sınırsız bir sözleşme imzalarsa Jeff’in taahhüdüne sadık kalmak için istifa etmek zorunda kalacağı şeklinde mantıksal bir sonuca ulaştı
- Jeff’in, sözleşme imzalanırsa kalamayacağını Sundar Pichai’ye söylemesini hedefleyen bir senaryo hazırladı
- 250 kişilik dilekçeyle çalışan desteğini gösterdi
- Jeff çizgiyi çekerse birlikte hareket etmeye hazır birkaç kıdemli çalışanın desteğini de güvence altına aldı
- Birden fazla kişiden oluşan koalisyonların primler ya da birebir ikna çabalarıyla bölünebileceğini düşündüğü için gerçek strateji tek başına Jeff’in etkisine dayanıyordu
- Muğlak biçimde “kötü bir sözleşme imzalamayın” demenin yalnızca kozmetik değişikliklerle sonuçlanabileceğini düşünerek somut bir alternatif hazırladı
25 sayfalık askerî yapay zeka çerçevesi
- Turner, iznini kullanarak kişisel zamanında 25 sayfalık sözleşme dili ve denetim yapısı hazırladı ve bunu askerî hukuk ile gözetim hukuku uzmanlarına inceletti
- İnsan ve yapay zekanın savaşta entegrasyonu alanında çalışan bir hukuk uzmanı çerçeveyi “aslında oldukça iyi” buldu ve iyileştirme önerileri sundu
- Devlet gibi zor kullanma yetkisine sahip kurumlara yapay zeka sağlanırken iki ölçüt uygulanıyordu
- Güç kullanımında insan kontrolü
- Yapay zekanın, her angajmanda yeterli insan kontrolü olmadan hedef seçip saldıran sistemlerde kullanılmasını engellemek
- Yalnızca yapay zeka bileşenleri hedefleme hattına sağlandığında da bunu uygulamak
- Yasal konuşlandırma biçimlerini doğrulamak için hukuki şeffaflık ve üzerinde mutabık kalınmış bağımsız denetçi doğrulaması istemek
- Önleme amaçlı savunma, ikinci ölçüte uyan istihbarat analizi, lojistik ve Ar-Ge’yi kısıtlamamak
- Hedefsiz yapay zeka profillemesini yasaklama
- Büyük veri kümelerinin, zaten belirlenmiş bir soruşturma hedefi olmayan kişiler hakkında bilgiye dönüştürülmesini engellemek
- Yalnızca demografik özellikler veya siyasi ifade temelinde birey analizi başlatılamaması
- Yalnızca yapay zeka çıktısına dayanarak bir kişi hakkında derinlemesine soruşturma başlatılamaması
- Belirli hedefe yönelik analiz, toplulaştırılmış araştırmalar ve sivillerin korunmasını iyileştiren çatışma bölgesi analizlerine izin vermek
- Güç kullanımında insan kontrolü
- 7 kişiden oluşan bir Defense AI Review Body yapısı tasarlandı; üyeleri atayıp denetleyecek kişi Chief Scientist olacaktı
- 7 koltuğun 2’si Cloud tarafına ayrıldı
- Çalışanlar yalnızca kendilerinin dahil olduğu sözleşmelerde çekilecekti
- İnceleme gecikmesi en fazla 10 günle sınırlandı
- Görüşmeler avukat-müvekkil gizliliği kapsamında korunacaktı
- Review Body’nin yetkisi yalnızca danışmanlıkla sınırlıydı, ancak tavsiyelerin göz ardı edildiği durumlar tüm yapay zeka çalışanlarına sunulan yıllık şeffaflık raporuna dahil edilecekti
- Yapıyı dağıtmak için önceden bildirim ve çözülmemiş uyumsuzlukların tam olarak açıklanması gerekecekti; böylece 2018 ilkelerinde olduğu gibi sessizce etkisizleştirmek zorlaşacaktı
- Congress söz konusu kullanımları fiilen düzenleyen bir yasa çıkarırsa, Chief Scientist ve Review Body’nin ezici çoğunluk oyu ile bu ölçütler kaldırılabilecekti
- Eğer “tüm yasal kullanımlar” şartı istenirse, planlanan kullanımın yasal olduğunu gösteren bir hukuk notu alınacak ve şirket standartlarını karşılamayan kullanımlar reddedilecekti
- Karşı tarafın itiraz edebileceği düşünülerek, Alphabet yönetim kuruluna üst raporlama gibi müzakerede taviz verilebilecek daha az kritik maddeler de eklendi
Jeff ile öğle yemeği ve Demis'e gönderilen teklif
- 17 Mart 2026'da Mountain View'da Jeff ile buluşup Review Body'yi yönetmesini teklif etti, ancak Jeff kabul etmedi
- Özel konuşmalar izinsiz alıntılanmadı; doğrulanabilir kamusal eylem olarak Jeff'in Anthropic destek mektubunu imzalayıp Google sözleşmesi imzalandıktan sonra da şirkette kalmış olması öne çıkıyor
- Jeff çerçeveye liderlik etmeyince başarı olasılığı ciddi biçimde düştü ve bir sonraki yol olarak Demis Hassabis seçildi
- DeepMind, 2014'te Google tarafından satın alınırken yapay zekanın askerî ya da silah amaçlı kullanılmayacağına dair söz almıştı; 2018'de ise kurucu ortaklar ve organizasyonun kendisi otonom ölümcül silahlara karşı taahhüde katılmıştı
- Teklifi yönetim yapısı üzerinden iletmeye bir hafta boyunca çalıştıktan sonra, 1 Nisan 2026'da Demis'e doğrudan mesaj gönderdi
- Demis, çerçevenin değerlendirilmesi için Google DeepMind politikasından sorumlu iki üst düzey kişiyi görevlendirdi
- Bu iki kişi önce yanıt vermedi, ardından konuyu daha alt düzey sorumlulara iletti
- Alt düzey sorumlular çerçeveye olumlu baktı, ancak yanıtın aylar sürebileceğini söyledi
- ABD Savunma Bakanlığı'nın 9 Ocak tarihli notu tüm yapay zeka yüklenicilerine 8 Temmuz'a kadar “tüm yasal kullanımlar” sözleşmelerini kabul etmeleri için 180 günlük süre verdiğinden, aylar sürecek bir inceleme durumla uyumlu değildi
- Turner, soru-cevap için San Francisco'dan London'a gelmeyi teklif etti, ancak üst düzey politika yetkilileri yine yanıt vermedi
- CEO inceleme talimatı vermiş olmasına rağmen değerlendirmenin sonucunun iletilmemesinden rahatsızlık duydu; bilinmeyen meşru gerekçeler bulunmuş olabileceği ihtimalini de açık bıraktı
Google'ın sessizce imzaladığı ABD Savunma Bakanlığı sözleşmesi
- 27 Nisan 2026'da çıkan haberlerle Google'ın gizli bir yapay zeka sözleşmesi imzaladığı ortaya çıktı
- Turner, 600'den fazla diğer çalışanla birlikte Sundar'a gizli yapay zeka sözleşmesini reddetmesi çağrısı yapan mektubu da imzaladı
- Sözleşmenin kilit ifadeleri şunlardı
- ABD Savunma Bakanlığı, Google AI'ı “tüm yasal devlet amaçları” için kullanabilirdi
- Devlet talebi üzerine Google'ın yapay zeka güvenlik ayarları ve filtrelerinin ayarlanmasına destek vermesi gerekiyordu
- Yurt içi kitlesel gözetimde ya da uygun insan denetimi olmadan çalışan otonom silahlarda kullanılmaması gerektiğine dair ifade yer alıyordu
- Ancak aynı anda, Google'ın yasal devlet operasyonlarını kontrol etme ya da reddetme hakkı olmadığı da açıkça belirtiliyordu
- “should not” ifadesi bağlayıcı bir yasak olmadığı için, etik kaygılara yalnızca biçimsel bir yanıt verildiği sonucuna vardı
- Google sözleşmenin imzalandığını şirket içinde duyurmadı; Turner bunu gece 11:45'te bir Signal grubunda öğrendi
- Google'ın, 100 milyon dolarlık ses kontrollü otonom drone sürüsü ihalesinden iç etik inceleme sonrası çekildiği bir örnek de vardı
- Bu, bazı işlerde gerçekten çalışan bir etik inceleme mekanizmasının bulunduğunu gösterdiği için olumlu değerlendirildi
- Ancak “tüm yasal kullanımlar” sözleşmesinde Google, Gemini'nin gerçekte hangi amaçlarla kullanılacağını bilemeyeceğinden, faydanın zararı büyük ölçüde aşıp aşmadığını değerlendirmek zordu
- Hatta Anthropic CEO'sunun bile Claude'un İran'daki bir kız okulunun bombalanmasında nasıl bir rol oynadığını bilmediğini söylemesi örnek verilerek dağıtımdan sonra şeffaflık eksikliği vurgulandı
Değişmediği söylenen AI ilkelerindeki değişim
- Demis, dünyanın daha tehlikeli hale geldiğini ve demokratik değerlerin galip geleceğinin garanti sayılamayacağını, bu yüzden hükümetlerle iş birliği yapılması gerektiğini söyledi
- Google'ın temel ilkesinin, faydanın zarar riskini açık biçimde aşıp aşmadığını dikkatle değerlendirmek olduğu ve uluslararası hukuk ile insan haklarına saygının da değişmediği ifade edildi
- Turner, “duruma bakıp karar veririz” ölçütünün baskı altında da korunacak önceden verilmiş bir taahhüt olmadığını, bu yüzden ilke sayılmasının zor olduğunu düşündü
- 2018 Google AI İlkeleri, insanlara zarar vermeyi ana amaç edinen silahları ve uluslararası kabul görmüş normları ihlal eden gözetim sistemlerini geliştirmeye ya da devreye almayaceklerini açıkça belirtiyordu
- Google bu ilkeler nedeniyle 2018'de 10 milyar dolarlık JEDI ihalesine teklif vermekten vazgeçmişti
- Demis'in ortak yazarı olduğu 4 Şubat 2025 tarihli revizyon, silahlar ve gözetimle ilgili somut yasakları kaldırdı
- Yasak maddeleri kaldırıp aynı anda “ilkeler değişmedi” demek birlikte doğru olamazdı; son iş gününde bu tutarsızlığı iç kanallarda paylaştığında birçok çalışan hayal kırıklığını dile getirdi
Hükümetle iş birliği, sınırsız taviz vermek demek değil
- Batılı demokrasilerin otoriterliğe karşı koymak için otonom silahları benimsemesi gerektiği varsayımı kabul edilse bile, ABD Savunma Bakanlığı'nın tüm taleplerini karşılamak tek seçenek değildi
- askerî yapay zeka yönetişim çerçevesi uygulanırsa, Çin ile rekabet için gerekli kullanımlara izin verilirken etik dışı kullanımlar sınırlandırılabilirdi
- Sözleşme fiilen dayatılmış olsa bile Google, Congress'ten yasal koruma mekanizmaları talep etmek için etkisini kullanabilirdi; bu nedenle sınırsız sözleşme kabulü bir tercihti
Kişisel güven ve kurumsal yönetişim
- Demis, bağımsız kurul veya güvenlik tüzüğü gibi yapıların kritik anlarda doğru çalışmayabileceğini, önceden net kırmızı çizgiler çizmek yerine Google içinde güven inşa edip karar masasında bulunma yaklaşımını tercih ettiğini söyledi
- Bu felsefe, DeepMind'ı yarı bağımsız bir yapı olarak ayırmaya yönelik müzakerelerde Sundar'ın bunu reddetmesinden sonra şekillendi
- Turner ise sistemin gerektirdiği güven miktarını azaltmak gerektiğini savundu
- Bireyler de kritik baskılara maruz kalır ve hisse sahipliği, meslektaşlarla sosyal ilişkiler, şirketle iç içe geçmiş benlik algısı gibi daha kötü teşviklere sahip olabilir
- Çerçeve, yalnızca Chief Scientist'in Review Body'yi kurana kadar makul davranacağı varsayımına dayanan tek bir güven kabulüne sahipti; sonrasında ise sözleşmeler ve şeffaflık yoluyla gerekçelendirilmiş güven oluşturuyordu
- Haksız sözleşmeleri tamamen engellemese bile, bunların geçirilmesine sürtünme ve kamusal maliyet ekliyordu
- Demis ilgili tüm sözleşmelerin karar masasında yer aldı, ancak nihai sözleşmede çalışanların etik kaygılarını yansıtan tek bir bağlayıcı madde bile yoktu
- Daha kötü sonuçları önlemiş olabileceğini kabul etti, ancak fiilî sözleşme koşulları öngörülebilir en alt sınıra yakındı ve OpenAI'ın şartlarından da zayıftı
- Google DeepMind araştırma bilimcisi Andreas Kirsch de “Trust is not Governance” yazısında bağımsız olarak aynı sonuca vardı
Google DeepMind yönetişim deneyinin başarısızlığı
- Google DeepMind, silah kullanımını yasaklama sözü ve yarı bağımsız yönetişim yapısı varsayımıyla Google'a satıldı, ancak Sundar bağımsız yapıyı reddetti
- Çalışan baskısıyla oluşturulan 2018 AI İlkeleri de sonradan yönetimin somut silah ve gözetim yasaklarını kaldırmasıyla zayıflatıldı
- Google DeepMind'ta gelir ve siyasi baskı etik taahhütlere üstün geldi; buna karşılık Anthropic aynı baskı altında mevcut yasak çizgisini korudu
- Sonuç, kimsenin ilkelere uymadığı değil; toplumun etik bireylerin sonuna kadar direneceğine güvenemeyeceği yönündeydi
- Congress etkili biçimde karşılık veremese bile, yöneticilerin “karar masasında” bulunmasının tek başına güvenliği garanti ettiği düşüncesinden vazgeçilmesi gerektiği savunuldu
Taahhüt sahipleri için geriye kalan seçenekler
- Jeff Dean, Demis Hassabis, Shane Legg ve diğerleri otonom ölümcül silahların geliştirilmesini, üretilmesini, ticaretini veya kullanımını desteklememe taahhüdü vermişti; ancak Google, kullanım alanını sınırlama hakkı olmadan orduya yapay zeka sağladıktan sonra da şirkette kaldılar
- Sözleşmenin otonom silahlara açıkça izin vermediği, yalnızca onları yasaklamadığı yönündeki yoruma karşı, kullanım alanını bilmemek için gözleri kapatmanın sorumluluğu ortadan kaldırmayacağı savunuldu
- En gelişmiş yapay zekayı üretip bunu otonom ölümcül silah kullanmak isteyen bir orduya sağlamak ve ayrıca kullanım sınırı koyma hakkından vazgeçmek; ardından da o şirkette kalıp yapay zeka geliştirmeyi sürdürmek, taahhütle çelişiyordu
- Taahhüt sahiplerinin önünde üç dürüst seçenek olduğu düşünüldü
- Şirkette kalmanın bu taahhütle nasıl bağdaştığını kamuya açık biçimde açıklamak
- Artık bu taahhüdü desteklemediklerini söyleyip nedenini açıklamak
- Şirketten ayrılmak
- Net bir yasak çizgisine rağmen tek bir bağlayıcı madde bile elde edilemediyse, “içeride kalıp olumlu yönde etki etmek için buradayım” gerekçesi zayıf kalıyordu
- En açık taahhüt ihlal edilip de hiçbir şey yapılmazsa, bir sonraki güvenlik vaadinin inandırıcılığı da düşer ve sonunda taahhütlerin kendisi değersiz hale gelir
Yapay zeka etiği liderlerinin sessizliği
- Sorumluluk, ABD Savunma Bakanlığı’na baskı yapan Pete Hegseth ve Donald Trump, sözleşmeyi imzalayan Sundar Pichai ve nüfuzunu daha fazla kullanmayan Jeff Dean arasında eşit olmayan biçimde dağılmış durumda
- Turner, özellikle etik taahhütlerini kamuoyu önünde öne çıkaran kıdemli yapay zeka uzmanlarının süregelen tepkisizliği karşısında hayal kırıklığına uğruyor
- Geoffrey Hinton, Google’ın askeri yapay zeka taahhütlerini geri çekmesinden büyük hayal kırıklığı duydu ve bunun nedeninin mevcut yönetimin Google’a olumsuz yaklaşacağından duyulan kaygı olabileceğini tahmin ediyor
- Stuart Russell ve Hinton normalde pasif kişiler değildi
- Stuart, uzun süredir yapay zekanın varoluşsal riski ve otonom öldürücü silahlar konusunda kamuoyu önünde uyarılarda bulunuyordu
- Hinton, 1980’lerde askeri yapay zeka fonlamasına karşı çıkarak ABD’den ayrılmış, 2023’te de yapay zeka riskleri hakkında özgürce konuşabilmek için Google’dan ayrılmıştı
- Eylül 2025’te Global Call for AI Red Lines çağrısına, Nobel ve Turing ödülü sahipleri arasından 15 kişi dahil 300’den fazla kişi imza attı; Stuart, Bengio, Hinton ve Mark Nitzberg de kitlesel gözetim ile otonom öldürücü silahların yasaklanmasını destekledi
- Soyut ilkelere imza attılar, ancak Şubat 2026’da şirketlerle hükümet arasında gerçek bir çatışma yaşandığında IASEAI hiçbir açıklama yapmadı
- Siyasi sermayenin daha önemli bir an için saklandığı yorumu, kamuya açık açıklamalardan kaçınmanın nedeni olabilir; ancak Google karar vericileriyle özel bağlantılar gibi maliyeti düşük yardımların bile neden reddedildiğini açıklamaz
- Jeff, kamuya açık biçimde harekete geçen tek Google yöneticisi olarak takdir edilmeyi hak ediyor, ancak daha büyük nüfuz kullanarak sözleşmeyi engelleyebileceği düşünülüyor
Görev tanımının ötesine geçen iç eylemler ve istifa
- Sıradan bir “sorumlu araştırma bilimcisi” en fazla endişelerini tweet’leyip yöneticilere mesaj atmakla yetinirdi, ancak Turner yalnızca etkili olabilecek planların eylem olarak değer taşıdığına karar verdi
- Alex Pretti’nin fotoğrafını telefon bildirimine ayarladı ve ICE’nin insanları vurup evlerinden sürükleyerek çıkardığı olayları düşünerek korkusuna dayandı
- Başka bir üst düzey yapay zeka laboratuvarına geçip büyük bir bonus alma şeklindeki olağan yolu seçmedi
- OpenAI güvenlik ekibinden gelen teması da reddetti
- Ayrıldığı sırada başka bir işi yoktu
- Şubattan beri Google’ın sözleşmeyi imzalama olasılığını yüksek görüyordu, ancak gerçekten sözleşme yapılmasaydı birkaç ay daha kalabilirdi
- Sözleşme imzalanınca artık işini yapamayacağını hissetti ve ofisin, geçmişteki okulu gibi, artık ait olduğu bir yer olmadığına karar vererek ayrıldı
Beklenen itirazlar ve yanıtlar
- Belirli bir öneriyi izlemedi diye bireyleri suçlamak doğru olmaz, ancak kıdemli etik liderleri herhangi bir biçimde harekete geçmiş olsaydı sonuçta görünür bir etki ortaya çıkmış olması gerektiği düşünülüyor
- Jeff gerçekten istifasını ortaya koyacak kadar sert biçimde karşı çıksaydı, nihai sözleşmede en az bir bağlayıcı madde yer almasının bekleneceği ifade ediliyor
- Herkesin her konuda konuşma yükümlülüğü yoktur; ancak üye oylaması sözü verip bunu iptal etmek ya da otonom öldürücü silahlara karşı çıkışı kimliğinin önemli bir parçası haline getirip kritik anda sessiz kalmak farklıdır
- Bir çerçeve önerilmiş olsa bile ABD Savunma Bakanlığı’nın bunu reddetmiş olabileceğine katılıyor
- xAI gibi başka tedarikçiler yapay zeka sağlamış olurdu
- Ancak Google, Anthropic ve OpenAI ile birleşse ya da ABD Savunma Bakanlığı’nın talebini reddetseydi, teknoloji sektörünün uyumunu bağımsız bir tepkiye dönüştürebilirdi
- ABD Savunma Bakanlığı reddetse bile Google da sözleşmeden çekilebileceği için Jeff’in etkisi hâlâ önemliydi
- ABD Savunma Bakanlığı, Amazon Web Services, Google, Microsoft, NVIDIA, OpenAI, Reflection, Oracle ve SpaceX ile yapılan sözleşmeleri Anthropic ile yaşanan çatışmaya verilen “yanıt açıklaması” olarak tanımlıyor ve büyük teknoloji şirketlerinin orduyu ve tüm yasal kullanım alanlarını desteklediğini vurguluyor
Yapay zekanın varoluşsal riski ve askeri konuşlandırma
- Google DeepMind’ın güvenilir gelişmiş yapay zeka güvenliği argümanlarının, Frontier Safety Framework kapsamında ele alınan düşünce süreci (chain of thought) izleme yaklaşımına büyük ölçüde dayanma ihtimali olduğu düşünülüyor
- Yanlış hizalanmış bir yapay zeka, kapatılmaktan kaçınmak için zararlı niyetlerini doğrudan açığa vurmadan aldatıcı davranabilir ve düşünce sürecini incelemek bunu tespit etmenin başlıca yollarından biridir
- İzleme için verilere erişebilen ve bunları analiz edebilen eğitimli insan denetçilere ihtiyaç vardır; ancak gizli askeri veri merkezleri ticari Google altyapısından izole edilmiştir
- Bu, Google çalışanlarının ordunun operasyonlarını okuması gerektiği anlamına gelmiyor; asıl sorun, bu tür izlemeyi yapacak uygun şekilde eğitilmiş askeri mühendislerin muhtemelen bulunmamasıdır
- Düşünce sürecindeki aldatıcılık izlenmezse, yapay zekanın kurnazlık, aldatma ve kontrolü ele geçirme yoluyla insanlığa felaket düzeyinde zarar verme olasılığını denetlemek daha zor olur
- Askeri konuşlandırma ortamı, hem zayıf denetime sahip olduğu hem de güçlü karar vericilere ve altyapıya erişim sunduğu için kötücül yapay zekanın hedef almak isteyeceği bir ortam olabilir
- Ordu ile US CAISI’nin, kötücül yapay zekayı izleme ve engelleme konusunda uzmanlık, dikkat ve kontrol prosedürleri geliştirmesi umuluyor
“Yalnızca API erişimi sağlıyoruz” açıklamasının sınırları
- Yönetim, ticari modellere sektör standardı koşullarla API erişimi sağlamanın ulusal güvenliği desteklemenin sorumlu bir yolu olduğunu söylüyor
- Genel API erişimi, isteklerin sağlayıcının sunucularına gönderildiği ve sağlayıcının kullanımı izleyebildiği izlenimini veriyor
- Gizli operasyonlarda düz metin sorgular Google sunucularına gönderilemeyeceği için Turner, bunun izole edilmiş bir devlet bulut kümesinde Gemini API uç noktaları sunan on-premise bir yöntem olduğunu tahmin ediyor
- Bu durumda “yalnızca API erişimi” ifadesi teknik olarak doğru olabilir, ancak Google’ın merkezi izleme yapabildiği yönünde yanlış bir izlenim yaratır ve otonom silahlar, savaş suçları ve kitlesel profilleme sorunlarını çözmez
- Anthropic hariç, bu koşulların sektör standardı haline gelmesine Google’ın da katkıda bulunduğu düşünülüyor
1 yorum
Hacker News yorumları
Baskılara rağmen doğru olduğuna inandığı şeyi eyleme döken TurnTrout’un kararına saygı duyuyorum. Önümüzdeki 20 yılda kapımıza dayanacak büyük mahkum ikileminde insanlığın daha iyi seçimler yapabilmesi için böyle zeki insanlardan daha fazlasına ihtiyacımız var
Yapay zeka sektörünün, başkalarının kolektif çabasını hiçe sayarak değer çıkarıp yeniden sattığını düşündüğüm için araştırmacılara kadar olumsuz bakıyordum, ama bu olayla yapay zeka araştırmacılarına duyduğum saygı da biraz arttı. TurnTrout bu çerçevenin tamamına katılmasa bile kendi etik ilkelerini korumuş olması sevindirici
AGI güvenliği araştırması yaparak yapay zekanın varoluşsal riskini azaltmak için katıldım ve Gemini’nin saf performansını artırmaya yönelik çalışmalardan bilinçli olarak kaçındım. O dönemde kendimce bir uzlaşma seçtim; bu kararı eleştirmek de meşrudur
Filistinlileri gözetlemek ve tüm görüşmeleri kaydetmek dahil İsrail ve IDF ile işbirliği yaptığı için Microsoft’tan ayrıldım. Sonrasında Microsoft bazı adımları geri attı ama Satya da sorumluluktan muaf değil
https://www.theguardian.com/world/2025/sep/25/microsoft-bloc...
Yazı Anthropic olayını tam doğru tarif etmiyor. ABD Savunma Bakanlığı Araştırma ve Mühendislik Müsteşarı Emil Michael, All-In podcast’inde Dario’nun müzakere boyunca sürekli “gerekirse beni arayın, her seferinde sınırı birlikte belirleriz” dediğini anlattı
Kıtalararası balistik füze fırlatıldıktan sonra 30 dakika içinde gelişebilecek büyük bir çatışmada, ulusal güvenlik kurumları her seferinde Dario’yu arayıp onay alamaz. Emil’e göre Dario, madde madde veto hakkıyla nihai kontrolü elinde tutmaya çalışıyordu ve hatta bu yetkiyi devletin hayatta kalmasının önüne koyabilecek gibi görünüyordu. Askerî tedarik açısından bakıldığında bu tür davranışları kayda geçirmek ve belli koşullarda diğer kurumlarla paylaşmak mantıklıdır; yüklenicilerin sorunlu davranışlarını kaydeden veritabanları da zaten vardır
All-In’in Emil’e dostane bir ortam sunduğu açık, ama saldırılara karşı savunma yapmakla vakit kaybetmediği için olayın daha ayrıntılı yanlarını duymayı mümkün kıldığını düşünüyorum
İlgili bölüm: https://www.youtube.com/watch?v=gzwRflcLPAA&t=2479
Yüklenici kayıtları: http://www.ppirs.gov/
Emil, Uber’de siyasi düşmanları karalama ve yıkıma uğratma işini üstlenmişti; bugün eskisinden farklı davrandığını düşündürecek hiçbir neden yok
İlkelerine sadık kalan insanlar çok nadir hale geldi
TurnTrout’un ilkeleri doğrultusunda yaşaması etkileyici. Bende o kadar cesaret ya da özgüven var mı bilmiyorum; bu durum, Palantir gibi şirketlerde çalışmayı seçip bununla gurur duyan zeki insanlarla tezat oluşturuyor
Bu, savaş makinesine ve onu gerekli kılan imparatorluğun finans düzenine karşı vicdani retle de benzeşiyor. Google DeepMind’da bizzat çalışmış olmanın verdiği otoriteye sahip olsa bile insanlar büyük olasılıkla yine de kulak asmayacaktır; çünkü savaş zamanında delilik ve para, mantık ve aklın önüne geçer
Snowden’dan sonra Five Eyes yetkililerinin topluca istifa etmemesi gibi, çoğu insan baskıya karşı çıkmamak için bir gerekçe bulur. Yazarın bir vejetaryen olarak et merkezli bir toplumda zaten tek başına ilkelerini korumuş olması, daha büyük bir vicdani ret için bir prova olmuş olabilir
Üzerinde konut kredisi, çocuklar, araba borcu ve limitine dayanmış kredi kartları olan ya da emekliliğe yaklaşmış biri için alenen direnmek zordur; genç insanlar ise ne demek istediklerini ifade edecek dilden yoksun olabilir. İktidara karşı uzun soluklu, tek başına bir hakikat mücadelesi vermek için yeterli ekonomik bağımsızlık da gerekir
Özellikle medyanın, meselenin özünden çok kişilerin içinde bulunduğu durumu işlemesi ve bu yüzden muhbir olarak tanınmayanlara da büyük bir borcu var. Bu ilk adım, önce çağrıyı reddedip sonra olağanüstü bir dünyaya girerek herkese yarar sağlayan bir şeyle geri dönülen klasik kahraman yolculuğunu andırıyor
İnancını koruması saygıdeğer, ancak neden zeki yapay zeka silahları istenmediğini merak ediyorum. Silahsız sivillerle askerî hedefleri ayırt eden yerleşik bir yapay zeka, önüne gelen her şeyi patlatan klasik mayınlardan aslında daha sorumlu bir tercih değil mi?
Nasıl LLM tabanlı bir makineye ameliyat anestezisini emanet etmek istemezsem, çok daha fazla insanın yaşamı ve ölümü hakkında karar veren askerî sistemleri de mevcut halleriyle istemem. Gelecekte silah işletim teknolojisine gerçekten güvenilebilir hâle gelse bile, savaşın kendisinin gerçekten gerekli olup olmadığı ya da AGI'ye yaklaşan bu teknolojinin motivasyonunun ne olduğu gibi yeni felsefi sorular ortaya çıkar.
Haksız öldürmelerde sorumluluğu bir insan üstlenmeli; oysa yapay zeka silahlarında “algoritmanın hatasıydı, 23. sürümde düzelteceğiz” denilerek sorumluluktan kaçmak fazla kolaydır. Silahlara yapay zeka entegre edildiğinde tam otomatik öldürmeye olan mesafe çok kısalır.
Aşırılıkçı içerik önerilerinde, siyahilerin yanlış tanınmasında ve erkek yanlısı işe alımda da sorumluluk hep “algoritma öyle yaptı” denilerek başkasına atıldı. Bu tür sistemlerde yapılan şey fiilen amaç hâline geldiğinden, hukuki sorumluluğu açıkça yazma girişimleri de çoğu zaman umutsuzca savuşturulur.
Google'da çalıştım; yapay zeka etiği hakkındaki söylemler bir taahhüt değil, aldatmaca idi. Google da birçok başka şirket gibi çalışanların odağını ve motivasyonunu, incelikle ayarlanmış yanlış bilgilendirme ve yarım gerçeklerle ayakta tutuyor.
“Çalışanların sesini dinliyoruz” sözü de ancak iş açısından etkisi yoksa ve şirketi iyi gösterebiliyorsa gerçektir. Siyasi ya da ekonomik en ufak bir direnç çıktığında dinlemezler. Değişim için mücadele eden yazarı takdir ediyorum, ancak Google'ın dark pattern'leri beyaz kâğıtlar ve e-postalarla nazikçe yazışarak kökünden sökülemeyecek kadar derine işlemiş durumda.
Yayınlanalı sadece 1 saat olmuş ve 200'den fazla puan almış olmasına rağmen HN ana sayfasından kayboldu.
Google, Trump'ın seçilmesinden sonra DEI politikalarını terk eden, ortama göre davranan bir şirket; üstelik o politikalar da en başından beri samimi değildi. Bu girişim biraz safça olduğu için başarısız olmaya mahkûmdu, ama yapay zeka askerî ürünlerinin de kız okullarını bombalamak dışında düzgün çalışmama ihtimali yüksek.
CEO'lar, Hassabis'in regulatory capture planını desteklemek için adeta sıraya girmiş görünüyor.
https://xcancel.com/sundarpichai/status/2077086951833063580#...
https://xcancel.com/satyanadella/status/2077063479232795024#...
https://xcancel.com/elonmusk/status/2077415601610297535#m
Bu, onların kendi kapalı çevresi ve biz o çevrenin parçası değiliz.
GOOG, MSFT, META ve benzerlerini elinde tutanların çoğu, kârın nasıl üretildiğinden çok kendi 401(k)'larının yükselmesini istiyor; zaten sistem de baştan böyle tasarlanmış.