Pentagon'un Silikon Vadisi Sorunu

Silikon Vadisi'nin Pentagon sorunu

• İsrail'in iç güvenlik servisi Shin Bet'in başkanı Ronen Bar, kurum içinde geliştirilen bir yapay zeka platformunu tanıttı.
• Bu teknoloji, teröristler hakkındaki bilgileri analiz etmek, riski öngörmek ve uyarı üretmek için kullanılıyor.
• Hamas'ın saldırısı, Hamas hazırlıklarını açıkça yürütmesine rağmen İsrail'in savunma sistemlerini tamamen hazırlıksız yakaladı.

Geleceğin savaşında geride kalan Big Tech

• Michèle Flournoy, Silikon Vadisi ile ABD hükümeti arasındaki bağın önemini vurguluyor.
• Pentagon'un yeni teknolojilere direndiği yönünde bir algı var, ancak gerçekte çok sayıda yapay zeka projesine yatırım yapıyor.
• Yapay zeka teknolojisi askerî operasyonların yürütülüş biçimini etkileyebilir, ancak teknoloji sektöründeki idealistler askerî makineyi dönüştürdükleri yönündeki miti besliyor.

Yazılımın insan çatışmalarını çözebileceği inancı

• ABD'nin savaş yürütme biçiminde yazılımın rolü uzun bir geçmişe sahip.
• Vietnam Savaşı sırasında Igloo White operasyonunda düşman faaliyetlerini tespit etmek için sensörler yerleştirildi, ancak bu girişim başarısız oldu.
• Silikon Vadisi, II. Dünya Savaşı zaferine katkıda bulunan elektronik sanayiden gelişti ve Soğuk Savaş boyunca Pentagon tarafından desteklendi.

Silikon Vadisi ile Pentagon arasındaki ilişki

• Silikon Vadisi'nin teknoloji endüstrisi başlangıçta savunma sanayisiyle yakın ilişkilere sahipti ve internet, Pentagon'un ARPANET'inden gelişti.
• Peter Thiel, Silikon Vadisi'ni askerî-sanayi kompleksine geri döndürme hedefini taşıyor.
• Pentagon, ABD'nin teknolojik üstünlüğünü korumak için Silikon Vadisi teknolojilerinden yararlanmaya çalışıyor.

Silikon Vadisi'nin savunma teknolojisi

• Silikon Vadisi şirketleri savunma alanındaki faaliyetlerini genişletiyor ve bu da mevcut askerî-sanayi kompleksine yeni oyuncular ekliyor.
• Google, Project Maven aracılığıyla drone görüntülerini işlemek için teknoloji geliştirdi, ancak çalışanların itirazı üzerine bu projeden çekildi.
• Silikon Vadisi şirketleri savunma alanındaki rollerini büyütüyor ve bu alan, savunma bütçesi içinde istikrarlı bir gelir kaynağı gibi görünüyor.

GN⁺ görüşü

• Bu yazı, savunma teknolojisi ve yapay zeka gelişmelerinin gerçek askerî operasyonlara nasıl uygulandığına dair ilgi çekici içgörüler sunuyor.
• Yapay zeka teknolojisinin gerçek savaş alanındaki karmaşıklığı tamamen anlayıp buna yanıt verip veremeyeceği sorusunu gündeme getiriyor.
• Teknoloji sektörü ile savunma alanı arasındaki iş birliğinin ulusal güvenlik üzerinde nasıl bir etki yaratacağına dair önemli bir tartışma başlatıyor.
• Yazı, Silikon Vadisi şirketlerinin savunma alanına daha derin biçimde dahil olmasının doğurabileceği etik sorunları vurguluyor.
• Teknolojik ilerlemenin her zaman askerî başarıya yol açmadığını hatırlatıyor ve bunu geçmişte başarısız olmuş projelerle destekliyor.

[GN⁺]

Hacker News görüşü

• Makalede anılan örnekler seçmeci biçimde alınmış gibi görünüyor. Vietnam’daki başarısızlığı yalnızca IBM 360 bilgisayarlarına bağlayamayız. Hamas’ın saldırısı İsrail’i şaşırtmış olabilir, ancak son birkaç yılda Iron Dome iyi çalışıyordu. ABD, Rusya’nın Ukrayna’ya saldıracağı konusunda uyardı ama pek çok kişi dinlemedi. Ayrıca atom bombasını yapanlar teorik fizikçilerdi.
• Pek çok medya içeriğinde olduğu gibi bu makale de yapay zekayı aşırı genelleyerek anlatıyor. Makine öğreniminin (ML) tahmin yetenekleri onlarca yıldır modern ordularda kullanılıyor. Makalenin girişi, 7 Ekim saldırısındaki istihbarat başarısızlığında LLM’lerin büyük rolü olduğunu ima ediyor, ancak gerçekte durum böyle değil. ML rol oynamaya devam edecek, başarılar ve başarısızlıklar yaşayacak, adversarial ML ile mücadele ederken daha da kusurlu hale gelecek. Kusurlu araçları suçlamak faydalı değil.
• Yapay zeka sistemleri Hamas hakkında her şeyi biliyordu, ancak Hamas üyeleri AI’ın duymak istediği verileri sağladı. Karşı taraf tüm hareketlerini ve söylediklerini görebildiğinde, tek savunma mahremiyettir. "Üç Cisim Problemi" romanında mahremiyet yalnızca insanların zihninde vardır ve yalnızca onlar asla sözlü olarak ifade etmedikleri stratejilere dayanarak karar verebilir. Bilim kurgu gerçeğe dönüşüyor.
• Net bir kullanım senaryosu olmadan iyi bir sistem tasarlamak neredeyse imkansızdır. Ukrayna’nın böyle kullanım senaryoları var ve bunları çözmek için yüksek motivasyona sahip. Ukrayna sıradan bilgisayarlarla savaş alanını kontrol ediyor ve uzun menzilli deniz dronlarıyla birçok Rus savaş gemisini batırdı. Son dönemde ise bilgisayarlı görü tabanlı hedef tanımaya sahip düşük maliyetli uçan dronları büyük ölçekte test etmeye başladı. Ancak ABD barış halinde ve bu başlı başına iyi bir şey olsa da, pratikte işe yaramaz teknolojilere milyarlarca dolar harcamayı kolaylaştırıyor.
• 'Şaşırtıcı biçimde' ifadesi tuhaf. İsrail medyası, ön saftaki analistlerin alarm verdiği ama görmezden gelindiği yönündeki haberleri tekrar tekrar yaptı. Bunun nedeni cinsiyetçilik, yaş ayrımcılığı, zorunlu askerliğe ilişkin ayrımcılık olabilir; ya da hükümetteki yerleşimci grupların Gazze Şeridi’ni yeniden yerleştirme konusundaki güçlü isteği olabilir. Her hâlükârda sinyaller vardı ve hazırlık ile tatbikatlar yaklaşık bir yıldır gözlemleniyordu. Direniş grupları bu sırrı korumuş olsa bile, sıradan bir istihbaratçı ya da ordu subayı sonunda şiddetli bir tepkinin geleceği sonucuna varabilmeliydi.
• İsrail teknolojisi hakkında pek bilgim yok, ama Pentagon’un Silikon Vadisi’nde bir imaj sorunu var. En iyi yetenekleri topluyor ya da Palintir gibi sözleşmeli şirketlerde istihdam ediyor gibi görünmüyor. Bizim kuşağımız İkinci Dünya Savaşı’ndan çok Irak ve Vietnam’a daha yakın hissediyor ve pek çok parlak zihin birinci kuşak göçmenlerden oluşuyor. Son zamanlarda reklam teknolojisi de bir imaj sorunu yaşıyor olsa da (insanlar üretim sürecinin daha fazlasını gördükçe), savunma sanayisi yerine büyük tüketici şirketlerinde çalışmak hâlâ daha cazip. İnsanları ABD hükümeti için ya da dolaylı yoldan bile çalışmaya ikna etmek için daha fazla para ödemeniz gerekir. Bunun yerine çoğu zaman daha az para veriliyor ve mesai dışı faaliyetler konusunda daha az özgürlük sunuluyor.
• Makalenin sonunda Cockburn, ChatGPT’ye IDF ve Palantir’in çalışmaları hakkında sorduğunda hayal ürünü cevaplar aldığından yakınıyor. DuckDuckGo.com’da "IDF Palantir" diye aratırsanız birçok haber bağlantısı bulabilirsiniz. Verilmek istenen mesaj LLM’lerin şu anda güvenilir olmadığıysa tamam, ama Palantir’in IDF ile iş birliği yapıp yapmadığının bilinemeyeceğiyse, bunun için zaten kanıtlar mevcut.
• Ölçüm ve karşı önlemlerin ezelî gerçeğinden kaçış yok... Elinde araç olan bir aptal hâlâ aptaldır...
• Operasyon ekibi, nöbet yükümlülüğündeki yanlış alarmlar yüzünden eziliyor gibi görünüyor. Hataları düzeltmenin en iyi yolu... onları görmezden gelmektir. Bürokratik personelin işletmek zorunda olduğu karmaşık sistemler başarısız olmaya mahkûmdur.