Pentagon’un Silikon Vadisi Sorunu

• ABD ve İsrail savunma ve istihbarat kurumları yapay zeka ve Silikon Vadisi teknolojisini savaş kararlarında bir çıkış yolu olarak öne sürüyor, ancak birçok örnek teknolojik özgüvenin sahadaki başarısızlıklarla tekrar tekrar çarpıştığını gösteriyor
• Shin Bet, üretken yapay zekayı karar alma süreçlerine bir “yardımcı pilot” gibi entegre ettiğini söylemişti; ancak Hamas’ın 7 Ekim 2023 saldırısı, gözetleme görüntüleri, açık eğitimler, iç raporlar ve önceden elde edilmiş belgeler olmasına rağmen İsrail’in savunma ve istihbarat sistemlerini gafil avladı
• ABD savunma alanındaki Igloo White, Assault Breaker, Future Combat Systems ve Secure Border Initiative Network; bilgisayar ve sensörlerle savaş alanını kontrol etmeye çalıştı, ancak devasa maliyetlerin ardından başarısız oldu ya da iptal edildi
• Pentagon, yapay zekaya mesafeli olduğu yönündeki imajın aksine en az 686 yapay zeka projesini destekliyor ve 2022’de büyük teknoloji şirketlerine 9 milyar dolara kadar çıkabilen Joint Warfighting Cloud Capability sözleşmesi verdi
• Google, Amazon, Microsoft, Palantir ve Anduril savunma pazarına derinlemesine girdi; ancak Project Maven, IVAS, Roadrunner ve Palantir örnekleri, askeri yapay zekanın etik tartışmalar, performans sınırları, pazarlama abartısı ve halüsinasyon sorunlarını birlikte taşıdığını ortaya koyuyor

---

Yapay zekanın kaçırdığı 7 Ekim saldırısı

• Shin Bet direktörü Ronen Bar, Hamas saldırısından üç ay önce kurumun ChatGPT’ye benzer bir üretken yapay zeka platformu geliştirdiğini ve bunu “interdiction machine”e doğal biçimde entegre ettiğini duyurdu
• Bu sistem, hedef kişinin hareketleri, arkadaşları, ailesi, faaliyetleri, sözleri ve paylaşımlarına dayanarak davranışları analiz etmek, riski tahmin etmek ve alarm üretmek üzere tasarlanmıştı
• Hamas’ın 7 Ekim 2023 saldırısı, Shin Bet’i ve İsrail’in milyarlarca dolarlık savunma sistemini tamamen gafil avladı
  • Hamas, sınır duvarı ve İsrail yerleşimlerinin maketlerini hedef alan eğitimleri açıkça yürüttü
  • Hamas öncülüğündeki silahlı gruplar eğitim videolarını internete yükledi
  • Sınır yakınındaki İsrailli sakinler eğitimleri gözlemleyip uyardı, ancak dikkate alınmadı
  • Gazze sınırı gözetleme kameralarını izleyen İsrailli erler, duvarın aşılması ve rehine kaçırma hazırlıklarına ilişkin ayrıntılı raporlar sundu, ancak bunlar “hayali senaryo” diye reddedildi
  • İsrail istihbaratı, saldırı planını ayrıntılarıyla anlatan bir Hamas belgesini bir yıldan uzun süredir elinde tutuyordu
• Hamas üyeleri, İsrail’in istihbarat yöntemlerine göre hareket ederek, bildikleri bilgi kaynakları üzerinden İsrail’in duymak istediği verileri sızdırdı
  • Gazze’deki Hamas’ın, İsrail işgücü piyasasına erişim yoluyla yerel ekonomiyi iyileştirmeye odaklandığına dair sinyaller gönderdi
  • İsrail’in ezici askeri gücü nedeniyle Hamas’ın harekete geçmekten caydırıldığı izlenimini verdi
• Bu başarısızlık, yapay zekanın “teröristler hakkında her şeyi bildiği” yönündeki özgüven ile hedefin gerçekte ne düşündüğünü bilememe sınırını karşı karşıya getiriyor

Savunma yapay zekası iyimserliği ve Pentagon gerçeği

• Michèle Flournoy, Foreign Affairs’te yapay zekanın savaş alanının işleyişini, tehdit tespitini, silah sistemleri bakımını ve stratejik kararların maliyet tahminini değiştireceğini savundu
• Teknoloji şirketlerinin savunmaya girişinin önündeki engel olarak sık sık Pentagon bürokrasisi gösterilse de Pentagon’u yapay zekaya ilgisiz bir kurum olarak görmek zor
  • En az 686 yapay zeka projesine fon sağladığı biliniyor
  • 2022’de Joint Warfighting Cloud Capability sözleşmesiyle büyük teknoloji şirketlerine 9 milyar dolara kadar çıkabilen iş verdi
  • Bir Pentagon yetkilisi, bu sözleşmenin yapay zeka çözümlerini “turbocharge” edeceğini söyledi
• Gamechanger, Pentagon çalışanlarının devasa kurumun gerçekte ne yaptığını ve paranın nereye gittiğini bulması için tasarlanmış bir yapay zeka projesi
  • 2022 başında Joint Artificial Intelligence Center basın bülteni, “28 Authoriative Sources” olarak yazılmış kaynaklardan söz etti
  • Üst düzey bir Pentagon muhasebe yetkilisi, bütçe verilerinin tamamında görünürlüğü ve anlayışı artırmak için Gamechanger’ın kullanılmasını beklediğini söyledi
• Buna rağmen Pentagon 2023’te de mali denetimi geçemedi ve üst üste 6. kez başarısız oldu
• Teknoloji sektörü figürlerinin askeri sistemi dönüştüreceği anlatısı, çok para harcaması, düşük performanslı silahları ve kaybedilen savaşlarıyla kötü şöhretli savunma sisteminin bile kökten iyileştirilebileceği mitine dönüşüyor

Bilgisayarla savaş alanını kontrol etmeye yönelik tekrarlanan başarısızlıklar

• ABD’nin savaş yürütme anlayışında, yazılımın insan çatışması sorunlarını çözebileceğine dair inanç uzun süredir yerleşik durumda

• Igloo White

  • 1967-1972 arasında ABD Hava Kuvvetleri, Güneydoğu Asya ormanlarındaki Ho Chi Minh trail çevresine büyük ölçekli sensörler yerleştirdi
  • Bu operasyon, ayak sesleri, idrardaki amonyak kokusu ve motor ateşlemesinin elektronik sinyalleriyle insan faaliyetini tespit etmeyi; bilgileri Tayland’daki gizli bir üste bulunan IBM bilgisayarlarına göndererek ikmal yollarını saptamayı amaçladı
  • Maliyeti her yıl en az yüz milyonlarca dolardı, ancak tam bir başarısızlıkla sonuçlandı
  • Vietnam kuvvetleri, yolların dışındaki ağaçlara idrar kovaları asarak ya da kullanılmayan yollara hayvan sürüleri yönlendirerek bilgisayarın bunları düşman hareketi olarak işlemesini sağladı
  • 1972’de Kuzey Vietnam ordusu yüzlerce tankla bir taarruz başlattı, ancak Igloo White bunu hiç tespit edemedi ve operasyon kısa süre sonra rafa kaldırıldı

• Assault Breaker ve sonraki projeler

  • Vietnam’dan çekilmenin ardından ABD, Doğu Avrupa’daki Sovyet arka hattını hava radarıyla gözlemlemeyi hedefleyen Assault Breaker’a büyük paralar yatırdı
  • Sistem testlerde tankları, otomobilleri ve rüzgarda sallanan ağaçları ayırt edemedi ve bir sonraki on yılda iptal edildi
  • Future Combat Systems, sensörleri ve silahları yüksek performanslı işlemcilerle bağlayarak hedefleri savunma zırhına gerek bırakmayacak kadar kolay vurma fikrini öne sürdü, ancak yaklaşık 20 milyar dolar harcanmasına rağmen sonuçsuz kaldı
  • Department of Homeland Security’nin Secure Border Initiative Network’ü radar, kamera ve gözetleme sensörlerini bağlayan bir “sanal duvar” olarak tanıtıldı, ancak 2011’de iptal edildi
  • Boeing, Future Combat Systems ve Secure Border Initiative Network’ün başlıca yüklenicisiydi; bu başarısızlıklar, Silikon Vadisi tarzı hızlı inovasyonun mevcut savunma şirketlerinin başarısızlıklarının yerini alabileceği beklentisiyle tezat oluşturuyor

Silikon Vadisi ile askeri-endüstriyel kompleksin yeniden birleşmesi

• Silikon Vadisi endüstrisi, Pentagon desteğiyle büyüyen elektronik sektörüyle derinden bağlantılı
  • Modern bilgisayarların çekirdeği olan entegre devreyi ilk kez 1958’de Texas Instruments üretti ve savunma bütçesi geliştirmeyi ileri taşıdı
  • İlk kullanım alanı Minuteman II kıtalararası nükleer füze güdüm sistemiydi
• Apple Computer, Aralık 1980’de halka arzından bir aydan kısa süre sonra Ford’dan daha yüksek bir değerlemeye ulaştı; Macintosh ise bireylere kurumsal düzeyde bilgisayar gücü veren özgürleştirici bir imajla tanıtıldı
• Savunmayla kopuş hiçbir zaman tam olmadı
  • İnternet, Pentagon’un Advanced Research Projects Agency tarafından geliştirilen ARPANET’ten doğdu
  • Google kurucuları Larry Page ve Sergey Brin’in Stanford’daki erken dönem araştırmaları, daha sonra DARPA olan aynı Pentagon kurumundan kısmen fon aldı
  • Google Earth, CIA’in risk sermayesi kuruluşu In-Q-Tel tarafından kısmen finanse edilen Keyhole EarthViewer’dan başladı ve daha sonra Google tarafından satın alındı
• Peter Thiel, PayPal kurucu ortaklığı ve Facebook’a erken yatırım sayesinde servet edindikten sonra, askeri-endüstriyel kompleksi Silikon Vadisi’ne geri getirme yönünde hareket etti
• Palantir, 2003’te kuruldu ve PayPal’ın dolandırıcılık tespit teknolojisini temel alarak veri örüntülerini görsel olarak tespit edip aktaran yazılımlar sundu
  • CIA, In-Q-Tel aracılığıyla erken yatırımcılardan biriydi
  • İlk sözleşmelerinin çoğunun istihbarat kurumlarından geldiği biliniyor
  • GhostNet ve Osama bin Laden’in saklandığı yerin tespitinde büyük rol oynadığı iddia edildi, ancak bunu destekleyen kanıt yok
  • Palantir, üst düzey askeri yetkililerin muhalefetine rağmen orta kademedeki Army subayları ve destekçi milletvekilleri üzerinden teknolojisini tanıttı

Savunma inovasyon kurumları ve Project Maven

• Robert O. Work, ABD’nin nükleer silahlar ve hassas güdümlü silahlarda sahip olduğu teknolojik üstünlüğü kaybettiği, Çin ve Rusya’nın arayı kapattığı uyarısında bulundu
• 2014’te Savunma Bakanı Chuck Hagel, Work’ün denetlediği Defense Innovation Initiativei duyurdu ve savunma bakanlığının geleneksel alanları dışındaki şirket ve akademi önerilerini aktif biçimde arayacağını söyledi
• Ash Carter teknoloji bölgelerini tekrar tekrar ziyaret etti ve 2015’te Google ve Apple genel merkezlerinin yakınındaki Mountain View’da Defense Innovation Unit Experimental’ı kurdu
  • Daha sonra addaki “Experimental” kaldırıldı
  • Department of Homeland Security de yakınlarda bir uydu ofis kurarak Silicon Valley teknoloji şirketleriyle ilişkileri geliştirmeye çalıştı
• 2016’da Carter, Eric Schmidt’in başında olduğu Defense Innovation Advisory Board’u kurdu; Schmidt daha sonra National Security Commission on Artificial Intelligence’ı yönetti, Work ise başkan yardımcısı oldu
• Project Maven, Work tarafından oluşturulan bir programdı ve hedefi Pentagon’un büyük veri ve makine öğrenimi entegrasyonunu hızlandırmaktı
  • 2017’de Google, drone görüntülerinin kesintisiz akışını işleyerek hedefleri belirleyecek araçlar geliştirme sözleşmesini aldı
  • Gizmodo’ya sızan iç e-postalara göre Google’ın katılımının şirket izni olmadan açıklanmaması kararlaştırılmıştı
  • Google Cloud’un yapay zeka baş bilimcisi Fei-Fei Li, e-postasında “AI” ifadesinden ya da imasından kaçınılmasını istedi
  • Sözleşme ortaya çıkınca yaklaşık 4.000 Google çalışanı, Google’ın veya yüklenicilerinin savaş teknolojisi üretmeyeceğine dair açık bir politika talep eden dilekçeyi imzaladı; bazıları istifa etti

Maven sonrası ortaya çıkan performans sınırları ve taşeronlara geçiş

• Project Maven’ın video giriş kaynağı, Reaper drone’larına takılan kamera pod sistemi Gorgon Stare idi
• Gorgon Stare her şeyi görebildiği iddiasıyla tanıtıldı, ancak Eglin Air Force Base test biriminin 2011 raporu birçok kusura işaret etti
  • Kameralar hedefleri kolayca bulup tanımlayamıyordu
  • Aktarım hızı çok yavaştı
  • Test birimi “operasyonel olarak etkili değil” sonucuna varıp Afghanistan’a konuşlandırılmamasını önerdi, ancak Hava Kuvvetleri konuşlandırdı
• Eski bir savaş pilotu ve Pentagon analisti, otomatik hedef tanımanın (ATR) yıllarca para harcanmasına rağmen çalışmadığını söyledi
• Pentagon kurumlarında ilgili sorunlarla ilgilenen bir başka muharip gazi, yapay zeka geliştiricilerinin askeri ihtiyaçların bir kısmını anlamıyor gibi göründüğünü düşündü
  • Bir DARPA deneyinde bir Marines mangası, yapay zekanın kontrol ettiği robotun tespitinden kaçmak için vücut siluetlerini değiştirdi
  • İki kişi büyük bir karton kutunun içine girip ilerledi, diğerleri takla attı, bir kişi de köknar dalları taktı
  • Hepsi açık araziden geçip robota yaklaştı ve tespit edilmeden temas kurdu
• Google Maven’dan çekildikten sonra Microsoft, Amazon, Palantir ve diğerleri taşeronluğu devraldı
  • Bu durumu Google’dan ayrılan Jack Poulson ortaya çıkardı
  • Poulson daha sonra Tech Inquiry’yi başlatarak Defense Innovation Unit sözleşmelerini ve ilgili kuruluşları izlemeye başladı

Bulut sözleşmeleri ve teknoloji-savunma uçurumunun kaybolması

• Google’ın Maven’dan çekilmesi savunma teknolojisi çevrelerinde sert tepki doğurdu
  • Peter Thiel, Google’ın tutumunu “ihanet” olarak nitelendirdi
  • Eric Schmidt bu karara katılmadığını söyledi
  • Jeff Bezos, büyük teknoloji şirketlerinin Department of Defense’e sırt çevirmesi halinde ABD’nin zor durumda kalacağını söyledi
• Amazon, 2013’te CIA’den 600 milyon dolarlık, 10 yıllık sözleşme alarak AWS bulutunu istihbarat kurumlarının kullanımına sundu
• Bulut bilişim, Amazon, Microsoft, Oracle ve Google gibi şirketler için yeni bir gelir cephesi haline geldi
• Google, Maven tartışması sırasındaki ahlaki kaygıları geride bırakarak, 9 milyar dolara kadar çıkabilen Joint Warfighting Cloud Capability sözleşmesinden pay almak için teklif verdi
• Şirketler, ticari hizmetlerden büyük kâr elde ederken devleti de istikrarlı ve bol gelirli bir kaynak olarak görmeye başladı; teknoloji sektörü ile Pentagon arasındaki mesafe hızla ortadan kalktı

Anduril, Roadrunner, IVAS

• Ukraine savaşında drone’ların etkisi çokça ele alınsa da iki tarafta da yaygın ve etkili olan drone’ların çoğu, Amazon hesabıyla bulunabilecek parçaların bir araya getirilip küçük bomba ya da top mermisi taşıyan basit ve ucuz cihazlara daha yakın
• Anduril, Aralık 2023’te Roadrunnerı tanıttı
  • Küçük jet tahrikli bir drone olan sistemin, drone’lar dahil jet tahrikli tehditleri otonom biçimde tespit edip imha ettikten sonra üsse dönebileceği söylendi
  • Newsweek’e göre fiyatı “düşük yüz binlerce dolar” seviyesinde
  • Tanıtım videosu, Roadrunner’ın testi kusursuz gerçekleştirdiği sahneleri içeriyordu
• Pentagon analisti Franklin “Chuck” Spinney, Roadrunner tanıtımını “pazarlama zırvası” olarak değerlendirdi ve çölde kuyruğu üzerine iniş yaptığı sahnede egzozun neredeyse hiç toz bulutu oluşturmamasını tuhaf buldu
• Anduril, Palmer Luckey’nin kurduğu bir şirket; Luckey, Oculus’u geliştirip Facebook’a 3 milyar dolara sattıktan sonra savunma alanına odaklandı
  • Anduril, yapay zeka tabanlı sensör füzyonu platformuyla geniş alanların eksiksiz 3B modelini oluşturacağını söylüyor
  • Luckey, geleceğin askerinin operasyon bölgesindeki tüm düşman, dost ve varlık konumlarını bilen “kusursuz her şeyi bilme”ye sahip bir “süper kahraman” olacağını öngörüyor
• Army, HoloLens tabanlı Integrated Visual Augmentation System (IVAS) için 2021’de Microsoft ile 21,9 milyar dolarlık sözleşme imzaladı
  • 2023 Pentagon Operasyonel Test ve Değerlendirme Direktörlüğü raporu, test askerlerinin çoğunun yönelim bozukluğu, baş dönmesi, göz yorgunluğu, baş ağrısı, hareket hastalığı, mide bulantısı, boyun yükü ve tünel görüşü gibi fiziksel zararlardan en az birini bildirdiğini açıkladı
  • Askerler düşük ışık performansı, görüntü kalitesi, hantallık, düşük güvenilirlik, dost-düşman ayrımı yapamama, ateş etme güçlüğü, fiziksel zarar ve sınırlı çevresel görüşü de sorun olarak gösterdi
  • Congress tedarik bütçesinin büyük bölümünü askıya aldı, ancak Army sistemi düzeltmesi için Microsoft’a 125 milyon dolar daha ödedi ve toplam fiyat etiketi 23 milyar doların hemen altına çıktı
  • Army, düzeltilmiş sistem üzerinde yaptığı kendi testlerde asker geri bildirimlerinin olumlu olduğunu iddia etti

Yapay zeka patlaması, Palantir ve halüsinasyon

• ChatGPT’nin yayımlanmasının ardından Microsoft daha büyük bir fırsat gördü, ancak yapay zeka yeteneklerine ilişkin şüpheler de vardı
• Meta’nın yapay zeka baş bilimcisi Yann LeCun, süper zeki makine tehdidine ilişkin uyarıların, kedi düzeyindeki öğrenme yeteneğiyle karşılaştırılabilecek bir sistem tasarımının bile henüz olmadığı bugün için çok erken olduğunu düşünüyor
• Orso Partners kurucu ortağı Nate Koppikar, 2016’dan bu yana teknoloji sektöründeki durumu “zırva”ya yakın olarak değerlendirdi
  • Teknoloji sektörü, 2021 sonunda patlayan balonun ardından para kaybetti ve çalışan azalttı
  • Sektör yatırımcılarının kaybı yaklaşık 7,4 trilyon dolar olarak sunuldu
  • Yapay zekanın “bir sonraki büyük şey” olduğu vaadinin birdenbire satılmaya başladığını söyledi
  • Yapay zeka robot korkusunu, teknolojinin gücüne inandıran bir pazarlama kampanyasının parçası olarak görüyor
  • Yapay zekanın uydurma eğilimi, yani sektörde “halüsinasyon” denen bir kusuru var
• Palantir’in hisseleri 2023’te yapay zeka rüzgarıyla sert yükseldi; CEO Alex Karp, Palantir’in “Israel ile birlikte” olduğunu açıkça söyledi
• Google Bard, Palantir’in 2019’da IDF ile yapay zeka araçları geliştirme ortaklığı duyurduğunu söyleyen profesyonel basın bülteni biçiminde bir yanıt verdi; ancak söz konusu basın bülteni var olmayan bir halüsinasyondu

[GN⁺]

Hacker News yorumları

• Yazıdaki örnekler epey cımbızlanmış gibi görünüyor. Vietnam’daki başarısızlığı tek başına IBM 360’a bağlamak zor; Hamas saldırısı İsrail’i şaşırtmış olabilir ama Iron Dome son yıllarda iyi çalışan bir teknolojiydi.
  ABD, dinlemek isteyen herkesi Rusya’nın Ukrayna’ya saldıracağı konusunda uyarmıştı; atom bombasını yapanlar da epey teorik fizikçilerdi.

  • Herhangi birinin uyarıya ihtiyaç duymuş olması başlı başına gülünç. Rusya’nın Olimpiyatların hemen öncesinde ya da sonrasında Ukrayna’ya girmeye karar verdiği fazlasıyla açıktı.
    Donanmanın önemli bir kısmını sırf eğlencesine Avrupa’nın etrafından Karadeniz’e göndermezsiniz. Sınır yakınındaki toplanma noktalarına kan ikmali göndermek de basit bir tatbikat ya da güç gösterisi olsaydı asla yapılacak bir şey değildi.
  • Kuruluşlar çoğu zaman kendilerini kandırarak başarısız olur. Bunlardan biri de hareketi ilerlemeyle karıştırmaktır.
    Yazının özü, Pentagon’un teknolojiye para aktardığını düşünmesi ama o paranın karşılığını alamaması. Uzmanlık, yetki ve sorumluluğu tek bir kişinin zihninde birleştirme iradesi ya da becerisi olmadığı için başarısız oluyor.
    Bir kuruluş sorumluluğu dağıttığında ya da hareket ile ilerlemeyi ayırt edemeyen birine yetki verdiğinde sonuç her zaman israf ve durağanlık olur. Güçlü bir liderin kuruluşun bu entropisini kısa süreliğine tersine çevirdiği nadir anlarda sihirli şeyler olur; ULA ile SpaceX’i, DeepMind ile OpenAI’ı karşılaştırmaya değer.
    Kurumsal kapasite istikrarsız ve kısa mucizeler yerine standart olsaydı, insanlık çok daha yüksek bir teknolojik aşamaya ulaşmış olurdu.
  • Birçok başarısızlık basitçe insani ve siyasi başarısızlıktır. Teknoloji apaçık olanı bulanıklaştırabilir ya da düşük olasılıklı olanı öne çıkarabilir, ama şimdilik bu kadar sık belirleyici olmuyor.
    ABD, Moskova saldırısı konusunda da Rusya’yı uyarmıştı ama bu siyasi müdahale olarak görüldü. Neredeyse kesin olarak görmezden gelinen sinyal istihbaratıydı.
    https://apnews.com/article/russia-intelligence-duty-to-warn-...
  • 21 Şubat 2022’de Ukraynalı bir modelle birlikteydim ve işgal olasılığından bahsettim; o kişi bunu son derece önemsizmiş gibi karşıladı. Bunun bir başa çıkma biçimi mi, gerçek inancı mı, sırf karşı çıkmak için karşı çıkma mı, yoksa kültürel bir tepki tarzı mı olduğunu anlayamadığım için şaşırmıştım.
    Bana göre sınırdaki asker yığınağı, çeşitli açıklamalar, Biden’ın sözleri ve bunu hiçbir temele dayanmadan siyasallaştıran Cumhuriyetçiler düşünüldüğünde, açığa satış ya da tahmin piyasası seviyesinde fazlasıyla bariz bir işgaldi. Vadesine 0 gün kalmış opsiyon kontratı kadar ortadaydı.
    Buna rağmen o tepki aklımdan çıkmıyor. Gelecekte nasıl karşılık vermem gerektiğini bilmiyorum. Gerçekliği farklı algılayan biriyle tartışmak anlamsız görünüyor; sonunda geriye tam bir eylemsizlik ya da finansal bahisler kalıyor gibi.
    İnandığın şeye bahis oynamayı seviyorum; ödülü de fena değil, tahmin yanlış çıksa da sorun olmuyor. Yine de gerçekliğe dair ortak bir anlayış bulmaya çalışan sohbetler daha doğal geliyor, ama bugünlerde bu anlamsız görünüyor.
  • “Hava ve deniz insansız sistemlerinin benimsenmesi riskleri önlemek için şart” sözü, son olaylara bakınca gerçekten doğru çıktı.

• Bu yazının, alana dair pek çok medya haberinde olduğu gibi yapay zekayı aşırı genellediğini düşünüyorum. Makine öğrenmesinin öngörüye dayalı yönleri modern ordularda onlarca yıldır kullanılıyor; ilk paragraf da 7 Ekim saldırısındaki istihbarat başarısızlığında LLM’lerin büyük payı varmış gibi üstünkörü ima ediyor.
  LLM’lerin, çok sayıda makine öğrenmesi içeren bir sistemin parçası olması şaşırtıcı değil. Çünkü harika bir insan arayüzü. Ama saldırının kaçırılmasında anlamlı ölçüde sorumlu olacak kadar büyük bir rol oynadıklarına hiç inanmıyorum.
  Makine öğrenmesi rol oynamaya devam edecek; hem başarılar hem başarısızlıklar yaşayacak ve hasmane makine öğrenmesiyle rekabet ettikçe daha da kusurlu hâle gelecek. Kusurlu bir aracı kaçınılmaz başarısızlığın nedeni diye suçlamak faydalı değil; alternatifin başarısızlığa daha yatkın insanlar olduğu düşünülürse bunu “sorun” olarak görmek de zor.

  • Süregelen kafa karışıklığının bir kısmının, sektörün LLM’leri yapay zeka diye adlandırmayı tamamen benimsemesinden kaynaklandığını düşünüyorum.
    AI ifadesi sandığımızdan çok daha fazla ağırlık taşıyor; LLM’ler için bu terimi kullanmak anlamını hafifletiyor.
    Sıradan bir insan AI dendiğinde, ne kadar zekice ve etkileyici olursa olsun, insan yazısını tahmin etmeye ve taklit etmeye çalışan bir algoritmadan çok daha fazlasını bekler.
    Sektör, bir sonraki nesil makine öğrenmesi algoritmalarına “yapay zeka” demekte anlaşmış gibi; çünkü daha iyi satıyor ve çok daha fazla fon çekiyor. Öyleyse gerçek AI’ı yapmadan önce sorulması gereken güvenlik, ahlak ve etik sorularına ne olacak diye endişeleniyorum.
  • Yine de o araçlar hakkında öne sürülen aşırı abartılı iddiaları eleştirmek kesinlikle faydalı.

• “AI sistemi Hamas hakkında her şeyi bilir. Ne söylediklerini, ne paylaştıklarını […] davranışlarını analiz eder, riski tahmin eder ve alarm verir.”
  “Bunu iyi bilen Hamas üyeleri, düşmanın duymak istediği verileri ona yedirdi. Sonunda AI sistemi terörist hakkında her şeyi biliyordu ama onun ne düşündüğünü bilmiyordu.”
  Karşı taraf yaptığım her şeyi görebiliyor ve söylediğim her şeyi duyabiliyorsa, tek savunma mahremiyettir. The Three Body Problem romanında bu fikir uç noktaya taşınır: tek mahremiyet insan zihninin içindedir ve bazı insanların yalnızca asla sözle dile getirmedikleri bir stratejiye göre karar alması sağlanır. Bilimkurgu gerçeğe dönüşmüş oldu.

  • O, devam kitabı The Dark Forest’ta geçen bir şey.

• En önemli dersin, net bir kullanım senaryosu olmadan iyi bir sistem tasarlamanın neredeyse imkânsız olduğu olduğunu düşünüyorum.
  Ukrayna’da böyle bir kullanım senaryosu var ve çözmeye çalıştıkları soruna yönelik motivasyonları da çok güçlü. Ukraynalılar, genel amaçlı bilgisayarlarla savaş alanını kontrol ediyor https://en.defence-ua.com/news/how_the_kropyva_combat_contro... uzun menzilli deniz dronlarıyla birkaç Rus savaş gemisini batırdı https://www.bbc.com/news/world-europe-68528761 ve son dönemde yerleşik bilgisayarlı görü tabanlı hedef tanıma özelliğine sahip düşük maliyetli uçan dronları büyük ölçekte denemeye başladı https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain...
  Buna karşılık ABD barış zamanında. Bu kendi başına iyi bir şey, ama PowerPoint’te harika görünen, pratikte ise işe yaramayan teknolojilerin geliştirilmesine milyarlarca dolar harcamayı fazla kolaylaştırıyor

  • Bu açık ara en önemli ders. Bu arada askeri olmayan yazılım geliştirme için de aynen geçerli
  • Ukraynalılar prototipleri savaş alanında test ediyor ve işe yaramayan tasarımları oldukça erken eliyor gibi görünüyor. Otomatik takip eden bir makineli tüfek prototipi de gördüm; aklıma Aliens 2 geldi.
    Uçan dron tasarımları da, tek bir şirketin Rus füze saldırısıyla yok edilmesi riskinden kaçınmak için birden fazla şirket tarafından yapılıyor. Diğer savunma sanayii ürünlerinde de durumun benzer olduğunu düşünüyorum
  • Savaş zamanında gereksinimleri ve etkiyi kavramak çok daha kolay olduğu için silah geliştirmek her zaman daha kolaydır; ama daha ucuz değildir.
    Yine de milyarlarca dolar boşa harcanacaktır; ancak o para savaşın yıktığı binaları, köprüleri, altyapıyı ve hayatları yeniden inşa etmeye gidecek.
    Ukrayna, ucuz ve kendi imkânlarıyla bir araya getirilmiş teknolojilerle şaşırtıcı işler başardı; fakat bunun bedeli ülkenin yeniden inşası için gereken 486 milyar dolar.
    https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
  • ABD’nin barış zamanında olduğu fikrini, II. Dünya Savaşı’ndan sonra çok büyük bir daimi ordu bulundurmaya karar vermiş olması nedeniyle her zaman anlamakta zorlandım.
    Yaklaşan bir savaşa hazırlanmak ile barış zamanı hâli arasındaki çizginin pratikte nereye çekilmesi gerektiğini bilmiyorum
  • Şu anda Ukrayna’da gerçekten kullanılan şeyleri görüyoruz ve işe yarıyorlar.
    İmha edilmesi planlanan, 3. Dünya Savaşı ölçeğinde bir miktar misket bombası AFU’ya geçti; eski Bradley’ler, Javelin’ler, Stinger’lar vb. T-72’leri ve Hind-D’leri patlatmak için tasarlanmıştı ve gerçekten de bunu yapıyorlar. “PowerPoint’te harika görünen” şeylerin neler yapabileceğini de yakında göreceğiz.
    Ayrıca Ukrayna’nın askeri etkinliğinin önemli bir kısmı NATO istihbarat paylaşımı sayesinde. NATO Rus elektronik harp unsurlarını, gemilerini ve birlik hareketlerini haritalandırmasaydı, muharebe kontrol sistemi ve deniz dronları ikincil ayrıntılar olarak kalırdı

• İsrail teknolojisi hakkında konuşamam ama Pentagon’un Silicon Valley’de bir imaj sorunu var ve Palantir gibi yüklenici şirketlerin bile en iyi yetenekleri çektiğine inanmak zor.
  Bizim kuşağımız WW2’den çok Iraq ve Vietnam’a daha yakın; parlak yetenekler arasında çok sayıda birinci nesil göçmen de var. Reklam teknolojisinin de son dönemde imajı kötüleşti, ama yine de savunmaya kıyasla büyük tüketici şirketlerinde çalışmak daha cazip.
  Meslektaşları ABD hükümeti için, hatta dolaylı olarak çalışmaya ikna etmek için daha fazla para vermek gerekir; oysa genelde daha az veriliyor ve mesai dışı zamanda yapılabilecekler konusundaki özgürlük de çoğu zaman daha düşük.
  Üstelik yapay zeka alanında orduyla sözleşme yapmak, bir ölçüde günah keçisi sigortası işlevi görüyor gibi okunuyor. Kandırılabilir bir bilgisayara sahip zeki insanları suçlayıp, onları işe alan ve o sinyali diğer sinyallerin önüne koyarak harekete geçenleri suçlamamak gibi.
  Bir ChatGPT modelinin 10/7’yi önlemede belirleyici unsur olabileceği fikri, bu sektörde çalışan biri için saçma görünecektir. Belki tek istisna, IDF’ye LLM satmaya çalışan danışmanlar olabilir.

  • Çeyreklik operasyonel KPI’ları tutturmak için toplam sözleşme değeri 7–8 haneli bir federal hükümet sözleşmesi almak gerektiğinde, o imaj sorunu ortadan kalkar.
    Daha büyük engel satın alma sürecidir. Federal standartlara göre yazılım satın alımı görece basittir; Series E sonrası bir startup, FedRAMP ve FIPS uyumu için özel bir yol haritasına 7–10 milyon dolar ve 1–1,5 yıl ayırırsa içeri girebilir.
    Yazılımın dışına çıktığınızda satın alma, evrak cehennemine dönüşür. Buna DoD ve DoE gibi Ar-Ge hibe kurumlarının evrak cehennemi de eklenince yarı Sovyet tarzı bir satın alma sistemi ortaya çıkar.
    İronik biçimde, bu uyum ve düzenleyici kontrol kalemlerinin çoğu yolsuzluğu ve rüşveti azaltmak gibi iyi niyetlerle eklendi; ama fiilen tüm sistemi tıkadı ve startup’lar ile yenilikçilerin savunma topluluğuyla doğrudan çalışmasını engelledi.
    DIUx ve In-Q-Tel gibi projeler bunu değiştirmeye çalışıyor ama hem çok az hem de çok geç; savunma sanayii tabanı, Microsoft, Cisco, CrowdStrike, Zscaler gibi şirketlerin umut vadeden startup’ları satın alıp inovasyonu içeride yaymasına tamamen bağımlı durumda.
  • Hükümette daha düşük ücrete rağmen çalışmaya istekli teknisyenler bile Uncle Sam’in kurduğu işe alım bataklığından geçememe sorunuyla karşılaşıyor.
    Federal hükümet, sektör yeteneklerini hızlıca bünyesine katacak şekilde tasarlanmamış. Üst düzey pozisyonlar için ileri derece diploma isteyen eski kurallara hâlâ fazlasıyla bağlı.
  • En son kontrol ettiğimde, birçok savunma şirketi uzaktan çalışma fırsatı da sunmuyor gibiydi.
  • Teknoloji çalışanlarının “mülakata giderken esrar içmek” istemesi de büyük sorunlardan biri. Bunu yapınca güvenlik izni almaya uygun olmuyorsunuz.
  • Bunun kasıtlı olarak sadece olmasına izin verilen bir şey olmadığından %100 emin olamıyorum. Tamamen dümdüz etmek için bir gerekçe elde etmek istedikleri, gerçekten de bunu yaptıkları ve yalnızca ölçeğine şaşırmış olabilecekleri ihtimalini görüyorum.
    Sinyaller her yerdeydi ve Mossad beceriksiz bir evrak işleme topluluğu değil.
    Sorumlu kişi eski özel kuvvetler mensubu; gözünü kırpmadan insan öldürmek de işinin bir parçası, dolayısıyla o taraftan insancıllık beklemek zor.
    Başka zamanlarda ve yerlerde neredeyse birebir aynı şekilde gelişmiş hikâyeleri okumamış olsaydım bunu farklı görebilirdim. Yapay zeka siyasi sorunları çözmez; zaten karmaşık olan sorunları yalnızca daha da karmaşık hâle getirir.

• “Baskına uğradı” ifadesi tuhaf. İsrail basını, ön cephe analistlerinin uyardığını ama görmezden gelindiğini defalarca yazdı.
  Bunun nedeni cinsiyetçilik, yaş ayrımcılığı, zorunlu askerlik yapanlara yönelik ayrımcılık olabilir; ya da yerleşimci örgütlerin hükümete kendi insanlarını yerleştirmiş olması ve Gaza Strip’e yeniden yerleşmeyi güçlü biçimde istemesi olabilir.
  Her iki durumda da sinyaller vardı ve yaklaşık bir yıl boyunca hazırlıkları ve eğitimleri izliyorlardı. Direniş örgütleri bunu gizli tutmuş olsa bile, bir istihbarat kurumundaki ya da ordudaki sıradan bir subayın “ilk ilkeler” ve onların davranışlarına bakarak sonunda şiddetli bir tepki olacağı sonucuna varabilmesi gerekirdi.

  • Dışarıdan bir gözlemci olarak çok bilgili sayılmam ama Netanyahu’nun giderek aşırılaşan siyasi çizgisinin yarattığı hükümet karmaşasının ve İsrail toplumu içindeki büyük bölünmenin 7 Ekim’deki savunma başarısızlığına katkıda bulunduğunu düşünüyorum.
    Netanyahu, İsrail toplumunu öyle böldü ki 10/7’den önceki aylarda her hafta sonu milyonlarca kişi protesto gösterisi yaptı ve yedek askerler de protesto amacıyla hizmet etmeyi reddetti.
    Hapse girmemek için her yolu denemeye odaklanmak yerine yönetime daha fazla odaklansaydı ya da istifa etseydi, ülke çapındaki dikkat dağınıklığı azalabilirdi. Bunun onun suçu olduğunu kesin söylemiyorum ama yarattığı kaosun yardımcı olmuş olması mümkün değil.
  • Şiddetli bir tepki bekleniyordu. Beklenmeyen şey yetkin bir şiddetli tepkiydi.
  • IDF’yi doğrudan tanıyan herkes, örgütün içine derinden işlemiş bir kibir olduğunu bilir.
  • Bu, yanlış aracı suçlamak anlamına geliyor.
    İsrail hükümetini ve ordusunu yöneten insanlar araç gibiydi. Kötü niyet de olsa, beceriksizlik ve cehalet de olsa, açıkça başarısız oldular.

• Kişisel olarak makalenin tamamında en ilginç bulduğum bölüm burası:
  “Daha sonra savunma işlerine odaklandı ve geleceğin silahlarını yapacak ilgili teknik kapasiteye sahip insanların ‘genel olarak savunma sektörüyle çalışmayı reddettiğinden’ yakındı.”
  Bunun hâlâ ne ölçüde doğru olduğunu merak ediyorum. Büyük miktarda paranın aktığı açık ve bazıları kesinlikle paranın peşinden gitti. Palantir de var sonuçta.

  • Teknisyenlerin o silahların geride bıraktığı sonuçları görmediği ya da gerçekte ne yaptıklarını çoğunlukla bilmediği dönemlerde onları savunma tarafına çekmek daha kolaydı. Manhattan Project gibi.
    Ama insanlar Twitter’da bir mahallenin bombalanmasını canlı izleyebiliyorsa, böyle bir şeye yardım etmeyi yeniden düşünebilirler.
  • Bir ölçüde kesinlikle doğru. Kişisel olarak büyük bedel ödeyerek savunma sektörüyle çalışmayı reddeden kayıtlı örnekler var.
    Önemli soru, işgücü içinde ne kadar direnç olduğu ve bunun yetenek işe alma kapasitesini ne kadar etkilediği.
  • ABD savunma sanayiinden hoşlanmayan teknisyenlerin düşündüğünden çok daha az doğru olabilir. İlerici görüşler ile problem çözme zekâsı arasındaki korelasyon sıfır değil, ama o kadar yüksek de değil.

• İsraf edilen vergi miktarı karşısında şoke oldum. Başarısız proje o kadar çok ki, kötü şöhretli Big Tech’in beceriksizliği bile ABD askerî-sanayi kompleksiyle karşılaştırıldığında hiçbir şey değilmiş gibi görünüyor.
  Son 3/4 yüzyılda Batı uygarlığının fazlası hep buraya akmış. Artık o fazla ortadan kalktı; temel kaynaklar ve enerji kaynakları tükendikçe yakında negatife dönecek. ABD’nin dünya hâkimiyetinin mümkün olduğunca çabuk sona ermesini umuyorum.
  Üzgünüm ama ABD hiçbir zaman dünyanın meşru yöneticisi olmadı. Benim ülkelerimin tamamı yok edildi; tüm halklar öldürüldü ya da göçe zorlandı. Siz çocuğunuza yeni bir Xbox alabilesiniz, komşunuz da yeni bir yat satın alabilsin diye böyle oldu.

  • Aslında makaledeki rakamlar israfın boyutunu olduğundan küçük gösteriyor.
    2003’ten bu yana Orta Doğu’daki felaket en az 8 trilyon dolara mal oldu.
    O parayla tüm ABD temiz enerjiye geçirilebilir, dünyadaki tüm aç insanlar doyurulabilir ve ABD’deki tüm evsizlere ev sağlanabilirdi. Üstelik para artardı.
    Bunun yerine o para milyonlarca insanı öldürmek, on milyonlarcasını yerinden etmek ve nesiller boyunca çocuklarda kanser ile doğuştan kusurlar bırakmak için harcandı.
    O kadar kötü ve aptalca ki, Noam Chomsky bile bunu ifade edecek söz bulamadığını söylüyor.
  • Adil olmak gerekirse ABD yaklaşık 247 yıllık bir ülke değil mi? Büyük tarihsel ölçekte neredeyse bebek sayılır. Kurucuları da bu sistemin uzun süre dayanacağından pek emin değildi.
    [1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
    “Anayasa Konvansiyonu’nun sonunda George Washington, ‘Anayasa’nın 20 yıldan fazla dayanmasını beklemiyorum’ dedi. Bugün ABD, dünyanın en eski yazılı anayasasına sahip.”
    Ülkenin bu süre içinde başardıkları oldukça etkileyici sayılır. Varlığının önemli bir bölümünde ABD, bugün bildiğimiz türden bir süper güç de değildi. Gelecek belirlenmiş değil; ama belki de yalnızca kendi iç meseleleriyle ilgilenen, içine kapanmış bir ABD görebiliriz.

• Strategic Defense Initiative, namıdiğer Star Wars hakkında bir atıf arıyordum. O programın nihayetinde aşamadığı teknik sorunlardan biri, yaklaşan füzeleri yeterince tanıyıp önleme savunmasını hedefe yönlendirme becerisiydi.
  Makalede geçen Igloo White ve Assault Breaker sistemleri gibi, sahte hedeflerle gerçekleri ayırt etmeyi başaramadı.

  • Bu doğru değil. Füze tanıma ve önleme yönlendirmesi, ikisi de onlarca yıl önce kanıtlanmış kabiliyetlerdi.
    Balistik füze önlemede en büyük teknik sorun, yeni kullanılması planlanan hipersonik roket motorlarının yönlendirme komutlarına yeterli hassasiyetle tepki vermesini sağlamaktı. Bu bir malzeme bilimi sorunuydu; aynı ekipman sıradan roket motorlarına takıldığında gerçekten iyi çalışıyordu.