'Lavender': Gazze'nin bombalanmasını yöneten İsrail'in yapay zeka makinesi

'Lavender': İsrail'in Gazze'nin bombalanmasını yöneten yapay zeka sistemi

• İsrail ordusu, Gazze'deki Filistinlilere yönelik ayrım gözetmeyen bombardımanda kilit rol oynayan, 'Lavender' adlı yapay zeka tabanlı bir program geliştirdi.
• Bu sistem, insan denetimi olmadan on binlerce Gazze sakinini suikast hedefi olarak işaretliyor ve kurban kabul politikası oldukça gevşek.
• Lavender, Hamas ve Filistin İslami Cihadı'nın (PIJ) askeri kanat üyelerini potansiyel bombardıman hedefi olarak işaretlemek üzere tasarlandı.

STEP 1: Hedef oluşturma

• Lavender, Gazze sakinlerinin büyük bölümü hakkında kitlesel gözetim sistemiyle toplanan bilgileri analiz ediyor ve her bireyin Hamas veya PIJ'in askeri kanadına mensup olma olasılığını değerlendirerek sıralıyor.
• Bu yapay zeka sistemi, bilinen askeri kanat üyelerinin özelliklerini öğreniyor ve genel nüfus içinde bu özellikleri bularak değerlendirme yapıyor.
• Lavender, yaklaşık 37.000 Filistinliyi Hamas'ın şüpheli 'askeri kanat üyesi' olarak işaretleyip suikast hedefi haline getiriyor.

STEP 2: Aile evi ile hedefin eşleştirilmesi

• İsrail ordusu, hedefleri aile evleriyle eşleştirmek için otomatik bir sistem kullanıyor; ayrıca hedef aile evine girdiğinde bombardımanı tetikleyen 'Baba nerede?' gibi ek otomasyon sistemlerinden yararlanıyor.
• Bu sistemler, hedefleri sürekli izliyor ve aile evine adım attıkları anda saldırı düzenlenebilmesini sağlıyor.

STEP 3: Silah seçimi

• Lavender tarafından suikast hedefi olarak işaretlendikten sonra askerler hedefin erkek olup olmadığını kontrol ediyor; takip yazılımı hedefi evde tespit ettiğinde ise bombardımanda kullanılacak mühimmat seçiliyor.
• Ucuz 'akılsız' bombalar, hassas güdümlü bombalara kıyasla daha fazla ikincil hasara yol açabiliyor ve çoğunlukla alt düzey üyeleri öldürmek için kullanılıyor.

STEP 4: Sivil can kaybının onaylanması

• Savaşın ilk haftalarında İsrail ordusu, Lavender tarafından işaretlenen her alt düzey üyenin öldürülmesinde en fazla 15 ya da 20 sivilin öldürülmesine izin verdi.
• Bu 'ikincil hasar derecesi', rütbeleri, askeri önemleri ve yaşları ne olursa olsun tüm şüpheli alt düzey üyeler için geniş biçimde uygulanıyor.

GN⁺ Görüşü

• Lavender sistemi, yapay zeka teknolojisinin askeri operasyonlara uygulanmasına bir örnek ve bu da gelecekteki savaşlarda yapay zekanın rolünün artacağını gösteriyor.
• Yapay zekanın belirlediği suikast hedefi listelerine dayanmanın doğurduğu etik sorunlar ile yanlış hedefleme nedeniyle sivil kayıp yaşanma olasılığı yüksek.
• Bu teknolojinin savaşın doğasını nasıl değiştireceğine dair derin bir tartışmaya ihtiyaç var; ayrıca uluslararası hukuk ve savaş kuralları için yeni yorumlar gerektiriyor.
• Lavender gibi sistemlerin devreye alınması askeri verimliliği artırabilir, ancak aynı anda masum sivillerin hayatını riske atabilen ikili bir niteliğe de sahip.
• Bu teknolojinin gelecekte uluslararası toplum üzerinde nasıl bir etki yaratacağı ve buna yönelik düzenleme ya da karşı önlemlerin gerekip gerekmediği tartışılmalı.

[GN⁺]

Hacker News görüşleri

• Araştırmacılar, yalnızca dolaylı ilişkilere dayanarak bireylerin hedef alınmasına dair endişeleri çok önceden dile getirmişti. Bu tür sistemler başlangıçta gözetim amacıyla kullanılıyordu, ancak artık yalnızca gözetimin ötesine geçip insanları fiilen öldürmek için kullanılıyor.

  Uluslararası insancıl hukuk, silahlı grupların "savaşçısı" olmayan kişilerin öldürülmesini yasaklar. Yalnızca "doğrudan düşmanca eylemlere sürekli olarak katılan" kişiler hedef alınabilir. Diğer siviller ise ancak doğrudan düşmanca eylemlere katıldıkları sırada hedef olabilir.

• Yapay zekanın (AI) önceden insanların öldürülmesine karar vermesi fikrine dair kaygı dile getiriliyor. Bu vakada insan onayı vardı, ancak insan müdahalesi olmadan robotlar tarafından insanların öldürüldüğü bir duruma yalnızca bir adım kalmış olduğuna dikkat çekiliyor.

  AI olmasaydı İsrail'in hedefleri daha rastgele mi seçeceği, yoksa hiç bomba atmayacağı mı sorusu akla geliyor. Savaş durumlarında masum insanların ölmesi kaçınılmazdır.

• Birçok kişinin yalnızca başlığı okuyup içeriği okumayacağı belirtiliyor ve makalenin ikinci paragrafına dikkat çekiliyor.

  Lavender adlı AI sisteminin kullanımıyla birlikte, İsrail ordusu yetkililerinin Filistinli sivillerin büyük çapta ölümüne izin verdiği öne sürülüyor.

• Serial podcast'inin mevcut sezonunun dinlenmesi öneriliyor.

  AI'nin "genç" operatörleri hızlıca tespit edip hedeflemek için verileri işleme biçimi, 2001'de kullanılan yöntemden farklı değil. Kararlar AI tarafından değil insanlar tarafından veriliyor.

• Hikâye İsrail'in eylemlerini olumsuz resmetse de, en azından askerî hedefleri vurmaya yönelik bir çaba olarak okunabileceği söyleniyor.

  İsrail'in amacı, gazetecileri, sağlık çalışanlarını ve yardım görevlilerini hedef alarak Gazze'de yaşamı imkânsız hâle getirmek.

• Bu teknolojinin doğruluğu sorgulanıyor ve sonuca ulaşmaktan çok, ileri teknoloji gibi görünmesine daha fazla ilgi gösterildiği belirtiliyor.

  Bu, iktidar sahiplerinin "doğrulukla" değil, kendi önyargılarını doğrulayacak bir meşruiyetle daha çok ilgilendiğini gösteriyor.

• İsrail Savunma Kuvvetleri'nin (IDF) yalnızca askerî binalarda bulunan ya da askerî faaliyet yürüten Hamas operatörlerini öldürmekle ilgilenmediği ifade ediliyor.

  IDF, aile evlerini bombalamakta tereddüt etmedi ve sistem, onları bu tür durumlarda bulmak üzere tasarlandı.

• AI kullanımının IDF'nin hedeflerine ulaşmasında ne gibi bir fayda sağladığı sorgulanıyor.

  AI'nin sürekli kullanımı, savaş suçlarına karışan bireylere sığınak sağladığı için destekleniyor olabilir.

• The Guardian'ın da bu hikâyeyi manşetten verdiği ve önceden ayrıntılara erişim sağladığı belirtiliyor.

  Bu tür hikâyeler kamu yararı taşır ve tartışılmaları gerekir.

• Bir kaynak, insan çalışanların makinenin kararlarını yalnızca "kaşe basar" gibi onayladığını söylüyor.

  Bu durum, otomasyonun ironisi üzerine yazılan makaleleri hatırlatıyor: İşlerin çoğu otomatikleştiğinde insan denetimi neredeyse işe yaramaz hâle gelir.