- +972 Magazine ve Local Call araştırmasına göre İsrail ordusu, Gazze savaşının başında Lavender kullanarak on binlerce Filistinliyi suikast hedefi olarak işaretledi ve istihbarat subayları bu sonuçlara fiilen insan kararıymış gibi davrandı
- Lavender, Hamas ve Palestinian Islamic Jihad askeri örgütlerine mensup olduğundan şüphelenilen kişileri puanladı; savaşın ilk haftalarında yaklaşık 37.000 kişi şüpheli militan olarak işaretlendiğine dair tanıklıklar var
- Çeşitli istihbarat kaynakları, subayların hedefleri bağımsız olarak doğrulamadığını, çoğu zaman yalnızca erkek olup olmadığını kontrol etmek için 20 saniye harcadığını ve içeride yaklaşık %10 hata bilindiği halde “hatasız” bir politika uygulanmadığını söyledi
- Hedef takibinde Where’s Daddy? gibi otomatik sistemler kullanıldı; hedef aile evine girdiğinde bombardıman hedefi yapıldı ve alt düzey hedeflerde hassas güdümlü mühimmat yerine güdümsüz bomba (dumb bomb) tercih edildiğine dair ifadeler var
- İsrail ordusu, yapay zekanın hedefleri “suçladığı” iddiasını reddedip bağımsız istihbarat analizi ve uluslararası hukuka uyumu öne sürdü; ancak kaynaklar, sivil kayıp eşiklerinin, otomatikleştirilmiş ikincil hasar hesaplarının ve gerçek zamanlı doğrulama eksikliğinin büyük çaplı sivil ölümlerine yol açtığını düşünüyor
Lavender’ın üstlendiği hedef üretimi
- 2021’de İngilizce yayımlanan The Human-Machine Team, savaş sırasında devasa verileri hızla işleyip binlerce askeri hedef adayı üreten bir “makine” tasarlıyordu
- Yazar “Brigadier General Y.S.” takma adını kullandı ve +972 ile Local Call, bunun İsrail istihbarat birimi Unit 8200’ün mevcut komutanı olduğunu doğruladıklarını belirtti
- Kitap, yeni hedefleri bulma ve hedef onay kararları verme sürecindeki insan darboğazını aşmak için yapay zeka ile insanın birleşimini savunuyordu
- Araştırmaya göre İsrail ordusu fiilen Lavender adlı yapay zeka tabanlı bir program geliştirdi; Gazze savaşında yapay zeka kullanılarak suikast hedefi üretimine doğrudan dahil olan 6 İsrailli istihbarat subayı bunu doğruladı
- Sistem resmi olarak Hamas ve Palestinian Islamic Jihad askeri örgütlerinin şüpheli üyelerini, özellikle de alt düzey üyeleri, potansiyel bombardıman hedefi olarak işaretlemek üzere tasarlandı
- Kaynaklar, savaşın ilk haftalarında ordunun Lavender’a neredeyse tamamen bağımlı olduğunu ve yaklaşık 37.000 Filistinli ile onların konutlarının hava saldırısı adayı olarak işaretlendiğini aktardı
- İsrail ordusu sözcüsü, +972 ve Local Call’a gönderdiği yanıtta böyle bir kill list bulunduğunu reddetti
“İnsan hedef” kapsamının genişlemesi
- İsrail ordusunda geçmişte “human target”, ordunun uluslararası hukuk biriminin kurallarına göre, etrafta siviller bulunsa bile özel konutunda öldürülebilecek üst düzey askeri personel anlamına geliyordu
- Kaynaklara göre 7 Ekim’de Hamas öncülüğündeki silahlı gruplar İsrail’in güneyini saldırarak yaklaşık 1.200 kişiyi öldürüp 240 kişiyi kaçırdıktan sonra İsrail ordusu, “Operation Iron Swords” kapsamında Hamas askeri örgütünün tüm üyelerini, rütbe ve askeri önemden bağımsız olarak human target ilan etti
- Geçmişte tek bir human target suikastını onaylamak için subayın karmaşık ve uzun bir incrimination sürecinden geçmesi gerekiyordu
- Hedefin Hamas askeri örgütünün üst düzey bir üyesi olduğuna dair kanıtlar çapraz doğrulanıyordu
- İkamet yeri ve iletişim bilgileri tespit ediliyordu
- Hedefin evde olduğu anın gerçek zamanlı bilinmesi gerekiyordu
- Hedef listesinin birkaç düzine üst düzey kişiden on binlerce alt düzey kişiye genişlemesiyle istihbarat çalışması otomasyon yazılımları ve yapay zekaya büyük ölçüde bağımlı hale geldi
- Bir kıdemli subay, alt düzey unsurları otomatik saldırıya uygun hale getirmenin “Holy Grail” olduğunu ve otomasyona geçildiğinde hedef üretiminin patladığını söyledi
Lavender’ın çalışma biçimi ve verileri
- Lavender, Gazze’de yaşayan 2,3 milyon kişinin büyük kısmı hakkında kitlesel gözetim sistemiyle toplanan bilgileri analiz ediyor ve her kişinin Hamas veya PIJ askeri örgütünde faaliyet gösterme olasılığını 1 ila 100 arasında puanlıyordu
- Sistem, bilinen Hamas ve PIJ üyelerine dair verileri eğitim verisi olarak alıp onların özelliklerini yani features’ı öğreniyor, ardından genel nüfus içinde benzer özellikleri arıyordu
- The Human-Machine Team kitabında yapay zeka tabanlı bir “target machine” kurmaya dair kısa bir rehber ve bir kişinin puanını yükseltebilecek özellik örnekleri yer alıyor
- Bilinen militanlarla aynı Whatsapp grubunda olmak
- Cep telefonunu birkaç ayda bir değiştirmek
- Adresini sık sık değiştirmek
- Unit 8200’ün Data Science and AI Center komutanı “Col. Yoav”, 2023 Tel Aviv University AI Week kapsamında kapalı bir konuşmada, mevcut militan listeleriyle benzerliğe dayanarak “tehlikeli kişileri” tespit eden bir hedef makinesini anlattı
- 2021 Mayıs’ındaki Gazze askeri operasyonunda bu sistemle Hamas füze birimi komutanlarını tespit ettiğini söyledi
- Sunum slaytları, mevcut Hamas personeli verilerinin girildiği, özelliklerin öğrenildiği ve ardından diğer Filistinlilerin benzerliğe göre puanlandığı bir yapıyı gösteriyordu
- “Col. Yoav” son kararın insan tarafından verildiğini vurguladı; ancak yakın dönemde Lavender kullanan kaynaklar, pratikte insan hassasiyetinin yerini kitlesel hedef üretimi ve ölümcüllüğün aldığını söyledi
Onay süreci ve hata toleransı
- Kaynaklara göre Lavender hedef listesinin otomatik benimsenmesi savaştan yaklaşık 2 hafta sonra onaylandı
- İstihbarat personeli, yapay zekanın seçtiği yüzlerce örneği elle kontrol etti
- Bu örneklerde Lavender’ın Hamas bağlantısını tespit etme doğruluğunun %90 seviyesine ulaştığı değerlendirildi
- Sonrasında Lavender bir kişiyi Hamas militanı olarak değerlendirdiğinde, subayların bunun arkasındaki ham veriyi ya da gerekçeyi bağımsız biçimde doğrulamasına gerek kalmadan bu sonuca fiilen emir gibi yaklaşıldığı söylendi
- Bir kıdemli subay, iç kontrollerde Lavender hesaplamalarının yalnızca %90 doğru kabul edildiğini, bunun da suikast hedeflerinin %10’unun Hamas askeri örgütü üyesi olmayabileceği anlamına geldiğini söyledi
- Kaynaklar, Lavender’ın iletişim kalıpları bilinen Hamas veya PIJ üyelerine benzeyen kişileri yanlış işaretleyebildiğini anlattı
- Polis ve sivil savunma personeli
- Militanların akrabaları
- Gerçek ajanlarla aynı isim veya lakabı taşıyan sakinler
- Daha önce Hamas mensuplarının kullandığı cihazları kullanan Gazze sakinleri
- Bir kaynak, “hatasız politika” olmadığını ve hataların istatistiksel olarak ele alındığını söyledi
- Başka bir istihbarat kaynağı ise alt düzey militan hedeflerde doğrulama için istihbarat subaylarının zaman harcamasının düşük değerli görüldüğünü, bu yüzden yapay zeka kullanımındaki hata payı ve sivil ölüm riskiyle birlikte hareket edildiğini anlattı
İnsan doğrulaması erkek olup olmadığını kontrol etmeye indirgenmişti
- İsrail ordusu, yapay zekanın hedefleri suçladığı iddiasını reddetti ve bu tür araçların suçlama sürecine yardımcı olan yardımcı araçlar olduğunu söyledi
- Ordu yanıtında, her durumda istihbarat analistinin bağımsız incelemesinin gerektiği ve belirlenen hedefin askeri yönergeler ile uluslararası hukuka göre meşru hedef olup olmadığının doğrulandığı belirtildi
- Ancak kaynaklar, Lavender’ın işaretlediği alt düzey şüpheli militanların evini bombalamadan önce fiili insan gözetiminin neredeyse tek bir kontrole indiğini söyledi
- Yapay zekanın seçtiği hedefin kadın mı erkek mi olduğuna bakılıyordu
- Ordu içinde Hamas ve PIJ askeri örgütlerinde kadın bulunmadığı için hedef kadınsa bunun büyük olasılıkla makine hatası olduğu varsayılıyordu
- Bir kıdemli subay, hedef başına genellikle 20 saniye harcadığını ve erkek sesi olup olmadığını kontrol etmenin kendi tek insani katma değeri olduğunu söyledi
- Kaynaklar, bu yöntemde Lavender sivil erkekleri yanlış işaretlediğinde hatayı yakalayacak bir denetim mekanizması bulunmadığını vurguladı
Where’s Daddy? ve aile konutlarının takibi
- Bir sonraki adım, Lavender’ın ürettiği hedeflerin nerede vurulacağını belirlemekti
- İsrail ordusu, Hamas’ın personelini ve askeri varlıklarını sivil nüfusun merkezine yerleştirdiğini ve hastane, cami, okul ve UN tesisleri gibi sivil yapılar içinde savaştığını öne sürüyor
- Altı kaynak da Hamas’ın tünel sisteminin hastane ve okulların altından geçtiğini, militanların ambulans kullandığını ve askeri varlıkların sivil binaların yakınına yerleştirildiğini bir ölçüde kabul etti
- Ancak aynı kaynaklar, mevcut bombardımanlarda ölüm sayısının benzeri görülmemiş düzeye çıkmasının başlıca nedenlerinden birinin ordunun hedefleri özel konutlarında aileleriyle birlikteyken sistematik olarak vurması olduğunu söyledi
- Otomatik takip yazılımının binlerce kişiyi aynı anda izlediği ve hedef eve girdiğinde hedeften sorumlu subaya otomatik uyarı gönderdiği belirtildi
- Bunlardan biri ilk kez açıklanan Where’s Daddy? idi
- Bir kaynak bunu “broad hunting” diye tanımlayarak, hedef sisteminin oluşturduğu listeyi kopyalayıp kimin öldürülebilir hale geleceğini beklemek şeklinde işlediğini anlattı
- UN verilerine göre savaşın ilk ayında ölenlerin yarısından fazlası olan 6.120 kişi, 1.340 aileye mensuptu ve birçok aile evlerinde tamamen yok oldu
- Lavender listesindeki isimler Where’s Daddy?’ye girildiğinde bu kişiler sürekli izleniyor ve eve girdikleri anda tüm evi yıkabilecek saldırıların hedefi olabiliyordu
Silah seçimi ve güdümsüz bombalar
- Lavender suikast hedefini işaretledikten, askeri personel bunun erkek olduğunu doğruladıktan ve takip yazılımı konut içindeki konumu tespit ettikten sonra sonraki adım bombanın seçilmesiydi
- CNN, Aralık 2023’te ABD istihbarat tahminlerine dayanarak İsrail hava kuvvetlerinin Gazze’de kullandığı mühimmatın yaklaşık %45’inin güdümsüz dumb bomb olduğunu bildirdi
- Üç istihbarat kaynağı, Lavender’ın işaretlediği alt düzey personel suikastlarında daha pahalı hassas mühimmatı korumak için yalnızca güdümsüz bomba kullanıldığını söyledi
- Bir kaynak, alt düzey hedef yüksek bir binada yaşıyorsa daha hassas ve pahalı bir “floor bomb” kullanmak istenmediği için saldırı yapılmadığını; ancak birkaç katlı bir binada yaşıyorsa güdümsüz bombayla binadaki diğer insanlarla birlikte öldürülmesini içeren saldırının onaylandığını anlattı
- Başka bir kaynak, sistem yüzünden hedeflerin bitmediğini; bir saldırı iptal edilirse hemen sıradaki hedefe geçildiğini söyledi
Sivil ölüm eşikleri
- Kaynaklara göre savaşın ilk haftalarında yapay zeka sisteminin işaretlediği her bir alt düzey militan için kabul edilebilir sivil ölüm sayısı 15 ya da 20 kişi olarak sabitlenmişti
- Bu “collateral damage degree”, rütbe, askeri önem ve yaştan bağımsız olarak tüm şüpheli alt düzey militanlara geniş biçimde uygulanıyor, her vaka için askeri fayda ile beklenen sivil zararın ayrı ayrı kıyaslanması yapılmıyordu
- Bir hedef operasyon odası subayı, ordunun uluslararası hukuk biriminin geçmişte bu düzeyde ikincil hasarı genel onayla hiç kabul etmediğini söyledi
- Son 1-2 yıl içinde Hamas üniforması giymiş bir kişi, özel izin olmadan 20 sivil ikincil kayıpla birlikte bombalanabiliyordu ve fiiliyatta orantılılık ilkesinin bulunmadığını söyledi
- Başka bir kıdemli kaynak, savaşın ilk haftasında ikincil hasarın neredeyse hiç hesaba katılmadığını, sonra sınırın düşürülüp daha sonra tekrar yükseltildiğini anlattı
Üst düzey komutan hedefleri ve daha büyük sivil kayıplar
- Kaynaklar, ordunun şu anda sivil konutlar içindeki alt düzey human target’ları kitlesel olarak üretip bombalama yöntemini artık kullanmadığını söyledi
- Bazıları bunda ABD baskısının etkili olduğunu belirtti
- Gazze’de çok sayıda ev zaten yıkıldığı veya hasar gördüğü ve neredeyse tüm nüfus yerinden edildiği için, istihbarat veritabanları ile otomatik konut takip programlarına güvenmek zorlaştı
- Başka kaynaklara göre alt düzey personelin kitlesel bombardımanı esas olarak savaşın ilk 1-2 haftasında gerçekleşti ve daha sonra bombalardan tasarruf etmek için durduruldu
- Ancak üst düzey Hamas komutanlarını hedef alan hava saldırıları sürdü ve bu durumda ordu, hedef başına yüzlerce sivil ölümünü onaylıyordu
- 2 Aralık’ta Shuja’iya Battalion komutanı Wisam Farhat’ı hedef alan bombardıman için bir kaynak, 100’den fazla sivilin öleceğinin bilindiğini hatırladı
- 17 Ekim’de Al-Bureij mülteci kampında Hamas Central Gaza Brigade komutanı Ayman Nofal’a suikast düzenlemek için yaklaşık 300 sivil ölümüne onay verildiği ve birçok binanın yıkıldığı da aktarıldı
- General Peter Gersten, 2021’de bir ABD savunma yayınına, ISIS’e karşı operasyonlarda 15 sivil ikincil kaybı içeren bir saldırının olağan prosedürün dışında olduğunu ve dönemin CENTCOM komutanı Lloyd Austin’in özel onayını gerektirdiğini söylemişti
7 Ekim sonrası ordu içi atmosfer
- Tüm kaynaklar, 7 Ekim’de Hamas’ın gerçekleştirdiği katliam ve rehine kaçırmalarının İsrail ordusunun ateş gücü politikası ile ikincil hasar eşikleri üzerinde büyük etkisi olduğunu söyledi
- Bir kaynak, başlangıçtaki atmosferin acılı ve intikamcı olduğunu, kuralların çok gevşek olduğunu anlattı
- Başka bir kaynak, profesyonel yapı içinde bir “histeri” olduğunu ve ordunun nasıl yanıt vereceğini bilemeyince Hamas’ın kapasitesini dağıtmak için çok yoğun bombardımana başladığını söyledi
- Bir istihbarat kaynağı, açıkça “intikam”ın hedef olduğu yönünde talimat verilmediğini; ancak Hamas’la bağlantılı her hedef meşrulaştırılıp neredeyse her türlü ikincil hasar onaylanınca binlerce kişinin öleceğinin açık olduğunu söyledi
- İsrail ordusu ise her hedefin ayrı ayrı incelendiğini, saldırının askeri yararıyla beklenen ikincil hasarın değerlendirildiğini ve beklenen ikincil hasar askeri yarara kıyasla aşırıysa saldırı yapılmadığını belirtti
İkincil hasar hesabının otomasyonu
- Kaynaklara göre her evde hedefle birlikte ölmesi beklenen sivil sayısının hesabı da otomatikleştirilmiş ve hatalı bir araçla yapılıyordu
- Geçmiş savaşlarda istihbarat personeli, bombalanması planlanan evin içinde kaç kişi olduğunu doğrulamak için çok zaman harcıyor ve bu sayı “target file” içine kaydediliyordu
- 7 Ekim’den sonra bu titiz doğrulama büyük ölçüde bırakıldı ve yerini otomasyon aldı
- Kaynakların anlattığı yöntemde savaş öncesi her evde yaşayan kişi sayısı, bina büyüklüğü ve sakin listesine göre tahmin ediliyor; sonra bu sayı, ilgili mahalleden tahliye edilen nüfus oranına göre azaltılıyordu
- Örneğin mahalle sakinlerinin yarısının ayrıldığı varsayılıyorsa, normalde 10 kişinin yaşadığı bir evde 5 kişinin bulunduğu hesaplanıyordu
- Ordunun zamandan kazanmak için geçmiş operasyonlarda olduğu gibi evin o anki doluluğunu gerçek gözetimle doğrulamadığı belirtildi
- Bir kaynak, bu modelin gerçeklikle bağlantısız olduğunu ve savaş öncesi kayıtlı sakinlerle savaş sırasında fiilen evde bulunan kişilerin örtüşmediğini söyledi
- Aynı kaynak, ordunun bu hata ihtimalini bildiğini ama daha hızlı olduğu için bu hatalı modeli benimsediğini anlattı
Gerçek zamanlı doğrulama eksikliği ve bombardıman sonrası kontrolün azaltılması
- Kaynaklara göre Where’s Daddy? gibi takip sistemlerinin hedefin eve döndüğünü bildirdiği an ile gerçek bombardıman arasında ciddi zaman farkı olabiliyor, bu nedenle hedef olmadan tüm ailelerin öldüğü durumlar yaşanıyordu
- Üç istihbarat kaynağı, İsrail ordusunun aile konutlarını bombaladığı ancak daha sonra suikast hedefinin evde olmadığının anlaşıldığı vakalara tanık olduklarını söyledi
- Bir kaynak, hedefin birkaç saat önce evde bulunmuş olması nedeniyle olduğu gibi bombardıman yapıldığını; bazen konumun yeniden doğrulandığını ama bazen doğrulanmadığını anlattı
- Başka bir kaynak, akşam 8’de hedefin evde olduğunun tespit edildiğini, ancak hava kuvvetlerinin sabah 3’te bombardıman yaptığını; bu arada hedefin ailesiyle başka bir eve geçtiğini ve vurulan binada çocuklu iki başka ailenin bulunduğunu söyledi
- Geçmiş Gazze savaşlarında human target suikastlarından sonra bombardıman hasar değerlendirmesi olan BDA prosedürü uygulanıyordu; ancak kaynaklara göre mevcut savaşta yapay zekanın işaretlediği alt düzey militanlara yönelik saldırılarda zamandan kazanmak için bu prosedür kaldırıldı
- Kaynaklar, alt düzey şüpheli Hamas ve PIJ hedeflerine yönelik saldırılarda gerçek sivil ölüm sayısını bilmediklerini ve hedef kişinin gerçekten ölüp ölmediğini de bilmediklerini söyledi
1 yorum
Hacker News yorumları
Didier Bigo gibi akademisyenler uzun zamandır, bir kişinin sadece “terörist” ya da “suçlu” ile dolaylı bağlantısı olduğu gerekçesiyle hedef alınmasına dair kaygılarını dile getiriyordu
Bu kavram başlangıçta Snowden ifşalarıyla ortaya saçılan gözetim bağlamında kullanılıyordu ve tespit edilmiş bir kişiden örneğin 3 bağlantı adımı içinde olan kişilerin bile hedef alınmasına kadar giderek hukuki süreç ve hedefe yönelik gözetim kavramının içini boşalttı
Artık bu tür yapay zeka sistemleri yalnızca gözetim için değil, doğrudan insan öldürmek için kullanılıyor
Uluslararası insancıl hukuk, savaşçıların ya da silahlı grupların “savaşçı” olmayan kişileri öldürmesini yasaklar. Yalnızca düşmanca eylemlere “doğrudan katılan” ve “sürekli işlev” sahibi olan kişiler her an saldırı hedefi olabilir
Yani yalnızca Hamas’ın silahlı kanadının üyeleri saldırı hedefi olabilir; toplayıcılar, silah üreticileri, propaganda görevlileri, finans sorumluları vb. ise tutuklanmalı ya da yargılanmalıdır. Aksi halde düzenli savaşta bile orduya kredi sağlayan banka çalışanları gibi neredeyse tüm siviller hedef haline gelebilir
Lavender’ın korkutucu yanı, İsrail’in uluslararası hukuka göre saldırılardan korunması gereken insanları kitlesel olarak hedef alabilmesini sağlaması ve buna yalnızca teröristlerle bağlantı gibi yüzeysel bir siyasi meşruiyet kılıfı sunmasıdır
https://www.icrc.org/en/doc/assets/files/other/icrc-002-0990...
Almanya’nın 2. Dünya Savaşı sırasında bilgisayarları erken dönemde kullandığı örneklerden biri de toplama kamplarına gönderilecek kişilerin listesini hazırlamak ve işlemekti. Bugünkü fark sadece daha fazla veriyi daha hızlı ve daha büyük ölçekte toplayıp işleyebilmemizdir
Elbette kimsenin sorgulayamaması ve soru soramaması için her şey gizli diye sınıflandırılıyor ve erişim kısıtlanıyor
Guardian haberinde IDF sözcüsü bu sistemin var olduğunu ancak yalnızca yardımcı elektronik amaçlarla kullanıldığını söyledi; ilk niyet ya da üst düzey algı gerçekten böyle olabilir. Ama pratikte bunun ikincisine dönüşmüş olması muhtemel görünüyor
Sonuçta nüfusun büyük kısmının IDF’de hizmet yükümlülüğü var
Uluslararası hukuk, elde edilen askeri fayda sivil ölümleriyle orantılıysa bu tür altyapıların hedef alınmasına izin verir
Bu yüzden tek tek kişileri hedef alamazsınız; ancak uluslararası hukuka göre, o kişiler içerideyken binayı vurmanın askeri açıdan değerli olması halinde bu kabul edilebilir sonucuna varılır
Bunu düşüneceğim aklıma gelmezdi ama bu yazılımı yapan ve geliştiren kişilerin cinayet ya da insanlığa karşı suçlar kapsamında yargılanması gerekip gerekmediğini sorgulamaya başladım
Mevcut haliyle yapay zekanın bu tür kullanımlara yaklaşmaması gereken bir teknoloji olduğunu düşünüyorum
Çıkarım modelleri, istenen belirli sonuç bakımından doğru değerlendirilebilme açısından özünde oldukça belirlenimsizdir ve düşük doğruluk düzeyine ulaşmak için bile büyük ölçekli eğitim verisine ihtiyaç duyar. Oysa böyle bir eğitim verisinin var olması pek olası görünmüyor; tüm sistem devasa bir halüsinasyonun üzerine kurulmuş gibi duruyor
Bu yapay zeka modelinin %10 bile doğru çıkmasına şaşırırdım; %1’in altında olmasıysa beni şaşırtmazdı. Okuduklarıma göre doğruluk zaten esas mesele de değil gibi görünüyor
Guardian haberi https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai... bana, yapay zeka geliştirmesine baştan izin verilip verilmemesi gerektiğini bile düşündürdü
Bu özel uygulama ve onun gerekçesi, kamuya açık biçimde ortaya çıkan teknolojinin kasıtlı kötüye kullanımının en pervasız örneklerinden birine çok yakın hissettiriyor. Bu naif bir değerlendirme mi
Arada, karar ağaçları gibi açıklanabilir sonuçlar veren yöntemler de bulunuyor
“AI”, sonradan belirli soykırım eylemlerini meşrulaştırmak için kullanılan bir araç; gerçekte ise öfke ve ırkçılığın yön verdiği eski usul, ayrım gözetmeyen bir katliama daha çok benziyor
Sonra da ortada sorumlu olmadığını iddia edip suçu makinenin içindeki hayalete atacaklar
Bu hikâye İsrail’i ne kadar kötü gösterirse göstersin, yine de en azından militanları öldürmeye çalıştıkları şeklinde sorumluluktan kaçma girişimi gibi okunuyor
En başından beri amacın gazetecileri, sağlık çalışanlarını ve yardım dağıtımına dahil olan kişileri hedef alarak Gazze’de hayatı imkânsız hale getirmek olduğu açıktı
Gazetecileri, yardım çalışanlarını ve sağlık personelini kasıtlı olarak öldürmeye yönelik bir politika olsaydı ölü sayısı çok daha yüksek olurdu
Hamas’ın bu tür rolleri operasyonlarına kılıf olarak kullandığını fark etmiyorsanız ya aşırı derecede safsınız ya da taraflısınız
İsrail’in eylemlerini meşrulaştırmaya çalışmıyorum; bu eylemler berbattı, ama şu ana kadarki kanıtlara bakınca ilk iddianın açıkça yanlış olduğunu düşünüyorum
Bunu konuşuyor olmamızın kendisi büyük ihtimalle tesadüf değil; ordu teknolojik olarak ileride ve ne yaptığını biliyor, dolayısıyla şüphe etmeyin diye İsraillileri ikna etmeye yönelik bir strateji gibi duruyor
AI olsun ya da olmasın soykırım işleyecek ve tüm uluslararası insancıl hukuku ihlal edeceklerdi, ama bu soykırımın haklı olduğuna hâlâ inananlar için bunun imaj düzeltici bir etkisi olabilir
AI’nın birini önleyici biçimde öldürme kararında kullanılabilmesi fikri rahatsız edici
Örneğin otonom araç navigasyonu gibi durumlarda bilgisayarlar zaten pasif biçimde insanların ölmesine yol açan kararlar veriyor olabilir. Bu olayda insan onay süreci olduğu söyleniyor, ama insan müdahalesi olmadan robotların insan öldürdüğü bir duruma sadece bir adım var ve bu da Terminator senaryosuna sadece bir adım mesafe demek
Böyle durumlarda alternatifin ne olduğunu merak ediyorum. Askeri strateji hakkında neredeyse hiçbir şey bilmiyorum, ama AI olmasaydı İsrail daha az hedef mi seçerdi yoksa daha da rastgele mi seçerdi bilmiyorum
Bu makaleyi okuyup da İsrail AI kullanmasaydı hiç bomba atmayacağını hayal eden bir yanlış okuma da var gibi görünüyor, ama savaşta olunduğu düşünüldüğünde bunun açıkça düşük bir ihtimal olduğu belli. Savaşta masum insanlar da dahil olmak üzere insanlar ölür; bu yüzden herkes savaştan nefret eder ve mevcut savaşın olabildiğince çabuk bitmesini ister
İç denetimde Lavender’ın hesaplama doğruluğunun yalnızca %90 olduğu düşünülmesine rağmen böyle bir denetimsizliğe izin verilmişti; başka bir deyişle suikast hedefi olarak işaretlenen insan hedeflerin %10’unun Hamas askeri örgütü üyesi olmadığının önceden bilindiği anlamına geliyor
Yani fiilen bir insan onay süreci yoktu. Politikanın kendisini biri emretmiş olabilir, ama durmadan üretilen suikast hedefleri esasen AI sisteminin tahminleriyle onaylanmış oldu
“Zaman kazanmak ve kesintisiz şekilde insan hedeflerin seri üretimini mümkün kılmak için” ifadesi korkunç derecede distopik
O zaman küçük bir AI’ya bile ihtiyaç olmazdı
Alternatifin daha kötü olabileceği iddiası da muhtemelen doğru olabilir. Lavender’ı yapanlar bunu verilerle bile kanıtlayabilir
Yine de her durumda insanı sürecin içinde tutmak gerekir yönünde ahlaki bir baskı olmalı. Bu tür meşrulaştırma çabaları, Gazze’de sivillerin başı üstünde oynanan SkyNet tarzı kıyamet sahneleri kadar kamuoyunun dikkatini çekmeyecektir
Torment Nexus’u yapmama bakış açısından başlarsanız, Torment Nexus’u yapmamak çok daha kolay olur
Birçok insan sadece başlığı görüp geçecektir, ama lütfen metnin kendisini okusun
İkinci paragraf şöyle: “Kaynaklar, Lavender adlı AI sisteminin kullanımından söz etmenin yanı sıra, İsrailli askeri yetkililerin özellikle çatışmanın ilk haftaları ve aylarında çok sayıda Filistinli sivilin öldürülmesine izin verdiğini iddia etti”
Serial podcast’inin bu sezonunun tamamını dinlemenizi tavsiye ederim
“Büyük miktarda veriyi işleyerek hedef alınabilecek potansiyel ‘alt düzey’ ajanları hızla tespit etti. Dört kaynak, savaşın başlarında bir noktada Lavender’ın, AI sistemi tarafından Hamas veya PIJ ile bağlantılı olduğu belirlenen 37.000 kadar Filistinli erkeği listelediğini söyledi”
Bu, 2001’de Guantanamo’ya ya da daha gizli hapishanelere gönderilecek insanları seçme ve bulundukları yeri bombalama yönteminden çok da farklı değil
Daha da önemlisi, tıpkı şirket dünyasında olduğu gibi, ordudaki mühendislerin AI moda sözcüklerini abartıp AI’dan önce de yaptıkları şeyi aynen yapıyor gibi hissettiriyor
PayPal hesabınızdan ISIS olarak işaretlenmiş bir hesaba para gönderirseniz, ABD’nin üç harfli kurumları çok geçmeden kapınızı çalacaktır. Kullanıcı tanıklıklarına bakılırsa bu da tam olarak öyle geliyor. Hangi yerin bombalanacağına AI değil, insanlar karar verdi
“NSA targets SIM cards for drone strikes, ‘Death by unreliable metadata’”
https://www.computerworld.com/article/2475921/whistleblower-...
“Yalnızca [Hamas] mensuplarını askeri bir binanın içinde olduklarında ya da askeri bir faaliyete katıldıklarında öldürmekle ilgilenmiyorduk,” dedi istihbarat subayı A., +972 ve Local Call’a.
“Aksine, IDF onları tereddüt etmeden evlerinde bombaladı ve bu ilk seçenekti. Ailenin evini bombalamak çok daha kolay. Sistem, onları böyle durumlarda bulacak şekilde tasarlandı.”
Gazze’de yaklaşık 2 milyon sivil yaşıyor ve bunların çoğunun gıdaya, suya, ilaca ve güvenli sığınağa erişimi yok. Bu talihsiz insanların bir kısmı Hamas mensuplarının ve ailelerinin üstünde ya da altında yaşıyor.
“Ah, üzgünüz lol”, “bunu kastetmemiştik lol gerçekten”, “doktrinimiz düşman ajanı başına X sivil öldürmeye izin veriyor, yani sorun yok” gibi bir tavır var.
Gazze savaşı Ukrayna’dan farklı. Ukrayna ve Rusya’daki kasaba sakinleri cephe hattından Rusya tarafına ya da batıdaki Galiçya’ya gidebiliyor ve büyük nüfus merkezleri tamamen dümdüz edilmiyor.
Gazze’de ise herkes her an, herhangi bir nedenle ya da hiçbir neden olmadan ölebilirmiş gibi görünüyor. İsrail’in “stratejisi”, Ukrayna ile Rusya’yı bile itidal ve medeniyet örneği gibi gösteriyor
Ancak bu savaş, Hamas’ın da kurallara uymadığını ve sivillere fazlasıyla yakın hareket ettiğini gösteriyor
Bu teknolojinin gerçekte ne kadar isabetli olduğunu ya da sonuçlarla neredeyse hiç ilgilenilmeyip bunun yerine ileri teknoloji gibi görünen imaja mı daha çok önem verildiğini merak ediyorum.
Bir yandan böyle bir teknolojinin var olduğunu düşünmek korkutucu; öte yandan çıktılar o kadar önyargılı olabilir ki belki de sadece bir çöp yığınıdır.
Daha da korkutucu olan, iktidardakilerin “doğrulukla” ilgilenmediğine, sadece kendi önyargılarını doğrulayacak gerekçelerle ilgilendiğine dair kanıt olması. Bu her zaman böyleydi ama bunun AI ile ölçeklenmesi çok daha yıkıcı.
Eskiden yalan söyleyebilecek insan sayısının bir sınırı vardı; şimdi sınır, sihirli kara kutunun ne kadar hızlı çalıştığı
Bu kişi silahlı değildi; görevi gereği yardım ekibinin nereye gideceğini İsrail makamlarına bildirip yolun açılmasını sağlıyordu ve Birleşik Krallık’taki ailesi öldüğünü doğruladı. Bu yüzden doğal olarak böyle bir durumda hedefli öldürmeyi kimin onayladığı sorusu ortaya çıkıyor.
Olay sonrası fotoğraflarda füzenin aracın tavanını deldiği ve ironik biçimde araç üzerindeki açıkça görülen gıda yardım kuruluşu logosunun hemen yanına isabet ettiği görülüyor.
İsrail savunma bakanı şimdi bunun bir hata olduğunu iddia ediyor, ancak soruşturmaya göre gerçek hedef vurulmuş olsaydı angajman kuralları kapsamında konuyla ilgisiz 15 ila 100 ek ölüm de kabul edilebilir sayılabilirdi
Özellikle de “AI”ın sonuca nasıl vardığını denetlemek zorsa bu daha da geçerli. Artık herkes hedef olabilir.
Bu, ABD polisinin “esrar kokusu aldık” demesine ya da narkotik köpeğinin “işaret verdiğini” söylemesine benziyor. Her türlü aramayı, burada ise her türlü öldürmeyi meşrulaştıracak bir araç sağlıyor. Makine dönmeye devam ediyor
2018’de Google CEO’su Sundar Pichai, SVP Diane Greene, SVP Urs Hölzle ve baş mühendis Jeff Dean, ABD ordusu için Lavender benzeri bir sistem geliştirdi: Project Maven.
ABD ordusu bu sistemi Pakistan’da suikast düzenlenecek şüphelileri seçmek için kitlesel gözetim drone görüntülerini analiz etmekte kullanmak istiyordu. O sırada zaten yüzlerce eve ve araca bomba atılmış, binlerce şüpheli ile onların aileleri ve arkadaşları öldürülmüştü [0]
O dönemde ben Urs’ün Google Technical Infrastructure bölümünde çalışıyordum. Projeyi haberlerden öğrendim ve Urs ilgili toplantılarda bize sözleşmenin sadece 9 milyon dolar olduğunu söyleyerek yalan söyledi. Oysa çoktan 18 milyon dolara çıkmıştı ve 270 milyon dolara gidiyordu.
Urs ve Jeff Dean yaptıklarının etkisini küçümsemeye çalıştı. Jeff Dean etkiyi küçülterek anlatırken sürekli göz kırpıyordu; teknik tarafı anlatmaya başlayınca ise birden göz kırpmayı bıraktı. O anda hem ona hem de şirket liderliğine dair bütün saygımı kaybettim.
Mühendislik ve iş becerisinin yüksek olması, olgun bir ahlak anlayışının da beraberinde geleceği anlamına gelmiyor. Ne yazık ki toplumumuz, liderlerin ihtiyaç duyduğu ahlaki eğitimi almasını garanti edecek ya da ahlaki muhakemede tamamen başarısız olduklarında onları görevden uzaklaştıracak şekilde yapılandırılmış değil.
[0] https://en.wikipedia.org/wiki/Drone_strikes_in_Pakistan
Guardian da bu haberi birinci sayfasına taşıdı ve yayımlanmadan önce ayrıntıları aldı.
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Bana göre bu tür haberler kamu yararı taşıyan meseleler. Doğrudan talep etmeyeceğim ama işaretlemenin kaldırılıp tartışmanın sürmesini umuyorum
İşaretlemenin kaldırılıp birleştirilmesi iyi olurdu. Teknolojinin yeni kullanım biçimleri hakkında önemli bir haber gibi görünüyor.
[0] https://news.ycombinator.com/item?id=39917727