İsrail’in en üst düzey casus şefi, çevrimiçi güvenlik hatasıyla gerçek kimliğini ifşa etti
(theguardian.com)- Çok gizli tutulan İsrail askeri istihbarat birimi Unit 8200 komutanının kimliği, 2021’de Amazon e-kitabında kalan dijital izlerle ortaya çıktı
- Brigadier General YS mahlasıyla yayımlanan kitapta anonim bir e-posta adresi yer alıyordu; bu adres Yossi Sariel adına bir Google hesabına ve Maps·Calendar profillerine uzanıyordu
- The Human Machine Team kitabı, askeri personel ile yapay zekanın birleşimini ele alıyor ve IDF’nin Gazze savaşının altı ayı boyunca dayandığı yapay zeka tabanlı hedef öneri sisteminin taslağıyla bağlantılı
- IDF, söz konusu e-postanın kişisel bir hesap değil, kitapla ilgili özel bir hesap olduğunu söyledi; ancak daha sonra Sariel’in kişisel bilgilerinin ifşasını “hata” olarak kabul etti ve tekrarını önlemek için inceleme yapacağını duyurdu
- Bu ifşa, 7 Ekim 2023’teki Hamas saldırısını engelleyemeyen Unit 8200 etrafındaki sorumluluk tartışmaları ve teknoloji yanlılığı eleştirileri arasında Sariel üzerinde ek bir yük oluşturdu
Unit 8200 komutanının kimliğinin ifşası
- İsrail Unit 8200 komutanının kimliği, ordu içinde bile en hassas sırlardan biri olarak görülüyor
- Unit 8200, ABD’nin NSA’iyle karşılaştırılacak kadar güçlü bir gözetim kurumu olarak biliniyor
- Komutanın, 20 yılı aşkın süredir kamuoyuna açıklanmadan görev yapan Yossi Sariel olduğu doğrulandı
- Sariel’in kimliği, Amazon’da yayımladığı kitapla bağlantılı dijital izler üzerinden ifşa oldu
- E-kitapta yer alan anonim e-posta adresi, Sariel adına oluşturulmuş bir Google hesabına götürüyordu
- Bu hesaba benzersiz bir ID ile Google Maps ve Calendar profil bağlantıları iliştirilmişti
- IDF sözcüsü, e-postanın Sariel’in kişisel e-postası değil, kitapla ilgili konular için ayrılmış bir hesap olduğunu açıkladı
- Daha sonra IDF, İsrail basınına kişisel bilgilerin ifşasını “hata” olarak kabul ettiğini ve benzer olayların tekrarlanmasını önlemek için konuyu inceleyeceğini bildirdi
The Human Machine Team ve yapay zeka askeri stratejisi
- Sariel, Brigadier General YS mahlasıyla 2021’de The Human Machine Team’i yayımladı
- Mahlas, onun baş harflerinden oluşuyor
- Birden fazla kaynağın doğrulamasına göre Sariel, söz konusu kitabın kamuya açıklanmamış yazarı
- Kitap, yapay zekanın askeri personel ile makineler arasındaki ilişkiyi nasıl değiştirebileceğine dair bir vizyon içeriyor
- Sariel, modern savaşta makine öğreniminin çevreden çıkıp merkeze taşınması gerektiğini düşünüyor
- Temel yönelim, tamamen otonom sistemlerden ziyade insan ile yapay zekanın sinerjisini hedefleyen human-machine teaming yaklaşımı
- Hedef okur kitlesi üst düzey askeri komutanlar ve güvenlik yetkilileri
- Sariel’in ABD’de Washington DC’deki National Defense University’de misafir araştırmacı olarak bir yıl geçirdikten sonra IDF izniyle kitabı yazdığı anlaşılıyor
Yapay zeka hedef makinesi fikri
- Kitabın bir bölümü, yapay zeka tabanlı “targets machine” kavramını ele alıyor
- Bu kavram, IDF’nin Gazze bombardımanında kullandığı bildirilen hedef öneri sistemi açıklamasına benziyor
- Sariel’e göre etkili bir hedef makinesi oluşturmak için insan beyninin işleyemeyeceği büyük veri gerekiyor
- Savaş alanı verileri, nüfus bilgileri, görsel bilgiler, cep telefonu verileri, sosyal medya bağlantıları, fotoğraflar ve cep telefonu rehberleri örnek olarak veriliyor
- Ne kadar çok ve çeşitli veri olursa o kadar iyi olduğu görüşünde
- Hedef makinesi, küçük özellikleri büyük ölçekte birleştirerek tahmin yapan karmaşık modeller kullanıyor
- Örnekler arasında Hezbollah üyeleriyle aynı WhatsApp grubunda bulunan kişiler, birkaç ayda bir yeni cep telefonu alan kişiler ve sık sık adres değiştiren kişiler yer alıyor
- Yapay zeka, potansiyel askeri hedefler oluşturma sürecinde insan istihbarat görevlileri veya askerler nedeniyle oluşan darboğazı azaltmanın bir aracı olarak ele alınıyor
- Yeni hedeflerin aranması ve onay kararları
- Büyük ölçekli veri işleme
- İstihbarat ile ateş gücünün bağlantılandırılması
Gazze savaşındaki yapay zeka sistemleri
- IDF, Sariel’in komutası altında Unit 8200’ün hızla geliştirip iyileştirdiği çeşitli yapay zeka tabanlı karar destek sistemlerini Gazze savaşının altı ayı boyunca konuşlandırdı
- Kamuya açıklanan sistemler arasında the Gospel ve Lavender yer alıyor
- İki sistem, İsrail-Filistin yayını +972 magazine, İbranice yayın Local Call ve Guardian aracılığıyla bilinir hale geldi
- IDF, yapay zeka sistemlerinin insan istihbarat subaylarına yardımcı olmak için tasarlandığını açıklıyor
- İnsan istihbarat subayları, askeri şüphelilerin uluslararası hukuka göre meşru hedef olup olmadığını doğrulamak zorunda
- Sözcü, ordunun çeşitli araç ve yöntemler kullandığını; yapay zeka temelli olarak istihbarat araştırmacılarına yardımcı olan araçların da bulunduğunu belirtti
7 Ekim sonrası Unit 8200 tartışması
- Sariel’in güvenlik hatası, Unit 8200’ün 7 Ekim 2023’teki Hamas saldırısını öngöremediği ve engelleyemediği yönündeki eleştiriler arasında kamuoyuna yansıdı
- Söz konusu saldırıda Filistinli silahlı gruplar yaklaşık 1.200 İsrailliyi öldürdü ve yaklaşık 240 kişiyi kaçırdı
- Unit 8200, bir dönem Birleşik Krallık’ın GCHQ’suna denk istihbarat kapasitesiyle İsrail içinde ve dışında yüksek itibar görüyordu
- Filistin bölgelerini yakından izleyen geniş ölçekli bir gözetim altyapısı kurduğu düşünülüyor
- Saldırıdan sonra Unit 8200’ün teknolojik kibrinin geleneksel istihbarat toplama yöntemlerini feda ettiği eleştirileri gündeme geldi
- İsrail gazetesi Maariv, Şubat 2024’te 7 Ekim sonrası Unit 8200 içindeki sorumluluk tartışmalarını ele aldı
- Sariel, adı yerine Unit 8200 komutanı “Y” olarak anıldı
- Eleştirenlere göre Sariel’in komutası altında birlik, “bağımlılık yapan ve heyecan verici” teknolojiyi önceleyerek felakete giden yolu açtı
- Sariel’in meslektaşlarına, 7 Ekim’in son gününe kadar kendisini rahatsız edeceğini söylediği; en derin anlamıyla sorumluluğu kabul ederek “yenildik. ben yenildim” dediği aktarıldı
1 yorum
Hacker News yorumları
Alıntıda geçen güvenlik hatasının tam olarak ne tür bir şey olduğunu daha çok merak ediyorum
Amazon'da kendi kendine yayın yapan yazarların hesap e-posta adresini açığa çıkaran bir bug mı var, yoksa kitapta Google Maps ya da Google Calendar içeriği paylaşırken bu özelliklerin gerçek e-posta adresini ortaya çıkardığını bilmiyorlar mı, bunu merak ediyorum
Geri bildirim, düzeltme, inceleme ve basın iletişimi almak için açılmış bir Gmail hesabı varmış ve bunun neredeyse anonim olması gerekse de gerçek adıyla kayıtlı olduğu anlaşılıyor
En azından yanıt verdiği kişiler onun adını görmüş olmalı; başka hesap bağlantıları üzerinden de ortaya çıkmış olabilir
Kimlik numarası gibi bir şey mi, askerî sicil numarası mı, yoksa başka bir tanımlayıcı mı, bilmiyorum
Burada bir güvenlik zafiyeti varmış gibi görünmüyor
Bazı insanlar gerçek kimliğini gizlemek için takma ad kullanır, bazılarıysa kamusal persona ile özel hayatını ayırmak için takma ad kullanır
Bu örnek açıkça ikincisine daha yakın
Kitabı kendi baş harflerini ve mesleğine dair ipuçlarını birleştirerek yayımlamış; e-postayı ciddi biçimde gizlemeye çalışmamış olması da bu açıdan doğal
Bu, JJ Lehto'nun gerçek adını bulduğunu haber yapmak kadar sıradan bir şey
Tekrar düşününce, bu aynı zamanda hem savaş adı hem de takma ad sayılıyor
Operasyonel güvenlik zordur
Ve yapay zekanın potansiyeli konusunda ne kadar iyimser olunursa olunsun, kimi öldüreceğine karar vermek için yapay zeka kullanmak korkunç ve açıkça etik dışıdır
Bu, sorumluluğu olmayan vahşetlere kapı açar
Bu kişinin baştan anonim olması da zaten hesap verebilirliğin amaçlanmadığına dair bir işaret gibi görünüyor
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Yine de o haberde korkutucu kısımların çoğu insan operatörlerden kaynaklanıyor
Makinelere güvensizlik duymak için gerekçe arama konusunda epey güçlü bir isteksizlik var gibi görünüyor
“Yapay zekayı kullanarak kimin öldürüleceğine karar vermek etik dışıdır” duygusuna katılıyorum ama bu kadar güçlü bir önermeyi kabul etmekte zorlanıyorum
Örneğin hedef belirleme kararını veren 10 kişilik bir grup varsa ve yapay zeka iş yükünü azaltıp bu 10 kişinin daha uzun süre yeniden değerlendirme yapmasını sağlıyorsa, bu da “yapay zekayı kullanarak kimin öldürüleceğine karar vermek” olur; ama sonuç aslında iyileşebilir
Sorun, gerçekte insanların sorumluluğu makineye atıp omuz silkme ihtimalinin yüksek olması
Bu soruya düzgün cevap verip aynı zamanda kolay bir cevap üretmenin zor olduğunu düşünüyorum
Tam tersine, bu tür yorumlar ve düşünce biçimleri sorumluluktan kaçmayı mümkün kılıyor
Yapay zekayı kullanmaya karar veren bir insan vardır ve sorumluluk da o insana aittir
Bu sorumluluğu üstlenemiyorsa yapay zekayı kullanmamalıdır
Kimliği açığa çıksa bile çok önemli değil
Direktör düzeyinde bir isimse zaten ne yaparsa yapsın daha görünür olur ve saklanamaz
Askerî alanda üst düzey subayların kimliği korunmaz çünkü orduyu temsil ederler
Elbette alt ve orta kademe askerler ile personel, emirleri uygulayan ve fiilî riski üstlenen kişiler oldukları için kimlikleri her zaman korunmalıdır
Seyahat ederken suikast riskine açık olabileceği için kimliğinin açıklanmamış olması daha iyi olurdu, ama dürüst olmak gerekirse bu büyük bir haber değil
Muhtemelen yalnızca İsrail karşıtı gruplarda nefret yorumları üretir
Görünüşe göre kimliğini gizlemeye çalıştı ve bunu oldukça feci biçimde başaramadı; haber değeri de buradan geliyor
Kitap burada:
https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...
Ben şahsen onun kimliğiyle ilgilenmiyorum ama bu haber, yayımladığı kitabın içeriğine de değiniyor; bence çok daha ilginç olan tarafı bu
Yossi Sariel'in dahiyane 4 boyutlu satranç hamlesi
Galiba resmen istifa etmeden görevden ayrılmak için hata yapmış gibi görünüyor.
Bu “hata”, üstlerine onu göndermek için gerekçe verirken 7 Ekim olaylarından sıyrılmasını da sağlıyor.
7 Ekim'den sonra yaşananlara bakınca, iki taraf da herhangi bir biçimde strateji kurma konusunda yetkin görünmüyor.
Hele “dahiyane 4 boyutlu satranç” hiç değil.
3 yıl sonra istifa etmeden sıyrılmanın yolunu hazırlamak için o zaman bilerek hata mı yaptı yani?
Bunu gerçekten gizli tutmak istiyormuş gibi durmuyor.
İsteseydi Snowden gibi bir ifşacı da olabilirdi.
Bunun uzmanlar için bile zor olduğunu görmek tuhaf bir teselli veriyor.
“Sariel'in eleştirmenleri, Unit 8200'ün daha geleneksel istihbarat toplama yöntemleri yerine ‘bağımlılık yapan ve ilgi çekici’ teknolojileri önceliklendirmesinin felakete yol açtığını düşünüyor” deniyor.
Onlar da mı Kubernetes ve en yeni frontend framework'lerini kullanıyor?
Tüm katil robotları hardcoded isimlerle tek tek yöneten dev bir useEffect() döngüsü var.
Henüz memoization araştırmasına bütçe çıkmadığı için biraz yavaş, ama yeterince güçlü donanımda idare ediyordu.
Balistik hesapların hepsi WebGL ile yapıldığı için son birkaç yıldaki küresel GPU kıtlığının sebebi de buydu.
Bazen viewport boyutunu yanlış ayarladıkları için yan hasar da oluyordu :(
Dersini alan İsrail'in bir sonraki AI projesi, kanıtlanmış yöntemleri izleyecek ve tamamen CSS ile yazılacak.
Daha yerinde benzetme, kıdemli geliştiricileri kovup yerlerine ChatGPT aboneliği olan junior'lar almak ve sonra geliştirme hızının ciddi biçimde artmasını beklemek olur.
Bodrumlardaki rastgele bilgisayarları ele geçirip küçük fonksiyonları dağıtık biçimde çalıştırmaları için oralara gönderiyorlar.
Veriler o kadar küçük ki ne yaptıklarını yeniden kurmak imkansız.
Sovyet usulü SETI@HOME.
Farkında olmadan onların verilerini işliyor olabilirsiniz.
Yapabileceğiniz tek şey, arka kapıyı temizlemek için sistemi formatlamak; artık işe yaramasını umarsınız.
Operasyonel güvenlik zordur.
99.999 kez her şeyi doğru yapsanız da, bir kez hata yaptınız mı iş biter.