ICE, yapay zekayı kullanarak sosyal medyayı izleyecek

• ABD Göçmenlik ve Gümrük Muhafaza Kurumu (ICE), yapay zeka tabanlı sosyal medya izleme yazılımını devreye almak için 5,7 milyon dolarlık bir sözleşme imzaladı ve çevrimiçi faaliyetleri gerçek zamanlı analiz eden gözetim ağını genişletiyor
• Sözleşmenin konusu, Carahsoft Technology aracılığıyla sağlanan Zignal Labs platformu; bu platform İsrail ordusu ve ABD Savunma Bakanlığı tarafından halihazırda kullanılan yapay zeka ve makine öğrenimi tabanlı bir veri analiz sistemi
• Zignal, günde 8 milyardan fazla gönderiyi analiz ederek “seçilmiş tespit akışları” sunuyor ve ICE’nin suç soruşturmaları ile göçmenlik denetimi stratejilerinde kullanılacak
• Bu teknoloji, ifade özgürlüğü ve kişisel verilerin korunmasının ihlali endişelerini doğuruyor; sendikalar ve sivil toplum kuruluşları bunun hükümetin siyasi gözetim programı olduğunu söyleyerek dava açtı
• ICE yapay zeka gözetim kapasitesini sürekli genişlettikçe, hükümetin dijital gözetim sistemi özel sektör ve savunma alanlarının ötesine geçerek toplumun geneline yayılıyor

---

ICE’nin yeni yapay zeka gözetim sözleşmesi

• ICE, Carahsoft Technology ile 5 yıl süreli 5,7 milyon dolarlık bir sözleşme imzalayarak Zignal Labs sosyal medya izleme platformunun kullanım hakkını aldı
  • Sözleşme Eylül 2024’te açıklandı ve ICE’ye bağlı Homeland Security Investigations (HSI) birimi tarafından gerçek zamanlı veri analizi için kullanılacak
  • Zignal, İsrail ordusu ve ABD Savunma Bakanlığı tarafından zaten kullanılan bir platform; günde 8 milyardan fazla gönderiyi analiz ederek tehdit tespit akışları sağlıyor
• Zignal, yapay zeka ve makine öğrenimini kullanarak büyük ölçekli çevrimiçi verileri otomatik analiz ediyor ve kolluk kuvvetlerinin tehditleri hızla belirlemesine yardımcı oluyor
  • Şirket bunu “daha net ve daha hızlı tehdit yanıtı” sağlayan bir araç olarak tanıtıyor
• ICE’nin bu sözleşmesi, sosyal medya gözetim ağını güçlendirmeye yönelik uzun vadeli stratejisinin bir parçası; 2019’da Secret Service’in Zignal’i ilk kez kullanmaya başlamasının ardından bunun daha da genişlemiş bir versiyonu niteliğinde

Zignal Labs’in geçmişi ve askeri kullanımı

• Zignal Labs, 2011’de Silikon Vadisi’nde kuruldu ve başlangıçta halkla ilişkiler ve siyasi kampanyalara yönelik veri analiz hizmetleri sundu
  • Daha sonra faaliyetlerini savunma ve istihbarat kurumları pazarına kaydırdı; 2021’de kamu sektörü danışma kurulu oluşturarak ulusal güvenlik alanına girişini resmileştirdi
• 2025’te yayımlanan şirket broşüründe İsrail ordusuyla işbirliği açıkça belirtiliyor ve Gazze’deki saha operasyonlarına taktik istihbarat (tactical intelligence) sağladığı ifade ediliyor
  • Broşürde ayrıca ABD Deniz Piyadeleri ve Dışişleri Bakanlığı ile yapılan işbirliği örnekleri de yer alıyor
• Zignal, ICE ile yapılan sözleşme ve İsrail ordusuyla ilgili sorular hakkında resmi yanıt vermeyi reddetti

ICE’nin mevcut gözetim araçları ve genişleme adımları

• ICE halihazırda ShadowDragon, Babel X gibi çeşitli dijital gözetim araçlarına sahip
  • ShadowDragon, açık web sitelerini kullanarak bir kişinin çevrimiçi faaliyet haritasını çıkarıyor
  • Babel X ise sosyal medya profilleri, konum bilgileri ve sosyal güvenlik numaralarını birbiriyle ilişkilendirerek analiz ediyor
• Kısa süre önce ICE, SOS International LLC (SOSi) ile 7 milyon dolarlık bir sözleşme imzalayarak ‘skip tracing’ (konum takibi) hizmetini devreye aldı
  • SOSi, ICE istihbarat dairesinden eski yönetici Andre Watson’ı kadrosuna katarak kolluk kuvvetleriyle işbirliğini genişletmeye çalışıyor
• Bu sözleşmeler, ICE’nin yapay zeka tabanlı gözetim kapasitesini sürekli olarak genişlettiğini gösteriyor

Sivil toplum kuruluşları ve sendikaların tepkisi

• Amerikan Sivil Özgürlükler Birliği (ACLU) Başkan Yardımcısı Patrick Toomey, “Hükümetin yapay zekayı kullanarak yurttaşların çevrimiçi konuşmalarını izlemesi sivil hakların ihlalidir” diyerek eleştiride bulundu
  • Toomey, bu tür kara kutu teknolojilerin gizlice işletilmesinin hesap verebilirlik eksikliği anlamına geldiğini söyledi
• Sendika konfederasyonları, hükümetin sosyal medya gözetiminin siyasi görüşlere dayalı kitlesel bir gözetim programı olduğunu söyleyerek dava açtı
  • Davada, hükümetin yapay zeka ve otomasyon araçlarını kullanarak belirli görüşlere sahip kişileri izlediği öne sürülüyor
  • Electronic Frontier Foundation (EFF) ile Yale Hukuk Fakültesi Basın Özgürlüğü Kliniği, bu tür gözetimin caydırıcı etkiyi (chilling effect) derinleştirdiği uyarısında bulundu

Siyasi gözetim örnekleri ve toplumsal etkiler

• ICE’nin Trump yönetimi döneminde sosyal medya verilerini göçmenlik denetimi stratejilerinde doğrudan kullandığı biliniyor
  • Filistin yanlısı aktivist Mahmoud Khalil gibi isimler, İsrail yanlısı aşırı sağ siteler tarafından internette ifşa edildikten (doxing) sonra gözaltına alındı
  • Son dönemde New York’taki seyyar satıcılara yönelik denetimlerin, sağcı influencer’ların video paylaşımının hemen ardından gerçekleştiği örnekler de görüldü
• Bu örnekler, özel gözetim ile devlet denetimi arasındaki sınırın bulanıklaştığını gösteriyor
  • Hükümetin, özel kişilere ait çevrimiçi bilgiler ile yapay zeka analizini birleştirerek bunu siyasi ve toplumsal kontrol aracı olarak kullanabileceği endişesi doğuyor

Sonuç: Yapay zeka gözetiminin kurumsallaşması ve riskleri

• ICE’nin Zignal’i devreye alması, yapay zeka gözetiminin kurumsallaşmasını simgeliyor; ayrıca gelecekte 24 saat kesintisiz izleme ekibi kurma planı da sürüyor
• Hükümetin yapay zeka gözetimini genişletmesi, göçmenler, aktivistler, işçiler gibi kırılgan grupların ifade özgürlüğünü baskılayabilir
• Uzmanlar, şeffaflık, denetim ve hukuki düzenleme olmadan yapay zeka gözetiminin büyümesinin demokratik denetimde ciddi bir boşluk yaratabileceği uyarısında bulunuyor

[GN⁺]

Hacker News görüşleri

• Görünüşe göre yapay zeka hamlesinin gerçek nedeni ancak şimdi ortaya çıkıyor
  George Orwell’in 1984 eserindeki gibi, her sesin dinlendiği ve her hareketin izlendiği bir dünyada yaşıyormuşuz gibi hissettiriyor

  • Artık Wi-Fi sinyalleriyle bile insanları görmek mümkün deniyor; demek ki karanlıkta bile gözetimin mümkün olduğu bir döneme girdik
    :(
  • Şeytanın avukatlığını yapacak olursak, yasayı çiğneyen insanların cezalandırılması o kadar da kötü bir şey mi diye düşünmeden edemiyorum
    Yaya geçidi dışından geçmek gibi küçük ihlaller olsa bile, yasanın belirlediği sınırlar içinde ceza verilmesi gerektiği düşünülebilir

• Mahkemede şöyle bir sahne çıkması mümkün gibi görünüyor
  Bir ICE görevlisinin “Bu kişi yasa dışı göçmen mi?” diye sorması ve yapay zekanın “Evet!” diye yanıt verdiği türden bir “kanıtın” ortaya konduğunu hayal ediyorum

  • Ancak zaten rastgele kaçırma düzeyinde gözaltılar yaşanıyor; bu yüzden vatandaş olup olmamaktan bağımsız olarak tehlikeli bir durum söz konusu
  • Fiilen usule uygun yargılama olmadan sınır dışı etme çok sık yaşandığı için, böyle durumlarda çoğu zaman dava bile açılmıyor
  • Sonuçta ICE, istediği sonucu meşrulaştırmak için yapay zekayı bir gerekçe olarak kullanıyor gibi görünüyor

• Şirketlerin yasa dışı göçmen çalıştırması sorununu çözmeden, ICE operasyonları sadece köstebek vurma oyunu olmaktan öteye gitmez
  İş olduğu sürece insanlar ABD’ye gelmeye devam edecektir

  • Büyük ölçekte yasa dışı işçi çalıştıran şirketlerin siyasi etkisi o kadar büyük ki, gerçekten kitlesel sınır dışı etme fiilen mümkün değil
    ICE’ın son dönemdeki davranışlarının seçmene göz boyamaya yönelik bir gösteri olduğunu düşünüyorum
  • ICE’ın yalnızca göç denetimi yapan bir kurum değil, gizli polis gibi kötüye kullanılabilecek bir yapıya dönüşebileceğini de düşünüyorum
  • Pek çok durumda işe giriş çalınmış kimlikler ve sahte belgelerle yapılıyor ve şirketler bunu bilerek görmezden geliyor
    Böyle bir yapıda ICE baskınlarından çok, yöneticilerin sorumluluğunu sormak daha önemli görünüyor
  • POSIWID ("The Purpose Of a System Is What It Does") açısından bakıldığında, mevcut sistem emek sömürüsünü sürdürmeye yarayan bir yapı
    Yasa dışı işçiler iş kanunlarının korumasından yararlanamıyor ve işverenler bu sayede düşük ücret ve sorumsuzluğu sürdürüyor
  • Son tahlilde bu tür politikalar, beyaz seçmenin kaygısını yatıştırmaya yönelik siyasi bir gösteriden ibaret

• Cumhuriyetçilerin bir zamanlar kendi kimliklerinin parçası olan vatandaşlık ve egemenliğin korunması fikrinden bu kadar hızlı vazgeçmiş olması şaşırtıcı

  • Aslında “eyalet hakları” söylemi, eskiden beri azınlıkları bastırmak için kullanılan bir bahaneydi
    Federal hükümet ise çoğu zaman bu baskıya karşı son savunma hattı işlevi gördü
    Bu konuda Freedom’s Dominion kitabını tavsiye ederim
  • Cumhuriyetçilerin “egemenlik” söylemi, sonuçta sadece kendi taraflarına yaradığı zaman geçerli olan seçici bir ilke
  • Gerçekte mesele “egemenlik” değil, iktidar ve kontrol meselesi
    Trump, Cumhuriyetçilerin gerçek yüzünü ortaya çıkaran kişi oldu; Hristiyan milliyetçileri ise ABD’yi tek partili bir teokratik devlete dönüştürme yönünde ilerliyor
  • “States’ rights” nihayetinde sadece kölelik ve ırkçılık için kullanılan bir şifreli ifadeydi; özgürlükle hiçbir ilgisi yoktu

• The Guardian haberine göre, Britanyalı bir gazeteci ABD’de İsrail eleştirisinin ardından ICE tarafından gözaltına alındı

  • Ancak gerçekte gözaltı nedeninin ne olduğu belirsiz
    The Guardian yalnızca ilgili tarafın bağlı olduğu kuruluşun tahminlerine yer vermiş; ICE’ın görüşünü doğrulamamış
    Başlık teknik olarak doğru olabilir ama “gazeteci sabah kahvaltıda gevrek yedi ve sonra gözaltına alındı” demekle aynı düzeyde bir çıkarım olur
  • ICE’ın yaptıklarını desteklemiyorum ama CAIR ile gazetecinin ‘ifade özgürlüğü’ gerekçesiyle itiraz etmesi bana çelişkili geliyor
    Çoğu İslam ülkesinde ifade özgürlüğü yok
    Böyle ülkelerin çıkarlarını temsil eden bir kuruluşun yalnızca ABD’de özgürlük talep etmesi ikna edici gelmiyor
  • Şu anda en iyi seçenek ABD’ye gitmemek gibi görünüyor
    Para verseler bile şu aşamada gitmezdim

• Birisi, ICE’ın GPU’larını yaktırmak için sürekli “yasadışı göçmen çalıştırmayı planlıyorum” yazsa nasıl olur diye şaka yapmış

  • Buna yanıt olarak Emacs’in spook.el dosyası ve Tom7’nin Spook projesi akla geliyor
  • Ne de olsa o GPU maliyetleri bizim ödediğimiz vergilerle karşılanıyor
    Amerikalılar bunu doğrudan vergilerle, yurtdışındakiler ise gümrük tarifeleri yoluyla dolaylı olarak ödüyor

• Demokraside devlet gücü mutlaka sınırlanmalıdır
  Taraflardan biri iktidarı ele geçirip diğerini bastırırsa, o güç sonunda bir sonraki yönetimde de aynen kalır ve başka bir baskının aracına dönüşür
  Bugünkü gibi maskeli baskın ekipleri ve plakası kapatılmış araçların ortalıkta dolaşması çok tehlikeli bir işaret
  Eğer bir sonraki başkan Putin benzeri biri olursa, şimdiden gözetim ve kontrolün anahtarlarını teslim etmiş oluruz

  • Gerçek demokrasi ancak devletin vatandaşı korurken, vatandaşın da kendini devlete karşı koruyabildiği dengeyi muhafaza ettiğinde mümkündür

• Artık herkes yapay zekayla bir gözetmene dönüşebilir
  Sadece ICE ya da polis değil, sıradan vatandaşlar da sosyal medya üzerinden birbirini izleyebilir
  “Googling someone” artık giderek “birini ChatGPT’lemek” haline geliyor
  Böyle bir ortamda özgür ifade kendini sansürlemeye başlıyor ve web giderek daha az ilginç hale geliyor

• Dünyanın dört bir yanındaki hükümetler ve polis teşkilatları, yapay zekayı vatandaşları kontrol etmek ve cezalandırmak için kullanma yönünde ilerliyor
  Yapay zeka bir özgürleşme aracı değil, silah haline getirilmiş bir teknolojiye dönüşmüş durumda; bu yüzden de teknoloji CEO’ları askeri sistemin bir parçasıymış gibi görünüyor

• ICE’ın sosyal medyadaki yanlış bilgilere kanıp en aptalca ve en utanç verici şeyi yapmasını sağlayan kişiye ödül koyulsa eğlenceli olurdu

  • “HIZONNER CAT3-SDA-HN: DISSIDENT DEPORTATION ALERT” gibi hicivli kod adlarıyla uyarılar geçildiğini de hayal edebiliyorum