Palantir’in ICE baskın bölgelerini seçmek için kullandığı uygulama: ‘ELITE’

• ‘ELITE’, ABD Göçmenlik ve Gümrük Muhafaza Kurumu (ICE) tarafından sınır dışı edilecek kişileri bulmak için kullanılan Palantir’in dahili aracı; harita tabanlı bir arayüz üzerinden belirli bölgelerdeki hedef yoğunluğunu görselleştiriyor
• Uygulama Google Maps’e benzer bir yapıda ve göçmen yoğunluğu dahil verileri kullanarak ‘hedefin çok olduğu bölgeleri’ işaretliyor
• Kullanıcı belirli bir kişiyi seçtiğinde ad, fotoğraf, Alien Number, doğum tarihi ve adres içeren kişisel bir profil (dossier) gösteriliyor
• Dahili belgelere göre sistem, hedefin mevcut adresine yönelik güven skoru (confidence score) da sunuyor ve geniş çaplı ırksal profillemede kullanılıyor
• Yazı, bu tür teknolojilerin yasal süreç olmadan insanları sınır dışı etmeye yönelik idari gücü artırmaya katkı sunduğunu ve geliştiricilerin etik sorumluluğu sorusunu gündeme getirdiğini savunuyor

---

ICE ve Palantir’in teknik iş birliği

• Dahili ICE belgeleri ve ilgili kişilerin ifadelerine göre, Palantir’in ICE için kurduğu teknik altyapı ile saha baskın faaliyetleri arasında doğrudan bir bağlantı olduğu doğrulanıyor
• 404 Media’nın haberine göre ELITE sistemi, ICE tarafından geniş çaplı sınır dışı operasyonlarının yapılacağı bölgeleri belirlemek için kullanılıyor
• Bu araç, harita üzerinde potansiyel sınır dışı hedeflerini işaretliyor ve her kişi için adres güven skoru (confidence score) sağlıyor

ELITE’in özellikleri ve arayüzü

• ELITE, Google Maps benzeri bir harita arayüzünü temel alıyor ve göçmen yoğunluğu da dahil verilerle ‘hedef açısından zengin bölgeleri’ görselleştiriyor
• Kullanıcı harita üzerinde belirli bir kişiye tıkladığında sistem, ad, fotoğraf, Alien Number, doğum tarihi ve tam adres içeren kişisel bir profil (dossier) gösteriyor
• Bu veriler, ICE tarafından kişilerin konumunu takip etmek ve gözaltı operasyonlarını planlamak için kullanılıyor

Etik sorunlar

• Yazı bu sistemi “geniş çaplı ırksal profilleme” olarak nitelendiriyor ve teknolojinin insanları yasal süreç olmadan sınır dışı etmek için kullanılmasını eleştiriyor
• Yazar, Palantir çalışanlarının bu ürünleri geliştirirken hissedebileceği ahlaki çatışmayı tasvir ediyor
  • “Her gün işe gelip, insanları sınır dışı eden yazılımı yapmak” ifadesiyle geliştiricinin gündelik işi ile etik arasındaki kopukluğu vurguluyor
• Palantir çalışanlarının maaş, hisse opsiyonları ve yan haklar gibi avantajlardan yararlanırken, geliştirdikleri teknolojinin silahlı kurumların şiddet eylemlerine katkı sağladığına dikkat çekiliyor

Teknoloji ile şiddet arasındaki bağ

• Yazı, ICE’nin silahlı bir güç olarak sivilleri kaçırma ve ateş açma eylemlerine değinerek, ELITE’in bu faaliyetleri “güzel ve modern bir harita arayüzüyle” desteklediğini söylüyor
• ICE’nin bir kadını yüzünden vurduğu olay gibi şiddet örneklerine yer verilerek, teknolojinin şiddet içeren idari yaptırımı verimli hale getiren bir araç olarak kullanıldığı eleştiriliyor

Teknoloji çalışanları ve toplumsal sorumluluk

• Yazı, Palantir çalışanlarının bir yandan “bu ekiple çalışmak keyifli” diye düşünebildiğini, diğer yandan “başka bir iş bulmalıyım” şeklinde içsel bir çatışma yaşayabildiğini anlatıyor
• Bir teknoloji çalışanının emeği toplumsal şiddete katkıda bulunduğunda, bunu yalnızca geçim veya kariyer gerekçesiyle haklı gösterip gösteremeyeceğini sorguluyor
• Sonuç olarak ELITE, ICE’nin şiddet içeren baskınlarını teknik olarak destekleyen bir sistem olarak sunuluyor ve teknoloji geliştiricilerinin etik sorumluluğu sorununu görünür kılan bir örnek olarak gösteriliyor

[GN⁺]

Hacker News yorumları

• Ben Palantir'de hiç çalışmadım ama gürültücü liderliğin kötü adam rolü yapma halini bir kenara koyunca bu şirket bana tipik bir kurumsal tedarikçi gibi geliyor
  Ürünler sıradan, ama kurumsal alıcılara abartılı şekilde pazarlanıyor ve sonunda sahadaki çalışanlara zorla kullandırılıyor
  Asıl sorun, bu tür araçları kullandıran politika kararları ve denetlenmesi gereken verileri geniş çapta erişilebilir kılan yapı
  Palantir'e “kötü adam” imajı yüklemektense, neden böyle araçların istenir hale geldiğinin politik arka planına odaklanmak gerek

  • Ben de Palantir'e benzer bakıyorum. Sonuçta danışmanlık şirketi gibi; harita, graph DB ve “AI” ambalajına sarılmış bir hizmet
    Pahalı forward deployed engineer satarak müşteriye özel uyarlama yapıyorlar
    Etik bir şirket olduklarını söylemek zor ama kişisel veriyi doğrudan kendileri toplamıyorlar. Veriyi müşteri sağlıyor
    Değişim de o müşteri tarafında olmalı
  • Sahte kötülük diye bir şeyin var olması bile sarsıcı. 1600'lerdeki “sahte dindarlık” gibi, bugün de sahte kötücüllük moda olmuş durumda
    Şirketlerin gerçekte olduklarından daha kötü görünmeye çalıştığı bir kültür varsa, bu toplumun ahlaki iflasıdır
  • Katılmıyorum. Sorun Palantir ve müşterileri, ikisi de
    Aracı üretmemeyi seçmek de mümkün, kullanmamayı seçmek de
  • Asıl sorun, devletin Palantir hizmetlerini kullanarak verileri birbirine bağlaması ve kitlesel gözetimi mümkün kılması
  • Karp bunu “hükümetin işini daha iyi yapmasına yardım etmek” diye meşrulaştırıyor
    Ama sonuçta hükümeti denetlemek seçmenlerin görevi

• Bugünlerde insanlar karmaşık düşünebilme yetisini kaybetmiş gibi
  ICE'nin açık ve etik bir görevi olabileceğine inanırken, bu görevin uygulanış biçiminin yanlış olduğunu da düşünebilirsin
  Belgesiz göçmenleri “özünde yasa dışı” diye damgalamadan da, yasal süreçlere uymanın önemli olduğuna inanabilirsin
  Dünya siyah-beyaz değil; neden her şeyi bu kadar iki uçtan düşünür olduk bilmiyorum. Belki de sosyal medyanın etkisidir

  • Ama güç ve silah sahibi taraf yalnızca “tek doğru inancı”, yani “Amerikan değerlerini” dayatmak istiyor
    Bu simetrik bir ideolojik kavga değil. Yaklaşan ara seçimlerdeki mavi dalga son umut olabilir
    O da olmazsa, Rus edebiyatındaki umutsuzluk daha da anlamlı gelecek gibi
  • “Mümkün” demek “doğru” demek değildir
    ICE'nin yasal görevi net değil ve pratikte bu görev etik dışı ve yasa dışı yöntemlerle yürütülüyor
    Sırf “savunulabilir bir görüş” diye meşrulaştırılamaz
  • “Göçmenlik kuyruğuna kaynak yapmak ahlaksızlıktır” demek, gerçekliği bilmeyen bir iddia
    Yoksul insanlar için böyle bir kuyruk zaten yok. Yasal vizeye başvurma imkanı bile yok
  • Mesele insanların karmaşık düşünememesi değil, bu karmaşıklığın ödüllendirilmemesi
  • Bir de artık şu umursuyormuş gibi yapma (trolling) işini bırak diyenler var

• Başka şirketlerdeki liderlere ve işe alım sorumlularına şunu söylemek istiyorum
  Palantir'den ahlaki nedenlerle ayrılmak isteyen mühendislerle açıkça görüşeceğinizi ilan etseniz keşke
  İş değiştirme bariyerini düşürmek ve böyle insanlara sığınacak bir yer sunmak, sektörün yeni normu olsa keşke

  • Ama ben tersini düşünüyorum. Etik açıdan şüpheli sistemler geliştirmiş birini şirketime almak istemem
  • Palantir'in itibarı zaten 10 yıl önce de kötüydü
    Bunu ancak şimdi fark eden birinin ilkeleri zayıf gibi geliyor
  • Topluma faydalı projelerde çalışıp iyi bir itibar oluşturmak daha iyi olur
    Garip şekilde hiç eski Palantir çalışanı CV'si görmedim. Belki otomatik filtreye takılıyorlardır ya da onlar böyle şirketlerle ilgilenmiyordur
  • Gerçekten yanlış bir şey mi yaptılar? Yeteneklerini suçluları takip etmek için kullanmanın aslında ahlaki bir görev olduğu da söylenebilir

• Palantir, kuruluşundan bu yana ABD hükümetinden yaklaşık 10 milyar dolarlık vergi parası aldı

  • Bugünkü hükümet fiilen bir şirket devleti gibi işliyor. Herkes ne kadar hortumlayabileceğini hesaplıyor
  • (Bu yorum şarkı sözü biçimindeydi ama telif nedeniyle çıkarılmıştı)

• Bu başlığın silinmemesi için daha derinlikli bir tartışma gerekli
  Palantir'in hangi ürün hattının kullanıldığı, FOIA'nın nasıl uygulandığı ve hangi verilerin sağlandığı somut biçimde ele alınmalı

• Palantir'in imaj yönetimi ekibi bu başlığa bu kez çok daha hızlı müdahil olmuş gibi

  • Muhtemelen çevrimiçi bot orduları işletip kamuoyunu yönlendiriyorlardır
    Hatta bunu müşterilerine bir hizmet olarak bile satıyor olabilirler
    Böyle sorunları önlemek için sitelerin anonim hesaplar için gerçek kimlik doğrulamasını güçlendirmesi gerekir

• 19 yaşımdayken, bir Palantir çalışanı TDD üzerine konuşma yapmaya gelmişti ve öğrenciler onu boykot etmişti
  O zaman bunun fazla uç bir tepki olduğunu düşünmüştüm ama şimdi aslında doğru olanın bu olduğunu hissediyorum
  Palantir gibi bir şirkette asla çalışmam. Zamanda geri gidebilsem ben de boykota katılırdım
  “Çin de bunu yapıyor, o halde biz de yapmalıyız” mantığı ahlaken iğrenç
  Çürümüş bir dünyaya verilecek yanıt daha da çürümek olmamalı. Bu mantık sorumluluğu dağıtıyor, insanlığı yok ediyor ve çatışmayı büyütüyor
  Bu ahlaki çürümeye karşı mücadele etmeliyiz

  • Böyle eleştiriler yapınca gerçek şu ki botlardan downvote yiyorsun

• Bu sadece “yasa dışı göçmenler” meselesi değil
  Zaten kitlesel gözetim altyapısı kurulmuş durumda. Bugün belli bir grubu hedef alıyor ama yakında herkes hedef olacak
  Flock, Ring gibi gözetim sistemleriyle AI ve veri entegrasyonu bunun temelini oluşturuyor
  Bu teknolojileri geliştirenler ahlaki sorumluluk taşımalı ve izlenebilir platformlara ihtiyaç var

  • Hükümet onlarca yıldır kaydı olmayan insanları bile bulabiliyorsa, vergi mükellefi takibi çok daha kolay olur
  • Ama ölçüt “ahlak” olacaksa, o zaman FAANG çalışanlarının da tamamını eleştirmek gerekir

• Orijinal makale: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
  Arşiv bağlantısı: archive.ph/wa32f