AI yüz tanıma hatası yüzünden masum bir kadın aylarca tutuklu kaldı

• AI yüz tanıma sistemindeki bir hata nedeniyle, bir kadın suçla ilgisi olmamasına rağmen tutuklanarak aylarca gözaltında tutuldu
• Olayın nedeni, Kuzey Dakota'da yaşanan bir dolandırıcılık vakasının soruşturması sırasında AI'ın yanlış kişiyi teşhis etmesi oldu
• Mağdur kadın, masum bir büyükanneydi ve gerçek suçla hiçbir ilgisinin olmadığı ancak sonradan ortaya çıktı
• Bu olay, AI tabanlı soruşturma teknolojilerinin güvenilirliği ve sorumluluk sorununu gözler önüne seriyor
• Kolluk kuvvetlerinin AI'a bağımlılığı konusunda daha güçlü doğrulama ihtiyacı tartışmalarını tetikleyen bir örnek oldu

---

AI yanlış tanıması nedeniyle haksız tutuklama olayı

• Kuzey Dakota'da AI yüz tanıma teknolojisindeki hata yüzünden bir kadın yanlışlıkla şüpheli olarak işaretlenip tutuklandı
• Söz konusu kadın, dolandırıcılık vakasıyla ilgisi olmayan biriydi ve masum olduğu doğrulanana kadar aylarca tutuklu kaldı
• Olay, AI teknolojisinin doğruluk sınırları ile hukuki sorumluluk sorununu öne çıkardı

Teknik hata ve toplumsal etkiler

• Yüz tanıma algoritmasının yanlış pozitif üretmesi, insan hakları ihlaline yol açan çarpıcı bir örnek olarak gösteriliyor
• Kolluk kuvvetlerinin AI analiz sonuçlarına doğrulama yapmadan güvenmesi temel sorun olarak işaret ediliyor
• Bu olay, AI teknolojilerinde adalet ve şeffaflığın sağlanması gereğini vurgulayan tartışmaları büyüttü

Kurumsal önlem ihtiyacı

• Uzmanlar, AI soruşturma araçlarının kullanım kriterleri ile doğrulama süreçlerinin güçlendirilmesini talep ediyor
• Yapay zeka hatalarından kaynaklanan yanlış kararları önleyecek mekanizmaların acilen kurulması gerektiği belirtiliyor
• Gelecekte hukuki sorumluluğun kimde olduğu ve mağdurun tazmini konularının başlıca tartışma başlıkları hâline gelmesi bekleniyor

[GN⁺]

Hacker News görüşleri

• Makalenin aslı (archive.ph) bağlantısı paylaşılmış

• Mahkeme belgelerine göre, polis AI’ın sunduğu yüz tanıma sonucunu insan eliyle doğrulamasına rağmen yanlış tutuklamayı sürdürmüş
  AI yalnızca “olası eşleşme”yi işaretlemişti, fakat insan soruşturmacılar bunu kesin kanıt gibi kabul etmiş
  Sonuçta 5 ay boyunca tek bir mülakat bile yapılmadan gözaltında tutulmasının nedeni ceza adaleti sisteminin ihmali

  • Pratikte artık sadece “bilgisayar doğru dedi” ifadesi “AI doğru dedi”ye dönüşmüş durumda
    İnsanlar makinelere otorite ve muhakeme gücünü aşırı derecede devrediyor ve hataların sorumluluğundan kaçmaya çalışıyor
  • Sorun sadece AI değil, AI ile birleşen polis yetkisi
    Yüz tanıma, plaka tanıma gibi gözetim teknolojileri kötüye kullanılıyor; mağdurun hayatı mahvolsa bile kimse hesap vermiyor
  • Sonuç olarak, insanların kusurlu AI’a körü körüne güvenmesi yüzünden toplumun çöküşünü görüyoruz
    Çoğu insan AI ile gerçek zekayı ayırt edemiyor ve “bilgisayar öyle dedi” diye sağduyu dışı kararlar veriyor
  • Benzer bir olayda, sıradan bir ilaç şişesi uyuşturucu sanılarak tutuklama yapılmıştı
    İlgili haber burada görülebilir
  • Milyonlarca fotoğraf tarandığında yanlış pozitif oranının yükselmesi kaçınılmaz; bu yüzden hatalı tutuklama ihtimali oldukça büyük

• Bu açıkça Fargo polisi ve devlet kurumlarına karşı açılacak bir dava konusu
  Videodaki kadın açıkça daha genç ve çeşitli koşullar da aynı kişi olmadığını gösteriyor
  En az birkaç milyon dolarlık tazminat almalı

  • Ama nitelikli dokunulmazlık (qualified immunity) nedeniyle pratikte çok zorluk var
  • ABD federal marshals’ı (US Marshals) sadece emri uygulamış oldukları için sorumlu tutulmayabilir
  • Sonuçta bu tür tazminatların vatandaş vergileriyle karşılanacak olması da acı bir durum
  • “Hapiste olduğu süre boyunca evini, arabasını, hatta köpeğini bile kaybetti” kısmı özellikle sarsıcı
    O köpeği kimin aldığını merak ediyorum
  • İkiz kadar benziyor olsalar bile, 6 ay tutuklu kalmak akıl alır gibi değil

• Makaleye göre, yüz tanıma sonucu hem bir AI hatası hem de insanların topyekûn başarısızlığı
  Polis, savcı, hâkim, şerif; herkesin sorumluluğu var
  Sadece yüz tanıma sonucu üzerinden asla yakalama emri çıkarılmamalı

  • Birden fazla aktörün aynı anda hata yaptığını unutmamak gerek
    a) polisin aracı kötüye kullanması ve ihmali,
    b) yargının denetim eksikliği,
    c) AI sağlayan şirketin öngörülebilir kötüye kullanımı engellememesi
    Bu tür başarısızlıkların sonucunda görev kaybı ve kurumsal hesap verebilirlik olmalı
  • ABD nüfusu 300 milyon; birbirine benzeyen insan çok
    Bunun nedeni AI’ın gizemli yeteneklerine körü körüne inanılması ve şüphelinin haklarının yok sayılması
  • AI özne değil; sorumluluk yalnızca insanlarda
  • Gerçekte yazılım sadece bir örüntü filtreleme aracı gibi çalışmış
    Yalnızca “eşleşme ihtimali” sunmuş, ama insanlar bunu kesin kanıt sanmış

• Bu olay Birleşik Krallık Postane skandalını hatırlatıyor

  • O dönem duruşmaları YouTube’dan izlemiştim; kibir ve yetersizlik gerçekten şok ediciydi
  • BAFTA ödüllü mini dizi Mr Bates vs The Post Office de tavsiye edilir
  • O olayı tekrar hatırlayınca yeniden öfkelendim
  • Yine de Fargo polis şefine hâlâ bir onur unvanı verilmemiş olması sevindirici

• The Civil Rights Lawyer videosunda da benzer bir vaka ele alınıyor
  Kumarhanenin AI sistemi yanlış kişiyi işaret etmiş, polis de hiçbir doğrulama yapmadan tutuklamış
  Hatta suçsuzluğu ortaya çıktıktan sonra bile savcı izinsiz giriş suçlamasını sürdürmüş

  • YouTube video bağlantısı da paylaşılmış
    Dünya küçük derler ya, tanıdığım birinin tanıdığı doğrudan o olayın tarafıydı

• Yüz tanıma fotoğraflarına bakınca, benzişen kişilerden haftada birkaç tane görmek mümkün gibi duruyor

• “Memleketim Hacker News’e düşmüş!” diye önce sevindim ama içeriği görünce hemen kötü bir his doğdu
  Polis şefinin bugün istifa ettiği söyleniyor; muhtemelen bu olayla bağlantılı

  • Bizim kasaba da ulusal haberlere çıktığında hep böyle olaylar yüzünden çıkıyor
  • Polis şefinin istifası haberinin kaynağını soranlar da olmuş

• İnsanlar “yanlış yapan AI değil, insandı” diyor ama bu aslında AI şirketlerinin pazarlama stratejisine kapılmak anlamına geliyor
  Polis, siyasetçiler ve sistemi işletenler zaten bir cezasızlık düzeni içinde, dolayısıyla onlardan hesap sormak mümkün olmuyor
  Sonunda geriye sadece araç ve onu üretenler kalıyor
  “Sorun AI değil, insan” demek aslında şirketlerin sorumluluktan kaçmasına yardım ediyor
  Gerçekten hesap sormak istiyorsanız, sermaye ve teknoloji tedarikçilerini sorumlu tutmalısınız

  • Buna tamamen katılıyorum
    Bu sonuç öngörülebilir bir neticeydi ve yüz tanıma AI’ı ABD polisine satıldığı anda bunun yaşanacağı belliydi