Yargıç, 400 milyon dolarlık algoritmik sistemin Medicaid yardımlarını yasa dışı biçimde reddettiğine hükmetti

Binlerce kişinin Medicaid yardımlarını yasa dışı biçimde elinden alan algoritmik sistem

• Tennessee'de yaşayan binlerce kişi Medicaid ve diğer yardımlardan yasa dışı biçimde mahrum bırakıldı

  • Tennessee eyaletinde düşük gelirli kişiler ve engellilere yönelik yardım uygunluğunu belirleyen algoritmik sistemdeki programlama ve veri hataları nedeniyle binlerce kişi Medicaid ve diğer yardımlardan yasa dışı biçimde mahrum bırakıldı
  • Bu sistem, Deloitte ve diğer yüklenicilerin 400 milyon dolardan fazla harcayarak kurduğu TennCare Connect sistemiydi

• TennCare Connect sistemindeki sorunlar

  • Gelir ve sağlık bilgilerini analiz ederek yardım programı başvuru sahiplerinin uygunluğunu otomatik olarak belirlemesi gerekiyordu; ancak gerçekte gerekli verileri düzgün yükleyemedi, yararlanıcıları yanlış hanelere atadı ve hatalı uygunluk kararları verdi
  • Tennessee Orta Bölge Federal Mahkemesi yargıcı Waverly Crenshaw Jr., "Eyalet tarafından yönetilen Medicaid'i almaya hak kazanıyorsanız, bu yardımı alabilmek için şansa, sabra ve kararlı bir hukuki temsilciye ihtiyaç duymamalısınız" dedi

• Toplu davanın sonucu

  • Bu karar, 2020'de 35 yetişkin ve çocuk adına açılan toplu davanın sonucunda verildi
  • Tennessee Justice Center'dan Michele Johnson, "Bu, davacılar ve tüm TennCare üyeleri için büyük bir zafer. TennCare'in yasa dışı politika ve uygulamaları nedeniyle kritik sağlık sigortasını kaybeden birçok komşumuzun sağlık güvencesini korumak için cesur ailelerin yanında durmaktan gurur duyuyoruz" dedi

• TennCare Connect sisteminin arka planı

  • TennCare Connect sistemi 2019'da kullanıma sunuldu ve eyaletin Medicaid sistemini modernize etme, yeni uygunluk ölçütlerine ve sadeleştirilmiş kayıt gerekliliklerine uyum sağlama yönündeki çok yıllı çabanın sonucuydu
  • Yeni kurallara göre eyaletin, sakinlerden bilgi toplayan tek bir başvuru süreci sunması ve karmaşık sağlık ve engellilik yardım programlarından hangilerine hak kazandıklarını belirlemesi gerekiyordu
  • Yargıç Crenshaw, TennCare Connect'in başvuru sahiplerinin mevcut tüm programlara uygun olup olmadığını değerlendirmeden yardımları sonlandırdığına hükmetti

• Deloitte'un rolü

  • Deloitte, ülke çapındaki modernizasyon çabalarının başlıca yararlanıcılarından biri olarak Tennessee ve Teksas dahil 20'den fazla eyalette otomatik uygunluk sistemi kurma sözleşmeleri imzaladı
  • Savunuculuk grupları, Teksas'ta da binlerce kişinin şirketin kusurlu sistemi nedeniyle hayat kurtaran yardımlardan uygunsuz biçimde mahrum bırakıldığını belirterek Federal Ticaret Komisyonu'ndan Deloitte'un uygulamalarını soruşturmasını istedi

GN⁺ Özeti

• Bu makale, Tennessee eyaletinde Medicaid yardımlarını yasa dışı biçimde kesen algoritmik sistem sorununu ele alıyor
• TennCare Connect sistemindeki kusurlar nedeniyle binlerce kişi kritik sağlık yardımlarını kaybetti
• Deloitte bu tür otomatik uygunluk sistemlerini birçok eyalette kurdu ve benzer sorunlar başka eyaletlerde de ortaya çıkıyor
• Makale, algoritmik sistemlerin güvenilirliği ve doğruluğu konusunda önemli sorular ortaya koyuyor ve bu sistemlerin iyileştirilmesi gerektiğini vurguluyor

[GN⁺]

Hacker News yorumları

• TennCare kaydının tamamlanması 4 yıl sürdü; bu ortalama süreydi. Bu sistem intihar oranlarının artmasına katkıda bulundu

  • Hatalı kararlar ve yoksulluk trajedilere yol açtı
  • Sigorta ödemesi alabilmek için intihar nedeninin gizlendiği durumlar da oldu
  • Reddedilen kişilerin tıbbi maliyetleri daha da arttı ve bu maliyetleri hastane sistemi üstleniyor

• Avustralya'daki 'robodebt' vakasında, sosyal yardım ödemeleri hatalı değerlendirildi ve birçok kişiye yanlış borç bildirimleri gönderildi

  • İntihar vakaları yaşandı
  • Kraliyet Komisyonu soruşturması sonucunda bu borç tahsilat sistemi yasa dışı bulundu ve tüm borçlar iptal edildi
  • Sorumluların birçoğu hakkında dava açılması tavsiye edildi, ancak yolsuzlukla mücadele komisyonu dava açmamaya karar verdi

• Deloitte'un bunu eyalet hükümetinin doğrudan talimatı ve onayı olmadan yapmış olması pek olası değil

  • Florida'nın işsizlik sistemi de kullanımı zor olacak şekilde tasarlanmıştı
  • Hükümet yetkilileri ceza almazsa bunun başka danışmanlık şirketleriyle yeniden yaşanacağı söyleniyor

• Jennifer Pahlka'nın Recoding America kitabını okumak tavsiye ediliyor

  • Kitap, kamu yazılımlarının neden bu kadar sorunlu olduğuna dair çeşitli nedenleri ele alıyor

• TennCare Connect sistemi, Deloitte ve diğer yükleniciler tarafından 400 milyon dolardan fazla harcanarak geliştirildi

  • Kamu yazılımları açık kaynak olarak yapılmalı
    • Kamu görevlilerinden hesap sorabilmek için buna ihtiyaç var
    • Yetersiz yüklenicileri işten çıkarıp başkalarıyla değiştirmek daha kolay olur
  • Deloitte, ülke çapındaki modernizasyon çabalarının başlıca faydalanıcılarından biriydi ve 20'den fazla eyalette otomatik uygunluk sistemleri kurma sözleşmeleri kazandı
  • Büyük miktarda vergi boşa harcandı

• 400 milyon dolarlık bu yazılım, gelir ve sağlık bilgilerini analiz ederek uygunluğu otomatik belirliyordu

  • 400 milyon dolarla insan istihdam edildiğinde ortaya çıkacak doğruluk, yolsuzluğun olmaması ve hızla karşılaştırmak gerekir
  • Code for America, 400 milyon dolarlık kaynağa sahip olsaydı daha iyi bir yazılım sunabilirdi

• İyi bir geliştirici ekibi toplanıp devlet için yazılım geliştirilse, proje 1 yıl içinde 10 milyon dolara tamamlanabilir

  • FAANG maaşlarının yaklaşık %50'si ödenerek yalnızca parayla motive olan kişiler elenebilir
  • Yüksek işe alım standartları korunmalı ve başarılı formül sürdürülmeli

• Bankalarda modelleri doğrulayan ve sonuçları Federal Rezerv'e raporlayan gruplar var

  • Benzer bir sisteme kamu kurumlarında da ihtiyaç olabilir

• Bunun, evrensel temel gelir (UBI) gerekliliğini gösterdiği söyleniyor

  • Yardım almanın yıllar sürmesi utanç verici

• Bunun bir algoritmik sistem olduğu düşünülürse, ret kararlarının neden aylar sürdüğü sorgulanıyor