- Birleşik Krallık Post Office şube işletmecileri, Fujitsu’nun geliştirdiği Horizon muhasebe sistemindeki hatalar yüzünden var olmayan açıkların sorumluluğunu üstlendi; 1999-2015 arasında yüzlerce kişi mahkûmiyet, iflas, hapis ve itibar kaybı yaşadı
- Horizon, kâğıt tabanlı muhasebenin yerine geçmesi için 1999’da devreye alındı; ancak birçok şubede binlerce ila on binlerce sterlinlik sahte açıklar gösterdi ve aynı hesap yeniden gönderildiğinde tutarın arttığı vakalar da oldu
- Şube işletmecileri sözleşme gereği kayıplardan sorumlu tutuluyordu; Post Office ise sorun bildirenlere “sadece sizde var” diye yanıt vererek ya da masumiyetlerini kanıtlamak için gereken erişimi engelleyerek zararı büyüttü
- 2019’da 500’den fazla kişinin açtığı hukuk davasında Horizon’daki bug’lar, hatalar ve kusurlar kabul edildi; Post Office 138 milyon sterlinden fazla tazminat ödedi, ancak 700 mahkûmiyetten yalnızca 93’ü iptal edildi
- ITV dizisi “Mr Bates vs The Post Office” sonrası kamuoyu tepkisi patladı ve hükümet mahkûmiyetleri iptal edecek bir yasa tasarısı hazırlamaya başladı; Fujitsu’nun tazminat sorumluluğu ve cezai sorumluluğu olup olmadığı hâlâ soruşturma konusu
Horizon hatalarının yol açtığı büyük yargı yanılgısı
- Birleşik Krallık’taki Post Office şubelerini işleten sub-postmaster’lar, 1999-2015 yılları arasında Horizon’ın gösterdiği açıklar nedeniyle cezai yaptırım, iflas ve itibar kaybı yaşadı
- Birleşik Krallık hükümeti Post Office’in sahibidir ve bu olayı ülke tarihindeki en büyük yargı yanılgılarından biri olarak nitelendirmektedir
- Zarar binlerce kişiye yayıldı; bunların 700’ü ceza gerektiren suçlardan mahkûm edildi ve bazıları hapse girdi
- Horizon, Japon Fujitsu tarafından geliştirildi ve 1999’da kâğıt tabanlı muhasebenin yerine kullanılmak üzere devreye alındı
- Devreye alınmasından hemen sonra şube yöneticileri, yazılımın Post Office hesaplarından binlerce sterlinden fazla para kaybolmuş gibi gösterdiğini bildirmeye başladı
Var olmayan açıklar kişisel suça dönüştü
- Jo Hamilton, 2003’te İngiltere’nin güneyindeki küçük bir kasabada postane işletirken Horizon bilgisayarının 2.000 sterlin açık gösterdiğini, aynı hesabı yeniden yaptığında tutarın gözlerinin önünde ikiye katlandığını söyledi
- Hamilton, var olmayan açığı kapatmak için evini yeniden ipotek ettirdi; Post Office 2007’de onu hırsızlık ve sahte muhasebe suçlamalarıyla yargıladığında açık 36.000 sterline kadar çıkmıştı
- Hırsızlık suçlamasının düşürülmesi şartıyla sahte muhasebe suçlamasını kabul etti, ancak bu süreç Hamilton’ı yıkan bir deneyime dönüştü
- Wendy Buffrey de 2008’de aynı hesabı her yeniden gönderdiğinde Horizon’ın açıklanamayan açığının ikiye katlandığını yaşadı
- Post Office müfettişleri Buffrey’ye aynı sorunu yaşayan tek kişinin o olduğunu söyledi
- Buffrey, 36.000 sterlinden sorumlu tutulacağını düşünerek kredi kartlarını limitlerine kadar kullanıp hesaba 10.000 sterlin yatırdı
- O dönem avukatı, suçsuz olduğunu savunursa 3 yıl hapis alma ihtimalinin yüksek olduğunu söyledi; Buffrey de hırsızlık suçlamasının düşürülmesi şartıyla sahte muhasebe suçlamasını kabul etti
- Buffrey, sonrasında stresle ilişkili fibromiyalji nedeniyle sürekli ağrı çektiğini söylüyor
Şube işletmecilerinin aleyhine işleyen sözleşmeler ve soruşturma yöntemleri
- Post Office sözleşmesi franchise sözleşmesine yakındı ve şube işletmecileri kendi şubelerinde oluşan mali kayıplardan sorumlu tutuluyordu
- Sözleşmesi feshedilen bazı işletmecilerin iş yerlerine Post Office müfettişleri tarafından girmesi engellendi; bu da masumiyetlerini kanıtlayacak delilleri bulmalarını zorlaştırdı
- Hamilton, Horizon yardım hattını her aradığında görevliler sistem sorunu yaşayan tek kişinin kendisi olduğunu söyledi
- Avukat Neil Hudgell, haksız yere suçlanan ya da işini ve itibarını kaybettikten sonra kendi canına kıyan sub-postmaster’lar ve aileleri hakkında doğrudan bilgi aldığını söyledi
- Martin Griffith’in eşi, mağdur beyanında kocasının Post Office’in sözleşmeyi sonlandırma kararından sonra derin bir depresyona girdiğini ve bir otobüsün önüne yürüdüğünü belirtti
- Griffith, hesaplardaki açığı kapatmak için ailesinden borç almış ve daha sonra şubesinde bir soygun da yaşamıştı
Dava kazanıldıktan sonra bile tazminat ve mahkûmiyet iptalleri yavaş ilerledi
- 2019’da 500’den fazla sub-postmaster’ın açtığı hukuk davasında, Horizon’da “bug’lar, hatalar ve kusurlar” bulunduğuna hükmedildi
- Post Office bugüne kadar tazminat olarak 138 milyon sterlinden fazla ödeme yaptı ve hatalı mahkûmiyetlerin bozulmasına destek dahil geçmişteki yanlışları düzeltme niyetinde olduğunu söylüyor
- 2019’daki hukuki zaferin ardından daha fazla sub-postmaster, Horizon’ın hatalı açıklar gösterdiğini söyleyerek ortaya çıktı
- Mahkûm edilen 700 kişi arasında bugüne kadar masumiyeti kabul edilenlerin sayısı, Hamilton ve Buffrey dahil 93
- Bugüne kadar 2.700’den fazla kişi tazminat başvurusunda bulundu, ancak birçok sub-postmaster aldığı tazminatın yeterli olmadığını söylüyor ve olayla ilgili kişilerin sorumlu tutulmasını istiyor
Polis soruşturması ve Fujitsu’nun sorumluluk kapsamı
- Londra Metropolitan Police, 2020’de Post Office’in işlemiş olabileceği dolandırıcılık suçlarına ilişkin ceza soruşturması başlattı
- Polis, sub-postmaster’ların kovuşturulmasıyla bağlantılı olası suçlamalar kapsamında Fujitsu’yu da soruşturuyor
- Birleşik Krallık hükümetinden iki bakan, bağımsız kamu soruşturmasının sonucuna bağlı olarak Fujitsu’dan mağdurların tazminatını ödemesinin istenebileceğini söyledi
- Fujitsu, olayın nasıl yaşandığını anlamak ve bundan ders çıkarmak için soruşturmaya destek vermeye kararlı olduğunu belirtiyor
- Fujitsu, soruşturmanın postmaster’lar ve ailelerinin hayatları üzerindeki yıkıcı etkiyi ortaya koyduğunu belirtti ve şirketin onların acılarındaki rolü için özür diledi
Dizinin tetiklediği siyasi tepki
- Bu olay yıllarca mahkemelerde ve Birleşik Krallık medyasında ele alındı, ancak ITV dizisi “Mr Bates vs The Post Office” yayımlandıktan sonra kamuoyunun farkındalığı ve öfkesi hızla büyüdü
- Dizi, sub-postmaster’ların masumiyetlerini kanıtlamak ve tazminat almak için yürüttüğü uzun kampanyayı anlatıyor
- Alan Bates, bu çabalara öncülük eden eski bir sub-postmaster’dır
- Dizinin yayımlanmasından sonra Birleşik Krallık hükümeti, sub-postmaster’ların yıllardır talep ettiği hızda bir tepkiyi birkaç gün içinde gösterdi
- Başbakan Rishi Sunak, yüzlerce sub-postmaster mahkûmiyetini bozmak için çığır açıcı bir yasa tasarısını parlamentodan hızla geçireceklerini açıkladı
- Birleşik Krallık siyaset ve yargı sisteminde kimin neyi ne zaman bildiği, cezai sorumluluk taşıması gereken kişiler olup olmadığı ve Fujitsu’nun mağdur tazminatlarında ne ölçüde sorumluluk üstlenmesi gerektiği soruları yanıt bekliyor
Yaklaşık 20 yıl süren travma
- Siema Kamran ve eşi Kamran Ashraf, 2001’de Londra’nın kuzeyinde bir postane şubesi satın aldı; üç yıl sonra Post Office denetiminde açıklanamayan 25.000 sterlinlik bir açık bulundu
- Ashraf, avukatının baskısını hissederek hırsızlık suçlamasını kabul etti; 2004’te 9 ay hapis cezasına çarptırıldı ve mahkûmiyeti 2020’de iptal edildi
- Ashraf, cezasının ilk haftalarını yüksek güvenlikli bir cezaevinde günde 23 saat kapalı kalarak geçirdi; ardından daha düşük güvenlikli bir cezaevine nakledildi
- Dört ay sonra serbest bırakıldı, ancak sonraki 5 ay boyunca konum takibi için elektronik kelepçe taktı
- Kamran, eşinin bu deneyim nedeniyle travma sonrası stres bozukluğu yaşadığını; hem eşinin hem kendisinin hem de üç çocuklarının terapiye ihtiyaç duyduğunu söylüyor
- Şu anda serbest çalışan bir makyaj sanatçısı olan Kamran, Post Office böyle bir şey yapabiliyorsa başka markaların neler yapabileceğini bilemeyeceğini söyleyerek büyük bir şirkette tekrar çalışamayacağını belirtiyor
1 yorum
Hacker News yorumları
Gerçek vakayı yeniden derleyen bir yazı; bu olay yüzünden Bilgi Sistemleri doktorası yapmaya başladım.
On yıllar boyunca iyi IT ve yazılım uygulamaları birikmişken, bu düzeyde bir IT beceriksizliğinin bugün hâlâ nasıl mümkün olduğunu anlamak istiyordum; ama kısa süre sonra bilgi sistemleri araştırmalarının bunun çoğunu zaten açıkladığını gördüm.
Sonuçta insan insandır, berbat organizasyon da berbat organizasyondur; neredeyse her şeyde çan eğrisi dağılımı olduğu sürece bunun tamamen ortadan kalkmayabileceğini düşünüyorum.
Herkes özgeci, alçakgönüllü, zeki, yetkin ve dürüst olsaydı yalnızca IT değil, dünyanın pek çok sorunu ortadan kalkardı; ama insanlar, organizasyonlar ve toplumlar kendi yollarıyla bozuk.
Yine de organizasyon araştırmaları daha iyi bir yolu göstermeye çalışıyor; fakat bazı insanların sonuna kadar umursamayacağını sanıyorum.
Bu konu zaten yeterince araştırılmış göründüğü için artık buna odaklanmıyorum; yine de bu vakanın hâlâ haberlerde tekrar tekrar yer alması ilginç.
Kritik sistemlerde sorumluluğun kime ait olduğu belli olmalı; bu sorumluluk da üreticiye ve sahibine emniyet mekanizmaları, denetimler ve koruma önlemleri oluşturma yükümlülüğü getirmeli.
Bu ilkenin yazılım mühendisliğine neden pek uygulanmadığı ayrı bir konu; ama uygulanması gerektiğini düşünüyorum.
“Hızlı hareket et ve bir şeyleri kır” sözünü açıkçası duymak istemiyorum.
Bu olay çok büyük ölçekli olduğu, yüzlerce ve binlerce insanı içine aldığı için kamuoyuna yansıdı ve telafi girişimleri oldu.
Birbirinden kopuk vakalar arasında hayatı mahvolan, masum insanların hapiste çürüdüğü kaç olay olduğunu sormak gerekir.
Bu organizasyonda alışılmadık derecede acımasız insanları çeken bir şey var ya da son birkaç on yılda böyle bir şeye dönüşmüş olabilir.
2000’lerin başındaki “The People’s Post Office” TV reklamında alt postane müdürü rolünü John Henshaw oynamıştı; güçlü kötü adam ve yozlaşmış polis rolleriyle bilinen bir oyuncu olduğu için tuhaf ama garip biçimde yerinde bir oyuncu seçimiydi.
“Herkes zeki olursa ve iyi niyetle hareket ederse” varsayımına dayanmak, zaten bozuk bir tasarımdır.
Akademiye ilginiz varsa, beceriksizlik ve hatta hasımlar varken bile çalışan sistem tasarımını yeniden ele almanızı güçlü biçimde öneririm.
Aksine, gerçekle esnek bir ilişki kuran palavracı dolandırıcıların her yerde yükselmesi daha kolay.
Perde arkasında teknik olarak gerçekte ne olduğuna dair daha fazla bilgi var: https://www.theguardian.com/uk-news/2024/jan/09/how-the-post...
Geliştirme ekibinden David McDonnell, soruşturmada “8 kişilik geliştirme ekibinden 2’si çok iyiydi, 2’siyle bir şekilde çalışılabiliyordu, ama 3-4 kişi profesyonel kod üretecek yetkinlikte değildi” dedi.
Suçu geliştiricilere atmaya çalışmıyorum; sorumluluk açıkça yönetimde.
Kod hatalarını yapan insanların, bu yüzden başkalarının hapse girmesinden de sorumlu tutulması gerekmez.
Yöneticiler mühendislerin gerçekte ne yaptığını pek bilmez.
Mühendislik tavizlerini gerçekten anlayanlar yalnızca mühendislerdir; yaptığımız işin sonuçlarına hayatlar bağlıysa, seçimlerimizin sonuçlarından tamamen korunmamalıyız.
Bu toplum için de, nihayetinde bizim için de iyi değil.
Haksız fiil hukuku ilkelerine göre öngörülebilir zararlardan sorumluluk vardır; uzmanlık arttıkça sorumluluk da artar.
Ekipteki kıdemli mühendisler daha iyisini yapmalıydı; bence kusurlular.
Bu nokta hep aklıma takılıyor.
Erişimi tamamen denetleyen bir API yapılabilir; ama o API’yi baypas eden kod kolayca yazılabilir.
Kod, duvarları ve kapıları olan bir bina değildir; kapıya dokunmadan da içeriyi değiştirebilirsiniz.
Operatörler için denetlenmeyen bir arka kapı koymak kötüdür; ama kaynak kodunu düzenleyebiliyorsanız arka kapılar fiilen sonsuzdur.
Horizon 1990’ların ürünüydü ve o dönemde yazılım sektörü bugünkünden çok farklıydı.
O zamanlar mülakatta programcılardan rutin olarak kod yazmalarını isteyen yer aşağı yukarı sadece Microsoft’tu; işe alım neredeyse rastgeleydi.
Çalışan kod yazabilen az sayıda kişinin, hiç yazamayan büyük bir çoğunluğu sırtladığı ekipler yaygındı.
The Daily WTF de o dönemin ürünüdür; Brillant Paula Bean gibi çok hikâye vardır: https://thedailywtf.com/articles/The_Brillant_Paula_Bean
Bugünlerde bu tür hikâyeleri çok daha az duyuyoruz; çünkü sektör, işe almadan önce somut teknik becerileri test etme yönünde yerleşti ve doğru düzgün kod yazamasa da projelere giren insanların çoğu elenmeye başladı.
Bu uygulamanın tek geliştiricisi ve satıcısı ben olsaydım sorumluluğum olmaz mıydı?
Bir QA olsaydı, iki geliştirici ve iki QA olsaydı durum değişir miydi?
Uygulamayı satan ya da tanıtan teknik olmayan kişi mi onun yerine sorumlu tutulmalı?
Kendi kodunu yeterince kontrol etmeyen geliştirici sorumluluğunun neden tamamen ortadan kalktığını anlamıyorum.
Bu olayın özünde Post Office içindeki özel “yargı” sistemi varmış gibi görünüyor
Şeffaf değildi, taraflıydı ve kanıtların incelenmesini reddediyordu
Evrensel hakların peşinden gidilen bir çağda, bir işyerinin kamu yargı sistemi içinde kendini savunma hakkını elinden alabilmesi saçmalık
IT hatası da bir sorundu ama geçmişe saplanmış bir kurumun siyasi açıdan yanlış hesabı pek çok insanı mahvetti ve bir TV dizisi çıkana kadar üstü örtülü kaldı
Gerçekten de Post Office’i yöneten kişi devlet nişanı bile aldı
IT ve kod üretiminde çok sayıda tuzak var, ancak bu olayın özü başka yerde
Kamu soruşturmasında, Post Office’in alt postane müdürlerine hırsızlık isnat ederek daha hafif suçlamaları kabul etmeleri için baskı yapmak gibi agresif hukuki taktikler kullandığı ortaya çıktı
CPS, Horizon sisteminden “kayda değer kanıtlar” içeren 11 alt postane müdürü davası tespit etti
Hukuk uzmanları, özel kovuşturma yürüten tarafın adaletin sağlanması dışında motivasyonlara sahip olma ihtimalinin yüksek olması nedeniyle bunun riskli olduğuna dair hükümete yıllar öncesinden uyarılar yapıldığını düşünüyor
Eski Kamu Davaları Direktörü Lord Ken Macdonald KC, Post Office gibi çıkarı olan bir kurumun savcı rolünü üstlenmesinin açık bir tehlike yarattığını söyledi
CEO krizi “yönettiği” için ödüllendirildi; hükümet ise ilk yıllardaki uyarı işaretlerinin ardından cevap talep etmeliydi
Ama liderlik göstermeye zorlanmaları ancak 20 yıl ve bir TV dizisinden sonra oldu
Netflix’in uluslararası ölçekte lisanslayıp yayımlayıp yayımlamadığını bilmiyorum
Birleşik Krallık’taki durumdan biraz farklı olsa da zorunlu tahkim hükümleri çalışanların adalet arama hakkını elinden alıyor ve giderek yaygınlaşıyor
BBC, 2015’te Panorama belgeseliyle bu olayı yayımladı ve Post Office içerik nedeniyle BBC’yi tehdit etti
“Post Office, Horizon skandalında postane müdürlerini aklayacak kilit kanıtları bastırmaya çalışırken BBC’yi tehdit etti ve yalan söyledi”
“Sahte iddialar programı durduramadı, ancak BBC yayınını birkaç hafta geciktirdi”
https://www.bbc.com/news/uk-67884743
Bu yalnızca basit bir “kusur” değil, mağdurların sesini bugüne kadar oldukça başarılı biçimde bastırmış bir PR savaşıydı da
Haberleri görünce “Bunu 5 yıl önce duymuştum, herhalde çoktan çözülmüştür?” diye düşündüm
Adaletin çarkları dönmeden önce bunun bu kadar kamuoyuna mal olması gerekmemeliydi
Birkaç yıl önce “teknoloji insanların hayatını mahvediyor” diye düşünmüştüm, ama 2024’te hâlâ devam eden duruma bakınca artık teknoloji yüzündenmiş gibi görünmüyor
Sonuçta bu insanların meselesi ve insanlar korkunç
Bu hikâye hak ettiği ilgiyi ancak şimdi görüyor
Adaletsizliğin muazzam boyutunu özet halinde öğrenmek istiyorsanız Private Eye’ın şu yazısı okunmaya değer: https://www.private-eye.co.uk/pictures/special_reports/justi...
2020’de başlayan BBC radyo programı da Post Office’in şüphelenilen alt postane müdürlerini nasıl soruşturduğu gibi konularda çok sayıda iyi bilgi veriyor: https://www.bbc.co.uk/sounds/brand/m000jf7j
Buna basit bir yazılım kusuru demek zor
Hükümetin işlettiği kurumun her katmanında bürokrasi kötü kamuoyu tepkisinden kaçınmak için bunu örtbas etmeye çalıştı
Tıbbi cihazlar mı? Kesinlikle istemem
Elbette kodumun nerede çalışacağını sonuna kadar bilemem ama
Bunun bu kadar büyümesi için yalnızca yazılım sorunu olması yetmezdi; yine de yıllarca bu işte çalışan geliştiricilerin bunu nasıl görmezden gelebildiğini merak ediyorum
Geliştiricilerden tek birinin bile bu sorunu duymamış olması inanılır gibi değil
Hemen “İmkânsız, ben dünyanın en iyisiyim; sistemde sorun olamaz, o insanlar paraları çalmış olmalı” diye mi düşündüler?
Ben olsam uyuyamaz, tüm sistemi kafamda baştan sona yeniden tarayıp nerede yanlış olduğunu bulmaya çalışırdım
Dunning-Kruger etkisi gibi bir şey mi acaba diye düşünüyorum
Kendimi kodlama sihirbazı sanmıyorum, ama ölene kadar bug üreteceğimi bilecek kadarını biliyorum
Rust da mantık hatalarını engellemez
Tek bir bug değil, birden fazla birbirinden farklı bug vardı
Post Office tamamen özel bir şirket
Bu hikâyede bariz kötü adam çok, ama insan merak ediyor: Bunca zaman hukuk sistemi neredeydi?
Gerçek bir kanıt olmadan ya da sırf “bilgisayar öyle söylüyor” diye 900 dava mı açıldı?
Kuvvetler ayrılığının bir ayağıysa, hukuk sistemi ve yargı tamamen masum insanlara yönelik bu tür keyfî kitlesel zulmü engelleyen son mekanizma olmak zorunda değil mi?
“Onun parayı aldığına dair doğrudan kanıt yok… Hırsızlığı kesin biçimde reddediyor. CCTV kanıtı da yok. Parmak izi ya da işaretlenmiş banknot gibi şeyler de yok. Nakit parayı başka bir yerde biriktirdiğine, büyük harcamalar yaptığına veya borç ödediğine dair kanıt da yok; banka hesaplarına ilişkin hiçbir kanıt yok. Evi arandığında da suçluluğa işaret eden bir şey bulunmadı.”
Tek kanıt, Post Office’in Horizon bilgisayar sisteminin şubede bulunması gerektiğini söylediği nakit ile fiilî nakit arasındaki farktı.
“Horizon’ın yıllardır binlerce postanede kullanılan, kendini kanıtlamış bir sistem olduğu ve temelde sağlam ve güvenilir olduğuna dair yeterli kanıt bulunduğu yönündeki iddia makamının argümanını kabul ediyor musunuz?”
Sadece benim sözümle senin sözün “makul şüphenin ötesinde” standardını karşılamaz; ama Post Office’in bilgisayar sistemiyle desteklenen sözü jüri için yeterince ikna edici olmuş gibi görünüyor.
Yukarıdaki davada jüri suçlu kararı verdi.
Düzgün çalıştıkları varsayılıyor ve aksini iddia eden kişiye ispat yükü düşüyor.
Birçok kişi bu bilgisayar delili karinesinin değişmesi gerektiğini söylüyor.
https://www.theguardian.com/uk-news/2024/jan/12/update-law-o...
https://www.forbes.com/sites/emmawoollacott/2024/01/15/law-o...
Yazılım ne akıllı ne de aptal olan bir makinedir.
Bu örnekte makine bozuktu ve durumu gerçekten eleştirel biçimde analiz edip yargıda bulunma yeteneğine sahip insanlar, içini doğru düzgün göremedikleri bir makinenin çıktısını kutsal metin gibi kabul etti.
Genel olarak bir sulh hâkimi, His Majesty’s Postal Service’in saygın hukuk ekibiyle yerel aksanlı “bize göre çalmış pis bir adam” karşı karşıya geldiğinde her seferinde devlet tarafını seçecektir.
Hesaplara para aktarıldığına dair iz yok, açıklanamayan mal varlığı yok, lüks harcama yok; eldeki tek şey “bilgisayar öyle söyledi”ydi.
Yargı sisteminin her davayı ayrı ayrı ele alması da bir sorun.
Birkaç vakadan sonra “Durun, burada tuhaf bir şey var” diyerek durdurabilecek bir mekanizmaya hukuk sisteminin ihtiyacı var.
Bu olayda ilk değişiklik muhtemelen Birleşik Krallık’ta Post Office’in kendi başına dava açmasına imkân veren eski uygulamanın durdurulması olacak.
Önceki ekibimizde glitch kelimesinin kullanımı yasaktı.
Geliştiriciler ve ürün sorumluları, müşterilere konuşurken “sorumluluğunu almak istemediğim bug” anlamında üstü kapalı bir ifade olarak kullanıyordu; modern teknoloji ekiplerinde yeri yok.
Eskiden Stack Overflow yanıtlarını şirketin kod tabanına kopyalayıp “çalışana” kadar idare etme durumu olurdu; sorun çıkınca da haftalar ya da aylar boyunca bir kişiden diğerine devredilirdi.
Çoğu durumda basit çıktı satırları eklemek bile düzeltmek için ipucu verirdi, ama bu bile fazla karmaşık görülürdü.
Yazılım para kazandırdığında geliştirme maliyetini düşürme, daha az deneyimli ve ucuz mühendisler alma, “TDD zaman kaybı” diyerek süreçleri atlama teşviki daha da artar.
Birleşik Krallık hükümeti büyük danışmanlık şirketlerine bağımlı; bunlar kamu sektöründe pahalıya yarım yamalak proje teslim ederek ya da hiç teslim etmeyerek ucuz ve deneyimsiz personel kullandı, kalanını da cebe attı.
Bu tür sözleşmeleri soruşturmak isteyen bir kurum yok.
Avustralya’daki Robodebt sistemiyle çok benzer ve benzer biçimde yıkıcı sonuçlar doğurdu: https://en.wikipedia.org/wiki/Robodebt_scheme
Otomatik borç tahsilat bildirimi alan sosyal yardım alıcıları intihar etti; ölmüş kişilere borç bildirimi gönderildi, engelli aylığı alanlara da borç bildirimi gitti.
Wikipedia buna Algocracy, yani algoritmalarla yönetim diyor gibi görünüyor.
Çünkü o dönem hükümetinin işine gelen sonuçlar vaat ediyordu; bireylere borcun hatalı olduğunu çürütme yükümlülüğü yüklendi, talepler saçma derecede ağırdı ve destek ya da itiraz süreci neredeyse yoktu.
O dönemde iktidardaki Liberal & National Party, sosyal yardım dolandırıcılarına karşı sert görünmek ve bunu seçimlerde kullanmak, ayrıca gerçekte var olmayan devasa bir potansiyel gelir kalemini bir sonraki bütçeye koymak istiyordu.
Birçok yanlış hesaplama, iki haftalık ya da birkaç iki haftalık döneme ait gelirin ortalamasını alıp yıllık gelire ekstrapole etmenin sonucuydu; sosyal yardım alanlar arasında geçici veya kısa süreli işlerde çalışan çok kişi olduğu ve söz konusu dönem yıllık geliri temsil etmediği için bu tamamen yanlış bir yöntemdi.
Bazı durumlarda borçlu diye gösterilen kişi bunu ilk kez bir borç tahsilat şirketinin talep mektubunu alınca öğrendi.
Bir kişi dava açtığında hükümet borcu 0,00 dolara indiriyor, ardından artık dava sebebi kalmadığını savunarak dosyayı düşürüyordu.
Sonunda bir kişiyi temsil eden avukatlar, hatalı çıkarılmış borç için faiz de talep edince hükümet aynı taktikle kazanamaz hâle geldi; ancak o zaman yıllardır süren uygulamanın yasa dışılığını kabul etti.
Bağlamın tamamını anlamak için bu 3 bölümlük YouTube serisini öneririm: https://www.youtube.com/watch?v=OfsL9GAbl3M
Daha baştan Avustralya tarihindeki en büyük toplu davaya dönüştüğünü anlatıyor.
Günümüzde yazılım gerçek gibi kabul ediliyor, ancak bu her zaman böyle değildi
Yapay zekanın çok ilgi görmesi iyi bir şey; çünkü insanlar onun verdiği kararların hatalı olabileceğinin daha fazla farkına varıyor gibi görünüyor
Mahkemeler, yazılımın kararlarında verilerin ve karar alma yolunun, yani “algoritmanın”, açıklanmasını zorunlu kılmalı
Gerekli bir başka yasa da sistem kullanımının yasaklanmasıyla ilgili olmalı
Hiçbir açıklama ya da başvuru yolu olmadan ömür boyu engellenebilmek çılgınca; bu, fiilen hiçbir gerekçe olmadan müebbet hapis cezası almaya benziyor