Sorumluluktan kaçış yapısı
- The Unaccountability Machine kitabında Dan Davies, kurumların "sorumluluktan kaçış yapıları" oluşturduğunu savunuyor. Bunlar, kararların sonuçlarını emen ya da muğlaklaştıran, böylece kimsenin doğrudan sorumlu tutulamamasını sağlayan yapılar.
- Örneğin bir otel şirketindeki üst düzey yönetici temizlik personelini azaltmaya karar verdiğinde, bu finansal tablolardaki rakamları iyileştirebilir. Ancak müşteri check-in yapmak istediğinde odası hazır değildir ve personel ne zaman hazır olacağını bilmez. Şikayet edilecek kimse yoktur; bu kararın müşterinin planlarını bozduğunu iletmenin de bir yolu yoktur. Sorumluluk ortadan kaybolur ve sonsuza dek yitirilir.
Sorumluluktan kaçış yapısı nasıl işler
- Sorumluluktan kaçış yapısının işleyebilmesi için geri bildirimin engellenmesi gerekir. Yani karardan etkilenen kişilerin geri bildirimi, sistemin işleyişini etkilememelidir.
- Sağlık sigortası bir prosedürü reddettiğinde, havayolu bir uçuşu iptal ettiğinde, bir devlet kurumu birinin yardıma hak kazanmadığını ilan ettiğinde ya da yatırımcılar tüm şirketlere uygulamalarına AI entegre etmelerini söylediğinde, sorumluluktan kaçış yapıları her yerdedir.
- Bu, kararların gerçekten alınmış olduğu varsayımıyla geçerlidir. Sorumluluktan kaçış yapısının bir başka mekanizması da, kararın kendisinin zincirleme biçimde ilerleyerek kökeninin görünmez hale gelmesidir.
Sorumluluğun anlamı
- "Sorumluluk" derken neyi kastettiğimizi kısaca düşünmek gerekir. Davies, "sorumluluğun temel yasası"nı öne sürüyor. Buna göre bir kararı ne ölçüde değiştirebiliyorsanız, o karar için ne ölçüde sorumluluk üstlenebileceğiniz de odur.
- Sidney Dekker'in sorumluluk tanımına göre sorumluluk, "bir şeyin nasıl meydana geldiği, onu mümkün kılan koşulların neler olduğu ve o sırada bu kararın neden iyi göründüğü"nün açıklamasıdır. Bu, daha iyi kararlar alabilmek için öğrenmenin ön koşuludur.
AI ile karşılaştırma
- Kararları AI'a devretmek, sorumluluktan kaçış yapısı yaratmanın kullanışlı bir yoludur. Ancak şirketler ya da devletler gibi her ölçekteki kurum zaten bu tür yapıları oluşturmakta oldukça başarılıdır.
- AI'ın sunduğu sorumluluktan kaçış yeni bir hizmet değil, mevcut olanın ölçek büyütmüş halidir. Bu durum korkuyu azaltmaz ama faydalı bir ipucu sunabilir. Şirketleri sorumlu tutma çabaları başarısız olduysa, algoritmalar konusunda da başarılı olma ihtimali düşüktür. Yeni yöntemlere ihtiyaç vardır.
GN⁺ özeti
- Bu yazı, kurumların sorumluluktan kaçınan yapıları nasıl oluşturduğuna dair içgörü sunuyor. Bu, özellikle AI gibi teknolojilerin sorumluluktan kaçışı nasıl genişletebileceğini anlamak açısından yararlıdır.
- Sorumluluktan kaçış yapıları, kararı verenlerle bu karardan etkilenenler arasındaki bağı kopararak işler.
- AI, sorumluluktan kaçışı daha da kolaylaştırabilir; ancak bu yeni bir olgu değil, mevcut bir sorunun genişlemiş halidir.
- Bu konu, kurum içindeki sorumluluk yapılarını iyileştirmek ve daha iyi kararlar almak için yöntemler bulma açısından ilgi çekici olabilir.
Henüz yorum yok.