Bilgisayarlar Asla Sorumlu Tutulamaz

• 1979 tarihli bir IBM iç eğitiminden çıkan efsanevi bir sayfa, yapay zeka çağında da yerini buluyor

  A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
  Bir bilgisayar asla sorumlu tutulamaz.
  THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
  Bu nedenle bir bilgisayar asla bir yönetim kararı vermemelidir.

• Twitter'da özgün kaynağa dair bilgi istendi ve Jonty Wareing yanıt verdi:
  • Birisi bunu babasının çalışma belgeleri arasında buldu, daha sonra ise selde yok oldu
  • IBM arşivleriyle yapılan yazışmalarda bulunamadı. Şubelerin arşivlenmeyen materyaller üretmesi olağandı.
• Jonty'nin IBM'den aldığı yanıt
  • Görselin ilk kez internette paylaşılması, 2017 Şubat'ında @bumblebike'ın attığı tweet ile olmuş
  • Bunun 1979 tarihli bir iç eğitim materyalinden geldiği doğrulanmış
  • @bumblebike'ın 2021 Aralık'ındaki başka bir tweet'i: 2019'daki selde, eşyalarının çoğuyla birlikte yok olmuş
  • Emekliler kulübünün Zoom toplantısında soruldu, ancak uygun yaş grubundan neredeyse kimse yoktu

[mammal]

"Kararlarından sorumluluk alamayan biri asla yönetici olmamalıdır."

[GN⁺]

Hacker News görüşü

• Bilgisayar kullanımının sorumluluktan kaçmanın bir aracı olarak kullanıldığına dikkat çekiliyor. Neil Postman'ın <i>Technopoly</i> kitabından alıntılanan bir ifadeyle, bilgisayarların sanki gerçek otoritenin kaynağıymış gibi gösterilerek sorumluluktan kaçma eğilimi yaratıldığı anlatılıyor

• Otonom araçlarla ilgili soru işaretleri dile getiriliyor. Sorumluluğun sürücüden üreticiye kayacağı ve üreticinin bu sorumluluğu gerçekten isteyip istemeyeceğinin belirsiz olduğu söyleniyor

• Çipli kartların devreye alınmasının, bankaların sorumluluğu kullanıcıya devretme girişimi olduğu savunuluyor. Güvenlik artmış olsa da, esas niyetin kredi kartı dolandırıcılığı sorumluluğunu kullanıcıya yüklemek olduğu belirtiliyor

• Kimlik hırsızlığının da benzer şekilde aslında banka dolandırıcılığı olduğu vurgulanıyor. Buna kimlik hırsızlığı denmesinin, meseleyi bankanın sorunu olmaktan çıkarıp bireyin sorunu haline getirdiği ifade ediliyor

• Şirketlerin sorumluluktan hoşlanmadığı, aslında bunun herkes için geçerli olduğu belirtiliyor

• Bazı şirketlerde, yöneticilerin sorumlu tutulabilmesi nedeniyle karar almaktan kaçınmaya yönelik politikalar bulunduğu söyleniyor

• "Sorumluluk" kelimesinin artık anlamını yitirmiş, terapötik bir dile dönüştüğü belirtiliyor. CEO'ların sorumluluk aldıklarını söyledikleri ama bunun gerçekte hiçbir sonuca yol açmadığı ifade ediliyor

• Norbert Wiener'in <i>God & Golem Inc.</i> kitabından yapılan alıntıyla, insanların otomatik hesap makinelerinden beklediğinin daha doğru hesaplama değil, suçu devredebilecekleri bir kutu olduğu anlatılıyor

• Hukuki ilke olarak sorumluluğun operatörde olması gerektiği savunuluyor. Aksi halde yangınları önlemek için kibritin yasaklanması gerektiğini söylemek kadar absürt bir duruma varılacağı benzetmesi yapılıyor

• "Algoritma" ve bununla bağlantılı bugünkü yapay zeka çılgınlığından önce de bunların zaten yaşandığı belirtiliyor

• Dijital adli bilişimde kullanılan bir ilkenin tersinden işlediği açıklanıyor. Mahkemede dijital adli bilişim uzmanı, bir cihazda hangi işlemlerin yapıldığını söyleyebilir ama bunları kimin yaptığını bilemez

• Bilgisayarların son derece deterministik göründüğü, ancak gerçekte belirsizlik barındırdığı uzmanlarca anlatıldığında, sıradan insanların buna şaşırdığı belirtiliyor

• Perakende mağazalarda güvenlik alarmı çaldığında, sorunu bilgisayarın çıkardığını düşünmenin toplumsal olarak normalleşmiş bir örnek olduğu söyleniyor. Sanki sorun bilgisayarmış gibi görünse de, gerçekte durumun böyle olmadığı ifade ediliyor