Kısa süre önce İran'ın Tahran yakınlarında meydana gelen Ukrayna Uluslararası Havayolları 752 sefer sayılı uçağın düşmesi, büyük olasılıkla İran'ın füzeyi yanlışlıkla ateşlemesi nedeniyle yaşandı. O sırada ABD, İran'la yaşanan gerilim nedeniyle 6 adet B-52 stratejik bombardıman uçağını İran yakınına ileri konuşlandırıyordu; bu gerilim tırmanışı yüzünden İran ordusunun hava savunma birimi, kendi topraklarından kalkan bir sivil yolcu uçağını kendi havalimanını vurmak isteyen bir Amerikan askeri uçağı sanmış olabilir. Tesadüfen benzer bir durum ve benzer bir bölgede, ABD ordusunun hatası sonucu bir İran yolcu uçağının düşürüldüğü [USS Vincennes İran Air 655 sefer sayılı uçağın düşürülmesi olayı] akla geliyor; bu olayın nedenleri arasında ise psikolojik gerilim altında peş peşe yaşanan insan hataları ve uygunsuz kullanıcı arayüzleri sayılıyor.
İnsanlar böyle gerildiklerinde ya da beklenmedik, acil durumlarla karşı karşıya kaldıklarında kolayca paniğe kapılıp yanlış karar verebiliyor. Bu yüzden birçok kişi çözüm olarak makineyle otomasyonu veya insan müdahalesinin en aza indirildiği otonomiyi öne sürüyor. Yani insanın yanıldığı ya da zamanında tepki veremediği durumlarda, makinenin otomatik olarak önleyici bir adım atması gerektiği düşünülüyor. Bu kulağa mantıklı geliyor, ancak sorun şu ki o makineyi yapan insanlar hâlâ kusursuz değil. Dolayısıyla o makinenin de kusurlu olma ihtimali yüksek. Bu yüzden makinenin gerçekleştirdiği otomatik işlemler aslında yanlış olabilir. Ayrıca o makineyi kullanan kişi otomasyonu doğru anlamıyorsa, bu otomasyon sorunu çözmek yerine daha da büyütebilir.
Patriot karadan havaya füzesinin yanlış ateşlendiği vakalar üzerinden otonom sistemlerin olumsuz yönlerini anlatan bir yazıya rastladım. (İngilizce) Patriot füzesinin düşman balistik füzelerini önleme kabiliyeti var, ancak bunu bir insanın elle yönetmesi hem fazla karmaşık hem de zaman açısından çok kritik olduğu için, düğme açıldığında radar balistik füze algılar algılamaz otomatik olarak fırlatılıp önleme girişiminde bulunan bir [otomatik mod] devreye alınmıştı. Bu otomatik mod, Körfez Savaşı'nda Scud füzelerini başarıyla düşürüyor gibi göründüğü için ABD ordusu buna fazlasıyla güvenmeye başladı. Ancak Irak Savaşı'nda otomatik moda alınmış Patriot füzeleri iki kez dost savaş uçaklarını düşürdü. Radarda elektromanyetik parazit nedeniyle gerçekte var olmayan bir balistik füze algılanınca Patriot otomatik olarak fırlatıldı; füze belirlenen hedefi bulamayınca en yakın nesne olan savaş uçağını hedef kabul edip onu düşürdü.
Patriot füzesinin otomatik modu örneği, ölümcül otonom silahların (Lethal Autonomous Weapon: insan müdahalesi olmadan kendi başına hedef seçip saldırmak üzere tasarlanmış otonom silahlar) sorunlarını olduğu gibi gösteriyor. Yani gerçek dünyanın belirsiz ve muğlak koşullarında otonom sistemlerin doğru karar verebilme yeteneği sanılandan daha düşük. Üstelik mesele yalnızca ölümcül otonom silahlarla sınırlı da değil; otonom sistemler giderek günlük yaşamımızı da etkiliyor. Örneğin YouTube, çocuklara yönelik içeriği makine öğrenimiyle otomatik olarak tespit etmeye çalışırken yanlış sınıflandırılan yayıncıların tepkisini çekiyor; Güney Kore'de ise temmuz ayından itibaren Seviye 3 kısmi otonom sürüş işlevine sahip otomobiller piyasaya sürülebilecek. İnsan müdahalesinin giderek azaldığı makinelerin çağı yaklaşırken, olağanüstü durumlarda insan müdahalesinin hâlâ gerekli olduğunu akılda tutmak gerekiyor.
Not - Yukarıdaki yazı için Korece alıntı özet:
2 yorum
Video ortaya çıkmış; gerçekten bir füze tarafından vurulmuş gibi görünüyor.
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
Sonuçta İran, bu kazanın kendi ordusunun dost ateşiyle yanlışlıkla füze fırlatması nedeniyle meydana geldiğini kabul etti. Hayatını kaybedenlere rahmet diliyorum.
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111