- Magnifica Humanitas, yapay zeka, dijitalleşme ve robotiğin insan onurunu ve ortak iyiyi sarstığı bir geçiş çağında Babil Kulesi'ni değil Yeruşalim'i yeniden inşa etme seçimini talep ediyor
- Kilisenin sosyal öğretisi, Rerum Novarum'un 135. yılı vesilesiyle emek, adil ücret, yetki ikamesi, dayanışma ve malların evrensel amacı ilkelerini bugünün teknolojik iktidarına uyguluyor
- Yapay zeka nötr bir araç değil; tasarımcıların, sermayenin ve düzenleyicilerin tercihlerini yansıtıyor ve hesap verebilirlik, şeffaflık ve insan denetimi olmadan hak ve özgürlükleri ihlal edebilir
- Dijital ekonomi; veri etiketleme, içerik moderasyonu, kaynak madenciliği ve veri sömürgeciliği gibi görünmez emek ve sömürü biçimleri üretebilir; bu nedenle tedarik zinciri ve platform sorumluluğu gerekiyor
- İlerlemenin ölçütü verimlilik ve denetim değil, insanı daha insan kılıp kılmadığıdır; eğitim, emek, barış, çok taraflılık ve bakım yoluyla bir sevgi uygarlığı kurulmalıdır
Teknolojik geçiş çağı ve Kilisenin sosyal öğretisinin görevi
- İnsanlık, yeni bir Babil Kulesi mi kuracağına yoksa Tanrı ile insanın birlikte yaşadığı bir şehir mi inşa edeceğine karar vermesi gereken bir dönüm noktasında duruyor
- Dijitalleşme, yapay zeka ve robotik; gündelik yaşamın yapısını, karar alma süreçlerini ve kolektif tahayyülü hızlı ve derin biçimde dönüştürüyor
- Teknoloji iyileştirebilir, bağ kurdurabilir, eğitebilir ve ortak evi koruyabilir; ancak aynı zamanda bölünme, dışlama ve yeni adaletsizlikler de üretebilir
- Teknoloji soyut olarak iyi ya da kötü değildir; fakat fiiliyatta onu tasarlayan, finanse eden, düzenleyen ve kullanan kişilerin tercihlerini yansıttığı için nötr değildir
- Asıl tercih teknolojiye taraftar ya da karşı olmak değil; zayıfları kurban eden bir verimlilik Babil'i mi kuracağımız, yoksa farklı sesler ve ortak sorumlulukla Yeruşalim'i mi yeniden inşa edeceğimizdir
- Pope Leo XIII'ün 1891 tarihli enciklikası Rerum Novarum, emeği ve emekçinin onurunu, adil ücreti ve sermayeden önce gelen insan değerini merkeze koydu
- Bu yıl Rerum Novarum'un 135. yılı, emek, yetki ikamesi, dayanışma ve malların evrensel amacı gibi sosyal öğretinin ilkelerini bugünün teknolojik iktidarına ve dijital ekonomisine uygulamak için bir vesile oluyor
Babil Kulesi ve Yeruşalim
- Tekvin'deki Babil Kulesi, Tanrı'ya referans vermeden güvenlik, güç ve “kendine bir ad” kazanma girişimini ortaya koyar
- Babil, çeşitliliği ortadan kaldıran tekdüzeliğe yaslanır ve kibir ile kendine yeterlilik üzerine kurulduğunda iletişimin çöküşü ve dağılmayla sonuçlanır
- Nehemya Kitabı'ndaki Yeruşalim surlarının yeniden inşası, orucu, duayı, dinlemeyi, görev paylaşımını ve ortak sorumluluğu kullanarak harabeleri yeniden ayağa kaldırma imgesi olarak sunulur
- Yeruşalim, tek bir kişinin öncülüğüyle değil; kadınların, erkeklerin, rahiplerin, zanaatkarların, aile reislerinin ve gençlerin hep birlikte katıldığı bir yeniden inşa ile yeniden doğar
- Yapay zeka çağında sorumlu seyir, teknolojik gücü sergileyen bir Babil'den çok, ilişkileri onaran ve ortak iyilik yönünde birlikte inşa edilen Yeruşalim yoluna yakındır
Sosyal öğretinin başlıca ilkeleri
- İnsan onuru, yetenek, servet, statü, başarı ya da tercihlere bağlı değildir; yalnızca insan olma gerçeği nedeniyle herkese aittir
- İnsan hakları, insana sonradan eklenen dışsal unsurlar değil; içkin onurun ifadesidir ve evrensel, devredilemez ve gerçek hukuki etki doğurur nitelikte olmalıdır
- Ortak iyilik, insanların kendi gelişimlerini daha tam ve daha kolay gerçekleştirebilmelerini sağlayan toplumsal koşulların bütünü olarak tanımlanır
- Özel mülkiyet hakkının anlamı ve amacı vardır; ancak her zaman malların evrensel amacına tabidir ve bugün patentler, algoritmalar, dijital platformlar, teknoloji altyapısı ve veri gibi yeni mallara da uygulanmalıdır
- Yetki ikamesi, bireylerin, ailelerin, yerel toplulukların ve ara kurumların yapabileceği şeylerin daha üst otoriteler tarafından ikame edilmemesi gerektiği ilkesidir; dijital çağda bu, platform, veri ve algoritma iktidarı için de geçerlidir
- Dayanışma, her bireyin geleceğinin herkesin geleceğiyle bağlantılı olduğunun somut biçimde kabul edilmesidir ve yetki ikamesiyle birleştiğinde sorumlu toplumsal iş birliğini mümkün kılar
- Sosyal adalet, eşitsizliği otomatik olarak üreten yapıları, mekanizmaları ve ekonomik-kültürel sistemleri de kapsar; dijital çağda buna teknolojiye erişim, gözetim, algoritmik önyargı ve göçmenlerle mültecilerin korunması da dahildir
Yapay zeka ve teknokratik paradigma
- Pope Francis, Laudato Si’ adlı metninde, verimlilik, denetim ve kâr mantığının kişisel, toplumsal ve ekonomik kararları belirlediği teknokratik paradigmayı eleştirir
- Platformlar, altyapı, veri ve hesaplama gücü üzerindeki denetim, çoğu durumda devletlerde değil başlıca ekonomik ve teknolojik aktörlerde yoğunlaşmıştır
- Bu aktörler erişim koşullarını, görünürlük kurallarını ve hatta katılım imkânının kendisini şekillendirir; iktidar az sayıda elde toplandıkça bağımlılık, dışlanma, manipülasyon ve eşitsizlik riski büyür
- Yapay zeka sistemleri insan zekasının belirli işlevlerini taklit edebilir ve hız ile hesaplama gücünde insanı aşabilir; ancak deneyim yaşamaz, bedene sahip değildir ve sevinç, acı, sevgi ya da sorumluluğu içeriden bilmez
- Yapay zekanın “öğrenmesi”, seçimler, hatalar, bağışlama ve sadakat yoluyla yaşam içinde biçimlenen insani deneyim değil; veri ve geri bildirime dayanan istatistiksel uyumdur
- Yapay zekada iyi ile kötüyü ayırt eden, durumun nihai anlamını kavrayan ya da sonuçların sorumluluğunu üstlenen bir ahlaki vicdan yoktur
- İstihdam, kredi, kamu hizmetlerine erişim ve itibar gibi hassas kararlar tamamen otomatik sistemlere devredildiğinde haklar, fırsatlar, statü ve özgürlükler ihlal edilebilir
- Hesap verebilirlik, bir kararı kimin açıklayacağı, gerekçelendireceği, denetleyeceği, itirazları ele alacağı ve zararı gidereceğinin belirlenebilir olması demektir
- Yapay zekayı insan değerleriyle hizalamaya yönelik alignment tek başına yeterli değildir; hangi etik çerçevenin uygulandığı açık biçimde tartışılmalı ve sosyal adalet ölçütlerine tabi kılınmalıdır
- Verinin mülkiyeti yalnızca özel ellerde bırakılamaz; uygun biçimde düzenlenmelidir ve veri, pek çok katkı sağlayanın ürünü olduğu için sadece azınlığa emanet edilecek bir şey gibi ele alınmamalıdır
İnsan anlayışı, transhümanizm ve sınırlar
- Kilisenin sosyal öğretisindeki temel mesele, teknolojinin kullanımından çok, onun altında yatan insan anlayışıdır
- İnsan, tamamlanması ya da aşılması gereken bir varlık olarak görüldüğünde, bazı hayatların daha az yararlı, daha az arzu edilir ve daha az değerli olduğu düşüncesi kolayca kabul görebilir
- Transhümanizm, biyotıp, beden mühendisliği, cihazlar ve algoritmalar gibi teknolojilerle insan performansını ve yetilerini artırma tasavvurunu içerir
- Posthümanizm, daha radikal biçimlerinde insanmerkezciliğe meydan okur ve insan, makine ve çevrenin melezleştiği yeni bir evrim aşamasını hayal eder
- Yetersizlik, hastalık, yaşlılık, acı ve kırılganlık gibi sınırlar yalnızca düzeltilmesi gereken kusurlar olarak görülebilir; oysa insanlık çoğu zaman sınırlar aracılığıyla olgunlaşır ve ilişkiye açılır
- Acıyı azaltmak için çabalamak doğrudur; ancak insanın temel sonluluğunu kabul eden bir bilgelik de gereklidir
- Hristiyan hümanizmi, bilim ve teknolojiyi reddetmez; onları şükran ve gerçeklik duygusuyla kabul eder, ancak daha yüksek bir çağrıya ve sevgi içindeki kendini aşmaya yerleştirir
- Yapay zeka çağındaki temel soru, teknolojinin yeryüzündeki insan yaşamını her yönüyle “daha insanca” kılıp kılmadığıdır
Hakikat, eğitim, emek, ekonomi
- Dijital platformlar ve yapay zeka sistemleri kamusal ve siyasal iletişimi derinden dönüştürüyor; çarpıtılmış anlatılar ve manipüle edilmiş görüntü-video içerikleriyle olgu ile görüş, doğru ile yanlış arasındaki sınırı bulanıklaştırabiliyor
- Gerçek bilgi merkeziyetçi ya da otomatik denetimden doğmaz; doğrulama, kaynakların çapraz kontrolü ve sorumlu akıl yürütme gerektirir
- Hakikat arayışı, demokrasinin vazgeçilmez unsurudur; neyin doğru olduğunu sorma iradesi zayıfladığında demokratik yaşam da zayıflar
- Yapay zeka kullanımına ilişkin eğitim, yalnızca yapay zekanın ne zaman ve hangi amaçla kullanılacağını değil, ne zaman kullanılmaması gerektiğine karar vermeyi de içermelidir
- Cevap ya da özeti hızlıca elde etmenin rahatlığı, soru sorma arzusunu ve derin öğrenme kapasitesini zayıflatabilir
- Dijital cihazlara ve sosyal medyaya erken yaşta, gözetim olmadan maruz kalmak; uyku, dikkat süresi, duygu düzenleme ve ilişkiler üzerinde olumsuz etki yaratabilir
- Çevrimiçi şiddet içeren ve aşağılayıcı içerikler, pornografi ve aşırı cinselleştirilmiş materyaller, grooming, tehdit ve çocukların cinsel istismarı; sahte profiller, riskli temasları kolaylaştıran algoritmalar ve görüntü-video manipülasyonu yapan yapay zeka araçlarıyla daha da sinsi hale gelir
- Emek yalnızca bir gelir kaynağı değil; yaşamın onurunu ifade eden ve geliştiren bir alandır ve amaç, herkesin kendi emeğiyle onurlu bir yaşam sürdürebilmesidir
- Otomasyon, robotik ve yapay zekanın birleşimi emek yapısını hızla değiştiriyor; makinelerin işçiyi desteklemesi yerine işçinin makinenin hızına ve taleplerine uymaya zorlanması riski var
- Otomasyon ve yapay zekanın devreye alınmasına, çalışanların istihdamının korunması, yeniden eğitimi ve sürece katılımı için doğrulanabilir önlemler eşlik etmelidir
- GDP tek başına insanların ve çevrenin genel iyilik halini yeterince değerlendiremez; emeğin onurunu, ortak refahı, eşitsizliğin azaltılmasını ve çevrenin korunmasını birlikte gören göstergeler gerekir
- Yapay zeka ve robotik çağında her şey piyasanın görünmez eline bırakılamaz; siyaset, ekonomi ve teknolojiyi ortak iyiliğe yöneltmelidir
- Dijital dikkat ekonomisine bağlı bağımlılık biçimleri, kullanıcıların zamanını ve dikkatini elde tutacak şekilde tasarlanır; kırılganlıklardan yararlanabilir ve iç özgürlüğü zayıflatabilir
- Büyük ölçekli veri toplama ve algoritmik sistemler; hareketleri, satın alımları, ilişkileri ve tercihleri profilleyerek davranışı etkileyen yeni bir toplumsal denetim riski yaratır
Görünmez emek, kölelik, veri sömürgeciliği
- Yapay zekanın anlık ve kusursuz gibi görünen yanıtları, doğal kaynakları, enerji altyapısını ve insanları da içeren uzun aracılık zincirlerinin sonucudur
- Dijital ekonomi, veri etiketleme, model eğitimi ve içerik moderasyonu gibi zorunlu ama neredeyse görünmez faaliyetleri yürüten sayısız emeğe dayanır
- İçerik moderasyonu çalışanları çoğu zaman rahatsız edici materyallerle uğraşır; pek çoğu gençtir, çoğunlukla kadındır ve zor koşullarda düşük ücret alır
- Yapay zeka cihazları ve mikroişlemci üretimi için gerekli kaynakların çıkarılması daha da serttir; bazı bölgelerde çocuklar ve gençler tehlikeli koşullarda nadir toprak elementlerinin çıkarılmasında kullanılan malzemeleri işler
- Suç ağları, çevrimiçi platformları, mesajlaşma sistemlerini, anonim ödeme yöntemlerini ve profilleme teknolojilerini kullanarak insan ticareti mağdurlarını toplar, kontrol eder ve taşır
- İnsan ticareti, çağdaş bir kölelik biçimidir ve insan onurunun ağır ihlali olarak tanınmalıdır
- Günümüz sömürgeciliği yalnızca bedenleri egemenliği altına almakla kalmaz; veriyi sahiplenip bireylerin yaşamını sömürülebilir enformasyona dönüştüren veri sömürgeciliği olarak da ortaya çıkar
- Sağlık verileri, epidemiyolojik profiller, genetik haritalar ve demografik bilgiler gibi yaşam verileri; kestirim modellerini eğitmek, yatırım stratejilerini yönlendirmek, krizleri öngörmek ve neyin önemli olduğuna karar vermek için kullanılabilir
- Yardım, araştırma ve inovasyon adına toplanan verinin bir tahakküm aracına değil, gerçek ortak iyiliğe dönüşmesini güvence altına almak gerekir
- Teknoloji endüstrisini ve dijital ekonomiyi ayakta tutan tedarik zinciri şeffaflığı artırılmalı; rekabet avantajı görünmez sömürü üzerine kurulmamalıdır
- Şirketler ve yatırımcılar, önleyici etik denetimi, çalışan korumasını, zorla çalıştırmayla mücadeleyi ve veri temelli iş modellerinin toplumsal etkisini değerlendirmeyi öncelik haline getirmelidir
- Dijital platformlar, iletişim, ödeme ve profilleme araçlarının mağdur toplama ve denetim kanallarına dönüşmemesi için yetkililer ve sivil toplumla sorumlu biçimde iş birliği yapmalıdır
Savaş, silahlar, çok taraflılık
- Yapay zeka ve dijital devrim, yalnızca geleneksel savaşı değil; siber saldırılar, bilgi manipülasyonu, etki kampanyaları ve stratejik kararların otomasyonu gibi hibrit çatışmaları da güçlendiriyor
- Teknoloji etik ve sorumluluktan koparıldığında, yaşam ve ölümle ilgili kararları daha hızlı ve kişiliksiz hale getirebilir; güç kullanımını da anlık ve uygulanabilir bir seçenek gibi gösterebilir
- Yapay zeka sivillerin savunulmasını ve korunmasını güçlendirebilir; ancak güç kullanımının eşiğini düşürme, sorumluluğu insanlardan gizleme ve düşmanı istatistiğe, kurbanı da “ikincil zarar”a indirgeme riski de taşır
- Sevgi uygarlığı, safça bir ütopya değil; sevgiyi adaletin yapılarına çevirmeyi ve kardeşliğe kurumsal biçim vermeyi gerektiren iddialı bir projedir
- İktidar kültürü, savaşı normalleştirir, daha büyük askeri güç arayışını teşvik eder, çok taraflılığın krizinden yararlanır ve “başka alternatif yok” diyen sahte bir gerçekçiliği besler
- 1965'te Saint Paul VI, BM Genel Kurulu'nda “Bir daha savaş olmayacak, bir daha savaş olmayacak!” diye seslendi
- Günümüzde yeniden silahlanma ve kamusal söylem içinde savaş, uluslararası siyasetin bir aracı olarak geri dönüyor; daha önce güç kullanımını sınırlayan etik ilkeler ise zayıflıyor
- Askeri-endüstriyel kompleksin büyümesi, siyasal manzaranın belirleyici özelliklerinden biri haline geldi ve birçok ülke ekonomisinin temel bir sektörü oldu
- Nükleer caydırıcılığın güvenliğin vazgeçilmez önkoşulu olduğu inancı; yeni silahlanma yarışlarına, nükleer azaltım anlaşmalarının kademeli çözülmesine ve kullanımını daha uygulanabilir gösteren küçültülmüş silahların geliştirilmesine katkı sağlıyor
- Otonom silah sistemleri konuşlandırılması ne kadar kolaylaşırsa savaş o kadar “uygulanabilir” hale gelir ve insan denetiminden o kadar uzaklaşır
- Ölümcül ya da geri döndürülemez kararların yapay sistemlere bırakılması kabul edilemez; hiçbir algoritma savaşı ahlaken kabul edilebilir kılamaz
- Savaş ortamında kullanılan her sistemin karar sürecini izlenebilir ve yeniden kurulabilir kılması gerekir; sorumluluk ve suç isnadı “makinelerde” kaybolmamalıdır
- Diyalog ve diplomasi, çatışma çözümünün standart araçları olmalıdır; siber saldırılar, veri manipülasyonu ve etki kampanyaları gibi görünmez şiddet biçimlerinde de sivilleri ve kırılgan kişileri koruyacak ortak kurallara ihtiyaç vardır
- United Nations dahil uluslararası kurumlar, devletler arası diyaloğu, anlaşmazlıkların barışçıl çözümünü, halkların bütüncül gelişimini, kırılganların korunmasını, silahsızlanmayı ve yaratılışın bakımını teşvik edebilir
Yapay zeka çağında insanın korunması ve Hristiyan yaşamı
- Yapay zeka çağında insanı koruma sorusu, Söz'ün insan olup insanlık durumunun içine girdiği Enkarnasyon gizemiyle bağlantılıdır
- Tanrı, insanın zayıflığını üstlenir ve onu kurtuluşun mekânına dönüştürür; Tanrı nezdinde değersiz olan hiçbir insani an ya da durum yoktur
- Ne kadar gelişmiş olursa olsun hiçbir hesaplama sistemi, kendini armağan eden bir yüreği ya da iyiyi kötüden ayıran vicdanı üretemez; insan yüzü tarihin merkezinde kalır
- Eucharistic spirituality, sevgi içindeki kilisevi birliğin maneviyatı olarak sunulur ve adalete, paylaşıma, yoksulluk ve marjinalleşme yükünü taşıyanlara öncelikli bakıma yöneltir
- Yeni ekonomik ve teknolojik ağlar dışlanma, yalıtım ve bağımlılık üretebilirken; insani bağı koruyan ve görünmez olanlara ses veren başka bir paradigmaya ihtiyaç vardır
- Çağımızın inşa görevi, Tanrı ile ilişkiyi merkeze alan, insan sınırlarını doğal ve olumlu bir gerçeklik olarak kabul eden, ortak sorumluluk ve İncil diliyle nitelenen bir yapı kurmaktır
- Dijital dünyayla insanca ilişki kurma biçimi, iman eğitiminin ve İncil'e göre yaşamanın bir parçası olarak öğrenilmelidir; dijital dünya, müjdelenmesi gereken yeni bir kıta olarak görülür
- Birlikte yenilen yemekler, Hristiyan topluluk buluşmaları, yalnızlarla geçirilen zaman ve yoksullara hizmet gibi fiziksel mevcudiyetin önemli olduğu mekân ve zamanlara değer verilmelidir
- Nehemya'nın yeniden inşa imgesi, dijital dönüşüm çağındaki çağrıyı aydınlatır ve toplumsal-kültürel yarılmalar karşısında pasif gözlemci ya da yorumcu olarak kalmamayı talep eder
- Yeniden inşa alanları laboratuvarlar, teknoloji şirketleri, okullar, medya, kurumlar ve yerel topluluklardır; dinleme ile cesareti, dua ile sorumluluğu birleştirerek insan şehrini yaşamaya daha elverişli hale getirmek gerekir
1 yorum
Lobste.rs görüşleri
Böyle bir belgenin var olması bile, hayattayken göreceğimi asla hayal etmediğim türden bilimkurgu gibi bir gerçeklik
Artık pek konuşulmuyor ama hâlâ inanılmaz derecede tuhaf
Bunu bir kitaba yazmış olsaydın, ister bilimkurgu olsun ister olmasın, fazla “kurmaca” görünürdü. Çok fazla şey bir tüfeğin eğimine bağlıydı
Anthropic'in yanıtı
“Yardımcı olacaksa, bazen bunu kurgusal bir karakteri hayata döndürmeye biraz benzer diye açıklıyorum”
Anthropic'teki herkesten katıksız kötülük yayılıyormuş gibi geliyor
Bu bağlantının lobste.rs'te paylaşılmış olması oldukça hoş bir sürpriz
Papa seçildikten hemen sonra ilk enciklik mektubunu gerçekten okuyacağıma kendi kendime söz vermiştim; üstelik gerçekten ilgimi çeken bir konu olması da güzel
Hafta sonu zaman ayırıp derinlemesine bakabilmeyi umuyorum. 1. bölümü gözden geçirip kaynakça sayısını görünce hafif bir metin olmayacağı belli oldu