Papa Leo XIV: Yapay zeka güçlü azınlığa değil, insanlığa hizmet etmeli

• Magnifica Humanitas, yapay zekayı yeni bir sanayi devrimi olarak görüyor; eşitsizliğin büyümesi, demokrasinin zayıflaması ve insaniliğin aşınması riskleri konusunda uyarıyor
• Yapay zekanın silahsızlandırılması, yalnızca askeri alandan değil, ekonomik ve bilişsel rekabet mantığından da çıkmayı; teknolojinin insanı tahakküm altına almamasını sağlayacak bir yönelimi ifade ediyor
• Yapay zeka, halihazırda kaynaklara, uzmanlığa ve verilere erişim hakkına sahip olanların gücünü artırıyor; bu da az sayıda kişinin bilgi, tüketim ve demokratik süreçler üzerinde belirleyici olabilmesine yol açabiliyor
• İnsan onurunu ve ortak iyiyi korumak için tasarımdan kullanıma kadar sorumluluğun net olması gerekiyor; etik, zarar ortaya çıktıktan sonra değil, inşa sürecinde uygulanmalı
• Askeri amaçlı yapay zeka için sıkı etik kısıtlar, insan sorumluluğu ve uluslararası hukuk gerekli; veri sömürgeciliği ve emeğin ikamesi de sosyal adalet meselesi olarak ele alınıyor

---

İlk genelgenin özü: Yapay zekanın “silahsızlandırılması”

• Papa Leo XIV’ün ilk genelgesi “Magnifica Humanitas”, yapay zekayı yeni bir sanayi devrimi olarak tanımlıyor ve eşitsizliğin büyümesi, demokrasinin zayıflaması ve insaniliğin aşınması risklerini ana gündem maddesi haline getiriyor
• Yapay zekanın silahsızlandırılması, yalnızca askeri alanla sınırlı değil; yapay zekayı ekonomik ve bilişsel rekabet mantığından ayırarak teknolojinin insanı yönetemeyeceği bir yönelimi ifade ediyor
• Amaç teknolojiden vazgeçmek değil, yapay zekayı “silahsızlandırılmış, misafirperver ve erişilebilir” bir teknolojiye dönüştürmek
• Yapay zeka şirketleri için daha sıkı ulusal ve uluslararası düzenlemeler gerekiyor; bireyler ve topluluklar da yapay zekanın geleceğini şekillendirmeye geniş ölçüde katılmalı
• Leo XIV, 19. yüzyıl sanayi devrimine yanıt olarak 1891’de yayımlanan Leo XIII’ün “Rerum Novarum” genelgesine atıf yaparak, yapay zeka çağının toplumsal sorularını Katolik sosyal öğretisinin devamı içinde konumlandırıyor
• Genelge; bilim insanları ve mühendisler, siyasi liderler ve kamu görevlileri, ebeveynler ve öğretmenler dinlenerek hazırlandı ve yapay zekanın programlanması, düzenlenmesi ve faydaları konusunda geniş katılım çağrısı yapıyor

Big Tech ve gücün yoğunlaşması

• Leo XIV, az sayıda zengin bireyin insanlığın geleceğini ve geçim kaynaklarını belirleyebileceğini, dijital devrime katılanlarla çevrede kalanlar arasındaki uçurumun büyüyebileceğini düşünüyor
• Yapay zeka, zaten ekonomik kaynaklara, uzmanlığa ve verilere erişim hakkına sahip olanların gücünü büyütme eğiliminde
• Az sayıdaki etkili grup; bilgi akışını ve tüketim kalıplarını şekillendirebilir, demokratik süreçleri etkileyebilir ve ekonomik dinamikleri kendi lehlerine yönlendirebilir
• Teknoloji tarafsız değildir; arkasındaki çıkarları ve paydaşları açığa vurur
• Güç az sayıda elde toplandığında şeffaflığını yitirir ve kamusal denetimden kaçması kolaylaşır; bu da bağımlılık, dışlanma, manipülasyon ve eşitsizliğin yeni biçimlerini üreten çarpık bir kalkınmaya yol açabilir
• Anthropic kurucu ortaklarından Chris Olah, yapay zeka geliştirmenin; ticari ilgi, jeopolitik baskılar, gurur ve hırs nedeniyle “doğru olanı yapmak” ile çatışabilen teşvikler ve kısıtlar içinde işlediğini söylüyor
• Olah’a göre dini topluluklar, sivil toplum, akademisyenler ve hükümetler yapay zekaya ciddiyetle bakmalı ve onu daha iyi bir yöne itmeli

İnsan onuru, muhakeme ve emek

• Temel ilke, insanın yapay zekadan önce geldiği; insan onurunun beceri, servet, toplumsal konum ya da doğru seçim yapıp yapmamasından değil, bizzat varoluştan kaynaklandığı
• Yapay zeka chatbotları çağındaki risk, kullanıcıların yapay zeka ajanlarını insan sanmasıyla sınırlı değil; başkalarını arama isteğinin kendisini de zayıflatabilir
• Karar vermeyi makinelere devretmek, aşırı bağımlılığı ve anlık cevap arayışını artırabilir; bireyin yaratıcılığı ve muhakeme gücü zayıflayabilir
• Yapay zeka yeniliğinin insan toplumu ve çevrenin korunması üzerinde olumlu etkiler yaratma potansiyeli var; ancak riskleri de birlikte ele alınmalı
• Yapay zekanın insan onuruna ve ortak iyiye saygı göstermesi için tasarımcı ve geliştiricilerden kullanıcılara ve fiili kararlara dayanan kişilere kadar her aşamadaki sorumluluk açık olmalı
• Ahlaki ve etik ilkeler, topluma zarar verildikten sonra değil, sistemler inşa edilirken uygulanmalı
• Yapay zeka benimsenirken ihtiyat, sıkı değerlendirme ve bazen daha yavaş ilerleme çağrısı yapmak; ilerlemeye karşı çıkmak değil, insan ailesine karşı sorumlu davranmak olarak sunuluyor
• Anthropic gibi örneklerdeki etik anayasa türü çerçeveler de, yalnızca az sayıda kişinin belirlediği bir ahlak anlayışıyla yeterli değil; ortak sosyal adalet ölçütlerine göre tartışılmalı
• Hakikat, demokrasinin zorunlu unsurudur; özellikle gençler için yapay zeka eğitimi gereklidir
• Yapay zekanın emek yükünü hafifleteceği vaadine rağmen, pratikte işçiler çoğu zaman makinelerin hızına ve taleplerine uymaya zorlanıyor
• Dördüncü sanayi devriminde öncelik, istihdam fırsatlarını korumak ve bireyin ikame edilemez rolünü savunmak olmalı

Transhümanizm, eşitsizlik ve veri sömürgeciliği

• Transhümanizm ve posthümanizm, insanlık durumunun aşılmasını ilerleme sayan bir varsayımla bağlantılı
• Hastalık, engellilik, yaşlılık ve kırılganlığı yalnızca aşılması gereken sınırlar olarak gören görüşün aksine, insan çoğu zaman sınırlılıklarına rağmen değil, o sınırlılıklar aracılığıyla gelişir
• Víctor Manuel Fernández, insanın son kullanma tarihine ulaşıp değiştirilmesi gereken bir varlık olduğu görüşünün aksine, Katolik öğretinin her insana sonsuz onur atfettiğini belirtiyor
• Küresel ekonomik uçurum büyürken, teknolojik ilerleme yapısal eşitsizlikler üretebilir
• Vergi sistemi, en kırılgan insanların yükünü hafifletmeli ve daha fazla kaynağa sahip olanlara daha fazla sorumluluk yüklemeli; yeniliğin faydaları da şeffaf biçimde tüm toplulukla paylaşılmalı
• Yapay zekanın arkasında; telif hakkı kapsamındaki materyallerle eğitilen modellerden, yapay zeka donanımında kullanılan nadir minerallerin çıkarılmasına kadar insan ve çevre sömürüsünün izleri bulunabilir
• Veri sömürgeciliği, sağlık eğilimlerinden epidemiyolojik profillere, genetik haritalardan demografik verilere kadar uzanan bir sahiplenmeyi ifade eden yeni bir sömürgecilik yüzü olarak ele alınıyor
• Bu veriler “iktidarın yeni nadir toprak elementleri” haline geldi ve kâr odaklı az sayıdaki birey ya da grubun elindeki yapay zeka teknolojisi, yeni bir sömürge tahakkümü biçimine dönüşebilir
• Paylaşılan bilginin bir tahakküm aracı değil, ortak iyi haline gelmesi için; bireylere kendilerini tanımlayan veriler ve bu verilerin nasıl kullanıldığı, kimler tarafından kullanıldığı ve kimlere yarar sağladığı konusunda karar verebilme gücü geri verilmeli

Savaş, sosyal adalet ve ortak iyi

• Yapay zekanın askeri kullanımı en sıkı etik kısıtlamalara tabi olmalı
• Askeri eylemlerin, özellikle ölümcül eylemlerin sorumluluğu makinelerde değil insanlarda kalmalı
• Savaşta karar alma süreçlerinin izlenebilirliği, insan denetimi ve otomatik silahların artan kullanımı ile sonuçlarını ele alan uluslararası hukuka ihtiyaç var
• İnsan onuru ve ortak iyiyi merkeze alan toplumsal, ekonomik ve siyasi yaşamın ahlaki ilkeleri yapay zeka çağında da geçerli olmalı
• Dayanışma ve “komşuya” özen gösterme merkezi eksenler; özellikle gelecek nesillere karşı sorumluluk vurgulanıyor
• Sosyal adalet, yalnızca kaynakların daha adil dağıtımı ya da mevcut adaletsizliklerin düzeltilmesi değil, onarıcı bir boyut da içeriyor
• Dijital alanda da müdahaleci gözetim, temel teknolojilere erişimden dışlanan topluluklar ve ayrımcılığı kalıcılaştıran şeffaf olmayan algoritmaların zararlarına karşı dikkatli olunmalı
• Göç, günümüzde sosyal adaletin turnusol kâğıdı olarak ele alınıyor
• Babel, iktidarı ve kendini tatmin etme arayışını simgelerken; Nehemya’nın Kudüs’ü yeniden inşası dua ile aile ve topluluk katılımına yöneliyor
• Mesaj, yapay zeka çağında da Babel’in inşası ile Kudüs’ün yeniden inşasının her insanın kendi iç dünyasında başladığı fikriyle sonuçlanıyor

[GN⁺]

Hacker News yorumları

• Neredeyse mükerrer bir gönderi. https://news.ycombinator.com/item?id=48265206

• Dönem birçok açıdan farklı. Örneğin 1) artık AI var, 2) papa Amerikalı ve görevdeki iki partinin en üst düzey siyasetçilerinden daha güvenilir
  İnsanlar papalığın dönemini özlemiyor; daha çok, sağduyulu herhangi birinin aradığı şeye yakın bir şey arıyorlar

• 15 yıl önce Papa Benedict vardı ve oldukça farklı bir figürdü. Kişisel olarak Francis ya da Leo'ya kıyasla ona karşı daha alaycı olurdum gibi geliyor

• Dini benzetmeyi sürdürecek olursak, o dönemde HN kullanıcıları muhtemelen Chrome'un artık İsa'nın ikinci gelişi muamelesi görmemesine daha çok şaşırırdı