Yapay zekâ ikna maliyetlerini düşürdüğünde elitler halkın tercihlerini nasıl şekillendirebilir?
(arxiv.org)- Yapay zeka tabanlı ikna teknikleri geliştiğinde elitlerin, halkın politika tercihlerini hassas biçimde ayarlama maliyeti keskin biçimde düşmektedir
- Araştırma, elitlerin çoğunluk oyu kısıtı ve ikna maliyetini hesaba katarak kitlelerin görüş dağılımını nasıl yeniden inşa ettiklerini dinamik bir model ile analiz eder
- Tek elit rejiminde ikna teknolojisi geliştikçe toplumun aşırı kutuplaşma durumuna yakınsaması eğilimi görülür
- Buna karşılık, sırasıyla iktidara geçen karşıt iki elitin durumunda ikna teknolojisi toplumu ‘yarı-kilitlenmiş (semi-lock)’ bir duruma yönlendirerek kutuplaşmayı azaltabilir de olabilir
- Sonuç olarak, yapay zekâ ikna maliyetini düşürdüğünde, kutuplaşma kendiliğinden bir olgu olmaktan çıkıp yönetim stratejisinin bir aracına dönüşür ve demokrasinin istikrarı açısından önemli sonuçlar doğurur
Demokratikleşmede ikna teknolojisinin değişimi
- Demokratik sistemlerde politika uygulamak için kitle desteği sağlamak zorunludur ve elitler bu amaçla kitlelerin inançlarını şekillendirmek ya da değiştirmek zorunda kalır
- Geçmişte elitler okul eğitimi, kamu yayıncılığı, propaganda, sponsor ağı gibi yavaş ve verimsiz araçlara bağımlıydı
- Bu yöntemlerin yüksek maliyet ve düşük hassasiyet nedeniyle büyük ölçekte kamuoyu manipülasyonu zorlaşmaktaydı
- Yapay zekâ yayılımı bu kısıtı kökten değiştirir
- Üretken modeller ve ajan sistemleri kişiselleştirilmiş ikna içeriğini gerçek zamanlı ve büyük ölçekte üretebilir
- İkna maliyeti düştüğünde kitlelerin tercih dağılımı bizzat elitin seçilebilir bir değişkenine dönüşür
Tek elit modeli: ‘kutuplaşma çekimi (polarization pull)’
- Tek bir elit, her dönemde çoğunluk kuralı altında politika uygulayabilmek için kitle desteğini ayarlar
- İkna maliyeti mevcutken, elit gelecekteki belirsizliğe karşı toplumu biraz ayrışmış bir durumda tutmanın avantajlı olduğuna karar verir
- Kamuoyu 50:50'ye yakın olduğunda, bir sonraki dönemde politika yönü değişse bile desteği devretme maliyeti minimumda olur
- Bu nedenle elit, kamuoyunu uzlaşmadan uzaklaştırma, yani aşırılığa yöneltme eğilimi gösterir
- İkna teknolojisi geliştikçe bu kutuplaşma yakınsama hızı artar
- Matematiksel analiz sonuçlarına göre elit, kamuoyunu orta değer (1/2) etrafına getirmeyi optimal bulur ve sadece uzlaşmadan uzaklaşan düzenlemeler yapar
İki elit rekabet modeli: ‘yarı-kilitlenme (semi-lock)’ etkisi
- İki elitin karşıt politika tercihlerine sahip olarak sırayla iktidarı devraldığı durumda ikna teknolojisinin etkisi değişir
- Her iki taraf da kamuoyunu çoğunluk eşiği civarında tutmaya çalışır, ancak aşırı kutuplaşma karşı tarafa kolaylıkla geri kazanılma riski yaratır
- Bu nedenle her elit, kamuoyunu karşı tarafın tersine çevirmesinin zor olduğu orta düzeyde bir kilitleme bölgesine taşımaya çalışır
- Sonuç olarak ikna teknolojisi koşullara göre kutuplaşmayı güçlendirebilir ya da zayıflatabilir
- Rekabet yoğunlaştıkça toplumun birlikte tutunması artma potansiyeli bulunur
Mevcut çalışmalarla farkı
- Mevcut literatürde kutuplaşma, gelir, kimlik, medya yapısı gibi dışsal etkenlerin bir sonucu olarak analiz edilir
- Bu çalışma kutuplaşmayı, elitlerin stratejik olarak seçtiği bir politika aracı olarak modellemektedir
- Ayrıca yapay zekâ tabanlı ikna teknolojilerinin uzun vadede siyasi dengeyi ve kamuoyu dağılımını nasıl yeniden düzenlediğini de birleştirir
- İlgili çalışmalar arasında LLM tabanlı ikna deneyleri (Salvi et al., Schoenegger et al., Tappin vd.) ve AI'nin siyasal iktisadi etkileri (Korinek, 2024) referans alınır
Demokrasi istikrarına dair sonuçlar
- İkna maliyeti düştükçe, kutuplaşma doğal bir olgu değil, stratejik bir yönetim aracı olarak işlev görür
- Bu durum politik istikrarsızlık ve enformasyon manipülasyon riskini artırabilir
- Yapay zekâ teknolojisinin ilerlemesi, siyasal ikna yapısı ve maliyetlerini yeniden düzenleyerek, demokrasinin kurumsal sürdürülebilirliğine yeni bir meydan okuma sunar
1 yorum
Hacker News yorumu
Converse'ün denemesini okurken, halkın gerçekten görüş sahibi olup olmadığını sorguluyorum
Örneğin gümrük tarifeleri meselesine bakınca, anketlerde destek yaklaşık %38 görünse de sektörel çıkarlar açısından bunun çok daha düşük olması gerekirmiş gibi geliyor
Perakende, hizmet ve inşaat sektörleri tarifelerden fayda sağlamıyor; imalat da ithal hammadde bağımlılığı nedeniyle daha karmaşık
Sonuçta güçlü biçimde destekleyenler yalnızca çelik ve alüminyum sanayileri ve bunlar da GSYİH'nin yaklaşık %2'si düzeyinde
İlginç olan şu ki bu kitap 1964'te yayımlandı ve Vietnam Savaşı ile karşı-kültür hareketi gibi toplumsal hoşnutsuzlukların patlamasından hemen önceki dönemi ele alıyor
Bunu dışa bağımlılığı azaltma ve istihdamı artırmaya yönelik bir maliyet-fayda analizinin sonucu olarak görüyorum
İnsanlar çok şey bildiklerini sanıyor ve kendi görüşlerinin politika yapımında eşit ağırlıkta ele alınması gerektiğine inanıyor
Batı toplumlarında birbirinin görüşlerine meydan okumama ya da hesap sormama kültürü büyüdüğü için bu durum daha da kötüleşiyor
Yazı AI'ye özgü bir tartışma değil
Asıl mesele iknanın maliyet yapısı ve AI yalnızca propagandayı ucuza üretmenin bir aracı olarak anılıyor
Aynı mantık Facebook hedefli reklamları ya da Rus troll çiftlikleri için de geçerli
AI kendinden emin konuştuğu için bir otorite hissi veriyor
Asıl sorun bu mesajları kontrol eden aşırı zenginlerin etkisi
Bu konudaki düşüncelerimi bir blog yazısında topladım
Rus troller otomasyonla 10 kat fazla içerik üretebilirken kendiliğinden gelişen muhalefet hareketleri aynı ölçüde büyüyemez
Bu birçok iyi şey de getirir ama sorun, kötü şeylerin de ucuza yapılabilir hale gelmesidir
Elitlerin kamuoyunu manipüle etmesi gazete ve yayıncılık döneminden beri var
Ders kitapları ve eğitim müfredatı da bundan farklı değildi
Hatta LLM'ler propagandaya daha dayanıklı bile olabilir, ansiklopedilerden sonra
Ticari rekabet olduğu için, belirli bir model yanlı olursa kullanıcılar bunu hızlıca fark edip ayrılır
“Objektif habercilik” kavramı da aslında ticari güven inşa etme stratejisinden doğdu
“Özgür düşünen” biri olmak çoğu zaman “garip biri” olmakla aynı şey
Kalabalık yanlış olabilir ama tek başına farklı düşünmenin sosyal maliyeti yüksek
Örneğin ben yatak karyolası olmadan sadece şilte kullanmanın daha rahat olduğunu düşünüyorum ama çoğu insan bunu tuhaf buluyor
Sonuçta yalnız doğuyor ve yalnız ölüyoruz; başkalarının onayı gelip geçici
Hava dolaşımı olmazsa küf oluşur ve yaşlılar ya da fiziksel olarak kırılgan insanlar için rahatsız edici olabilir
Futon gibi zemin kullanımı için tasarlanmış ürünler daha uygundur
Büyük AI modelleri hassas konularda ince ayar (fine-tuning) alıyor
Şirketlerin hukuk, pazarlama ve yönetişim ekiplerinin üzerinde uzlaştığı doğrultuda ayarlanıyorlar ve milyonlarca insan sonucu aynen kullanıyor
AI kullanarak bankadan 200 dolar geri almayı başardım
Bankanın PDF belgelerine dayanarak AI bana resmi bir talep mektubu yazdı
İleride bankalar da bu tür talepleri AI ile işlerse, AI'nin AI'yi ikna ettiği bir döneme gireceğiz
Yeni bir LLM benchmark'ına: AI-persuasion™ ihtiyaç var
Makine öğrenmesi tabanlı etki manipülasyonu aslında 10 yıl önce de vardı
Veri madenciliği ve reklam hedefleme olgun teknolojiler
Endişe verici olan anlık ikna değil, inançların çocukluktan itibaren şekillendirildiği yapısal etki
“iPad nesli” bunun ürkütücü bir örneği gibi geliyor
İnsanlar ilk duydukları bilgiyi gerçek kabul ediyor ve sonradan yalanlansa bile duygusal tepki veriyor
Çocuklukta yerleştirilen “gerçekleri” sonradan değiştirmek zor ve otomatik sistemler bunu büyük ölçekte yapabilir
Manipülasyonun maliyeti neredeyse sıfıra yaklaştığı için bu tehlikeli
Özel gözetim toplumuna karşı hiçbir güvenlik mekanizmamız yok
Asıl çözmemiz gerekenler eğitim, barınma, gıda ve yaşam maliyeti gibi gündelik sorunlar
İnsanlık tarihinin büyük kısmında küçük bir elit zümre serveti ve iktidarı tekeline aldı; yapı feodaldi
Bugünkü eşitsizlik sistemin amaçladığı sonuç ve gelecekte daha da kötüleşecek
Okuryazarlık, eğitime katılım ve beslenme durumu 1925'e göre çok daha iyi
Ancak konut ve yaşam maliyetleri son 20 yılda yeniden kötüleşti
Sosyal medya ve AI sayesinde “Büyük Yalan”ı tekrarlamanın maliyeti keskin biçimde düştü
Bu yüzden hükümetler örneğin fiyatların düştüğünü vurgulayan mesajları kolayca yayabiliyor
Gerçek “Big Lie”, az sayıdaki içeriden kişinin sızmasıyla mümkün olur ve CIA bunun ne kadar etkili olabileceğini zaten gösterdi
Neredeyse bir asır önce George Orwell'in 1984 eserinde bu durum zaten öngörülmüştü
Kayıtların gerçek zamanlı olarak değiştirilmesi ve geçmişin silinmesi gibi bilgi kontrolü kâbusu tasvir ediliyor
Orijinal metni gör