Yapay zeka düşüncelerimizi tek tipleştiriyor

• MIT araştırmasında ChatGPT kullanan grubun beyin etkinliğinin görece daha düşük olduğu görüldü
• Yapay zeka kullanımı, yaratıcılık ve çeşitlilikte azalmaya ve ortaya çıkan işlerin tek tipleşmesine yol açıyor
• Cornell Üniversitesi araştırması da, kültürel ve bireysel farklılıklar yansıyan yazıların bile yapay zeka kullanıldığında Batılı ve ortalama eğilimlere yakınsadığını doğruladı
• Yapay zekanın sunduğu ortalama ve güvenli yanıtlar, kültürel çeşitliliğin ve bireyselliğin zayıflamasına neden oluyor
• Yaygınlaşan yapay zekanın yaratacağı uzun vadeli etkiler hâlâ tam olarak bilinmese de, düşüncenin sadeleşmesi ve tek tipleşmesi başlıca kaygılar arasında öne çıkıyor

---

Deneyler ve başlıca bulgular

• 2023'te MIT, Boston çevresindeki üniversite öğrencilerinden oluşan 50'den fazla kişiyi üç gruba ayırarak SAT tarzı deneme yazma deneyi gerçekleştirdi
  • Bir grup yalnızca kendi beynini kullandı
  • İkinci grup Google Search kullanabildi
  • Üçüncü grup ise denemeyi yazarken ChatGPT kullandı
• Tüm katılımcılar beyin dalgalarını ölçen kulaklıklar taktı ve analiz sonucunda ChatGPT kullanan grubun beyin etkinliğinin en düşük olduğu görüldü
  • Bu grupta beynin farklı bölgeleri arasındaki bağlantısallığın (alfa ve teta dalgaları) azaldığı gözlemlendi
  • Bazı kullanıcılar yazdıkları deneme üzerinde sahiplik duygusu eksikliği gösterdi ve çoğu, yazdıkları içeriği alıntılayamadı bile
  • MIT araştırmacıları bunu yapay zekaya bağımlılığın bilişsel maliyeti olarak adlandırdı

Yapay zekanın tetiklediği düşünsel ortalamalaşma

• ChatGPT kullanan grubun denemeleri, benzer kelime ve fikirlere yakınsama eğilimi gösterdi
  • Geniş yanıtları teşvik eden SAT istemlerine rağmen, yapay zeka kullanan grup tek tip mantık ve kelime dağarcığı kullandı
  • Örneğin, “gerçek mutluluk” sorusuna verilen yanıtların tamamı kariyer ve başarı merkezliydi; “bağış yapmanın ahlaki yükümlülüğü” konusunda ise tekdüze biçimde olumlu görüş bildirildi
• MIT'den araştırmacı Kosmyna'nın ifadesiyle, “her şeyin ortalamada toplandığı” bir olgu saptandı

Toplumsal ve kültürel çeşitliliğin zayıflaması

• Cornell araştırmacıları, ABD ve Hindistan'daki kullanıcıların kendi kültürel arka planlarını yansıtarak yazı yazdığı bir deney yürüttü
  • Bazıları ChatGPT bağlantılı otomatik tamamlama kullandı, bazıları kullanmadı
  • Otomatik tamamlama kullanıldığında katılımcıların yazıları Batılı ve ortalama eğilimlere yakınsadı ve birbirine benzedi
  • Yemek ve bayramlarla ilgili sorularda pizza ve Noel sık tekrar eden yanıtlar oldu; yerel farklılaşma zayıf kaldı
  • Denemelerin ayrıntılı betimlemeleri ve atmosferi bile daha çok sıradan kalıplara dönüştü

Yapay zeka araçlarının öneri etkisi ve kimlik aşınması

• Yazar, yapay zeka öneri işlevinin yazarın kendi sesini zayıflatan bir “hipnoz etkisi” yarattığını söylüyor
  • Sürekli maruz kalmanın, yazma özgüveninin ve kimliğin kaybına yol açabileceği konusunda kaygılar var
  • Yapay zekanın önerileri yalnızca kullanıcının düşüncelerini değil, düşünme biçimini de ortalamalaştırıyor
  • Bunun sonucunda, “neyin normal ve arzu edilir olduğu”na dair toplumsal algının da değişme ihtimali bulunuyor

Endüstriyel itici güçler ve kültürel standartlaşma

• OpenAI ve diğer yapay zeka geliştiricileri, daha fazla kullanıcının genel ve ortalama çıktılardan memnun kalacağı şekilde sistemler tasarlıyor
  • Bir modele ne kadar çok kişi için kabul edilebilir çıktı ürettirilebilirse, o kadar fazla ücretli kullanıcı kazanılabiliyor
  • Verimlilik açısından, “her şey aynı olduğunda ölçek ekonomisi” mümkün hâle geliyor

Yapay zeka ve yaratıcılık: deneysel sınırlamalar

• OpenAI CEO'su Sam Altman ve diğerleri, yapay zeka sayesinde herkesin bir üretici olabileceğini savunuyor

• Ancak deneylerde, yapay zeka kullanan grubun özgünlük bakımından daha ortalama ve birbirine benzer fikirler üretmeye yatkın olduğu görüldü

  • Santa Clara Üniversitesi'ndeki bir araştırma, ChatGPT ile mevcut yaratıcılık aracı Oblique Strategies'i karşılaştırdı
  • ChatGPT kullanıcılarının fikirlerinde anlamsal benzerlik, yani tek tipleşme eğilimi görüldü

• Deney analisti Max Kreminski'ye göre, insanın ilkel düşüncesi giderek yapay zekanın ortalama değerine doğru çekiliyor

  • Yapay zeka tekrar tekrar “yeterince iyi yanıtları” hızla ürettikçe, kullanıcılar kendi fikirlerini geliştirmekten çok yapay zeka çıktıları arasından seçim yapmaya odaklanıyor
  • Konuşma uzadıkça, yapay zekanın context window sınırları nedeniyle daha tekrarlı ve ortalama yanıtlar güçleniyor

Yaygınlaşmış yapay zeka ortamı ve bilgi çeşitliliğinin eksikliği

• Araştırmaların çoğu küçük ölçekli deneyler olsa da, yapay zekanın uzun vadeli etkileri hâlâ belirsiz
• Meta'nın AI uygulaması gibi ortamlarda, çok sayıda insanın ürettiği aşırı pürüzsüz ve tek tip içerikler büyük miktarda ortaya çıkıyor
  • Otomatik e-postalarda ve gündelik taleplerde tek tip formatlar ve kelime dağarcığı ortalığı kaplıyor
  • Gerçek istem örneklerinde de yapay zekanın yalnızca olumlu gelecek senaryolarını sıralayıp olumsuz olasılıkları ve riskleri dışarıda bıraktığı görülüyor
  • Bu durum, yapay zeka tasarım sürecindeki teknoloji yanlısı önyargının çıktılardaki çeşitlilik azalmasına yol açabileceğini düşündürüyor

Sonuç ve görünüm

• Birinin yapay zekanın sunduğu bilgiye bütünüyle inanması için düşünmeyi bırakması gerekir
• Yapay zekanın doğurduğu düşüncenin ortalamalaşması ve yaratıcılığın zayıflaması olgusuna karşı toplumsal ve kültürel düzeyde dikkatli olunması gerektiği vurgulanıyor

[zihado]

İnternet ilk ortaya çıktığında da buna benzer meseleler vardı diye hatırlıyorum. Eleştirel düşünmeyi geliştirme becerisinin daha önemli olduğunu düşünüyorum.

[mango]

İnternette arama yaparak ya da YouTube üzerinden yanlış bilgileri benimsemektense bunun daha iyi olduğunu düşünüyorum. Belirli bir grubun çıkarlarını temsil etme amacıyla önyargılı bilgileri kabul etmektense daha iyi olduğunu düşünüyorum. AI'nın da önyargılı olabileceği söylenebilir, ancak internette dolaşan rastgele bilgilerin ortalama güvenilirliğinden daha yüksek olduğunu düşünüyorum. Eleştirel düşünce olmadan yanlış bilgileri kabul edebilme açısından da benzer.

[GN⁺]

Hacker News görüşü

• Son zamanlarda gerçek "dijital uçurum"un, bir kişinin son birkaç yılda eleştirel düşünme becerisini zaten geliştirip geliştirmediğine göre belirlendiğini düşünüyorum. Çeşitli okumalar ve sabırlı tefekkür yoluyla bu beceriyi edinmiş biri için LLM gibi araçlar, ham bilgi denizinde bir wave runner sürmenin anahtarını veriyormuş gibi hissettiriyor. Ama eleştirel düşünmeyi şimdi öğrenmesi gereken kişiler için, LLM’e alışkanlık halinde başvurmadan düşünsel çabayı aşmak zor olacak gibi görünüyor. Belirsizliğe kendi başına katlanma eylemi, yani bilginin bilgi birikimine dönüştüğü an, burada anında ortadan kaldırılıyor. Bu beceriyi 2023’ten önce edinmiş olmaktan dolayı şanslı hissediyorum, ama genç nesle LLM’lerin koşulsuz bir öğrenme aracı olarak sunulması biraz korkutucu

  • AI’nin herkesi aptallaştırdığı yönündeki kötümserliğin, aslında çoğu insanın zaten pek güçlü bir eleştirel düşünme yetisine sahip olmadığı gerçeğini abartılı biçimde değerlendirdiğini düşünüyorum. Yaklaşık 20 yıldır ileri seviye mühendislik alanlarında çalışıyorum ve karmaşık kavramları gerçekten anlayan insanlar, başarılı profesyoneller arasında bile nadirdi. Zaten baştan beri eleştirel düşünmeyen çoğunluğa kolay cevaplar sunulmasının, zeki insanlara zarar vereceğini sanmıyorum

  • Küçük yaştaki halimi düşündüğümde, kısa vadeli eğlencenin peşinden koştuğum zamanlarda hiçbir şey öğrenemediğimi hatırlıyorum

  • Idiocracy çağının yaklaştığı hissine kapılıyorum

• Tüm bağlantı teknolojilerinin homojenliği teşvik eden bir güç olduğunu düşünüyorum. Örneğin TV, yerel ağızların kaybolmasına yol açan en temsilî örneklerden biri. Sınırsız haz, eğlence ve bağlantılılık; üzgün, sıkıcı ve yalnız bir dünya yaratıyor

  • Yerel ağızların ortadan kalktığına dair dayanağı merak ediyorum. ABD’nin çeşitli yerlerini gezerken hâlâ pek çok farklı bölgesel ağız duyabiliyorum. Batı, Ortabatı, Güney ve Doğu’da akrabalarım var; her bölgede belirgin aksanlar hâlâ mevcut. Yoğunlukları farklı olsa da hâlâ açıkça seçiliyorlar

  • Sosyal medya zaten düşünme biçimimizi büyük ölçüde homojenleştirdi. Aynı anda çok fazla bilgi ve bakış açısı üzerimize geldiği için, kendi görüşümüzü oluşturmak yerine başkalarının düşüncelerinden ilham almadan dayanmak zorlaşıyor. Upvote düğmesi, herkesin hemfikir olduğu düşünceyi kolayca belirliyor

  • Ne yapmamız gerektiğini düşünüyorum. The Offline Club gibi ciddi girişimlerin bir panzehir olup olamayacağını merak ediyorum. Bu tartışma yakın zamanda Hacker News üzerinde de dönmüştü. Sözde 'grass touching' teknolojisi üzerine düşünceler

  • Yine de coğrafi çevrenin sunduğu çeşitlilik bazı deneyimleri belirliyor. Elbette bugün teknolojinin amaçlarından biri de bu tür coğrafi özgünlükleri dengelemek ya da ortadan kaldırmak

  • AI söz konusu olduğunda mesele, homojenliği kimin yönettiği ve bunu hangi amaçla yaptığıdır. IRC ya da mesajlaşma uygulamaları gibi dinamik sistemler, insanların doğal biçimde bağ kurmasına ve gruplar oluşturmasına izin verir. Ama AI, parası bol kapitalistlerin sermaye koyarak inşa ettiği kapalı ve yönetilen bir araç olduğu için, sonuçta iş modelini korumaya ve riski azaltmaya dönük bir homojenleştirme örtük biçimde gerçekleşiyor. Asıl tehdit, gerçekliğin belirli amaçlara uygun şekilde 'yazılması' olgusu

• Kişi kendi başına düşünmediği sürece düşüncelerinin homojenleştiği görüşündeyim. Bunun birçok insan için bir zayıflık olabileceğini düşünüyorum

  • "Kendi araştırmasını yapan" tipteki insanların paradoksal biçimde en ağır grup düşüncesine kapıldığını gözlemliyorum

  • Benzer yapıda aksiyom sistemlerine sahip çok sayıda birey benzer sonuçlara ulaşır. Bazıları, belirli bir düşünce topluluğuna ait oldukları hâlde bağımsız düşündüklerine inanır. Topluluk üyelerinin düşüncelerini birbirine yaklaştıran güçlü kuvvetler vardır. Buna karşılık bazıları, bilinmeyen mem alanlarında yeni strateji ya da fikirler bulan bir 'hazine avı stratejisi' izler. Ancak bu stratejinin daha riskli olması ve çok sayıda deneme yapabilecek kaynak gerektirmesi gibi sınırlamaları da vardır

  • "Kendi başına düşünmezsen homojenleşirsin" iddiasına katılıyorum; ayrıca teknik olmayan ya da teknolojiye aşina olmayan arkadaşlarınızın veya aile üyelerinizin ChatGPT’yi nasıl kullandığına bir kez bakmanızı tavsiye ederim. Gerçekten epey sarsıcı örnekler var. LLM araçlarını iyi tanımayan insanlar bunları gerçekten tehlikeli biçimde kullanıyor. Örneğin bir arkadaşımın eniştesi, ChatGPT’den çeşitli penny stock’lar ve az bilinen kripto paralar hakkında muazzam getiri garantisi aldığını duyup gerçekten yatırım yaptı. Bazı insanlar da ChatGPT’nin Tanrı’nın sesini ilettiğine inanıp tuhaf davranışlarda bulunabiliyor. Ticari LLM’ler yeterince ikna edici çalışıyor; bu yüzden aracın nasıl işlediğini bilmeyenler kolayca etkilenebiliyor. Ben LLM çıktılarında bariz hatalar gördüğüm için doğal bir şüphecilik geliştirdim, ama nesnel yargıda zorlanan insanlar her şeyi olduğu gibi inanma riski taşıyor

• MIT Media Lab’den Nataliya Kosmyna’nın yazdığı bir araştırmada, Boston’daki yaklaşık 50 üniversite öğrencisi üç gruba ayrılmış ve ChatGPT kullanan grupta diğerlerine kıyasla beyin aktivitesinin, özellikle yaratıcılık ve çalışma belleğiyle ilişkili alfa ve teta bağlantılarının belirgin biçimde daha düşük olduğu söyleniyor. Ama örneklem büyüklüğü bu kadar küçük olan böyle bir fMRI çalışmasının gerçekten güvenilir bir bilimsel sonuç üretip üretmediğinden emin değilim. Hatta doğrulama yanlılığına dayanan gösterişli bir sonuç da olabilir

• Bugünlerde abartılı 'kıyamet kehaneti' yazıları insanların düşüncelerini fazlasıyla tek tipleştiriyor. Bu iddialarda kesinlikle bir doğruluk payı var, ama gerçekte çok daha incelikli yönler söz konusu

• TV, sosyal medya, matbaa gibi geçmiş medya teknolojisi değişimlerine bakarak, benzer medya korkularının tarih boyunca tekrarlandığını anlatıyor İlgili makale

  • Kitle iletişim araçları bizim girdilerimizi (tükettiğimiz bilgiyi) homojenleştirir. AI mevcut medyadan farklıysa, çıktılarımızı da (ürettiklerimizi de) doğrudan homojenleştirebilme ihtimalini ayrıca düşünmek gerekir

  • Matbaadan önce dünyadaki insanlar belki 8 milyar farklı konuşma yapıyordu; matbaa sayesinde ise çeşitli küçük gruplar giderek büyüdü ve daha geniş ölçekte aynı konuşmaları yapmaya başladı

• SNS, TV, Hollywood ve genel olarak popüler kültür de toplumu homojenleştiren bir rol oynuyor

• Merkezi limit teoremi (central limit theorem) her zamanki gibi işliyor görüşündeyim

• Sonunda homojenleşmiş devlerin omuzlarında yükselmek bizim kaderimiz olacak

• Üniversitede beşerî bilimler okurken makalelere başvurup onları kendi fikirlerimle birleştirerek yazma biçimimle, bugün AI’nin yaptığı şey arasında çok büyük bir fark olmadığını düşünüyorum. Sonuçta AI’nin kişinin kendi zihinsel yardımcı aygıtı olup olmayacağı, her bireyin ölçütlerine ve farkındalığına bağlı bir mesele