Yapay zeka tavsiyesi alınınca doğruluk üçte bire düşüyor, özgüven iki kattan fazla artıyor

 (thenextweb.com)
2 puan yazan GN⁺ 1 일 전 | 1 yorum | WhatsApp'ta paylaş
  • Yapay zeka tavsiyesi kullanan katılımcıların “bilmiyorum” yanıtı verme oranı %44’ten %3’e sert biçimde düştü; doğruluk %27’den %9’a gerilerken özgüven %30’dan %76’ya yükseldi
  • Araştırmacılar, rasyonel araç devrinden ayırmak için filmlerdeki görsel ayrıntılar gibi yapay zekanın sıkça yanıldığı soruları ve genelde yanlış yanıt veren Step 3.5 Flash’ı kullandı
  • Bazı katılımcıların tek başına olsalar doğru yanıtlayabilecekleri sorularda, yapay zekaya sorduktan sonra yanlış yanıtı seçtiği görüldü; bu da yanlış yapay zeka tavsiyesinin mevcut yargıyı bile zedeleyebileceğini gösterdi
  • Maddi ödülle “bilmiyorum” yanıtları %8’e, doğruluk %16’ya kadar iyileşti; ancak yapay zeka kullanılmayan referans değerler olan %44 ve %27’nin oldukça altında kaldı
  • Yapay zekayı kullanabilme ihtimali bile kişinin kendi bilgisinin sınırlarını fark etme alışkanlığını zayıflatabileceğinden, eleştirel düşünmesi gelişmekte olan çocuklar ve öğrenciler için özellikle kaygı verici

Yapay zeka tavsiyesinin yargı ve özgüven üzerindeki etkisi

  • Fransa ve İtalya’daki 3 üniversitenin araştırması, yapay zeka tavsiyesine erişildiğinde yargıyı erteleme, doğruluk ve özgüvenin nasıl değiştiğini ölçtü
    • “Bilmiyorum” yanıtı verme oranı %44’ten %3’e düştü
    • Doğruluk %27’den %9’a geriledi
    • Özgüven %30’dan %76’ya yükseldi
  • Araştırmaya University of Milano-Bicocca’dan Valerio Capraro, École Normale Supérieure’den Chiara Marcoccia ve Sapienza University of Rome’dan Walter Quattrociocchi katıldı
  • Sorular, 《Bend It Like Beckham》 filmindeki takım formasının rengi gibi yapay zeka modellerinin genellikle başarısız olduğu filmlerin görsel ayrıntılarından oluştu
  • Bu tür sorularda çoğunlukla yanlış yapan Step 3.5 Flash özellikle kullanılarak, yargı gücündeki azalmanın güvenilir bir araca rasyonel biçimde devretmenin sonucu olmadığı ayrıştırıldı
  • Bazı katılımcılar, kendi başlarına yanıtlasalardı doğru bilebilecekleri sorularda bile yapay zekaya sorduktan sonra yanlış yanıtı seçti
  • Maddi ödül sonuçları kısmen iyileştirdi, ancak yapay zekanın olmadığı koşuldaki referans seviyeye ulaşamadı
    • “Bilmiyorum” yanıtları %3’ten %8’e çıktı, ancak %44’lük referans değerin altında kaldı
    • Doğruluk %9’dan %16’ya yükseldi, ancak %27’lik referans değere ulaşamadı

Bilişsel teslimiyet ve eğitim kaygıları

  • Wharton araştırmacıları, insanların yanlış yapay zeka yanıtlarını %80 oranında kabul edip yapay zeka olmadan çalışanlara göre daha yüksek özgüven göstermesi olgusunu bilişsel teslimiyet (cognitive surrender) olarak adlandırdı
  • Bu sonuçlarda, yanlış yapay zeka yanıtına güvenmekle kalınmayıp yapay zekanın erişilebilirliğinin kendisi de kişinin neyi bilmediğini fark etme alışkanlığını baskılıyor
  • Capraro, “bilmiyorum” diyebilme becerisinin, kişinin kendi bilgisinin sınırlarını fark etmesi anlamına geldiği için insanlar açısından önemli olduğunu vurguluyor
  • Eleştirel düşünme becerileri gelişmeden önce yapay zeka sistemleriyle birlikte büyüyen çocuklar özellikle kaygı duyulan grup
  • Google’ın yapay zeka arama yenilemesi, bağlantıları kendinden emin yapay zeka üretimi özetlerle değiştirdi; Common Sense Media ise bu tasarımı öğrenciler için “kabul edilemez bir risk” olarak değerlendirdi
  • Yanıt vermek üzere tasarlanmış ve “bilmiyorum” demeyen yapay zeka ürünleri sürekli kullanılırsa, insanlar da aynı davranışı öğrenebilir

İlgili okumalar

1 yorum

 
GN⁺ 1 일 전
Hacker News görüşleri

  • Bu çalışma epey zayıf. PDF altındaki şu yorumun iyi yakaladığı gibi, deneyde yer alan unsurlar arasında yalnızca AI sistemlerine özgü hiçbir şey yok
    Araştırmacılar, belirli sorulara yanlış yanıt verdiğini bildikleri bir LLM’i katılımcılara sundu; ardından emin değillerse yanıt vermemelerine izin verilen bir koşulda tam da bu soruları sordular
    Bu, bazı olguları yanlış olan, yabancı bir alana ait bir ders kitabı verip sonra o kitaptaki yanlış içerikten sınav yapmakla aynı şey. Doğal olarak katılımcıların hem yanıt verme hem de yanlış yanıt verme olasılığı artar
    Yağcılık eğilimi ya da bilişsel tembellik gibi modern LLM’lerin öğrenme ve özgüven üzerindeki etkileri çok ilgi çekici, ama bu çalışma bu unsurların hiçbirini test etmiyor; LLM’i hatalı bir ders kitabıyla değiştirseniz deney tasarımı neredeyse hiç değişmez

    • Başlık “AI tavsiyesi insanların doğruluğunu 3 kat düşürdü” diyor, ama insanların doğruluğunu değerlendirmek için önce kullanılan AI’ın kendi doğruluğunu bilmek gerekir. Makul beklentiden çok daha kötü olacak şekilde kısıtlanmış bir AI kullanıldıysa ne insanları ne de AI’ı suçlayabilirsiniz; bu, bir uzmana yalan söylemesini emredip ardından “uzmanı dinlemek doğruluğu düşürür” sonucuna varmaya benzer
      Daha iyi bir başlık “Çok hatalı bir AI insanları daha az doğru hâle getirdi” olurdu; ama o zaman doğal olarak “Peki makul ölçüde doğru bir AI ne yapar?” sorusu doğar
    • Aynı sonuçların ders kitabıyla da elde edilebilmesi, çalışmanın sonucunu anlamsız kılar mı emin değilim. Esas nokta, uzmanlık dışı bir alanda otoriter görünen ama hatalı bir araç verildiğinde, yanıt yanlış olsa bile “bilmiyorum” diyebilme becerisinin zayıflaması
      Yanlış yanıtlar istemiyorsanız çalışanlara kötü ders kitapları almamanız gerektiği gibi, iyi bilmedikleri alanlarda AI sunmaktan da kaçınmak gerekebilir
      Ayrıca ders kitabında yanıt aramak, LLM’e sormaktan çok daha zahmetli olduğundan etkinin daha küçük olması muhtemel. Yanıt vermek zorunda değillerse pek az kişi özellikle kitabı karıştırır; kapağında “yanlış yanıtlar içerebilir” yazıyorsa bu daha da böyledir
    • Ders kitabından farklı değil diye de görülebilir, ama gerçek hayatta ders kitaplarını bu şekilde kullanan kişi az; buna karşılık LLM’ler gerçekten çok sık bu şekilde kullanılıyor
    • Korkutucu olan, insanların böyle alanlarda AI tavsiyesinin kötü olup olmadığını ayırt edemeyip kendinden emin, saçma sapan tavsiyeyi olduğu gibi kabul etme olasılığının yüksek olması
      Yöneticilerin bir uzmana sormak yerine AI tavsiyesini tekrarlaması ya da AI farklı söyledi diye uzmandan şüphe duyması acaba ne kadar sık yaşanıyordur? AI’ın doğru olduğu zamanlar da olur, ama yanıldığında bunu düzeltmek çok zor
    • Çalışmanın kendisi fena değil. Çalışmada olmayan sonuçları öne çıkaran makale ve orijinal başlık zayıf; TNW makalesinin %100 AI üretimi gibi görünmesi de ironik

  • Tavsiye ve bilgi odaklı subreddit’lerde AI kullanımı nedeniyle kalite ciddi biçimde bozuldu. Soru soran kişi, doğrudan bilen birinin yanıtını istiyor; buna rağmen birçok kişi soruyu ChatGPT’ye aktarıp sonucu kendi bilgisi ve içgörüsüymüş gibi paylaşıyor
    Çalışmanın kalitesini bilmiyorum, ama Reddit gibi yarı gerçek bir alanda bu olgu çok belirgin. Bu sadece “bilmiyorum” dememekle sınırlı değil; insanlar biliyormuş gibi yapma fırsatlarını aktif biçimde arıyor

    • 2022 öncesi yazılar ve videolar, atom bombası çağından önce üretilmiş düşük radyasyonlu çelik niteliğinde bilgi kaynakları. Hepsi değerli değil, ama artık uzmanların bilgilendirici yazılarına bile AI etkisi o kadar yaygın biçimde sızdı ki önemli hâle geldi
      Benim çözümüm sürekli birincil kaynakları ve dayanakları kontrol etmek, ama bu çok zaman ve emek istiyor; neyi önce doğrulayacağını seçmek de zor
    • “Bunu kendin yazma zahmetine girmediysen ben de okuma zahmetine girmeyeceğim” diye yanıt verince insanlar çok öfkeleniyor; hatta bunun neden yanlış olduğunu AI ile yazdırıp gönderiyorlar
      “ChatGPT’ye xyz yaz” demek ya da yapılandırılmış bir belge bağlantısı paylaşmak hiç değilse daha iyi. Sonucu olduğu gibi kopyalayıp yapıştırınca bu süreçte hiçbir değer katmıyorsunuz
    • Sohbetteki öneriyi anlamayıp hemen “Bunu neden aramıyorsun?” diyerek konuşmayı kesen kişilerle artık arkadaş kalmıyorum
      IMDB’den ya da DIY videolarından bilgi edinilebilir, ama benim istediğim bağlam içeren açıklama ve yerel duruma uygun tavsiye. Beni tanıyan biri neyin kolay neyin zor olduğunu da bilir; belirli bir filmin ya da yöntemin uygun olmadığını veya hangi dükkâna gitmem gerektiğini bile söyleyebilir
    • Eskiden baktığım tavsiye ve bilgi subreddit’lerinin çoğu AI’dan önce zaten berbat paylaşımlar yüzünden çökmüştü; hâlâ abone olduğum birkaç tanesi ise şaşırtıcı biçimde iyi
      Belirleyici olan her zaman ilgi ve çok büyük zaman harcayan aktif moderatörlerdi. Düşük kaliteli gönderi atan kullanıcılar kritik eşiği aşınca iyi kullanıcılar ayrılıyor ve toparlanmak imkânsız hâle geliyor
    • HN’de de birkaç kez “Bilmiyorum ama CrapGPT’ye koyunca şöyle cevap verdi” türü yazılar gördüm. Böyle bir yanıt yazmadan önce, soru soran kişinin AI’ı doğrudan kullanmasına kıyasla ne değer kattığınızı kendinize sormalısınız

  • AI kötümserliği açısından bakarsak, AI daha akıllı hale gelse bile kullanıcıların suyuna gitmeye devam edecek; insanlar da bunu, özellikle pek bilmedikleri alanlarda, aptalca fikirlerini daha büyük bir özgüvenle pekiştirmek için kullanacak.
    Teknik olarak çözülebilir olsa bile, insanlar kendilerine yanıldıklarını söyleyen bir model istemeyecek; inançlarını güçlendiren akıcı yalanları seçme olasılıkları yüksek.
    İfade özgürlüğü insanın yanılabileceğini düşünmesini sağlar, ama örgütlenme özgürlüğü bundan kaçınmasına imkân verir. AI, internetin teselli veren yankı odalarını hayal edilmesi güç bir ölçeğe taşıyacak.

    • Henry Petroski, 《To Engineer is Human》da hesap makinelerinin hesap makinesi çağında ortaya çıkmasının yapı mühendislerinin sayı sezgisini zayıflattığını, onları yeteneklerinin sınırına yakın işleri denemeye ittiğini ve bilgisayar hesaplarını doğrulama becerilerini bile azalttığını anlatır.
      Bu, bilgisayarların insanlardan birkaç büyüklük mertebesi daha hızlı hesap yapmaya başladığı dönemdi; Hartford Civic Center çöküşünü de bilgisayar çıktısına körü körüne güvenmenin bir başarısızlığı olarak ele alır. Şans eseri ölen olmamıştı.
      Biraz seçilmiş bir örnek gibi görünse de “düşük doğruluk, yüksek özgüven” birleşimi bana bu kazayı hatırlattı. Yeni teknolojinin doğru kullanımının yerleşmesi için sivil ölümler ya da hukuki sorumluluk mu doğması gerekecek diye kaygılanıyorum; en azından 1) güvenlik açısından kritik sistemlerde kullanmamak ve 2) uzmanları algoritmalarla ikame etmemekle başlanabilir.
      https://www.engr.psu.edu/ae/thesis/failures/MKP/failures/fai...
    • Son dönemde AI daha az boyun eğen bir eğilim gösteriyor; yağcılık eğilimi de yaygın bilinen bir sorun olduğu için AI şirketleri bunu düzeltiyor. OpenAI GPT-4o’yu kapattığında görüldüğü gibi bundan hoşlanmayan insanlar da kesinlikle var.
      Ancak AI ile gerçek iş yapan ve ciddi para ödeyen kişiler, müşterinin karşısında yanılmaktansa AI’dan yanıldığını duymayı tercih eder.
      Hem doğru yanıt vermesi hem de talimatlara uyması gerektiği için çözmesi kolay değil; denge gerekiyor. Daha akıllı bir modelin neyin doğru olduğunu bilme olasılığı daha yüksek olduğundan, kullanıcının haklı olduğunu varsayıp halüsinasyonu sürdüren küçük modellere göre genelde daha iyidir.
    • İnsanlarla etkileşen AI’ın davranışı nihayetinde gelir yaratma ölçütüne göre belirlenir. Kullanıcıyı rahatsız eden ya da ona itiraz eden yöntemler genellikle tercih edilen bir iş stratejisi değildir.
      Yine de kullanıcı AI’ın kişiliğini ya da girilen fikirlere ne ölçüde karşı çıkacağını kolayca seçebilse ilginç olurdu.
    • LLM’e ihtiyacım yok ve özgün işlerde pek faydası da olmadığı için neredeyse hiç kullanmıyorum; ama çevremdekiler AI yüzünden ciddi biçimde körelirse bu beni memnun eder. Çünkü hayatta başarılı olmam daha kolaylaşır.
    • Pek çok insan eskiden beri rahatsız edici gerçekler yerine rahatlatıcı yalanları tercih ediyor.

  • Düzgün bir arama destekli üretim (RAG) pipeline’ı ya da web araması yoksa, azami özgüvenle halüsinasyon üretmekten başka bir şey yapamaz.
    Token olasılığı düşük olduğunda yanıt vermeyi reddedecek şekilde düzgün hizalanmış üst düzey bir modelle deney yapılsaydı daha ilginç olurdu. Mevcut deney yalnızca insanların sohbet arayüzünde görünen iyi yazılmış metne güvenme eğilimini kanıtlıyor.

  • Hâlâ gerçeği önemseyenler için Richard Feynman’ın şu sözü bir işaret taşı olabilir: “Bir şeyi gerçekten bilmenin ne kadar zor olduğunu, deneyleri ne kadar dikkatle doğrulamak gerektiğini, hata yapmanın ve kendini kandırmanın ne kadar kolay olduğunu öğrenmiş olma avantajına sahibim…”
    https://www.youtube.com/watch?v=tWr39Q9vBgo

    • En az bir, muhtemelen birden fazla YouTube hesabı AI ile üretilmiş düşük kaliteli Feynman videoları hazırlıyor; dikkatli olmak gerek. Mevcut berbat dönemden önceki materyal diye otomatik olarak güvenilmemeli.

  • Araştırmanın ödül yapısı şöyleydi: doğru yanıt için 0,10 dolar ödeme, yanlış yanıt için 0,10 dolar kesinti, yanıt vermeyi reddetmede değişiklik yok.
    Katılımcıların gerçekten para alıp almadığı ya da nihai bakiye eksiye düşerse zararı ödemek zorunda kalıp kalmadığı yazmıyordu.
    Etkinin kendisinin gerçek olduğunu düşünüyorum ama verilerde göründüğü kadar büyük olmayabilir. Çok daha büyük tutarlar söz konusu olsaydı sağduyu daha güçlü devreye girerdi.

  • Araştırmayı duyurması iyi, ancak kaynak bağlantılarının hiçbiri alıntılanan çalışmaya doğrudan gitmiyor; kendi alan adına ya da Business Insider’a yönlendiriyor.

    • Orijinal metin https://osf.io/preprints/psyarxiv/5y6m4_v1 adresinde.
      Marcoccia, C. ve diğerleri, 《AI Advice Suppresses People’s Willingness to Say “I Don’t Know”, Even When the Advice Is Wrong and Accuracy Is Incentivized》, PsyArXiv, 15 Temmuz 2026

  • AI’ın yalnızca yanlış yanıtlara erişilebilen bir ortamla karşılaştırıldığında gerçekten fark yaratıp yaratmadığını bilmek istiyorum.
    Arama sonuçları soruya yanlış yanıt verse de aynı sonucun çıkıp çıkmadığını; yağcılık eğilimi ya da sohbet biçimli etkileşim gibi AI’a özgü özelliklerin ne kadar rol oynadığını, yoksa insanların okuduklarına kolayca inanmasından mı ibaret olduğunu görmek gerek.

    • Araştırma https://osf.io/preprints/psyarxiv/5y6m4_v1 adresinden okunabilir.
      Özetle, hem yanlış yanıt veren bir LLM sohbet arayüzünü hem de önceden üretilmiş yanlış yanıtlara erişim koşulunu incelediler ve iki deneyde de benzer sonuçlar elde edildi.

  • Bazı öğretmenlerin öğrencilere ödevlerini ChatGPT ile yazdırıp ardından hatalı kısımları eleştirmelerini istediği söyleniyor.
    Normalde AI yanıtının aynen kopyalanıp teslim edileceği yerlerde, önce AI yanıtını sunup neyi kaçırdığını toplulukça tartışmak da ilginç bir yöntem olabilir.

    • Eğitimde bilimsel dayanağı olan yaklaşımlar talep etmeye devam etmeliyiz; birilerinin doğaçlama eğitim deneyleriyle çocukların eğitimini boşa harcamamalıyız. Bill Gates ile de buna benzer girişimleri zaten yaşadık.