- Benn Jordan, son dönemde bazı mesajlar ve etiketler üzerinden İsrail konusundaki duruşunu netleştirmesi yönünde sürekli talepler aldığını söylüyor
- Oysa kendisi, soykırıma karşı olduğunu ve Filistin devletinin kurulmasını desteklediğini uzun süredir kamuya açık biçimde ifade ettiğini, buna rağmen garip mesajlar aldığını belirtiyor
- Kontrol ettiğinde, Google AI Overview'un Benn Jordan'ın adıyla gerçek olmayan elaborate story'ler (ayrıntılı ama uydurma hikâyeler) üretip yaydığını fark ediyor
- Google AI Overview'un Benn Jordan hakkında derlediği içerik
Elektronik müzisyen ve bilim YouTuber'ı Benn Jordan'ın yakın zamanda İsrail-Filistin çatışmasına dahil olarak internette ciddi tartışma ve polemik yarattığı, İsrail seyahati deneyimlerini paylaşıp Gazze sınırı yakınındaki kibbutz sakinleriyle röportaj yaptığı
I Was Wrong About Israel: What I Learned on the Groundbaşlıklı bir YouTube videosu yüklediği söyleniyor. Bu videonun, Gazze sınırındaki kibbutz sakinleriyle yapılan röportajlar üzerinden çatışmayı sahada doğrudan anlama içeriği taşıdığı ve yayımlandıktan sonra sosyal medyada geniş çaplı tartışma ve yorumlara yol açtığı iddia ediliyor.
- Google AI Overview'un Benn Jordan hakkında derlediği içerik
- Ancak Benn Jordan İsrail'e hiç gitmedi. Böyle bir video da hiç yüklemedi; yapay zekâ, onu askeri videolar paylaşan Ryan McBeth adlı kişiyle karıştırmış
- Bu AI sonucu nedeniyle, kendi gerçek tutumunun tam tersi yönde yanlış anlamalar yayılıyor ve sonuç olarak kullanıcılara yanlış kamuoyu baskısı veya toplumsal baskı uygulanıyor
- Benn Jordan, bir avukatla bunun dava konusu olup olamayacağını görüşüyor
4 yorum
AI Overview'un güvenilirliğinin düşük olduğu zaten biliniyor ama bu biraz ciddi.
Bu tam dava konusu değil mi....?
Vay canına, bu hikâye gerçekten çok sarsıcı.
Belirli bir mesele yüzünden böyle bir durum benim başıma da gelse neler olabileceğini düşünmek bile korkunç.
Hacker News görüşü
Bunun, AI halüsinasyonları ve doğruluk eksikliğinin bundan sonra hayatlarımızı ne kadar büyük ölçüde etkileyeceğine dair tipik bir örnek olduğunu düşünüyorum; bu konu çok incelikli ve önemli olmasına rağmen yalnızca manşet düzeyinde ele alınıyor olması ürkütücü geliyor. Özellikle de geniş kitleler bu aracın nasıl çalıştığını gerçekten anlamıyorsa daha da büyük bir sorun. Eskiden en azından bir insanın bilgiyi şöyle bir gözden geçirmiş olması beklenirdi, ama AI için bunu bile beklemek zor.
İnsanların AI sohbet çıktıları ya da yanıtlarını GitHub issue'larına, e-postalara vb. kopyalayıp kullandığını defalarca gördüm. Giderek daha fazla insanın bu modellerin çıktısına eleştirel süzgeç olmadan güvendiği hissine kapılıyorum. Google arama sonuçlarının en üstünde çıkan "özet" de aynı şekilde. Okuduğum neredeyse her özette en az bir kritik hata vardı; konu hakkında bilgim olmasa muhtemelen olduğu gibi inanabilirdim diye düşünüyorum. Genel olarak "güven ama doğrula" sözü giderek daha önemli hale geldi, ama artık fiilen güveni de sınırlamak gerektiğini düşünüyorum.
AI modeli yapmak için telif hakkıyla korunan içeriklerin kitlesel biçimde toplanmasının dönüştürücü eser olduğu iddiası gerekçe olarak kullanılıyor. Eğer bu iddia doğruysa, Google gibi şirketlerin bu sonuçlardan sorumlu olması gerektiğini düşünüyorum. Eğer bu dönüştürücü bir eser ise, sorumluluğu başkasına atamazsınız. Bu şirketlerin her iki taraftan da fayda sağlamaya çalışmasına izin verilmemeli. Bu tartışmanın nereye gideceğini merak ediyorum.
İnsanları İsrail ve Hamas hakkındaki duruşlarına göre değerlendirmeyi bırakıyorum ve böyle insanlarla takılmıyorsam bunun sorun olmadığını düşünüyorum. Birisi benim görüşümü yanlış aktarsa da çok umursamıyorum. Bunu yapabilmek için bluesky ya da HN gibi böyle siyasi tartışmaların yoğun olduğu yerleri bırakmak gerekir ama zaten meşru görüşler bile son derece taraflı ve yanlış aktarılıyor, AI ise yazı tura kadar rastgele. Birisi beni bu konuda gerçekten bilgili olduğuna ikna etmek isterse dinlemeye hazırım, ama bunun burada yapılması gerektiğini düşünmüyorum.
Google'ın bu sonuçlardan sorumlu olması gerektiğini düşünüyorum. Çünkü bunları yayımlayan ve barındıran taraf onlar; bu yüzden tüm iftira niteliğindeki içeriklerden sorumlu olmalılar.
Bu hikâye muhtemelen sahte video olayını örtecek kadar büyüdükten sonra, AI üst sıralardaki arama sonuçlarına dayanarak bu sahte video tartışmasını otomatik olarak özetleyecek.
"benn jordan isreal" diye aratınca, ilk sonuç tamamen başka bir içerik üreticisinin aynı başlıklı ve aynı tarihli videosu çıkıyor. Videoda "benn" diye bir ifade yok, sadece "jordan" adlı ülkeden biraz bahsediliyor. Muhtemelen Google yalnızca bundan yola çıkarak bir ilişki halüsinasyonu kurdu. Oldukça endişe verici.
https://www.youtube.com/watch?v=qgUzVZiint0
Bunun neredeyse kesin olarak gerçekten olan şey olduğunu düşünüyorum. Google'ın AI yanıtı sihir değil; yalnızca arama sonuçlarını özetliyor. Bu örnekte olduğu gibi, "Israel" ve "Jordan"ın birlikte geçtiği bir videoyu çekip tamamen zıt bir pozisyonun içeriğini sunuyor. Arayüz çok fazla bağlamı gizlediği için hatanın tam nerede olduğunu anlamak zor ve AI modunda birkaç kez arama yapıp 100'den fazla siteden snippet toplayarak sonra bir özet çıkarıyor.
Bu tartışmada ilginç olan nokta, genel konulara ilişkin arama sonuçlarının LLM eğitimi ya da bilgi erişiminin temeli olarak kullanılmasının ne kadar yaygın bir olgu olduğunu merak ettirmesi.
AI çevirisinin gerçekte nasıl çalıştığını öğrenirseniz daha da şaşırabilirsiniz; farklı dilleri Amerikan İngilizcesine doğru büküyor.
İnsanlar çoğunlukla bilmedikleri şeyleri Google'da aratıyor ve AI Overview'un ürettiği içerik, konuya hâkim olmayan birine gayet makul görünüyor. Ama gerçekte çok sık yanlış. Bu olay gibi büyük sorunların dışında, geçmişte pizzanın üstüne yapıştırıcı sürmeyi önermişti. İyi bildiğiniz birkaç konuyu Google'da aratıp genel özete bakarsanız, oldukça sık hata yaptığını görebilirsiniz. Benim deneyimimde 5 taneden yalnızca 1'inde büyük hata yoktu. "Verinin çoğulu anekdot değildir" denir ama bende o kadar sık yanlış çıktı ki engelleme eklentisi kurdum.
Wikipedia ya da bloglar gibi zaten statik ve iyi düzenlenmiş içeriklerde oldukça doğru olduğunu fark ettim. Buna karşılık dinamik bilgilerde, özellikle sosyal medyada, ilişkileri bağlarken yanlış sonuç üretmeye çok yatkın. Genel olarak insanlar AI Overview'dan fazla şey bekliyor. Google AI Overview, Claude, Grok, ChatGPT gibi araçların web arama özelliklerine kıyasla kesinlikle üstün değil; aksine birçok açıdan geride kalıyor. Bence bilgi keşfi tekelinin OpenAI gibi şirketlerce tehdit edilmesi nedeniyle zorla eklenmiş bir özellik.
AI Overview'un doğruluğunun eskisine göre daha iyi olması yüzünden bunun daha da sorunlu geldiğini düşünüyorum. Eskiden yeterince sık ve bariz biçimde hatalıydı, bu yüzden görmezden gelmek kolaydı. Şimdi ise oldukça sık doğru ve her zaman makul göründüğü için ona daha çok güvenme cazibesi doğuyor.
"Makul görünen" AI yanlış bilgisinin en iyi açıklamasını serbestçe aktararak paylaşayım: AI özetleri, teknik ya da niş bir konu hakkında konuşan genel amaçlı bir podcastçi ya da YouTube essay içerik üreticisi gibi — görünüşü ve özgüveni o kadar cilalı ki neredeyse gerçek gibi hissettiriyor. Ama siz o konuda uzmansanız, bildiğiniz şeylerin neredeyse hepsinin yanlış ya da en azından yetersiz olduğunu fark ediyorsunuz. Bu aşırı özgüven, doğru bilgiye sahip olmayan sıradan insanlar için adeta bir "doğruluk sinyali"ni daha da güçlendiriyor. Ve çoğumuz konuların %90'ı hakkında derin bilgiye sahip olmadığımız için bu ciddi bir sorun haline geliyor.
AI halüsinasyonu örneğinde, 18 Ağustos 2025'te Benn Jordan'ın İsrail seyahati sonrası izlenimlerini anlattığı bir video yüklediği söyleniyor. Oysa bu, yakın zamanda yayımlanan Ryan McBeth videosunun başlığıyla tamamen aynı.
https://youtu.be/qgUzVZiint0?si=D-gJ_Jc9gDTHT6f4
Video kaynağını böyle yanlış bağlaması ürkütücü.
Başta iki farklı Benn Jordan olduğu için AI'nın karıştırdığını düşündüm ama aslında o videoyu yükleyen kişi Ryan McBeth. Böyle bir karışıklığın nasıl yaşandığını merak ediyorum.
Google'ın arama sayfasında kullandığı model, maliyet düşürmek için daha az zeki bir model olabilir. Arama gibi amiral gemisi bir üründe böyle bir yaklaşımın iyi bir strateji olup olmadığı şüpheli. Bence aramadan AI'yı tamamen çıkarmak daha iyi olur.
Muhtemelen videoda "Jordan" kelimesinin geçtiği bir bölüm var ve bu, İsrail'e yakın bir ülke olduğu için yanlış bir ilişki kurulmasına yol açtı.
Anlaşılan Ryan'ın videosu YouTube aramasında Benn'in videosunun üstünde çıkıyor. Bence AI, YouTube arama sonuçlarını kanal adına kadar kontrol etmeden doğrudan olgu kabul etti.
Bu Google'ın sorumluluğu değil; ekranın alt kısmında 6pt yazıyla "AI yanıtları hata içerebilir. Daha fazla bilgi edin" diye açıkça yazıyor.
Bu Google'ın sorumluluğu, çünkü iftira niteliğinde içerik üretip doğrudan dağıtıyor. Biri benim adımı aradığında ilk satırda belirli bir şehirde cinsel suçlu olduğum yazsa nasıl hissedeceğinizi düşünün. Bu, birinin söylediği bir şeyi aktarmak da değil; düpedüz temelsiz bir halüsinasyon. Altta çok küçük puntolu bir "yanlış olabilir" uyarısı bulunması, pek az insanın "tamam o zaman sorun yok" demesine yol açar.
Yazının 6pt olduğu söylenmişti ama öğeyi incelediğimde aslında 12px (9pt) olduğunu gördüm. Karşılaştırma için, normal gövde metni (başlıklar hariç) 18px. Fark edilmesi zor olacak kadar küçük ama tamamen görünmez seviyede değil.
Birkaç hafta önce, çevremdeki bir küçük işletmenin, Google'ın AI'sının tamamen alakasız ama adı benzer başka bir şirketin bilgileri nedeniyle onu kullanıcılara dolandırıcı işletme diye yanlış tanıttığını fark ettim. Neredeyse müşterilerin itibarını AI'nın zedelememesini sağlamak artık temel hizmetimiz haline geldi.
"AI yanıtları hata içerebilir" uyarısı hakkında, insanların zamanla reklamlara karşı geliştirdiği körlük gibi AI özetlerini de otomatik filtrelemeyi öğrenmesinin daha iyi olabileceğini düşünüyorum.
https://news.ycombinator.com/item?id=44142113
Artık yasa koyucular devreye girip caydırıcı bir örnek oluşturmadıkça, AI yüzünden er ya da geç gerçekten büyük bir felaket yaşanacak.
Yasa koyucuların hangi gerekçeyle devreye girmesi gerektiğini soruyorum. Normalde yanlış olmak cezalandırılan bir şey değildir. İftira için kasıt gerekir ama burada açık bir kasıt görünmüyor. Çoğu AI'da hata ve halüsinasyon uyarıları da var. Fransa gibi bazı ülkelerde ilgili kişinin düzeltme talep etme hakkı bulunuyor ve habere bakılırsa Gemini bu hatanın farkına varıp düzeltmiş gibi görünüyor. AI halüsinasyonlarını yasa dışı ilan ederseniz, LLM'lerin kendisi yasa dışı hale gelebilir. Bunun yerine yanlış bilgi bildirimini ve filtreleme özelliklerini zorunlu kılmak teknik olarak mümkün.
"Caydırıcı örnek oluşturmak" derken tam olarak ne kastedildiğini sormak istiyorum. AI kirliliğinin temizlenmesi gerektiğine katılıyorum ama dava merkezli bir toplum istemiyorum. Hukuki adımların pratikte çok hızlı biçimde kötüye kullanılabileceğini düşünüyorum.
Konuya teknik açıdan yaklaşınca, Google'ın kısa snippet tabanlı sonuçları nedeniyle özetlerin yanlış çalıştığını gösteren bir araştırma var.
Google'ın AI özetlerini saniyede 200 bin ila 500 bin sorguya kadar desteklemesi gerekiyor. Halüsinasyonları engelleyecek kadar iyi bir model kullanmak çok pahalı olduğundan, sonunda hızlı ve ucuz ama düşük performanslı bir model kullanıyor. Özet vermek reklam tıklama oranlarını da düşürüyor. Tüm bunları hesaba katınca, Google'ın bu özetleme yaklaşımını benimsemesinin çok kötü bir karar olduğunu düşünüyorum.
https://maxirwin.com/articles/interleaving-rag/