Artık internete güvenilemiyor

• Japonya’da Sega Genesis için yeniden yayımlanan ‘Phantasy Star Fukkokuban’ oyununu ararken, gerçekte var olmayan yapay zeka üretimi sahte bir makaleyle karşılaşılması üzerinden internet güveninin çöküşünü ele alan bir yazı
• Arama sonuçlarında üst sıralarda görünen bir sitenin grafik iyileştirmeleri, hava durumu efektleri gibi gerçekle hiç ilgisi olmayan bilgiler içeren bir yazı yayımladığı ve bunun büyük dil modeli (LLM) tarafından üretilmiş bir kurgu olduğunun ortaya çıktığı anlatılıyor
• Yazar, ChatGPT’den aynı oyunu açıklamasını istediğinde de yanlış platform ve içerik sunulduğunu görerek, eğitim verisi eksikliğinden kaynaklanan halüsinasyon olgusunu bizzat doğruluyor
• Bu tür otomatik üretilen içerikler, SEO amaçlı reklam sitelerine kitlesel biçimde akarak, bilgi doğrulaması olmadan inandırıcı görünen yanlış bilgilerin yayılmasını güçlendiriyor
• Sonuç olarak internetin ortak bilgi zemininin zarar gördüğü ve güvenilir bilginin ancak LLM öncesi dönemde itibar kazanmış sitelere dayanılarak bulunabildiği sonucuna varılıyor

---

Phantasy Star Fukkokuban vakası

• 1994’te Japonya’da yayımlanan Sega Genesis için ‘Phantasy Star Fukkokuban’, orijinal Master System oyununu olduğu gibi içeren bir yeniden basımdır
  • Bazı Genesis konsolları Master System oyunlarını çalıştıramadığından, ilgili kartuş da bu cihazlarda çalışmaz
  • Yazar, bu oyunun çıkış tarihini doğrulamaya çalışırken arama sonuçlarının üst kısmında yanlış bilgiler içeren bir site buluyor
• Sorunlu site ‘Press Start Gaming’, grafik iyileştirmeleri, hava durumu efektleri, gündüz-gece döngüsü gibi özelliklerden söz ediyordu; oysa bunların hiçbiri oyunda yok
  • Makalenin ilk cümlesi “Game data not found” olmasına rağmen, ardından yapay zekanın ürettiği inandırıcı bir açıklama metni geliyordu

Büyük dil modellerinde halüsinasyon sorunu

• LLM’ler bir sonraki token’ı tahmin etme temeliyle çalışır ve eğitim verisinde yer almayan nadir konular hakkında inandırıcı kurgular üretebilir
  • ‘Phantasy Star’ serisi ile ‘Fukkokuban’ (yeniden basım) sözcüğünün anlamını birleştirerek, gerçekte olmayan bir remake sürüm hayal etmişti
• Yazar ChatGPT’den aynı oyunu açıklamasını istediğinde, bunun Sega Saturn için bir derleme olduğunu sanan bir yanıt aldı
  • Gerçekte bunun, ‘Phantasy Star Collection’ adlı farklı bir oyunla karıştırıldığı düşünülüyor
• Benzer şekilde, yazarın ele aldığı bir başka nadir oyun olan ‘Mahjong Daireikai’ hakkında da Japonca web’de yapay zeka üretimi kurgusal açıklamalar bulunuyor

İnternete duyulan güvenin çöküşü

• ‘Press Start Gaming’ sitesinin reklam geliri amaçlı otomatik içerik platformu olduğu tahmin ediliyor
  • Sitenin alt kısmında “©2025 Cloud Gears Media” ifadesi yer alıyor, ancak gerçek bir şirketle bağlantısı belirsiz
  • Bu tür siteler için öncelik doğru bilgi aktarmak değil, aramalarda görünür olmak (SEO)
• LLM’lerin devreye girmesiyle yanlış bilgi üretmenin maliyeti keskin biçimde düştü ve doğrulanmamış içerikler kitlesel olarak yayılıyor
  • Geçmişte düşük ücretli yazarlar bile en azından temel bir doğrulama yaparken, artık yapay zeka tamamen uydurma içerikler üretiyor
• Yazar, “Artık yeni sitelere güvenmek zor” diyerek, yalnızca yapay zeka öncesinde itibar kazanmış yayınlara bel bağlar hale geldiğini söylüyor

Yapay zeka çağında bilgi ekosisteminin bozulması

• Yazara göre internetin “ortak bilgisi (common)” artık geri döndürülemeyecek ölçüde zarar görmüş durumda
  • Güvenilir bilgi kaynaklarının bile yapay zeka içeriğiyle kirlenme riski var
  • Örnek olarak, Ars Technica’nın yapay zeka üretimi bir alıntı içeren bir makale yayımladıktan sonra bunu düzeltip geri çektiği vaka anılıyor
• LLM’ler daha fazla veriyi bütünleştirdikçe bir gün doğruluk artabilir; ancak bugünkü zarar zaten yaşanıyor
• Yazar, “Bu yazı sadece bir öfke dökümü (rant)” diyerek, internete duyulan güven kaybının ne kadar somut hissedildiğini vurguluyor

Sonuç

• Yapay zeka ve SEO odaklı içerik ekosistemi, bilginin doğruluğundan çok üretim verimliliğine öncelik veriyor
• Bunun sonucunda, doğrulanmamış otomatik üretilmiş yazılar arama sonuçlarında üst sıralara çıkarak kullanıcıların öğrenme ve araştırma temelini zedeliyor
• Yazar, yazısını “Artık internete güvenilemiyor” diyerek bitiriyor ve dijital bilginin güvenilirliğinin yeniden tesis edilmesinin aciliyetine işaret ediyor

[GN⁺]

Hacker News görüşleri

• Arkadaşlarımla birlikte kasabamızda bir mesh network kuruyorum
  Açık internet zaten uzun zamandır düşüşteydi ama LLM bunun sonunu hızlandırıyor
  90’lar ve 2000’lerin başındaki internetin artık öldüğünü kabullendim
  Bundan sonra güvenilebilir yerel ağların alternatif olduğunu düşünüyorum
  Sadece para kazanmaya odaklanan insanlar yüzünden dışlayıcı alanlara çekilmek zorunda olmak üzücü

  • Sorunu yanlış katmanda çözmeye çalışıyor gibisin
    Mesele ağ değil, içerik kalitesi
    Sadece güvendiğin kişileri davet ettiğin bir forum kurmak yeterli olur
  • İlk kez 1985’te internete bağlandım ve yerel tabanlı internetin hiçbir zaman faydalı olduğunu düşünmedim
  • Dünyanın dört bir yanına dağılmış arkadaşlarımla bir Wireguard mesh service kurmayı araştırıyorum
    Girişiminde bol şans
  • Ben de aynı fikirle birkaç ay önce benzer bir proje başlattım
    Şu anda ağ tabanlı bir MP3 çaları geliştiriyorum; hâlâ erken aşamada ama umutluyum
    Proje bağlantısı
  • Mevcut web üzerinde yalnızca davetle girilen bir site kurmak çok daha kolay olur

• Bugün çevrimiçindeki yanlış bilginin eskisine göre çok daha fazla olmasının nedeni belki de tahmin piyasaları (prediction markets) olabilir diye düşünüyorum
  İnsanların algısını, üzerine para yatırmak için bizzat çarpıtan bir yapı bu
  2023’teki LK99 süperiletken olayından sonra bu tür durumlar hızla arttı

  • Çoğu olayda etki yaratmak zordur; bu yüzden yanlış bir bahis ters tepebilir
  • Gerçekte pazarın ölçeği küçük
  • İlginç bir hipotez ama katılmıyorum
    Tahmin piyasaları bilginin para karşılığı alınıp satılmasını mümkün kılıyor ama kasıtlı yanlış bilgi yayacak kadar büyük değiller
    Asıl nedenin siyasetçiler, influencer’lar ve reklam geliri peşindeki katılımcı tarzı yanlış bilgi olduğunu düşünüyorum
  • LK99 bir yarı iletken değil, süperiletkendi
  • Zaten güvenilir bilgi kaynakların yoksa, web yazıları yüzünden dünyayı yanlış değerlendirmeye başlaman an meselesi

• Sorun internetin güven çöküşü
  Eskiden ara sıra yanlış bilgiye kanmak söz konusuydu ama şimdi ortalık botların yeniden ürettiği içerikle dolu
  İnsanların bota oranı neredeyse sıfıra indi
  Sonunda web’i kendi elimizle yakmış olduk

  • Ben de aynı sonuca vardıktan sonra depresif hissettim
    Artık bunu yöneten insanların bile ne olup bittiğini bilmediğini düşünüyorum
  • Bu yüzden dead internet theory artık gerçeğe dönüştü
  • Bu kirlenmiş veri geleceğin AI modellerini de bozacak
    Bu yüzden bugünkü modeller belki de en az önyargılı sürüm olarak kalacak

• HN’i nasıl koruyabileceğimizi düşündüm ama sonunda davet tabanlı bir sistemden başka cevap yok gibi görünüyor
  Bugünlerde yorumların gerçekten insana mı ait olduğunu bile sorgular hâle geldim ve bu duygusal olarak yorucu

  • Davet tabanlı yapı için lobste.rs zaten bir örnek
  • Ama HN zaten AI sektöründe çalışan insanlarla dolu
    AI’ye din gibi inanan bir atmosfer var; bot hesaplarla AI filtreli yorumlar birbirine karışmış durumda
    Mastodon gibi Fediverse alanları hâlâ sağlıklı ama bir gün orası da kirlenecek

• İnternetin sinyal/gürültü oranı (SNR) tarihin en düşük seviyesinde
  Çözümün yalnızca insan tarafından doğrulanmış dijital imzalar olduğunu düşünüyorum
  eIDAS benzeri sistemlerle anonimliği korurken insan olduğunu da kanıtlayabilmek gerek

  • ‘Ortak kaynakların trajedisi’, gerçek tarihi açıklayamayan kurmaca bir kavram
    İlgili tartışma bağlantısı
  • Yalnızca insan tarafından doğrulanmış gönderileri gösteren bir arama motoru ilginç olurdu
    Anonimlik korunmalı ama Sybil saldırıları engellenebilmeli
  • Sonuçta insanlar yine AI kullanacak, yani bu temel bir çözüm değil
  • Evet, SNR düşüyor
  • Yakın düğümlere daha fazla güven veren bir trust tree yapısı mümkün olabilir

• Intel i7-4790T hakkında video ararken şoke oldum
  Son videoların çoğu, LLM tarafından üretilmiş metinleri okuyan ‘slop’ içeriklerdi
  Ürün perakendede hiç satılmamış olmasına rağmen YouTube kanalları günde onlarcasını yükleyip Amazon affiliate linkleriyle gelir elde etmeye çalışıyor
  Örnek video 1 / Örnek video 2

• Sahte içerik üretmenin maliyeti neredeyse sıfıra indiğine göre, ölçeklenebilir güven mekanizmalarına ihtiyaç var
  Kişisel olarak Web of Trust yapısını çekici buluyorum
  Bazıları dışarıda kalacak ama bunun önüne geçmek zor
  Ben de Gemini protokolü tabanlı yardımcı bir arşivleyici kuruyorum
  Sadece robots.txt ile izin verilen web sitelerini arşivlemeyi planlıyorum

  • Web of Trust yaygınlaşırsa güven devri ve geri çekilmesi mümkün olur, böylece dışlanma azalır
    Sadece bireyler arasında değil, siteler arasında da bir güven ağı kurulabilir
    Yerel topluluklar ya da hobi gruplarıyla başlayıp zamanla genişleyen bir yapıya dönüşebilir

• Kısa süre önce yeni Hollow Knight oyunu hakkında bilgi ararken, LLM’lerin ürettiği birkaç sahte rehber sitesi gördüm
  Oyunun çıkışının üzerinden yalnızca 6 ay geçtiği için gerçek bilgi fazla değildi; belli ki reklam geliri hedeflenmiş
  Bu kadar niş bir konuda bile sahte içerik üretmenin gerçekten kârlı olup olmadığını merak ediyorum

  • Üretim maliyeti neredeyse sıfır olduğundan, bu durum kirleterek keşif yapma gibi işliyor olabilir
    Yani ‘saçmalık asimetrisi teorisi’ pratikte çalışıyor
  • VLCOL ülkelerinde yaşıyor ve ücretsiz araçlar kullanıyorsan, çok küçük bir gelir bile fazlasıyla değerli olabilir

• SEO’su kötü olan web siteleri aslında daha güvenilir olabilir

• İnternetin geleceği muhtemelen davet tabanlı topluluklara gidecek
  Yeni nesil forumlar mı ortaya çıkacak, yoksa PHPBB dönemine mi döneceğiz merak ediyorum

  • Ama bu alanlar da yakında bot sızması ve siyasi önyargı ile kirlenecek
    Yalnızca oyun ya da spam hedefi olmayan içerikler hayatta kalabilir
  • lobste.rs zaten buna yakın bir yapı
    HN’e benzer bir havası var ama yalnızca davetle işleyen bir düzenle yürütülüyor