Ölü İnternet Teorisi

• Yapay zeka tarafından üretilen içeriklerin internet üzerindeki etkileşimlerin önemli bir kısmını oluşturmaya başladığı olguya dair bir inceleme
• HackerNews'te açık kaynak bir projenin yapay zeka üretimi olup olmadığı üzerine çıkan tartışma vesilesiyle, yazar yorumların bile yapay zeka tarafından yazılmış gibi görünen kalıplar taşıdığını gözlemliyor
• Geçmişte IRC ve phpBB forumları döneminde merkezde gerçek insanlar arasındaki etkileşim varken, bugün yapay zekanın ürettiği görseller, yorumlar ve kodlar gündelik olarak iç içe geçmiş durumda
• LinkedIn gibi platformlarda da yapay zekayla manipüle edilmiş şirket fotoğraflarının gerçek çalışan paylaşımları gibi yayımlandığı örnekler görüldü
• Teknolojik ilerlemenin, insan bilgisinin paylaşılmasından çok botların birbiriyle konuşmasına ve ticari içeriklerin yeniden paketlenmesine yöneldiğine dair bir kaygı dile getiriliyor

---

HackerNews'teki tartışma ve sorunun fark edilmesi

• Yazar, HackerNews'te bir kullanıcının paylaştığı açık kaynak bir projeyi keşfediyor
  • Yorumlarda birçok anonim kullanıcı, ilgili kodun yapay zekayla üretilmiş olabileceğinden şüpheleniyor
  • Kodun commit zaman çizelgesi, yorum satırlarının üslubu gibi unsurların yapay zeka üretimi izlenimi verdiği belirtiliyor
• Yazar, yapay zeka kullanımının kendisine karşı olmadığını; ancak açık kaynakta yapay zeka kullanılıp kullanılmadığının belirtilmesi gerektiğini vurguluyor
  • Çünkü internet katılımcılarının çoğu anonim ve bu yüzden uzmanlık ya da doğruluğu teyit etmek zor
  • LLM'ler basit işlerde faydalı olsa da karmaşık problemler veya uç durumlarda risk yaratabiliyor

Yorum kalıplarında ortaya çıkan yapay zeka izleri

• Yazar, proje sahibinin yorumlarında da yapay zekaya özgü bir üslup fark ediyor
  • Örnek: em-dash (—) işaretinin aşırı kullanımı, “you are absolutely right” gibi doğal durmayan ifadeler
  • “let me know if you want to [do that thing] or [explore this other thing]” gibi yapay zeka tarzı cümle yapılarının tekrar etmesi
• Bu ifadeler, gerçek insanların dil alışkanlıklarından farklı olduğu için karşısındaki kişinin gerçekten insan olup olmadığını sorgulamasına yol açıyor

‘Ölü İnternet Teorisi’ farkındalığı

• Yazar bu deneyimle birlikte Dead Internet Theory kavramını hatırlıyor
  • Bu teori, yaklaşık 2016'dan itibaren internetin büyük bölümünün botlar arası etkileşim ve makinelerce üretilen içerikle dolduğunu öne sürüyor
  • İçeriklerin amacı da çoğunlukla ürün satışı ya da SEO manipülasyonu gibi ticari çıkarlara odaklanıyor

Geçmişin interneti ile bugünün karşıtlığı

• 2000'lerin başında IRC ve phpBB forumları döneminde odakta gerçek insanlar arasında öğrenme ve etkileşim vardı
  • Yazar bu dönemi “Internet University” diye anıyor ve burada ağlar, işletim sistemleri, oyunlar ve web geliştirme öğrendiğini hatırlatıyor
  • O dönemde karşıdaki kişinin insan olduğuna dair bir güven vardı
• Bugün ise yapay zeka görselleri ve yorumlarının iç içe geçtiği bir gerçeklikte, neyin gerçek neyin sahte olduğunu ayırt etmek zorlaşıyor

Yapay zeka içeriklerinin yayılması konusundaki kaygılar

• LinkedIn'de, gerçek bir şirket çalışanının paylaştığı yapay zekayla manipüle edilmiş ofis fotoğrafları görüldü
  • Görseldeki garip el biçimleri, anlamsız metinler gibi ayrıntılar bunun yapay zeka üretimi olduğunu ele veriyor
  • Fotoğraftaki kişilerin bile gerçekte var olmayabileceği ihtimali dile getiriliyor
• Facebook, Xitter, TikTok gibi platformlarda da yapay zeka üretimi sahte içerikler yayılıyor
  • Örnek: devasa bir figürün piramit inşa ettiğini gösteren fotoğraflar, belirli politik mesajlar veren videolar
• Yazar, bu manzara karşısında üzüntü ve çaresizlik hissettiğini anlatıyor
  • Yapay zekanın kitleler için kolay erişilebilir hale gelmesiyle birlikte “AI-slop” (yapay zeka çöp içeriği) ortalığı kaplamış durumda
  • İnsanlar artık yazı ya da kodu doğrudan kendileri yazmak yerine bunu yapay zeka ajanlarına bırakıyor

Teknolojinin ve insan bilgisinin geleceğine dair kuşku

• Yazar hâlâ teknolojiyi ve yazılım mühendisliğini sevdiğini söylüyor,
  ancak bugünün internetinin botların botlarla konuştuğu bir alana dönüştüğünü belirtiyor
• İnsan bilgisi, “günlük sorunlarınızı çözen 10 adım” gibi ticari içeriklere yeniden paketlenirken
  bilgi paylaşımının asli anlamı da kayboluyor

[GN⁺]

Hacker News görüşleri

• Kısa süre önce ailem AI ile üretilmiş sahte bir YouTube videosuna kandı. Videoda “ırkçı polis” kötü davranışlar sergiliyordu; ilk başta bana da gerçek gibi göründüğü için kafam karıştı. Aratınca bir kaynak çıkmadı, sadece yeniden yüklemeler vardı. Kanal açıklamasında “bazı videolar AI ile yeniden canlandırılmış gerçek olaylardır” yazıyordu ama buna hiç inanılır gibi değildi. Böyle içeriklerin YouTube reklam geliri için kutuplaşmayı körüklemesi çok üzücü

  • Irkçı içerikte talep arzı aşıyor. Sadece gerçek hayatla öfkeyi sürdürmek zor olduğu için bu tür videolar üretilmeye devam ediyor
  • AI videoları, hesabın paylaşım geçmişine bakınca bile kendini belli ediyor. Fazla sık, tekrar eden şekilde, konu ya da arka plan tutarlı olmadan yükleniyorlar. Teknoloji gelişse de bu tür kalıpların kaybolacağını sanmıyorum
  • Bu aralar RealOrAI subreddit’inde fazla vakit geçiriyorum. Yanıldığım her seferde kaygılanıp daha çok bakıyor, daha iyi ayırt etmeye çalışıyorum. Ama artık gerçek ile sahtenin ayırt edilemediği bir dünyayı kabul etmemiz gerekebilir
  • Aslında bu kaygı yeni değil. Eskiden de manipüle edilmiş fotoğraflar veya bağlamından koparılmış videolarla ayrışma yaratmak yaygındı. AI sadece bunu daha kolay hale getirdi
  • Keşke Google, AI içeriği barındıran videoları otomatik olarak işaretlese

• “Bu bir sosyal ağ değil” sözüne tamamen katılıyorum. Eskiden ‘sosyal medya’, gerçek hayattaki arkadaşlarla etkileşim kurulan alanı ifade ediyordu, şimdi ise Reddit gibi forumları bile kapsayan bir terime dönüştü. Sonuçta gerçek sosyal etkileşim alanı neredeyse yok oldu

  • Şu anda bu rolü Discord görüyor. Davetiye tabanlı topluluklar olduğu için herkese açık bir feed yok ve gerçek insanlar doğrudan moderasyon yapıyor. Eski IRC arkadaşlarımın hepsi de Discord’a geçti. Bir gün halka arz olursa muhtemelen yerine Matrix gibi bir şey kullanılır
  • Aslında “social media”, arkadaşlarla doğrudan içerik paylaşma ağıydı. Ama Facebook bunu yeniden paylaşım merkezli hale getirince, artık arkadaş haberlerinden çok rastgele içerik tüketim platformuna dönüştü. HN’de arkadaş özelliği olmadığı için daha çok foruma benziyor
  • TikTok ve Instagram’a da ‘sosyal’ deniyor ama çoğu insan hiçbir şey paylaşmıyor. Bunlar sadece medya tüketim platformları
  • Aslında ben de Discord’u kullanmadım, o yüzden çok bilmiyorum. Bana sadece bir şirketin işlettiği IRC sürümü gibi görünüyor; neden bu kadar popüler olduğunu anlayamıyorum
  • Meta’nın açıkladığına göre kullanıcıların %10’undan azı gerçekten tanıdığı kişilerle etkileşime giriyor. Bugünün sosyal medyası sadece ‘scroll eğlencesi’

• Kimsenin ‘em dash (—)’ kullanmadığı düşüncesi yanlış. Ben uzun zamandır sık kullanıyorum. “you’re absolutely right” gibi ifadeleri de arkadaşlar arasında alaycı şaka olarak çok kullanırız. Birleşik Krallık’ta büyüyen bizim için gayet doğal bir ifade

  • Artık sadece iyi tipografi kullanmak bile yazının LLM tarafından yazıldığı sanılmasına yol açıyor, bu da sinir bozucu. Ben en dash ve em dash’i eskiden beri kullanıyorum. Compose key ile yazması da kolay
  • Sorun em dash’in kendisi değil. İngilizce ana dilim olmadığı için blog yazarak pratik yaptım; boşluk bırakıp bırakmama biçimine göre izlenim değiştiği için farklı biçimler denedim. Sonuçta çoğu insan tutarlı değil. Grameri fazla kusursuz kullanan biriyse, bu kez AI olma ihtimali daha yüksek geliyor
  • Muhtemelen Britanya usulü nezaketten dolayı “you’re right, but…” gibi ifadeleri doğal şekilde kullanıyoruz
  • Bizim kitapçı bülteninde de em dash kullanıyoruz. Noktalı virgülden görsel olarak daha temiz ve cümleleri ayırmak için kullanışlı
  • iOS’ta “-” tuşuna uzun basınca kolayca girilebildiği için sık kullanıyorum

• Bir görselin AI ile üretilip üretilmediğini kontrol etmenin basit bir yolu var.

  • OpenAI, C2PA metadata kullanıyor,
  • Gemini, SynthID watermark kullanıyor.
  • SynthID sadece görsellerde değil metinde de uygulanıyor ve kodu da açık
  • Ancak image-to-image modelleriyle gürültü ekleyip çıkarmak SynthID’yi de silebiliyor
  • Nitekim OpenAI blogundaki görselleri de doğrulama sitesine yükledim ama metadata yoktu. Bu tür şeyler güveni azaltıyor
  • Yine de C2PA’nın amacı ‘gerçek olduğunu kanıtlamak’. Her içeriği doğrulayamasa da, doğrulanmış görseller hukuki delil olarak bile kullanılabilir

• Bugünkü sorun en nihayetinde platform teşvik yapısından kaynaklanıyor.

  • YouTube’da motivasyon izlenme, LinkedIn’de kişisel PR, HN’de ise startup tanıtımı.
  • Sadece insanlar arası saf etkileşimin olduğu, AI’ın işe yaramadığı topluluklar kurabilir miyiz?
  • Muhtemelen tek gerçek çözüm küçük arkadaş grupları olacak
  • Eskiden ücretsiz phpBB forumlarında ya da IRC’de akıllı insanlarla konuşabiliyordum. Ama işletme maliyeti ve moderasyon yükünün ne kadar büyük olduğunu ancak şimdi fark ediyorum
  • Böyle topluluklar Dunbar sayısı ile sınırlı olmalı. Bunun ötesinde, kurallar ve yöneticiler olmadan ayakta kalmaları imkânsız
  • Artık yanlış videolar bile sonuçta izlenmeye ve reklam gelirine dönüşüyor. Platformlar sorumluluk almıyor
  • Reklam tamamen yasaklansa ve küresel feed olmadan, sadece arkadaş merkezli bir feed gösterilse belki mümkün olabilir, ama UX daha kötü olur
  • Sonuçta sorunun kökü reklam temelli internet modeli. Twitter’daki sorunlarda bile Elon Musk’tan çok bu yapısal sınırın payı var

• Açık kaynak kod yayımlarken AI kullanılıp kullanılmadığını açıklama zorunluluğu olması gerektiğini düşünmüyorum. Böyle bir talep sadece üretme isteğini kırar. İnsanlar yazdıkları kodu paylaşmak ister, ‘AI kullanmadım’ diye kanıt sunmak istemez

  • Ama bazı durumlarda yazar “AI kullanmadım” diye ısrar ederken kodda AI üretimi izleri kalıyor ve bu da insana resmen gaslighting yapılıyormuş gibi hissettirebiliyor

• AI’yı yasaklayan sosyal medya platformları olup olmadığını merak ediyorum. Belki görsel metadata’sı ya da kullanıcı davranışı analiziyle engellenebilir

  • Böyle bir platform çıkarsa adversarial training cennetine döner
  • Bluesky bunu resmen yasaklamıyor ama topluluk AI’a çok düşmanca yaklaştığı için neredeyse hiç yok
  • Yeniden canlandırılan Vine’ın AI içeriğini açıkça yasaklayacağı söyleniyor
  • Mastodon.art gibi yerler AI’yı açıkça yasaklıyor
  • Sonuçta sadece sosyal baskıyla bile AI’yı engelleyebilen topluluklar var olabilir

• Bir gün çevrimiçi içeriğin tamamı AI tarafından üretilirse, insanların yeniden gerçek dünyaya döneceğini umuyorum

  • Böyle bir değişim aslında şimdiden biraz hissediliyor. Eskiden “fotoğraf yoksa inanmam” denirdi; şimdi ise fotoğraflar da manipüle edilebildiği için sadece gerçek anıları saklamak amacıyla fotoğraf çekiyorum
  • Ama tersine, birçok insanın AI ile etkileşimden memnun kalması da oldukça olası
  • Şimdiden telefonları elimizden bırakamıyoruz; AI optimize içerik üretirse bu bağımlılık daha da artar
  • Yine de bu düşüncenin kendisi çok sıcak geliyor

• Artık Turing testini aşmış bir çağda olabiliriz. İnsanla AI’ı ayırt edemiyorsak, bunun nedeni AI’ın daha zeki hale gelmesi değil, çevrimiçi sohbetlerimizin yüzeyselleşmesi de olabilir

  • Ama gerçek Turing testi, sadece kandırmak değil; sorgulayıcı (interrogator) ayırt edememeli. Bugünkü LLM’ler henüz o seviyede değil
  • Metin az bilgi taşır ve ‘bunu bir insan yazdı’ güveni taşıdığı için kolay kandırır. Bu yüzden metin tabanlı AI özellikle tehlikeli. Ben de son zamanlarda telefon görüşmelerinde karşımdakinin insan mı robot mu olduğunu karıştırdığım anlar yaşıyorum
  • Sonuçta “bir elimizde…” “öteki elimizde…” türü dengeli bir bakışa ihtiyaç var

• Ben buna ‘halı etkisi’ diyorum. Kusursuz hizalanmış bir video ya da konuşma yapısı görünce yapay bir his bırakıyor. Fas halılarındaki gibi bilerek kusur bırakmak insanı daha insani kılıyor. Ama bu tür ‘ipuçları’nın da yakında kaybolacağını düşünüyorum