İnternet, yapay zekayla dolu çöp bilgi

İnternet artık makinelerin birbiriyle konuştuğu bir alan

• İnternet, insanların birbirine soru sorup yanıt verdiği basit bir kullanım biçiminden, artık yapay zekanın ürettiği yanlış bilgilerle dolu bir alana dönüştü.
• Google kullanıcıları, Google'ın yumurtanın eriyebileceğini yanlış şekilde söylediğini fark etti. Bunun nedeni, Google'ın web sitelerini doğrudan göstermek yerine sayfanın anlık görüntüsünü açılır menü olarak sunması ve böylece kullanıcıların tıklamadan arama sonuçlarını okuyabilmesi.
• Son dönemde Google aramanın işe yaramazlığı artıyor; örneğin kronik sinüzit arama sonuçlarının iltihaplı bir penisle ilgili sonuçlar döndürdüğü vakalar var.

İnternet trafiği "çalma" ve Sports Illustrated'ın yapay zeka makalesi tartışması

• Dün bir Twitter kullanıcısı internet trafiği "çalındığını" öne sürdü. Rakip bir web sitesinin site indeksine bakıp makale URL'lerini çıkardıktan sonra, yapay zekayı kullanarak hızla makaleler yazdığını söyledi.
• Ayrıca Sports Illustrated'ın yapay zekayla yazılmış makaleler yayımladığı ve gerçekte var olmayan kişilerin adlarıyla bu makaleleri yayınladığı ortaya çıktı. Bununla ilgili soru sorulmasının ardından söz konusu içerikler kaldırıldı.

İnternetin temelden yıkımı

• İnternet artık insanlar arasındaki iletişim alanı değil, makinelerin birbiriyle konuştuğu bir yere dönüştü.
• "Google'a sor" sözü artık anlamsız hale geldi. Yanlış bilgi ya da tamamen uydurma sonuçlar döndürme olasılığı yükseldi.
• Sports Illustrated gibi şirketler, okurlara hizmet sunmaktan çok Google arama sonuçlarını ve reklam gelirlerini artırmaya daha fazla önem veriyor.

GN⁺ görüşü

• İnternetteki bilginin kalitesi giderek düşüyor ve bu da kullanıcılarda kafa karışıklığı ile rahatsızlık yaratıyor.
• Yapay zeka teknolojisinin gelişiminin getirdiği yan etkilerden biri, yapay zekanın ürettiği yanlış bilgiler yüzünden güvenilir bilgi bulmanın zorlaşması.
• Bu değişim, kullanıcıların internetten bilgi edinme biçimini yeniden düşünmesine yol açıyor ve bilginin kalitesini güvence altına almak için yeni yaklaşımlara ihtiyaç olduğunu gösteriyor.

[GN⁺]

Hacker News görüşü

• Büyük dil modellerinin (Large Language Models, LLMs) yaygınlaşmasıyla ortaya çıkan sorunlardan biri, önceden yazım veya dilbilgisi hataları sayesinde değersiz gönderileri hızla elemek için yararlı bir sezgisel yöntemin bulunmasıydı; ancak artık yapay zeka tarafından üretilen içerikler dil kullanımında kusursuz olduğundan bu yöntem artık işe yaramıyor. Örneğin, curl projesinde yapay zeka üretimi sahte hata raporları nedeniyle sorun yaşandı. Bu sorunun gelecekte daha da ağırlaşması bekleniyor.

• İnternetin değiştiğine katılmakla birlikte, GPT-4, 3 ve 2 öncesine kıyasla internetin aslında çok da farklı olmadığını düşünen bir görüş de var. Stajyerlerin ya da Hindistan’daki sanal asistanların yazdığı genel konulu yazılar, çoğu zaman yapay zeka üretimi içerik kadar kötü ve ayırt edilmesi zor. Arama motorlarının web sayfalarını, sayfadaki metin ile sorgunun eşleşmesinden çok itibara göre sıralaması da ayrı bir sorun. İnsanlar artık web’den çok uygulamalarda yaşıyor; web’in kalitesi uzun süredir kötüleşiyor ama yakında bunun pek önemi kalmayabilir. İnternet varlığını sürdürecekse, yeni bir anonimleştirilmiş katmana taşınmasını ve düşük kaliteli içerik üretimini azaltmak için sık sık parasal değişim gerektiren bir yapıya evrilmesini dileyenler var.

• Clearnet’in mevcut durumu bu kadar kötüyken, bilginin Discord içinde yalıtılmış olmasının o kadar da kötü görünmediğini söyleyenler de var. Arama motorları tarafından indekslenmemesi sayesinde, yapay zeka çöplüğüyle birlikte görünmekten ya da eğitim verisi olarak kullanılmaktan kaçınılabiliyor. İnternetin geleceği insanlara bağlı; makineler artık en temel işlerde bile güvenilir olmaktan çıktı.

• BeamMP projesinde yapay zeka üretimi sahte hata raporları ve PR’lerle (pull request) yaşanan deneyim paylaşılıyor. Bu tür yapay zeka üretimleri kolayca ayırt edilebiliyor; ilgisiz kodları değiştirme ya da derlenmeyen çözümler önerme gibi özellikler taşıyorlar. Gerçek insanlar tembel olduğu için gereksiz iş yapmaz; yapay zeka çöplüğü ise zaman kaybı olduğundan birleştirilmiyor.

• İnternette özgünlüğü korumak önemli. Yalnızca imzalanmış içerik özgünlüğü garanti edebilir. Yapay zekanın daha fazla şey yayımlayabildiği bir ortamda, kimin ne yayımladığını ve ne söylediğini bilmeye imkân veren güven ve özgünlük, filtreleme için tek yöntem. Web of Trust denendi ama ana akıma çıkamadı; belki de yeniden denemenin zamanı gelmiştir.

• LLM’lerin hızlandırdığı eski bir sorundan söz edenler de var. Google reklam gelirini ve reklam teknolojisindeki hakimiyetini artırmaya çalıştıkça, arama sonuçlarında SEO her yere yayıldı ve bu da nesnel bilgiye ulaşmayı zorlaştırdı. Önce Reddit’te bilgi aramak bir çözüm olabilir, ancak Reddit de son birkaç yılda manipüle edilmiş içerikle doldu.

• İnternet zaten SEO yüzünden insan üretimi çöple doluydu; bu yüzden "AI" ortaya çıkınca aslında çok fazla bir şey kaybedilmediğini savunanlar da var. Sektörde bu soruna uzun zamandır dikkat çeken insanlar bulunuyor.

• Reklamların amacı sonuçta para kazanmaktır ve botların kredi kartı olmadığı sürece bu, insanlardan gelen para demektir. Google gibi şirketler, trafik artsa bile bu artış insan harcamasına dönüşmüyorsa bunun finansal etkisini hissedecektir. Son dönemde teknoloji alanında yaşanan büyük çaplı işten çıkarmalar, bu soruna verilen tepkinin başlamış olabileceğini düşündürüyor.

• "Anathem" kitabını okuyanlara göre, bizim görevimiz Reticulum’daki çöpü ayıklamak.