SlopStop: Kagi Arama'nın topluluk tabanlı yapay zeka üretimi tespit sistemi

• Yapay zeka üretimi spam ve içerik çiftlikleriyle kirlenen web ortamını temizlemek için Kagi Search, topluluk katılımlı tespit sistemi SlopStop'u kullanıma sundu
• SlopStop, arama sonuçlarında yapay zeka ile üretilmiş metin, görsel ve videolar için gerçek zamanlı AI slop skoru gösteriyor ve kullanıcıların düşük kaliteli içerikleri doğrudan bildirmesine olanak tanıyor
• Alan adı düzeyinde otomatik düşürme ve yapay zeka üretimi medya filtreleme özelliği ile daha güvenilir bilgilere görünürlük kazandırılıyor
• SlopStop, Small Web projesiyle bağlantılı çalışarak insan odaklı üreticileri ve özgün içerikleri öncelikli gösteriyor
• Kagi, bununla dünyanın en büyük AI slop veri kümesini oluşturmayı hedefliyor ve bunu ileride yapay zeka halüsinasyonları ile yanlış bilgilere karşı savunma teknolojilerinde kullanmayı planlıyor

---

AI Slop tanımı ve Kagi'nin yaklaşımı

• AI slop, arama sıralamasını manipüle etmek ya da dikkat çekmek amacıyla üretilen aldatıcı veya düşük değerli yapay zeka içerikleri anlamına geliyor
  • Buna sahte incelemeler, asılsız uzmanlık iddiaları, yanlış bilgiler ve gelir odaklı içerik çiftlikleri örnek veriliyor
• Kagi, yapay zekanın kendisini reddetmediğini; ancak insan içgörüsünün ve bağ kurmanın yerini alan türde yapay zeka içeriklerinin zararlı olduğunu açıkça belirtiyor
• Kagi'nin felsefesi, "kontrolün insanda olduğu arama deneyimi" ve şirket, reklam ile takip odaklı düşük kaliteli sayfaları zaten uzun süredir geri plana itiyor
• SlopStop, mevcut görsel filtresini genişleterek video, makale ve alan adı dahil tüm yelpazedeki yapay zeka üretimlerini tespit ediyor

SlopStop nasıl çalışıyor?

• Arama sonuçlarına AI slop skoru gösterimi eklendi; böylece kullanıcılar içeriğin güvenilirliğini anında görebiliyor
• Kullanıcılar web, görsel ve video sonuçlarında Yapay zeka üretimi olarak bildir özelliğiyle düşük kaliteli içerikleri bildirebiliyor
  • Kagi bunu kendi sinyalleriyle doğruladıktan sonra yapay zeka içeriği oranı yüksek alan adlarını otomatik olarak geri plana itiyor
  • Karma alan adlarında ise yalnızca ilgili sayfalara yapay zeka üretimi etiketi ekleniyor
• Yapay zeka ile üretilmiş görsel ve videolar, doğrulandıktan hemen sonra etiketleniyor ve otomatik olarak geri plana itiliyor; kullanıcılar ayrıca yapay zeka medyasını tamamen engelleyen filtreyi seçebiliyor
• CEO Vlad, "AI slop, insan odaklı internet için varoluşsal bir tehdit ve SlopStop bunu ortadan kaldırmaya yönelik ilk adım" dedi

SlopStop ile Small Web birleşimi

• Yapay zekanın gelişim hızı yüksek olsa da SlopStop ve Small Web, birlikte insan merkezli web ekosistemini yeniden kurmayı hedefliyor
• Small Web, doğrulanmış insan üreticilerden oluşan bir whitelist kurarak özgün içerikleri öncelikli gösteriyor
• SlopStop yapay zeka içeriklerini filtreledikçe yaratıcı ve insani içeriklerin görünürlüğü artıyor
• İki sistem, ticari aşırılaşma ve yapay kirlenmeye karşı interneti koruyan çift katmanlı bir savunma yapısı olarak çalışıyor

AI Slop veri kümesinin oluşturulması ve kullanımı

• SlopStop, Kagi ekosistemi genelinde güvenilirliği artırma aşamasının bir parçası olarak, topluluk bildirimleriyle şirket içi tespit teknolojilerini birleştirip dünyanın en büyük AI slop alan adı veri kümesini oluşturmayı hedefliyor
• Bu veri kümesinin, yapay zeka halüsinasyonları, asılsız iddialar ve dezenformasyonu önlemeye yönelik tespit teknolojilerinin geliştirilmesinde kullanılması planlanıyor
• Kagi, NewsGuard araştırmasına atıfla diğer chatbot'ların %30 ila %41 oranında yanlış yanıt ürettiğini belirtiyor
• Veritabanı ileride kamuya açılacak ve ilgili kullanıcılar kayıt olarak güncellemeleri alabilecek

Kullanıcı katılımı ve kalite koruması

• Kagi, crowdsourcing tabanlı SlopStop işletimi üzerinden tam otomatik nihai bir çözüm geliştirmeyi amaçlıyor
• Kullanıcılar, arama sonuçlarının yanındaki kalkan simgesine tıklayıp → Yapay zeka üretimi olarak bildir seçeneğini seçerek katkıda bulunabiliyor
• Tüm bildirimler Kagi inceleme ekibi tarafından doğrulandıktan sonra yansıtılıyor ve arama kalitesinin iyileştirilmesine katkı sağlıyor
• SlopStop ile ilgili teknik belgeler ve forum üzerinden çalışma biçimi ile geri bildirim kanalları sunuluyor
• Kagi, "tüm kullanıcıların katılımı daha güvenilir bir arama deneyimi yaratır" vurgusunu yapıyor

[GN⁺]

Hacker News görüşleri

• Gerçekten ilginç bir haber. HN de bunu örnek alıp benzer bir işaret eklese güzel olurdu
  • @freediver'dan veritabanı erişimi istedim. Yakında hcker.news'e entegre edilecek
    Kagi'nin topluluk merkezli yaklaşımı hoşuma gidiyor. Herkese açık Small Web listesi gerçekten faydalı.
    HN'de smallweb filtresi uygulanınca ana sayfa çok daha taze hissettiriyor
  • Katılıyorum
• HN'de de buna ihtiyaç var. Gelişmiş spam e-posta gibi içeriklerden uzak, güvenli bir sığınak olsa keşke
  • Çözüm basit. Her yorum için insan doğrulaması isteyin. Mesela her yorumda bir damla kan vermek gibi
• Belgede görsel, video ve “web sayfası” slopu diye ayrım yapılıyor; sadece web sayfası slopunu ayrı şekilde agresif biçimde filtrelemenin bir yolu var mı merak ediyorum
  Bazen içgörülü bir yazıya AI üretimi bir başlık görseli ekleniyor. Metnin kendisi gerçekse böyle yazıları elemek istemem. Belgedeki ayrımın bu kadar ince ayarlı filtrelemeye izin verip vermediğini merak ediyorum
• Keşke sahip olduğum teoriyi araştıracak zeki biri olsa. İnsan yazımı içerikle LLM yazımı içerik arasındaki entropi farkını öğrenmek, tespitin anahtarı olabilir
  Örneğin “Will Smith spagetti yiyor testi” gibi, gerçek sahneyle üretilmiş sahnenin entropisini karşılaştırınca fark bariz olabilir. Sonuçta “gerçek gibi görünüyor” demek, beklediğimiz entropi seviyesine uyuyor demek
  • AI slopun AI slopu çözeceğini sanmıyorum. Reklam ve dikkat ekonomisi zaten sloplaşmıştı; yapay zeka bunu sadece daha görünür hale getirdi.
    Yapay zekanın entropiyi yapay biçimde yükseltmesi kolay. Sonunda bir bilgi savaşı çıkacak ve bunun mağduru insanlar olacak
  • Aslında bu, “AI dedektörlerinin” temel prensibi. İnsan vs LLM üretimi içeriği sınıflandırmak üzere eğitilmiş modeller, ama herkesin bildiği gibi doğrulukları berbat
  • Böyle girişimler zaten var. Görsellerde difüzyon modeli artefaktları sayesinde işe yarıyor, ama metinde pek işlemiyor.
    Metnin bilgi yoğunluğu çok yüksek ve GPT tarzı modeller senin dediğin entropiyi tam tersine en aza indirmek üzere eğitiliyor
  • Gerçek fotoğraflarla AI üretimi fotoğrafları ayırmada işe yarayabilir, ama metinde entropinin o kadar önemli olduğunu sanmıyorum.
    Üstelik AI da bu tespiti atlatacak şekilde eğitilebilir
  • “Will Smith spagetti testi”nin şaka olduğunu sanmıştım ama arayınca gerçekten varmış. Şaşırdım
• İnternet ölmedi ama garip kokmaya başladı
• 1 yıldır Kagi'nin ücretli kullanıcısıyım. Şimdiye kadar yaptığım harcamalar içinde en çok değen şey oldu.
  Yakın zamanda Google aramayı tekrar denedim, gerçekten korkunçtu.
  Ben sessiz bir internet istiyorum — soru sorunca cevap veren, niyeti ya da reklamı olmayan, sadece samimi yanıtların olduğu bir yer
• Ölçeklenebilir yaklaşımın sonunda AI'ya AI'yı teşhis ettirmek olacağını düşünüyorum. Tabii insan incelemesi şart ama
  Çoğu insanın prompttaki “varsayılan sesi” aşan AI metnini ayırt edebileceğini sanmıyorum
  • Bir sonraki nesil modeller, AI diye sınıflandırılmış örnekleri eğitim verisinden çıkararak evrilecek.
    Bu döngü sürecek ve GAN (Generative Adversarial Network) yapısına benzer bir hal alacak
  • AI'ya AI yakalatmak, “iyi AI kötü AI'yı yener” türünden bir hizalama problemi yanılsamasına benziyor. Mümkün olabilir ama fazla varsayıma dayanıyor
  • AI, AI'yı güvenilir biçimde tespit edebilseydi bu sorun çoktan çözülmüş olurdu. Mesele güvenilirlik eksikliği
  • Prompt dikkatli kullanılırsa tespiti zor metinler üretilebilir.
    Ama gerçek web hâlâ AI slopuyla dolu.
    Ben çoğu zaman doğruluğun önemli olduğu bilgiler arıyorum; bu yüzden AI tespiti yapılıp yapılmadığından çok kaynağın güvenilirliği önemli.
    Sonuçta belirleyici olan, bunu kimin kendi adıyla ya da itibarıyla yayımladığı
• Şu an dünya sanki iki evrene ayrılmış gibi. Biri üretilmiş içeriği zorla dayatan evren, diğeri ise onu kesin biçimde reddeden evren
  Bazı CEO'ların neden bu kadar inat ettiğini anlamıyorum. İnsanlar yapay içeriği sevmiyor ama onlar hâlâ takıntılı
  • YouTube'da AI üretimi içerikten hoşlanan devasa bir izleyici kitlesi var.
    Mesela bu video ve bu video tamamen GPT yazımı senaryo, AI illüstrasyonları ve AI sesinden oluşuyor.
    Reddit'te de GPT yazımı gönderiler üst sıralara çıkıyor ve insanlar “ne güzel bir benzetme” diye övüyor.
    Sonuçta birçok insan AI içeriğinden farkında olarak ya da olmayarak keyif alıyor
  • CEO'ların bu inadı çoğunlukla yönetim kurulu ve Wall Street baskısından kaynaklanıyor. Gerçekte LLM'i hiç kullanmamış insanlar sadece piyasa sinyallerine tepki veriyor
  • Bu tam bir batık maliyet tuzağı ve büyüme takıntısı. Mantıktan çok moda ve yatırımcı sabırsızlığı belirleyici oluyor
  • Kagi de LLM'leri tamamen dışlamış değil. Aslında haber özetlerinde LLM kullanıyor
    İlgili issue'da görüldüğü gibi, ekonomik verimlilik nedeniyle tamamen dışlamak zor
  • İçerik üreticisi AI kullandığını açıklamak zorundaysa, benim de bunu filtreleme hakkım olmalı.
    Bugünlerde gerçek içeriği bulmak çok zor.
    Sorun AI içeriğinin kendisinden çok, özenli üreticilerin görünmez hale geldiği ortam
• Şu anki durum sanki AI'nın kendi kendisiyle satranç oynadığı bir maç gibi.
  Tespit daha sofistike hale geliyor, AI ise daha kurnazlaşıyor. Sonsuz bir tespit ve kaçınma düellosu sürüyor
• “Slop savaşı başladı”
  Arama sonuçlarındaki AI slopu selini durdurmaya çalışan her girişimi destekliyorum.
  Eski SEO spam'inin geri dönmüş hali gibi, sadece ambalajı değişmiş
  • Bu kez çok daha ciddi. Eski SEO spam'i insan gözüyle hemen ayırt ediliyordu, şimdi ise dışarıdan kusursuz görünen çöpler her yeri kaplamış durumda.
    Diğer arama motorlarının bunu sevmesinin nedeni, kendileri içerik üretmeden bile giriş kapısı rolünü güçlendirebilmeleri
  • İşin ironik tarafı, AI içeriğinden en çok nefret eden kesim SEO sektörü.
    Çünkü AI özetleri onların tıklama tuzağı içeriklerinin yerini alıyor.
    Belki de bu filtreleme hareketinin arkasında onlar vardır