Wikimedia Foundation'ın deneysel LLM/RAG Chrome uzantısı 'Citation Needed' yayımlandı

(chromewebstore.google.com)

1 puan yazan GN⁺ 2024-05-13 | 1 yorum | WhatsApp'ta paylaş

Wikipedia Citation Needed Chrome uzantısı

Web'de gezinirken belirli bir metin bölümünü seçerek ilgili iddiayı doğrular
ChatGPT API'yi kullanarak Wikipedia'da ilgili belgeleri arar ve bu belgelerden alıntı yapar
Seçilen ifadenin Wikipedia tarafından desteklenip desteklenmediğine dair bilginin yanı sıra, belgenin son düzenlenme tarihi ve referans sayısı gibi belge kalite sinyallerini sunarak kullanıcının aldığı bilgiler (Wikipedia'dan aldığı bilgiler dahil) hakkında daha fazla bağlam edinmesine yardımcı olur

Bu özelliğin üretken yapay zeka kullanan deneysel bir özellik olduğu ve zaman zaman hata yapabileceği kabul ediliyor
Sonuçların kalitesini anlamak ve iyileştirmek için, keşfedilen sorunların uzantıdaki geri bildirim bağlantısı üzerinden bildirilmesi isteniyor
Genel geri bildirimlerin yanı sıra, Wikipedia'nın günlük web gezintisinde faydalı biçimde kullanılabileceği başka yöntemlere dair fikirler de memnuniyetle karşılanıyor

Bu uzantı, Wikipedia ve kardeş projelerini destekleyen kâr amacı gütmeyen kuruluş Wikimedia Foundation'ın Future Audiences ekibi tarafından geliştirildi

Bu uzantı, kullanıcının web'de karşılaştığı bilgilerin güvenilirliğini değerlendirmesine yardımcı olabilir. Ancak Wikipedia maddelerinin kendi kalite ve doğruluk sınırları da olabileceğinden, bunu mutlak bir ölçüt olarak almak zor görünüyor.
ChatGPT gibi büyük dil modellerini kullanarak özetleme ve doğrulamayı otomatikleştirmek kullanıcı kolaylığını artırabilir; ancak aynı zamanda yanlış bilgi üretme riski de taşıyor. Bu konuda sürekli izleme ve iyileştirme çabaları gerekli görünüyor.
Wikipedia'nın yanı sıra, her alandaki uzmanlarca doğrulanmış güvenilir bilgi kaynakları da ek olarak kullanılırsa doğrulamanın doğruluğu ve kapsamı artırılabilir. Uzun vadede, blockchain tabanlı merkeziyetsiz bir bilgi tabanı kurulması da değerlendirilebilir.

GN⁺ 2024-05-13

Deneysel, LLM destekli bir RAG (Retrieval Augmented Generation) uygulaması, internetteki iddiaları Wikipedia ile karşılaştırarak doğruluyor.
Alıntıların halüsinasyon olup olmadığı ya da "deterministik alıntı" gibi bir şey kullanıp kullanmadığına dair bir soru var.
Bu uzantı için Wikimedia'nın Git deposu paylaşılmış. README'deki derleme talimatları eksik ve hot reload çalışmıyor gibi görünüyor. Çalışan bir derleme almak için npm run build-dev kullanılabiliyor.
Firefox uzantısı sunulmuyor. Bunun nedeni sidebar/sidepanel API farkları olabilir.
LLM'nin Wikipedia makalelerini de doğrulayıp işaretlemesi umut verici olurdu.
Bir makale üreticisi ve makale denetleyicisiyle birleştirilerek 1 trilyon sayfa üretilebilir. Bu, LLM'ler için faydalı eğitim içeriği olabilir ama insanlar da kullanabilir.
Yalnızca Chrome'da çalışıyor gibi görünüyor. Arc'ta çalışmıyor.
Akademide Wikipedia'ya atıf yapmak genelde yasaktır. Güvenilirliği daha düşüktür (yazar, kendisinin düzenleyebileceği bir kaynağa atıf yapar) ve birincil kaynakları bulmak için iyi olsa da kendi başına ikincil bir kaynaktır.
Kendisi hakkında soru sorulduğunda "Citation Needed, 2024'te geliştirilmiş deneysel bir özelliktir" yanıtını veriyor. Ancak sağlanan paragrafta 2024'te geliştirilen 'Citation Needed' adlı bir özellikle ilgili bilgi yer almıyor.