'Bullshit'i Otomatikleştirdik

Yapay zeka ile ilgili tartışma

• Yapay zeka hakkındaki tartışma, Afrika'da yapay zekanın önemi üzerine bir soruyla başladı.
• Son dönemde ABD Başkanı ile Birleşik Krallık Başbakanı'nın yapay zeka konusunda yürütme emri ve zirve düzenlemesiyle, yapay zekanın geleceğine yönelik ilgi arttı.
• Yapay zekanın gerçekte mantık ya da olgulara değil, tahmine dayalı metne dayanarak 'bullshit' ürettiği yönünde bir sorun ortaya konuyor.

Yapay zekanın çalışma biçimi

• MIT'de yapay zeka profesörü Rodney Brooks, ChatGPT'yi "kulağa hoş gelen şeyi uydurmak" diye özetliyor.
• 'Kulağa hoş gelen şey', internette bulunan metinleri taklit eden algoritmayı; 'uydurmak' ise tahmine dayalı metne dayanan temel rastgeleliği ifade ediyor.
• Diğer önde gelen yapay zeka araştırmacıları da benzer görüşler ortaya koyuyor; bu durum, 'stochastic parrots' makalesi gibi çalışmalarda daha teknik ayrıntılarla açıklanıyor.

Yapay zeka ve gerçek

• Yapay zekanın 'vaftiz babası' Geoff Hinton, sohbet botlarının zeki olmaktan çok ikna edici metin üretme tehlikesi taşıdığı konusunda uyarıyor.
• Kanıtın ve mantığın saygı görmediği bir dünyada, kanıt ya da mantık olmadan çalışan sistemlerin ikna gücüyle egemen hale gelebileceği endişesi var.
• Filozof Harry Frankfurt'un 'On Bullshit' eserinde, gerçeğin otoritesini açıkça reddetmeyip onu görmezden gelen 'bullshit' kavramı açıklanıyor.

Yapay zeka ve toplumsal etki

• Birleşik Krallık Başbakanı yapay zekadan ve otomatik bir 'bullshit generator'dan neden etkilenmiş olabilir?
• David Graeber'in 'Bullshit Jobs' analizi, yapay zekanın gerçek doğasını ortaya koyuyor.
• Birleşik Krallık'taki çalışanların %30'undan fazlası, kendi işlerinin topluma hiçbir değer sunmadığına inanıyor.
• Üniversite eğitiminin bir bölümü, gençleri hayattan pek beklenti duymadan bürokratik süreçlere uyum sağlamaya hazırlıyor.

Yapay zeka sistemlerinin eğitimi

• Yapay zeka sistemleri, Twitter, Facebook, Reddit gibi devasa 'bullshit' arşivleri ile gerçek olguları da içeren metinlerle eğitiliyor.
• ChatGPT'de hangi kısmın doğru olduğunu denetleyen bir algoritma bulunmadığından, çıktılar 'bullshit' olarak tanımlanıyor.
• Twitter, doğru olup olmadığıyla ilgilenmeyen siyasetçileri teşvik ediyor ve onların sözlerinden oluşan arşivler otomatik 'bullshit generator' eğitiminde kullanılabiliyor.

GN⁺ görüşü

• Bu yazıdaki en önemli nokta, yapay zekanın ürettiği içeriğin gerçek ve mantık temelli olmaması; bunun yerine insanları ikna edebilecek 'bullshit' üretebilmesi.
• Bu durum, toplumsal diyalogu ve bilginin niteliğini etkileyebilir; yapay zeka teknolojisi geliştikçe bu sorun daha da önemli hale gelecektir.
• İnsanlar için ilgi çekici olmasının nedeni, yapay zekanın gündelik yaşamımız ve iş gücü piyasası üzerindeki potansiyel etkilerini anlamaya ve teknolojinin getireceği değişimlere hazırlanmağa yardımcı olmasıdır.

[GN⁺]

Hacker News yorumu

• İlk yorumun özeti:

  • LLM'ler (büyük dil modelleri) 'doğruymuş gibi görünüyor mu' ölçütüne göre çalışır ve uzman olmayanlar için LLM'in yanıtlarının doğru olup olmadığını değerlendirmek zordur.
  • LLM'ler uzmanlar için faydalı araçlardır; kişi kendi alanında LLM'in sunduğu kod parçacıklarının doğruluğunu değerlendirebilir.

• İkinci yorumun özeti:

  • ChatGPT, farklı kaynaklardan gelen verilerle eğitildiği için doğru olgular ile belirsiz bilgileri ayırt etmeden yanıt üretir.
  • İnsanlar da benzer şekilde öğrendiğinden, LLM çıktısına tamamen güvenilmemelidir.

• Üçüncü yorumun özeti:

  • LLM'lerin verdiği yanıtlar, insan konuşmasında öngörülebilir bir sonraki token'ı üretme biçimine benzer.
  • LLM'ler henüz erken aşamada olmalarına rağmen, diyalog yoluyla sorun çözmede kayda değer bir yetenek gösterir.

• Dördüncü yorumun özeti:

  • LLM'ler insan dilini taklit ederek, dil yapısına kodlanmış akıl yürütme yeteneğini de taklit eder.
  • LLM'lerin kesin hatırlama kapasitesi zayıftır, ancak uygun prompt'larla bilgi eklenirse bu eksik telafi edilebilir.

• Beşinci yorumun özeti:

  • LLM'ler problem çözmede konuşma temelli bir yaklaşım kullanır ve iş akışına yenilik getirir.

• Altıncı yorumun özeti:

  • LLM'ler dilsel yeteneklere odaklanmış bir teknolojidir; bütüncül bir akıl yürütme sistemi ya da olgusal veri tabanıyla entegre edilmezse sorunlar ortaya çıkabilir.

• Yedinci yorumun özeti:

  • LLM'ler zaman zaman hatalı yanıtlar verebilir, ancak kullanıcının bunları nasıl kullandığına bağlı olarak üretkenliği artırabilir.

• Sekizinci yorumun özeti:

  • Dilin kendisi, 'gerçek'ten bağımsız işleyen bir 'bullshit generator' olarak görülebilir ve LLM'ler de dilin bu özelliğinden yararlanır.

• Dokuzuncu yorumun özeti:

  • Fransızcada baratineur sözcüğü, doğru ya da yanlış olmasından bağımsız olarak karşı tarafın duymak istediğini söyleyen kişiyi ifade eder; bu, LLM'ler için daha uygun bir tanım olabilir.

• Onuncu yorumun özeti:

  • LLM'in ürettiği kod gereksinimleri karşılıyorsa bu 'bullshit' değildir ve belirli bağlamlarda faydalı şekilde kullanılabilir.