Google, aramada tuhaf yapay zeka yanıtlarını manuel olarak kaldırmak için çabalıyor

• Sosyal medyada Google’ın yeni AI Overview ürününün tuhaf şeyler söylediği örneklerle ortalık çalkalanıyor
  • Kullanıcılara pizzaya yapıştırıcı sürmelerini ya da taş yemelerini önermek gibi
• Bu karmaşık lansman nedeniyle Google, belirli aramalar için AI Overview’ı manuel olarak devre dışı bırakmak üzere yoğun şekilde çalışıyor
  • Çeşitli mem’ler paylaşılırken, kullanıcılar bunların sosyal ağlarda paylaşıldıktan kısa süre sonra kaybolduğunu gördü

Google’ın AI Overview’ı

• Google, AI Overview’ı 1 yıldır test ediyordu
  • 2023 Mayıs’ta Search Generative Experience olarak beta sürümünde yayınlandı
  • CEO Sundar Pichai, bu süre boyunca 1 milyardan fazla sorgunun işlendiğini söyledi
• Pichai ayrıca yapay zeka yanıtları sunmanın maliyetini %80 azalttıklarını açıkladı
  • Bu, donanım, mühendislik ve teknik atılımlar sayesinde sağlandı
  • Ancak bu optimizasyonların, teknoloji hazır olmadan önce fazla erken yapılmış olması mümkün

Yapay zeka kalite sorunları

• Bir yapay zeka girişimcisi, Google’ın artık düşük kaliteli çıktı üretmesiyle tanındığını söyledi
• Google, AI Overview ürününün ağırlıklı olarak "yüksek kaliteli bilgi" sunduğunu savunuyor
  • Google sözcüsü Meghann Farnsworth, e-posta yoluyla bazı sorgular için AI Overview’ı kaldırmak üzere hızlı adımlar attıklarını doğruladı
  • Bu örnekleri kullanarak sistem genelinde iyileştirmeler geliştirdiklerini söyledi

Yapay zeka uzmanının görüşü

• New York Üniversitesi’nde fahri nörobilim profesörü olan Gary Marcus, birçok yapay zeka şirketinin teknolojinin %80’den %100’e ulaşacağı hayalini sattığını söyledi
  • İlk %80, büyük miktarda insan verisini yaklaşık olarak modellemek açısından nispeten kolay
  • Son %20 ise son derece zor bir görev
  • Gerçekte bunun için yapay genel zeka (AGI) gerekebilir

Google’ın rekabet durumu

• Bing, yapay zekayı Google’dan önce devreye aldı
  • OpenAI kendi arama motorunu geliştiriyor
  • Yeni yapay zeka arama girişimleri şimdiden 1 milyar dolar değerlemeye ulaştı
  • Genç nesil en iyi deneyimi istiyor ve TikTok’a yöneliyor
• Google rekabet baskısını hissediyor ve bu da karmaşık bir yapay zeka lansmanına yol açıyor
  • 2022’de Meta, Galactica adlı bir yapay zeka sistemi yayınladı ancak cam yemeyi önermesi gibi sorunlar nedeniyle kısa süre sonra geri çekti

Google’ın AI Overview planları

• Google’ın AI Overview için büyük planları var.
  • Mevcut işlevler, şirketin geçen hafta duyurduğu şeylerin yalnızca bir kısmı.
  • Karmaşık sorgular için çok adımlı akıl yürütme, yapay zekanın düzenlediği sonuç sayfaları oluşturma, Google Lens’te video ile arama gibi
• Ancak şu anda şirketin itibarı, temel şeyleri doğru yapabilmesine bağlı ve tablo pek iyi görünmüyor

Gary Marcus - "[Bu modeller] temelde kendi çalışmaları üzerinde mantıklılık kontrolü yapamıyor; bu da sonunda bu sektörün ayağına dolanacak"

GN⁺ görüşü

• Yapay zekada güvenilirlik sorunu: Yapay zeka sistemlerinin kendi çalışmalarını doğrulayamadığı yapısal bir sınırlama var. Bu da kullanıcılara yanlış bilgi sunma riski taşıyor.
• Rekabet baskısı: Google, rakiplerinden gelen baskıyı hissediyor ve bu durum ürün lansmanlarının kalitesini etkiliyor olabilir.
• Teknik zorluk: Yapay zeka teknolojisinin %80’den %100’e gitmesi son derece zor bir görev. Bu, yapay zekanın sınırlarını ve karşı karşıya olduğu zorlukları iyi gösteriyor.
• Kullanıcı deneyimi: Genç nesil en iyi kullanıcı deneyimini istiyor; bu da Google’ın sürekli iyileştirmesi gereken bir alan.
• Diğer alternatifler: Yapay zeka arama motoru düşünen kullanıcılar için Bing veya yeni yapay zeka arama girişimleri de iyi alternatifler olabilir.

[hhcrux]

“Birçok yapay zeka şirketinin, teknolojinin %80’den %100’e gideceği hayalini sattığını söyledi”
Bu kısım benim de hep düşündüğüm bir şey. Yapay zeka dünyası gelse bile insanların yapacağı işlerin ortadan kalkmayacağını düşünmemin dayanaklarından biri de bu.

[GN⁺]

Hacker News görüşü

Hacker News yorumları derleme özeti

• Google'ın arama önerilerini manuel olarak kaldırma yaklaşımı

  • Google'ın geçmişte arama sonuçlarını manuel olarak ayarlamak yerine algoritmanın kendisini ayarlamaya çalıştığı örnekleri hatırlatıyor.
  • 2002'de Froogle testi sırasında, "running shoes" aramasında bahçe cücesi heykelinin üst sıralarda çıkması gibi bir sorun yaşandı.
  • Bir mühendis ilgili ürünü satın alarak sorunu çözdü. Algoritmayı değiştirmeden de doğru sonuçların dönmesi sağlandı.

• Yapay zekada doğruluk sorunu

  • İlk %80 doğruluğa ulaşmak görece kolay olabilir, ancak son %20 çok zordur.
  • %100 doğruluk insanların da ulaşamayacağı bir hedeftir.
  • Amaç, bariz şekilde saçma yanıtları azaltmaktır.
  • LLM'ler (büyük dil modelleri) iyi metin üretir, ancak bariz şekilde saçma yanıtları ayıklamak her zaman iyi sonuç vermeyebilir.

• Google'ın arama kalitesi sorunu

  • Google'ın yapay zeka savaşı nedeniyle yönünü kaybettiğine dair tartışmalar var.
  • Bugünkü Google arama sonuçları spam, clickbait ve propaganda ile dolu.
  • Arama sonuçlarının en azından geniş kabul gören gerçekleri yansıtması gerektiği savunuluyor.
  • Bariz trolling, clickbait ve kötü niyetli içeriği tespit etmek önemlidir.

• Arama motoru ile soru motoru arasındaki fark

  • Arama motoru internette arama yapmak için kullanılan bir araçtır, soru sormak için değil.
  • Yapay zeka aracılığıyla bir şey sormak, internette arama yapmaktan farklı bir iştir.

• Google'ın yapay zeka entegrasyonu sorunu

  • Google her yapay zeka entegrasyonu yaptığında benzer sorunlar tekrar ortaya çıkıyor.
  • Sorun yaşandığında üst düzey bir yönetici problemi çözeceğini açıklıyor, ancak aynı sorun yeniden yaşanıyor.

• Google'ın veri seti sorunu

  • 25 yıldır arama sonuçlarını ince ayar yapan Google'ın iyi bir veri setine sahip olmaması insanları şaşırtıyor.
  • Eğitim verisi oluşturmak için eski ansiklopedi CD'lerini kullanmak gerekebilir.

• LLM kullanarak tuhaf sorgular üretme ve test etme

  • Google'ın LLM kullanarak tuhaf sorgular üretip bunları test etmemiş olması hayal kırıklığı yaratıyor.
  • Temiz bir dağıtımdan elde edilebilecek çok sayıda avantaj var.
  • Mevcut yapay zeka yarışı dibe doğru bir yarış olabilir.

• Yapay zekanın ilk sürümleri sorunu

  • Bugünkü yapay zeka, her açıdan geleneksel aramadan daha kötü.
  • Yapay zeka tarafından üretilen görsellerdeki parmaklar etkileyici.

• LLM'lerde halüsinasyon sorunu

  • İnsanlar LLM'lerin sadece ara sıra halüsinasyon gördüğünü düşünüyor, ancak gerçekte bu daha sık yaşanıyor.

• Yapay zeka sonuçlarını manuel kaldırmanın ironisi

  • Hatalı yapay zeka sonuçlarını manuel olarak kaldırmak ironik görünüyor.