Google'ın Gemini AI modeli demosu manipülasyon tartışması
- Google'ın yeni Gemini AI modeli kamuoyuna ilk kez tanıtıldıktan sonra karışık tepkiler aldı
- En etkileyici demonun aslında fiilen manipüle edildiğinin ortaya çıkması, kullanıcıların güvenine zarar verdi
- "Hands-on with Gemini: Interacting with multimodal AI" adlı video 1 milyon izlenmeye ulaşarak, çeşitli girdilere karşı esnek ve tepkisel bir multimodal modelin yeteneklerini sergiledi
Gerçekten farklı demo
- Video gerçek zamanlı gerçekleşiyormuş gibi görünse de, aslında Gemini'nin yeteneklerini test etmek için görüntü kareleri ve metin prompt'ları kullanıldı
- Gerçek etkileşimden farklı olarak video, tepki hızı ve doğruluk ile modelle etkileşim biçimi konusunda yanlış izlenim yaratabilecek içerikler barındırıyor
- "Gecikmeyi azalttık ve Gemini çıktısını kısalttık." şeklinde bir uyarı notu bulunsa da, video son derece çekici görünüyor
Belgelenmiş yeteneklerle fark
- Videoda sezgisel ve sözcüksüz bir değerlendirme varmış gibi görünse de, belgelenmiş yetenekler modelin tek tek jestlerden çıkarım yapmadığını; tüm jestlerin bir kerede gösterilmesi ve ipucu verilmesi gerektiğini ortaya koyuyor
- Örneğin videoda model, kâğıt topun bardakların altında yer değiştirdiğini anında fark ediyormuş gibi görünse de, gerçekte etkinliği açıklamak ve modeli yönlendirmek gerekiyor
- Google'ın bu videonun "Gemini'nin gerçek çıktısını gösterdiğini" söylemesi doğru olsa da, "demoyu birkaç şekilde düzenledik (ve bunu şeffaf biçimde açıkladık)" demesi doğru değil. Bu video bir demo değil; gerçekte, tanıtmak istediği demodan oldukça farklı bir etkileşimi gösteriyor
GN⁺ görüşü
- Google'ın Gemini AI modeli demo videosunun, modelin gerçek yeteneklerini abartacak şekilde hazırlandığı ortaya çıktı ve bu da teknolojinin güvenilirliği konusunda soru işaretleri doğurdu.
- Bu olay, multimodal yapay zekanın gelişim potansiyelini ve mevcut teknolojinin sınırlarını aynı anda gösteren bir örnek olarak, AI teknolojisinin gerçek durumunu anlamak için önemli bir ders sunuyor.
- Ayrıca bu olay, AI teknolojisi tanıtımları ve demolarının gerçek kullanıcı deneyimiyle ne kadar örtüştüğü konusunda şeffaflık ve dürüstlüğün önemini vurgulayarak, teknoloji alanında çalışanlar için ilgi çekici bir tartışma sunuyor.
5 yorum
Bard da ilk başta beklenti yaratmıştı.
Google Glass'ı hatırlatıyor... O zaman da dünyanın değişeceğini sanmıştım
Hadi!
Etkileyici bir videoydu ama kısa sürede düzenlenip sunulunca ortaya çıkması kaçınılmaz olan bir sorun gibi görünüyor.
Google'ın epey zorlandığını da düşündürüyor; bir yandan da gerçekten piyasaya çıkınca görürüz diye düşünüyorum.
Her şeye rağmen OpenAI'ın tek başına öne çıkmasındansa rekabetin olması daha iyi, o yüzden Google'a da başarılar.
Üzücüydü.
Sanırım vizyon ve değerler, özellikle zor zamanlarda daha da çok korunması gereken şeyler.