Show HN: Sahte Google Gemini demosu GPT-4 kullanılarak yeniden yapıldı, bu kez gerçekten çalışıyor
(sagittarius.greg.technology)GPT-4 ile Google Gemini'nin sahte demosunun yeniden yapımı, bu kez gerçek
- Google Gemini'nin sahte demosunu GPT-4 kullanarak yeniden yapan bir proje.
- Gerçekten çalışan bir demo sunuluyor ve ilgili kod GitHub deposunda incelenebiliyor.
- Proje Greg Technology tarafından oluşturuldu.
GN⁺ görüşü
- Bu yazıdaki en önemli nokta, geçmişteki sahte bir demonun GPT-4 kullanılarak gerçekten hayata geçirildiği bir projenin varlığı.
- Yapay zeka teknolojisinin gelişiminin, gerçekten kullanılabilir yenilikçi çıktılar üreten süreci göstermesi açısından ilgi çekici bir örnek.
1 yorum
Hacker News yorumları
Sahte Gemini demosunun sihirli görünen kısmı, LLM'in sürekli ses ve video girdisi alıp ne zaman araya girip yanıt vermesi gerektiğini biliyormuş gibi görünmesiydi.
Kullanıcı çizimi bitirene kadar bekliyormuş ya da bitmeden hemen önce araya giriyormuş gibi görünüyordu; hatta yanıtın ortasında kullanıcı ördeği maviye boyayınca mavi bir ördeğe benzediğini de söylüyordu.
Kullanıcı sadece onay verdiğinde yanıt gerekmediğini de biliyormuş gibi görünüyordu.
Kaynak kodunu kontrol edince demonun video akışından her 800 ms'de bir ekran görüntüsü aldığını, kullanıcının konuşmayı bitirmesini beklediğini ve ardından son 3 ekran görüntüsünü gönderdiğini gördüm.
Bu demo kendi başına etkileyici, ama sürekli ses-video girdisi yokken LLM ile bu şekilde etkileşime girmenin ne kadar doğal olmadığını da gösteriyor.
Teknik olarak bir süredir mümkün olan bir şeydi, ama kimsenin bunu ürün gibi öne çıkarmamasının bir nedeni var.
Bu yöntem, dikte transkripsiyonu daha kararlı olduğu için güvenli ama yavaş.
Diğer demo olan https://www.youtube.com/watch?v=fxS7OKh_4vc içinde ise “devam eden” transkripsiyon sonuçları sürekli GPT'ye veriliyordu; gerçekten hızlı ve harikaydı.
Ancak insanların gerçek konuşması, transkripsiyon süresi, GPT isteğini gönderme, GPT'nin yanıtlayacağı anda kullanıcının söz ve düşünce olarak nerede olduğuna uyum sağlayan senkronizasyon gibi çeşitli zamanlamaları yönetmek için daha fazla çalışma gerekiyor.
Yine de gerçek zamanlı, kesintisiz konuşma kesinlikle işin özü ve GPT'nin WebSocket üzerinden sunulmasının iyi olacağını düşünüyorum.
Ama günlük hayatta kullanınca 10 kelimede yalnızca 1 hata bile zamanla aşırı sinir bozucu olacak şekilde birikiyor.
Örneğin gitar çalışmasını dinleyip belirli bir noktaya gelince “tamam, o kısma dönüp yeniden çalışalım” demesi gibi.
Sürekli bir token akışı geldiğinde ve çıktıya yalnızca ara sıra ihtiyaç duyulduğunda, sıradan sonraki token tahmini yaklaşımı pek uygun görünmüyor.
Literatürde bu tür girdiye ne deniyor ve bu konuda ne tür araştırmalar yapıldı merak ediyorum.
Belki de illa gerekli olmayabilir.
GPT-4'e, yanıt için beklemesi gerektiğine karar verdiği her seferinde
....gibi bir şey üretmesini söylerseniz, kullanıcının bitirmesini beklemeye gerek kalmayabilir ve çok daha akıcı hale gelebilir.Şirketlerin neden böyle yalan söylediğini anlamıyorum.
Bundan elde edilecek şey ne kadar büyük olabilir bilmiyorum; aksine kaybedecek çok şey var gibi görünüyor.
Daha da tuhafı, bu araçların abartısız halleriyle bile zaten inanılmaz derecede etkileyici olması.
Bir makine öğrenimi araştırmacısı olarak ortada çok havalı başarılar olduğunu düşünüyorum, ama makalelerden ürünlere kadar neredeyse her şey aşırı şişirilmiş durumda.
Kısa vadede bazılarına fayda sağlayabilir, ama herkes için kötü olan bir dibe doğru yarışı yaratmış gibi görünüyor.
Özellikle Google gibi bir şirketin kısa vadeli oyun oynaması akıllıca bir seçim değil; belki de içinde yaşadığımız ortamı tamamen yanlış anlıyorum.
Bu başlıktaki[0] tartışmaya bakınca, etik açıdan o kadar bozulmuş ki yaptıklarının aldatıcı olduğunu bile bilmeyen çok kişi var gibi görünüyor; bu ise bambaşka ve daha kötü bir sorun.
[0] https://news.ycombinator.com/item?id=38559582
Demolara şüpheyle baktığımı, ama bu alandaki tüm gelişmelerde olduğu gibi piyasaya çıkınca bizzat deneyeceğimi söyledim.
Vekil konumundaki çalışanlar ve yöneticiler kısa vadeli kariyer çıkarlarını optimize eder, Google hissedarlarına sadık değildir.
3 yıl sonra ayrılabilecekleri için Google'ın itibarının zarar görmesi onlar için o kadar önemli olmayabilir.
Buna karşılık hissedarlar itibar gibi uzun vadeli unsurların optimize edilmesini ister.
İyi yönetişim ve hisse fiyatına bağlı hak ediş ödülleriyle bunu hizalamaya çalışırlar, ama belli ölçüde uyumsuzluk yine de ortaya çıkar.
Bu noktada misyona yönelik kült benzeri hizalanma kültürü değer yaratabilir.
Çalışanları gerçekten misyona inanmaya ikna ederseniz ya da böyle insanları işe alırsanız hizalanma da gelir.
“Google Gemini Outperforms Most Human Experts & GPT-4 I Artificial intelligence I Google’s DeepMind”
Hepsi pazarlama.
Satya'nın, OpenAI işi kötü giderse sama ve diğerlerinin MSFT'nin yeni ekibine katılıp devam edeceğini kamuya açık şekilde paylaşmasıyla aynı neden.
Bu teknolojinin nasıl çalıştığına dair azıcık bilgisi olanlar, yani bu teknolojiyi ve diğer Google ürünlerini kullanıp kullanmayacağına karar verme sürecinde yer alma ihtimali yüksek kişiler, manipülasyonu hemen fark edebilir.
Bu kişiler çoğu zaman bu tür aldatıcı davranışlara çok olumsuz tepki veren tiplerdir.
Gemini çıkışında söylemek istediğim şey tam da bu demoydu
O yaygaranın tamamı gereksizdi
GPT-4V gerçekten güçlü; vision veya çok modlulukla ilgilenen herkesin LLaVA’yı da ciddi şekilde denemesini öneririm(https://github.com/haotian-liu/LLaVA)
Son birkaç gündür 7B q5_k varyantını denedim; epey etkileyiciydi ve şirket içi bir demo uygulaması ya da kavram kanıtı yapmayı düşünecek kadar iyiydi
Yalnız önce lisansını kontrol etmek gerekiyor; yoksa sadece iç demo olarak kullanıp derdimi anlatmayı düşünüyorum
GPT-4V ile gayet yapılabilecek bir şeydi
Kelimenin tam anlamıyla ekran görüntüsü alıp görüntü ve metni sohbet biçiminde, yani interleaved şekilde vermek yeterli
Yakın zamanda bir hackathon’da buna benzer bir şey yaptık(https://x.com/swyx/status/1722662234680340823)
Tuhaf olan, Google’ın da bunu yapabilecek olmasıydı; o zaman herkes yerinde bir şekilde etkilenirdi, ama bunun yerine genel kitle için yanıltıcı bir pazarlama videosu hazırladılar
Böylece geri kalan bezgin nerd’ler olarak “henüz TV’de gördüğünüz gibi çalışan bir teknoloji değil” diye açıklama yapma gibi kirli işi bize bıraktılar; sanki suç bizdeymiş gibi göründü
Bunu çalıştırmanın maliyetini de merak ediyorum
Epey makul
Artık Google DeepMind’ın en ileri seviye LLM tarafında aslında elinde bir şey olmadığına, sadece blöf yaptığına ikna oldum
ChatGPT çıktığında Google’ın yapay zeka güvenliği nedeniyle yayımlamadığı çok daha iyi bir modeli olduğunu söylediğini hatırlıyorum
Sonra PaLM ve PaLM 2’yi çıkarıp ChatGPT’yi yenmek için bunları yayımlama zamanının geldiğini söylediler, ama iyi modeller değillerdi
Ardından Gemini’yi büyük tantanayla öne çıkardılar; Gemini Ultra ellerindeki en iyisiyse, daha iyi bir modelleri olduğuna inanmak zor
Bir yıl önce Google’ın en iyi modele sahip olduğunu ama sadece yayımlamadığını düşünüyordum; sonra altyapıları, verileri ve yetenekli insanları olduğu için en iyi modeli yapabileceklerini ummaya başladım
Ama görünen o ki ellerinde aslında hiçbir şey yokmuş
Geçenlerde Google’ın eskiden duyurup daha sonra birkaç güncelleme ve yinelemeden geçirdiği yapay zeka konuşmalı çeviri uygulamasını gerçekten kullanmayı denedim
Gerçek bir konuşmada tamamen kullanılamaz düzeyde
Gerçekten işe yarayabileceği bir durumdaydım ve umutluydum; eski demoda çok doğal göründüğünü hatırlıyordum ama hiç bizzat denememiştim
Şimdi kullanıp orijinal demoyu tekrar izleyince, tamamının ya da bir kısmının kurgu olduğundan %100 emin oldum
Bunun gerçekten çalışmış olması mümkün değil
Ördek çizmekten çok daha faydalı olan gerçek zamanlı konuşma çevirisini bile doğru düzgün yapamıyorlarsa, bu yeni yapay zekadan da ciddi şekilde şüphe duyarım
Tamamen aynı durum gibi görünüyor ve böyle bir şeyi baştan sona kurgulamak için ne kadar yüzsüz olmak gerektiğini anlamıyorum
Bu harika demodan biraz bağımsız olarak, GPT-4’e yalnızca JPEG görüntüleri verebildiğimiz bir arayüz bana israf gibi geliyor
İnsan gözü görüntünün kendisinden çok kareler arasındaki farkları işler
Yüksek çözünürlüklü gerçek zamanlı video işlemeyi mümkün kılacak bir sonraki büyük adım, modelin iç durumunun MPEG gibi video codec’leri gibi ana kareler ve deltalarla çalışması olabilir diye düşünüyorum
Gerçekten videoyu kastetmiyor, bu demodaki gibi kareleri kastediyor olma ihtimali de gayet yüksek
Benim gördüğüm kadarıyla hiçbir yerde ayrıntılandırmadılar
İsmi Sagittarius seçmiş olmaları komik
Zodyak’ta Gemini’nin tam karşısında yer alıyor
Astrolojik açıdan ne kadar esprili bilmiyorum
Kod tarafında konuşmadan metne dönüştürme ve metinden konuşmaya dönüştürme için tarayıcının yerleşik özelliklerini kullanıyor gibi görünüyor
Böyle özellikler olduğunu sürekli unutuyorum
Bu API üzerinden geçtiği için gecikme süresi anlaşılır
Yerel altyapıda çıkarım neredeyse anında olurdu; bu kişinin erişimi olsaydı bu demo diğerlerini ezip geçerdi