Gemini Pro 1.5’i Bir Hafta Kullandıktan Sonra - Gerçekten Muhteşem

• Google’ın yeni özel beta LLM’i Gemini Pro 1.5, önceki modellere kıyasla çok daha gelişmiş bir performans sergiliyor
• Gemini 1.5 Pro:
  • Bir romanın tamamını okuyup ortasında gizlenmiş bir sahneyi ayrıntılı şekilde açıklayabiliyor
  • Tüm kod tabanını okuyup yeni bir özelliğin nereye ekleneceğini ve örnek kodları önerebiliyor
  • Readwise’taki tüm okuma vurgularını okuyup deneme yazımı için kullanılacak vurguları seçebiliyor
• Tek bir prompt ile en fazla 1 milyon token işleyebiliyor
  • Diğer modellerle karşılaştırıldığında Gemini Pro 1.5’in context window’u çok daha büyük (GPT-4 Turbo 128000 token ile yaklaşık 8 kat daha küçük)
  • Büyük bir context window kullansa da büyük ölçekli prompt’ları son derece iyi işliyor
  • Diğer modellerde prompt boyutu büyüdükçe performans düşerken Gemini’de böyle bir sorun görülmüyor
• Dikkat edilmesi gerekenler
  • Gemini Pro 1.5 hâlâ özel beta aşamasında ve herkese açıldığında performansı değişebilir
  • Gemini Pro 1.5’in işlem hızı yavaş; özellikle büyük ölçekli isteklerde bu daha belirgin
  • OpenAI’nin yetişmesi gereken alanlar var ve bilgi erişimi yeteneği hâlâ önemli

[dahada]

Romanı yapıştırıp sohbet etmeyi denedim; biraz müstehcen ifade geçse bile işlemeyi reddediyor. Filtre seviyesini düşürsem de hâlâ çalışmayan romanlar var. Görünüşe göre ölçeklenebilirlikten ziyade güvenliği seçmiş.

[ajh508]

Şimdiye kadar ne çıkarsa çıksın sürekli abartıldı ama sanırım OpenAI'ı aşan tek bir şey bile olmadı..
Ben şahsen, tüm backbone'ların Mamba ile değiştirildiği bir LLM'in bir an önce çıkmasını isterim

[xguru]

Hacker News görüşleri

• Yapay zekaya bütün bir kitabın metnini yedirme fikri hoşuma gidiyor. Roman okurken bazen karakterleri hatırlayamıyorum; e-okuyucuda bir ismi vurguladığımda, örneğin Neuromancerın 85. sayfasını okuduğumu anlayıp spoiler vermeden yanıt vermesini isterdim. Ya da soru çözerken tıkandığımda iyi bir çalışma partneri gibi yardım ve ipuçları verebilen ders kitapları harika olurdu.
• Google'ın kimlik siyaseti yüzünden kitapların içeriğini değiştirmeyeceğinden emin olabilir miyiz? Sorunlu görülen bir kitabı verdiğinizde içeriği ayarlıyor mu? Bu yüzden benim için tamamen işe yaramaz.
• Bu konuda okumak isteyeceğim türden bir yazı: tam örnekler, denge ve uyarılar sunan, ayrıca kendi çıkar ilişkilerini de açıklayan bir yazı (ör. LlamaIndex yatırımcısı olduğunu söylemesi gibi).
• RAG'den vazgeçmeden bunu onunla birleştirip devasa bir bağlam penceresi kullanmanın nasıl olacağını en çok merak ediyorum. Tüm kitabı parse edip ilgili kısımları belirleyebiliyor ve ardından tüm kitabı bağlam penceresine koyabiliyorsanız, bu tüm referans kütüphanenizin ilgili bölümlerini de bağlam penceresine koyabileceğiniz anlamına gelir; bu da çok umut verici.
• Bazı kişilerin birkaç gündür erişim denemelerinden çıkan sonuç şu: bu, sadece uzunluk açısından değil, kullanım bakımından da bağlam penceresinde gerçek bir ilerleme. Bunu diğer modellerden çok daha iyi kullanıyor. Bunun nasıl mümkün olduğunu paylaşmamış olmaları üzücü.
• Bunu yapmak inanılmaz derecede pahalı olmaz mı? gpt-4e maksimum miktarda veri verirseniz tek bir etkileşim zaten $1.28 tutuyor! Gemini bundan çok daha mı ucuz?
• NSA bu teknolojinin açacağı imkanlar karşısında ellerini ovuşturuyordur. Yıllardır özenle depoladıkları verileri sorgulamak için kullanabilecekler.
• Tüm kod tabanını okuyup yeni özelliklerin nereye ekleneceğini öneriyor, hatta örnek kod da veriyor. Umarım bu, davul makinesinin icadının davulcuları ortadan kaldırmaması gibi olur; faytonları ortadan kaldıran otomobilin icadı gibi olmaz.
• Bu modeller halka açıldığında sık sık farklı şekilde (ve daha kötü) çalışıyor; Gemini'nin Google ölçeğinde çalışırken nasıl olacağını bilmiyoruz. Google'ın ChatGPT'nin giderek kötüleşen itibarından ders almasını ve modelin en iyi performansını korumanın bir yolunu bulmasını içtenlikle umuyorum. Erişimi kısıtlamak, fiyatı artırmak ya da her ikisini birden yapmak zorunda kalsalar bile, yayımlandığında bu modelle yüksek kaliteli bir deneyim yaşamak istiyorum.