Pixel 8 Pro'nun Tensor G3'ü üretken yapay zeka görevlerini buluta aktarıyor

 (notebookcheck.net)
1 puan yazan GN⁺ 2023-10-23 | 1 yorum | WhatsApp'ta paylaş
  • Pixel 8 Pro'nun yeni üretken yapay zeka özellikleri doğrudan Tensor G3 üzerinde işlenmiyor; bunun yerine Google sunucularından geçiyor. Bu da Google'ın yapay zeka odaklı çip pazarlaması ile gerçek kullanım deneyimi arasındaki farkı ortaya koyuyor
  • AI Wallpaper ve Magic Editor, sürekli internet bağlantısı gerektiriyor; temel tartışma noktası, kullanıcının istediği işlemlerin cihaz içinde değil bulutta işlenmesi
  • Google, Tensor G3'ü “AI-first” bir çip olarak tanıtırken cihaz üstü makine öğrenimi ve üretken yapay zeka altyapısını vurguladı; ancak öne çıkan bazı özellikler yerel çalıştırmadan uzak
  • Notebookcheck, Magic Editor ve AI Wallpaper'ın bulut tabanlı işleme için sürekli internet bağlantısı gerektirdiğini gösteren kısa bir doğrulama videosu ekledi
  • Geekbench 6'ya göre Tensor G3, en yeni CPU mimarisine sahip olmasına rağmen Snapdragon 8 Gen 2'den çok Snapdragon 7+ Gen 2'ye yakın; bu da yapay zeka özellikleri tanıtımıyla birlikte çip performansı tartışmasını da öne çıkarıyor

Pixel 8 Pro çıkışı ve Tensor G3 eleştirileri

  • Pixel 8 Pro, Google'ın amiral gemisi serisi için alışıldığından daha sorunlu bir çıkış yaşayan bir model olarak değerlendiriliyor
  • @Mrwhosetheboss olarak bilinen Arun Maini, bir önceki yıl Pixel 7 Pro'ya “Best Smartphone of 2022” ödülünü vermişti; ancak Pixel 8 Pro'ya aynı düzeyde övgü sunmadı
  • Pixel 8 serisinde olumlu bulunan noktalar da var
    • tasarım
    • Pixel 8 Pro arka yüzeyindeki mat cam kaplama
    • gelişmiş yazılım
    • durağan fotoğraf performansı
    • Best Photo, Magic Editor ve Audio Magic Eraser gibi yapay zeka tabanlı özellikler
  • Eksiler arasında lens geçişi sırasında yakınlaştırmanın hantallığı ve yapay görünen video sabitleme yer alıyor
  • En büyük eleştiri ise Pixel 8 serisinin Tensor G3 işlemcisine yöneliyor

Üretken yapay zeka özelliklerinin sunucu bağımlılığı

  • Maini, AI Wallpaper ve Magic Editor gibi yeni üretken yapay zeka özelliklerinin Tensor G3 SoC'nin sağlayabileceğinden daha fazla işlem gücü gerektirdiğini düşünüyor
  • Bu özellikler sürekli internet bağlantısı gerektiriyor
    • kullanıcının tüm işlemleri Google sunucuları üzerinden geçmek zorunda
    • cihaz içinde çalışmadıkları için fark edilir derecede yavaş hissedildiği değerlendiriliyor
  • Maini'nin sözlerinin özeti şöyle
    • üretken yapay zekayla bir şey oluşturma özellikleri kalıcı internet bağlantısı gerektiriyor
    • işlemler Google sunucuları üzerinden işleniyor
    • bunun, Tensor G3'ün amiral gemisi seviyesinde olmadığını fark ettirdiğini söylüyor

Google'ın Tensor G3 pazarlamasıyla çelişki

  • Google, Tensor G3'ü “AI-first” olarak konumlandırıp yapay zeka işleme yeteneğini öne çıkarıyor
  • Google'ın resmi blogunda, Product Management Başkan Yardımcısı Monika Gupta şu noktalara değiniyor
    • son dönemdeki yapay zeka yeniliklerinin büyük bölümü veri merkezi düzeyinde işlem gücü üzerine kurulu
    • yapay zekanın dönüştürücü gücünden günlük hayatta yararlanmak için ona her gün kullanılan cihazlardan erişilebilmesi gerekiyor
    • Tensor G3, Google'ın en yeni özel silikon çipi
  • Google, Tensor G3'ün cihaz üstü makine öğreniminin sınırlarını genişlettiğini söylüyor
    • Pixel 8 ve Pixel 8 Pro'ya Google yapay zeka araştırmalarının en yeni sonuçlarını doğrudan getirdiğini belirtiyor
    • Tensor'un amacının hız ya da geleneksel performans ölçütleri değil, mobil bilişim deneyimini ileri taşımak olduğunu ifade ediyor
    • başlıca alt sistemlerin yükseltildiğini ve cihaz üstü üretken yapay zeka için temel hazırlandığını açıklıyor
    • en yeni Arm CPU, yükseltilmiş GPU, yeni ISP ve Imaging DSP ile Google yapay zeka modellerini çalıştırmak için tasarlanmış yeni nesil TPU içerdiğini söylüyor

Arm açıklamasına göre cihaz üstü yapay zeka tartışması

  • Pixel 8 Pro'nun üretken yapay zeka görevlerini işleme biçimi, Google'ın öne çıkardığı cihaz üstü yapay zeka mesajıyla çelişiyor
  • Google performans ölçütlerinin önemini düşük gösterse de Arm, yapay zeka görevlerinde CPU ve GPU rolünü vurguluyor
  • Arm, yapay zeka işlemlerinin buluttan verinin toplandığı konuma kaymasıyla birlikte Arm CPU ve MCU teknolojilerinin uçta ve uç noktalarda AI·ML iş yüklerinin büyük kısmını işlediğini açıklıyor
  • Arm'a göre CPU, ister yapay zekayı tek başına işlesin ister GPU ya da NPU gibi yardımcı işlemcilerle belirli görevleri üstlensin, tüm yapay zeka sistemlerinin merkezi konumunda
  • Bu bağlamda, yapay zeka işlerinin yalnızca TPU tarafından işleniyormuş izlenimi veren Google anlatımı ile Arm'ın açıklaması arasında fark ortaya çıkıyor

Benchmark engeli ve Geekbench 6 sonuçları

  • İnceleme ambargosu süresince Play Store üzerinden popüler benchmark uygulamalarını kurmak kolay değildi
  • Bu kısıtlama lansman sonrasında da sürdü; ancak Notebookcheck haberinin ardından Google engeli kaldırdı
  • Primate Labs'in çapraz platform benchmark aracı Geekbench 6'da Tensor G3, en yeni CPU mimarisine sahip olmasına rağmen beklenenden düşük CPU puanları aldı
  • Tensor G3 performansının, güncel amiral gemisi çip Snapdragon 8 Gen 2'den ziyade orta segment Snapdragon 7+ Gen 2'ye daha yakın olduğu görüldü
  • Güncellemeyle eklenen kısa videolar, Magic Editor ve AI Wallpaper dahil yeni Pixel 8 Pro yapay zeka özelliklerinin sürekli internet bağlantısı gerektirdiğini doğruluyor

İlgili okumalar

1 yorum

 
GN⁺ 2023-10-23
Hacker News görüşleri

  • Google şöyle demişti: “Yeni Tensor G3 çipinde, cihaz üzerinde üretken yapay zekanın önünü açmak için tüm önemli alt sistemleri yükselttik”
    Bu kesinlikle kaçış payı olan bir ifade; gerçekten tüm üretken yapay zekanın Tensor G3 üzerinde çalıştığı anlamına gelmesi gerekmiyor. G3’te yapılan işin gelecekteki çipler için hazırlık olduğu da savunulabilir. Yine de mobil SoC üzerinde üretken yapay zekayı, özellikle makul performans ve güç tüketimiyle cihaz üzerinde çalıştırmak hâlâ epey zor görünüyor

    • iOS’ta Stable Diffusion tarzı modelleri cihazda yerel olarak çalıştıran uygulamalar var
      https://apps.apple.com/ca/app/draw-things-ai-generation/id64...
      Tensor çipinin de aynı işi yapacak kadar performansı var gibi, ama verimliliği düşük olduğu için yerel çalıştırmadan kaçınıyorlar gibi görünüyor
    • Bunun neden temel şikâyet olduğunu anlamıyorum. Gerçek performansı tüketiciden saklamaya yönelik lansman sonrası ambargo çok daha büyük bir sorun

  • Google’dan yapılan alıntıya bakınca “Tensor, hız ya da geleneksel performans ölçütleriyle ilgili değil; mobil bilişim deneyimini ileri taşımakla ilgili… cihaz üzerinde üretken yapay zekanın önünü açıyor… Google yapay zeka modellerini çalıştırmak için özel tasarlanmış yeni nesil bir TPU içeriyor” denmiş
    Öyleyse neden internet bağlantısı gerekiyor? Son anda başarısız olup mecburen böyle mi piyasaya sürdüler, yoksa baştan beri sadece reklam metni miydi merak ediyorum

    • “Tensor, hız ya da geleneksel performans ölçütleriyle ilgili değil” derken [1]’de “Pixel 8 ve Pixel 8 Pro, Google’ın en hızlı, en verimli ve en güvenli çipi olan Google Tensor G3 ile geliyor… performans ve verimlilik artışı için tüm önemli bileşenler yükseltildi… cihaz üzerindeki makine öğrenimi modellerinin sayısı 2021’den bu yana iki kattan fazla arttı, karmaşıklıkları ve incelikleri de yükseldi” diyorlar
      Bu kulağa epey performansla ilgili bir anlatım gibi geliyor
      [1] https://store.google.com/intl/en/ideas/articles/google-tenso...
    • Büyük ihtimalle öyle görünüyor. Çip performansı beklenenden düşükse benchmark uygulamalarının kullanılmasını engellersin, basına da zaten hızla ilgilenmediğini söylersin. Sorun çözülür
    • Bazı yapay zeka işleri için cihaz üzerindeki çip ile üretken yapay zekayı çalıştırmak için yüzlerce watt harcayan üst seviye sunucu sınıfı ekran kartları, GPU’lar ve hızlandırıcılar oldukça farklı şeyler
      Düşük seviye üretken yapay zekada gelinen son nokta bile optimize edilmiş modelleri masaüstü sınıfı GPU’da çalıştırıp çok da iyi olmayan sonuçlar almak seviyesinde. Telefonların bunu yapması zor. Pek çok makine öğrenimi işi cihazda çalışıyor ve daha fazlası oraya taşınıyor, ama üretken yapay zeka henüz o aşamada değil gibi
    • Epey açık. Bazı makine öğrenimi işleri telefon için yeterince kolay; örneğin konuşma tanıma. Bazıları değil; örneğin inpainting
      Google biraz kaygan ifadeler kullansa da GTX 4090 gerektiren bir makine öğrenimi modelinin telefonda çalışmaması şaşırtıcı değil
    • Stadia’daki negative latency ile birebir aynı akıştı ve Stadia kapanana kadar o da gerçekten hayata geçirilmedi

  • Magic Editor kullanılırken işlemin gerçekten dışarıya aktarılıp aktarılmadığını görmek için ağ trafiğine bakan oldu mu? Yoksa bu, internet bağlantısı gerektirmesinden çıkarılan bir sonuç mu?
    Sadece yeni modeli indirmek için internet gerekiyor, işlem hâlâ cihazda yapılıyor olamaz mı?

    • Magic Editor, yani Google Photos’taki gökkuşağı düğmesi, yalnızca bulut yedekleme açıkken çalışıyor; dolayısıyla öyle kabul etmek gerekir
    • En makul cevap bu gibi görünüyor, ama burada pek ilgi görmüyor sanki

  • Bir noktaya kadar mantıklı. Üretken yapay zeka çok maliyetli
    Ama üretkenlik, yapay zeka işlerinin yalnızca bir türü; tahmin/çıkarım Tensor’ın esas kullanıldığı alan olabilir. Magic Eraser’da “fotoğraftaki nesneyi bulma” cihazda yapılırken, “nesneyi sildikten sonra yerine ne doldurulacağına karar verme” sunucuda yapılabilir

    • Çıkarım ve eğitim var; üretkenlik de çıkarımdır

  • Buluta aktarılıyorsa Tensor G3’ün yapay zeka işlemcisi tam olarak ne işe yarıyor?

    • Konuşma tanıma gibi bazı üretken olmayan işlerde kullanılıyor, ama diğer çipler de bu işleri yapabiliyor
      Tensor G3’ün daha iyi göründüğü tek kısım, Qualcomm’un tüketici tipi akıllı telefon çiplerini erken sonlandırma alışkanlığından kaçınması gibi
    • HTTP işleri için donanım hızlandırma destekleyip desteklemediğini de bilmiyorum
    • Pazarlama amaçlı güvenilirlik

  • Google’ın yapay zeka yanıtına göre Google Pixel 8 Pro, üretken yapay zeka modellerini cihazda yerel olarak çalıştırabiliyor ama hepsini değil
    Google, Ekim 2023’teki Made by Google etkinliğinde Pixel 8 Pro’nun özel Tensor G3 çipinin Google’ın metin ve görüntü üretim modellerinin damıtılmış sürümlerini çalıştırabildiğini duyurdu. Bu modeller görüntü düzenleme, Gboard akıllı yanıtlar gibi özellikleri çalıştırabiliyor. Ancak Bard gibi büyük dil modellerini çalıştırmak dahil bazı üretken yapay zeka işleri, akıllı telefonda yerel olarak çalıştırmak için hâlâ çok fazla hesaplama gücü gerektirdiğinden buluta aktarılıyor
    Yerel çalıştırılabilen örnekler olarak Magic Eraser, Zoom Enhance, Best Take, Audio Magic Eraser, Gboard Smart Replies ve Google Recorder’ın yapay zeka özetleri listeleniyor. Tensor çipi geliştikçe gelecekte Pixel’de daha fazla üretken yapay zeka özelliğinin cihaz üzerinde çalışabileceği söyleniyor ʘ ‿ ʘ

  • Bir şeyleri dışarı aktaran “Tensor” değil; o işi Google Cloud’a gönderenler Android uygulamaları. SoC’nin bununla ne ilgisi olduğunu pek anlamıyorum

    • O Android uygulamasını kim yaptı?
    • Peki o uygulamalar neden yerel yapay zeka motorunu kullanmıyor?

  • Başlığı görür görmez aklıma Juicero geldi
    Cihaz üzerinde diye reklam yapıp veriyi hemen başka bir yere göndermek nasıl mümkün oluyor?

  • Zaten beklenen şey değil mi? Yüksek kaliteli üretken özellikler cihaz üzerinde çalışsaydı asıl o muazzam bir sıçrama olurdu

  • “AI Wallpaper oluşturma ya da Magic Editor gibi, gerçekten yapay zekayla bir şey üretmesi gereken üretken yapay zeka özellikleri kalıcı internet bağlantısı gerektiriyor… o kadar hantal ki sürekli bunun cihaz üzerinde çalışmadığını hissediyorsunuz” denmesi bence sorun değil
    Üretken yapay zekanın iyileşmesinin nedeni, inanılmaz derecede büyümüş ve çok kaynak tüketir hale gelmiş olması. 1000 doların üzerindeki tüketici GPU’larında bile özellikle hızlı değil. Sonuçların çok daha kötü olacağını bile bile bu tür üretim işlerini küçük bir cihaz içi ortama sığacak şekilde küçültmek bana muazzam bir zaman ve emek israfı gibi geliyor. Ancak o zaman da uçta Tensor’ın tam olarak hangi işlerde iyi olduğu sorusu hâlâ ortada kalıyor; AMD, Qualcomm, ARM gibi çip şirketleri de büyük sinir ağları/Tensor çekirdekleri eklediği için bu oldukça can sıkıcı bir soru

    • Gecikmeye duyarlı olan kelimenin tam anlamıyla her şey uçta işleme için uygundur. Bağlantı kusursuz olmadığında cihaz dışı konuşma tanıma berbat bir deneyime dönüşür
      Photoshop’ta bir nesneye tıklayıp yapay zekanın sınırı bulduğunu düşünün; her tıklamada görüntüyü paketleyip buluta yüklediğinizi ve her seçim için zamanlama, işleme ve geri dönüşü 5’er saniye beklediğinizi hayal edin. Kamera uygulamasındaki makine öğrenmesiyle nesne tanıma odaklaması da, bulut vizördeki nesneleri 3 saniye gecikmeyle izliyorsa mantıklı olmaz
    • Sorun değil dense bile, bu reklamını yaptığı işi yapamayan zayıf bir işlemci olduğu anlamına gelir. G3 performans açısından Snapdragon Gen 2’den daha kötü ve Gen 1’e daha yakın bile olabilir. Pil tüketiminin de benzer olup olmadığından emin değilim; üstelik yakında Snapdragon Gen 3 de çıkacak
    • Konuşma tanıma, uyandırma sözcüğü algılama, nesne tanıma, otomatik tamamlama vb. var
      Özellikle uyandırma sözcüğü algılama, sabit bir pencere üzerinde görece küçük bir evrişimli sinir ağını sürekli çalıştırma süreci olduğundan güç verimliliği çok önemlidir
    • Bu “sihir” cihaz üzerinde diye pazarlanıyorsa bu kabul edilebilir değil
      Pixel 8’in lansmanından hemen önce Google araştırmacılarının yayımladığı RealFill[0] ve Break-A-Scene[1] makalelerini okuyup model ansamblını hızlıca uygulamaya çalıştıktan sonra, G3 Tensor çekirdeklerinin 2013 Moto X’in doğal dil işleme ve bağlam farkındalığı çekirdeği[2] gibi bir sıçrama yapmış olabileceğini ya da Google’ın geliştirdiği uç TPU’su Coral[3] gibi şaşırtıcı derecede iyi çıkarım performansı sunacağını beklemiştim. Moto X; Active Display, jest algılama ve gürültülü ortamlarda konuşma tanımada günümüz mobil cihazlarının %95’inden daha iyi uygulamalar sunuyordu. Coral da harikaydı, ancak çip kıtlığı, şirketin değişken tavrı ve IoT’den çekilmesi nedeniyle 2022’de donanım üretimi ASUS’a devredildi
      Esas nokta, 1000 doların üzerindeki donanımda çıkarım performansına dair varsayımın temelden yanlış olması. “Üretken” moda sözcüğüne yaslanmalarına bakınca, Twitter influencer’larından ya da en yeni büyük dil modeli dağıtma girişimlerinden yanlış ders almış gibiler. Mobil cihazlarda da belirli görevlere yönelik özel donanım geçmişte mümkündü ve gerçekten geliştirildi. Performans, güç ve işlem süresi gereksinimlerini karşılayamadılarsa, kendilerini donanımla ilgili toplu davalara açık hale getirecek şekilde konumlandırmak yerine pazarlama metnini yeniden ele almaları gerekirdi
      [0] https://realfill.github.io/
      [1] https://omriavrahami.com/break-a-scene/static/paper/Break-A-...
      [2] https://en.wikipedia.org/wiki/Moto_X_(1st_generation)#Hardwa...
      [3] https://coral.ai/