Apple, yapay zeka performansını çarpıcı biçimde artıran M5 çipini tanıttı

• M5 çipi, her GPU çekirdeğine entegre edilmiş Neural Accelerator ile yapay zeka işlem hızını M4'e kıyasla 4 kattan fazla artırıyor
• 10 çekirdekli GPU, 16 çekirdekli Neural Engine ve 153GB/s birleşik bellek bant genişliği bir araya gelerek hem cihaz üstü yapay zeka modellerinde hem de grafik işlemede performansı büyük ölçüde güçlendiriyor
• MacBook Pro 14, iPad Pro, Apple Vision Pro'da kullanılarak yapay zeka tabanlı iş akışları, difüzyon modelleri ve dil modellerinin çalışma hızını önemli ölçüde artırıyor
• Yeni 3. nesil ray tracing motoru ve 2. nesil Dynamic Caching sayesinde oyunlarda ve 3D uygulamalarda en fazla %45 daha yüksek grafik performansı sunuyor
• Apple, M5 çipinin yapay zeka çağının temel platformu olduğunu ve hem enerji verimliliği hem de performans açısından Apple Silicon için yeni nesil bir sıçramayı temsil ettiğini vurguluyor

---

M5 çipine genel bakış

• M5 çipi, 3. nesil 3 nanometre süreciyle üretilen yeni nesil Apple Silicon SoC olup yapay zeka iş yükleri için baştan sona yeniden tasarlandı
• 10 GPU çekirdeğinin her birine Neural Accelerator entegre edilerek M4'e göre 4 kat, M1'e göre 6 kat daha yüksek yapay zeka hesaplama performansı sağlanıyor
• 4 performans çekirdeği ve 6 verimlilik çekirdeğinden oluşan 10 çekirdekli CPU, M4'e kıyasla %15 daha hızlı çok iş parçacıklı performans sunuyor
• 16 çekirdekli Neural Engine, geliştirilmiş media engine ve 153GB/s bellek bant genişliği ile sistem genelinde verimlilik artırılıyor

Yapay zeka ve grafik performansında yenilik

• M5'in yeni nesil GPU mimarisi, tüm hesaplama blokları yapay zeka için optimize edilmiş şekilde tasarlandı ve GPU içindeki Neural Accelerator yapay zeka işlemlerini doğrudan üstleniyor
  • Draw Things, LM Studio gibi cihaz üstü yapay zeka uygulamalarının çalışma hızı büyük ölçüde artıyor
• 3. nesil ray tracing motoru ile 2. nesil Dynamic Caching birleşerek grafik işleme performansını M4'e göre %30, M1'e göre 2,5 kat artırıyor
• Cyberpunk 2077 gibi yüksek sistem gereksinimli oyunlarda 120Hz desteği ve akıcı kare geçişleri sağlanıyor
• Apple'ın resmî framework'leri (Core ML, Metal Performance Shaders, Metal 4) üzerine kurulu uygulamalar anında performans artışı görebiliyor
• Geliştiriciler, Metal 4 Tensor API üzerinden GPU içindeki Neural Accelerator'ı doğrudan kontrol edebiliyor

Neural Engine ve Apple Intelligence

• 16 çekirdekli Neural Engine, CPU ve GPU'daki Neural Accelerator ile birlikte çalışarak yüksek hızlı yapay zeka hesaplamalarını yürütüyor
• Apple Vision Pro'da fotoğrafların 3D'ye dönüştürülmesi ve Persona oluşturma gibi karmaşık yapay zeka özellikleri daha hızlı çalışıyor
• Apple Intelligence tabanlı dil modelleri ile Image Playground aracının yanıt hızı artarak cihaz üstü yapay zeka deneyimini iyileştiriyor
• Geliştiriciler de Apple Intelligence modellerini kullanırken M5'in gelişmiş Neural Engine'i sayesinde performans artışını hissedebiliyor

Bellek mimarisi

• 153GB/s birleşik bellek bant genişliği, M4'e göre %30 artış ve M1'e göre 2 katın üzerinde iyileşme anlamına geliyor
• Tek bellek havuzu yapısı sayesinde CPU, GPU ve Neural Engine aynı büyük bellek alanına erişebiliyor
• 32GB bellek yapılandırmasıyla Photoshop, Final Cut Pro gibi yüksek gereksinimli üretim uygulamaları ile büyük yapay zeka modelleri aynı anda akıcı biçimde çalıştırılabiliyor
• Büyük yapay zeka modelleri ve gerçek zamanlı grafik işleme performansı en üst düzeye çıkarılıyor

Enerji verimliliği ve çevre

• M5, sektörün en üst düzey güç verimliliğini korurken performansı önemli ölçüde artırıyor
• Apple 2030 girişimi kapsamında üretim, malzeme, enerji ve taşımacılığın tüm aşamalarında karbon emisyonlarını azaltma çalışmaları yürütülüyor
• M5 çipli cihazlar enerji verimliliği standartlarını karşılıyor ve ürün ömrü boyunca enerji tüketimini en aza indiriyor

Genel anlamı

• M5 çipi, Apple Silicon'ın evriminin yapay zeka merkezli bilişim çağına tam anlamıyla geçtiğini simgeliyor
• GPU ile Neural Engine'in entegre tasarımı sayesinde cihaz üstü yapay zeka performansı, buluta bağımlılığı azaltıp kişisel cihazların hesaplama bağımsızlığını artıracak yönde gelişiyor
• Apple, bununla birlikte MacBook Pro, iPad Pro, Vision Pro'yu yeni nesil yapay zeka odaklı yaratıcı platformlar olarak yeniden tanımlıyor

[tsboard]

Yapay zeka konusunda geri kalmış Apple’ın çırpınışı gibi görünüyor ama yine de insan merakla bekliyor haha

[GN⁺]

Hacker News görüşleri

• Tablo halinde özet

  Chip	Process	CPU Cores	GPU	Neural Engine	Memory Bandwidth	Unified Memory	Geekbench Single/Multi
  M1	5 nm G1	8: 4P+4E	7–8	16-core	68.25 GB/s	16 GB	2346 / 8346
  M2	5 nm G2	8: 4P+4E	8–10	16-core	100 GB/s	24 GB	2586 / 9672
  M3	3 nm G1	8: 4P+4E	8–10	16-core	100 GB/s	24 GB	2965 / 11565
  M4	3 nm G2	10: 4P+6E	8–10	16-core	120 GB/s	32 GB	3822 / 15031
  M5	3 nm G3	10: 4P+6E	10	16-core	153 GB/s	≤32 GB	4133 / 15437 (9 core)

• Birleşik belleğin 32GB'den 24GB'ye düşmüş olması ilginç. Muhtemelen M4 çipinin standart modelde fazla bellek sunduğunu düşünüp Pro/Max çiplerle farkı açmak istemişlerdir diye tahmin ediyorum. Ama en yeni Macbook Pro'nun 32GB seçeneğini de desteklediğini görünce, tablodaki 24GB M5 bilgisinin yazım hatası olabileceğini de düşünüyorum
• Benim M3 Max yakında demode olacak gibi görünüyor ama M6 ya da M7 Max'e yükseltmek gerçekten harika olurdu
• TSMC'nin 2nm sürecinin gelecek yıla ertelenip ertelenmediğini, yoksa planın zaten baştan 2026 olup olmadığını merak ediyorum
• M5'in çok çekirdekli Geekbench skoru 9 çekirdekli sürüme ait. 10 çekirdekli modelin skoru henüz açıklanmadı
• M5 MacBook Pro hâlâ Broadcom WiFi çipi kullanıyor ama M5 iPad Pro'nun N1 ve C1X çipleriyle gelmesi umut verici.
  Apple'ın donanım tarafında inanılmaz derecede etkileyici işler yaptığını düşünüyorum.
  Yazılım ekibinin ise gerçekten biraz silkelenmesi gerekiyor. M1 bile başlı başına o kadar güçlü ki çoğu kullanıcı için yükseltme gerekmiyor.
  Ama yeni OS (Tahoe), birkaç yıldır aynı şekilde yaptığım işleri yaparken bile M1 Air'i bir anda yavaşlatıyor.
  Eğer bu kasıtlı bir yavaşlatmaysa gerçekten hayal kırıklığı yaratır
  • Tahoe güncellemesinden sonra, 32GB M2 Pro iş dizüstü bilgisayarım evdeki yavaş PC gibi hantallaştı.
    Fare imleci bile ışınlanıyormuş gibi geliyor. Erişilebilirlik ayarlarında saydamlığı kapatmak da çözmedi, hatta daha da kötüleştirdi
  • Son zamanlarda Apple'da beni gerçekten çıldırtan çok fazla yazılım konusu var.
    • iPhone'u Apple TV kumandası olarak kullanıyorum ama ses kontrolünün bir anda çalışmaması gibi tutarsız UI sorunları var
    • Face ID'yi dayatan kimlik doğrulama yöntemi can sıkıcı. Kayak merkezinde Face ID'nin çalışmaması gayet normal ama parola girişine hemen geçemiyorsunuz
    • Apple TV'de ebeveyn denetimi girişi için de ille PIN seçme ekranından geçmeniz gerekiyor. Doğrudan PIN giriş penceresini açmak daha rahat olurdu
    • iPhone'u kumanda olarak kullanırken ebeveyn onayı adımına da otomatik geçilmesini isterdim
  • Apple'ın donanım ekibi mucize gibi işler başarıyor ama bunları çalıştıran yazılım beklentinin altında kalıyor. Sanki tamamen farklı iki ayrı şirket çalışıyormuş gibi hissettiriyor
  • M5 MacBook Pro'nun WiFi çipinin ve iPad Pro'daki N1, C1X'in gerçekten iyi olup olmadığını söylemek için henüz erken. Apple'ın hücresel modemleriyle de pek çok kez tatmin edici olmayan deneyimlerim oldu.
    M1'in güçlü olduğu söyleminin biraz abartıldığını düşünüyorum. Watt başına performansı çok iyi ama gerçek işlem hacminde Ryzen 9 7945HX, M1 Max'in 3 katı; Intel Core Ultra 7 265k ise yaklaşık 3.5 katı kadar iş çıkarabiliyor
  • Apple donanım ve yazılım organizasyonlarını tamamen ayırıp donanımı daha standart hale getirse ve macOS/iOS'u sayısız seçenekten biri yapsa gerçekten çok heyecan verici olurdu. Gerçekte mümkün değil ama insan hayal ediyor
• Apple donanımı teknik özellikler olarak etkileyici ama üzerinde Linux'u doğrudan çalıştıramayacağım bir Mac almak istemiyorum. Apple'ın kurduğu kontrollü ekosistemi sevmiyorum.
  ARM ve x86 meselesi de var. Uyumlu dağıtımlar çıksa bile masaüstünde çok çeşitli yazılımlar ve oyunlar da çalıştırmak gerekiyor, ARM'ın burada hâlâ ciddi sınırları var. Dizüstünde nispeten mantıklı bir seçenek haline geldi ama gerçekten özgür ve günlük kullanıma uygun bir ARM masaüstüne daha çok var diye düşünüyorum
  • Aslında Mac'te Linux oldukça iyi çalışıyor. Parallels ya da VMware Fusion kullandınız mı? Özellikle Parallels; 2D/3D/video hızlandırma, duraklatma ve ana işletim sistemiyle entegrasyon gibi konularda oldukça iyi.
    Eğer bu size hitap etmiyorsa, Tahoe'nun yeni yerel container özelliğiyle dockerhub gibi kaynaklardan doğrudan container da çalıştırabilirsiniz.
    Ayrıca macOS ekosistemine “kapalı bahçe” deniyor ama uygulama kurmak özgür ve homebrew ile açık ya da kapalı kaynak fark etmeksizin neredeyse her yazılımı kullanabiliyorsunuz
  • Linux'u iyi çalıştıran bir ARM dizüstü bilgisayar aramaya devam ediyorum. Lenovo ürünlerine de bakıyorum ama Linux desteği hâlâ zayıf
  • Apple'dan resmî servis almak istediğinizde tam tersine kasıtlı bir upsell'e maruz kalıyormuşsunuz gibi hissettiriyor. Klavye değişimi için bile $1500 isteyebiliyorlar. Apple geri dönüşüm ve eski modellerin bertarafı konusunda da hâlâ isteksiz. Ayrıca hâlâ duvarlarla çevrili bir ortam ve kendi cihazımda yapabileceklerim sınırlı
  • M1 ve M2 Mac'ler Asahi Linux'ta oldukça iyi çalışıyor (M3, M4, M5 henüz desteklenmiyor)
  • Artık hesaplama hızının kendisinin pek de önemli olmadığını düşünüyorum. Wirth yasası aşırı sert işlemediği sürece sorun yok
• Neural Engine iyileştirmeleri hakkında yine somut bilgi göremiyoruz.
  Apple Neural Engine (ANE) ile ilgili bilgilerin neredeyse tamamı Apple'ın resmî belgelerinden ya da tersine mühendislikten geliyor (Github repo); bu kez de transformer performansına dönük bazı iyileştirmeler yapılmış olduğunu tahmin ediyorum.
  Apple'ın transformer araştırmalarıyla ilgili makaleleri de oldukça ilginç:
  • transformers on the Neural Engine
  • vision transformers
    Yazılım tarafında MLX ile çok yol alındı ama hâlâ geliştirilebilecek şeyler olduğunu düşünüyorum. M5 Max'te ne kadar ilerleme olacağını görmek lazım
    Ne kadar iyileştirme olursa olsun önceki nesillere gelmeyecek ve en can sıkıcı nokta hâlâ 8GB birleşik bellek sunulmasında ısrar edilmesi
  • Dediğiniz gibi son dönemde (geçen yıldan, hatta 1-2 yıldır) tüm temel Mac modelleri 16GB ile başlıyor. MacBook Air de buna dahil
  • Daha yüksek işlem performansına ihtiyaç duyulan durumlar olabiliyor; özellikle context'i büyük olan vision language model'lerde. Benim anladığım kadarıyla mevcut ANE, convolution işleri ve işlem verimliliği için optimize edilmişti; yeni neural accelerator ise esneklik ve performans yönüne evriliyor
  • Bildiğim kadarıyla MLX henüz Neural Engine kullanmıyor. Hatta Neural Engine'i bırakıp GPU'nun metal/tensor birimlerine odaklanmaları daha iyi olurdu
  • Benim tahminim bu kez NVIDIA'daki gibi GPU çekirdeklerinin içine systolic array ekledikleri yönünde. M4'e kıyasla MLX hızını 4 kat artırmanın tek yolu bu gibi görünüyor
  • Birleşik bellek her zaman VRAM'den daha yetersiz kalıyor. Bende 16GB VRAM var, o bile yetmiyor gibi geliyor. Üstelik Apple depolamayı aşırı pahalı hale getirdiği için, takvimimi, e-postalarımı, fotoğraflarımı, notlarımı gerçekten yerel yapay zekayla özgürce analiz ettirmek istesem bile 256GB~1TB dışında seçenek olmaması büyük bir sınırlama
• Apple Silicon'da matrix multiplies yapabilen birden fazla donanım birimi var
  1. CPU SIMD/NEON
  2. CPU AMX coprocessor (M1~M3)
  3. CPU SME (M4)
  4. GPU (Metal compute shader + simdgroup-matrix + mps matrix)
  5. Neural Engine (CoreML advisory)
     Ve görünüşe göre M5'te her çekirdeğe birer 'Neural Accelerator' eklenmiş
  • Her birimin bellek hiyerarşisindeki farklı noktalara etki etmesi nedeniyle bu aslında mantıklı. Programcı açısından da gecikme ve throughput üzerinde ayrıntılı kontrol sağlayabildiği için olumlu
  • Neyse ki Pytorch gibi kütüphaneler bu karmaşıklığı iyi soyutluyor. Sıfırdan kendiniz kuruyor olsaydınız iş çok daha karmaşık olurdu
  • Apple'ın kendi yazılımlarının (örneğin Final Cut) bu “yinelenen” matrix multiply birimlerini aynı anda kullanıp performansı en üst düzeye çıkarıp çıkarmadığını merak ediyorum. Çoklu görev doğası gereği işletim sistemi düzeyinde farklı yazılımlar kaynakları bölüşüyor ama böyle aşırı eşzamanlı bir kullanım denemek eğlenceli olurdu
  • Bunun o kadar da tuhaf bir tasarım olduğundan emin değilim. Matmul gibi işlemler artık aşırı yaygın kullanılan temel işlemler. 1994 tarihli Mac Quadra'da da çok sayıda kayan nokta birimi vardı, 1984 Mac'te ise yoktu
  • Tüm matrix multiply birimlerini aynı anda kullanmak mümkün mü diye merak ediyorum. Pratik olmasa da eğlence olsun diye denense nasıl olurdu? CPU da superscalar yapıdaysa bazı işlemleri paralel yürütebilir gibi görünüyor
• iPad Pro çipi depolama kapasitesine göre binning yapıyor
  • 512GB ve altı: 3 P-cores + 6 E-cores
  • 1TB ve üstü: 4 P-cores + 6 E-cores
    Kaynak
  • Depolama kademelerine göre performans farkı yaratmak, Apple'ın depolama için çok yüksek fiyat istemesi de düşünülünce gerçekten iğrenç bir pazarlama yöntemi
• Son dönemde Apple'a bakınca donanım ekibinin yazılım ekibinden çok daha iyi iş çıkardığı izlenimi oluşuyor
  • Bu Apple tarihinde ilk kez olmuyor. 68k'den PowerPC'ye geçişte de donanım performansı ciddi sıçrama yapmıştı ama yazılım buna ayak uyduramamıştı. Çekirdek sistemler neredeyse OS 9'a kadar emülasyonla çalışıyordu; korumalı bellek ve preemptive multitasking de çok yetersizdi. Taligent ve Copland projeleri de başarısız olunca NeXT satın alındı ve ardından Mac OS X çıktı. O zamana kadar Apple'ı farklı kılan taraf yazılımdı ama o da Intel'e geçişten sonra gerilemişti; M1 Mac'lerle birlikte donanımın yeniden öne geçtiği hissi oluştu
  • Yazılımın kapsamı büyüdükçe gereksiz özellik ekleme ve sahipsiz kalan uygulamalar da çoğalabiliyor. Donanım ise üretim maliyeti sınırı nedeniyle daha sınırlı bir kapsama sahip. Apple'ın artık yazılımdaki bu gereksiz kapsamı ve ürünleri sert biçimde sadeleştirecek birine ihtiyacı var
  • Veri merkezi/bulut dışındaki çoğu yazılımın giderek kötüleştiğini düşünüyorum. İnsanlar bu duruma alışıp karar verici konuma geldikçe işlerin daha da kötüye gideceğini sanıyorum
  • Aslında bu sadece bugünün sorunu değil; Apple yazılımının kalitesi zaten hep tartışmalıydı. Eski iTunes bile etiket düzenlerken dosyaları tek tek inanılmaz yavaş yazıyordu. Görsel tasarım ve tasarım kılavuzları güçlüydü ama onun dışında “harika yazılım” hissi pek vermiyordu
  • Apple özünde bir donanım şirketi. Tüketici işletim sistemini ücretsiz verirken Microsoft daha çok OS satmaya odaklandı. Şimdi SoC paketini bile kendisi tasarlayarak bu donanım gücünü iyice göstermiş oluyor
• İlk kez Apple'ın pazarlamada doğrudan "AI" terimini kullandığını görüyorum. Daha önce yalnızca "machine learning" ya da "Apple Intelligence" diyordu
  • Sonunda Apple da hype'a teslim olmuş gibi. “Machine learning” teriminde ısrar eden Apple'ın son gurur kırıntısı gibiydi, biraz üzücü
  • Gerçi Apple diffusion model/LLM gibi genel amaçlı yapay zekayı benimsiyorsa buna AI demesinde sorun görmüyorum. Yine de en azından PR tarafında Apple Intelligence'tan da söz edilmesini isterdim
  • Tamamen umutsuz değiliz. Belki de AI, Apple Intelligence'ın kısaltması olarak kullanılıyordur; biraz yaratıcı düşünürsek
  • Ben Apple'ın tanıttığı AI'ın aslında Apple Intelligence anlamına geldiğine inanmak istiyorum
• M5 duyurusunda AI için GPU hesaplamasının M4'e göre 4 kat hızlandığı söyleniyor ama muhtemelen bu laboratuvar koşullarındaki bir değer. Gerçekte hem iPad hem de MacBook Pro için M5'te “3.5 kat daha hızlı AI performansı” deniyor ama gerçek demolarda M4'e göre yalnızca 1.2~2.3 kat hızlanma örnekleri var. Bu 3.5 katın hangi testle hesaplandığını gerçekten merak ediyorum
  • M5'in FP4 işlemlerini desteklediği söyleniyor. Bu yüzden Q4 quantized modellerde (BF16'dan çok daha düşük hassasiyet) farkın büyük olduğunu düşünüyorum
  • Sadece Apple değil, rakipler de karşılaştırmayı iki nesil önceki çiplerle yapmayı sık tercih ediyor; bu yüzden bu tür sayıları şişirme yaklaşımını anlıyorum
• Bu M5 çipinde de "Memory Integrity Enforcement" (A19/A19 Pro'ya eklenen güvenlik özelliği) bulunup bulunmadığını merak ediyorum
  • Aynı CPU çekirdekleri kullanıldığı için büyük olasılıkla destekleniyordur

[xguru]

Basın bülteninde AI vurgulanacak kadar, Apple'ın bir tür aciliyet hissi verdiğini de düşündürüyor.
GPU'ya sinir ağı hızlandırıcısını da entegre edip AI hesaplama hızını artırmaları gerçekten çığır açıcı, bu yüzden cihaz üstü performansın çok yükseleceği anlaşılıyor. Artık burada belirleyici olan, bunun üstüne ne kadar iyi bir modelin geleceği haha