Apple M3 Ultra’yı duyurdu
(apple.com)- Apple, Mac için en üst seviye çipi M3 Ultra’yı tanıtarak Mac Studio’yu büyük ölçekli yapay zeka, grafik ve video işleri için bir iş istasyonu olarak daha ileri taşıdı
- Temel özellikler 32 çekirdekli CPU, 80 çekirdeğe kadar GPU, 32 çekirdekli Neural Engine, Thunderbolt 5 ve 512 GB’a kadar birleşik bellekten oluşuyor
- Önceki nesil Mac Studio’ya göre CPU’nun M2 Ultra’ya kıyasla 1,5 kata kadar, GPU’nun ise M2 Ultra’ya kıyasla 2 kata kadar daha hızlı olduğu belirtiliyor
- UltraFusion, iki M3 Max kalıbını 10.000’den fazla yüksek hızlı bağlantıyla birleştirerek yazılıma tek bir çip gibi görünmesini sağlıyor
- 800 GB/sn üzeri bellek bant genişliği ve 512 GB’a kadar bellek sayesinde 3D rendering, görsel efektler, yapay zeka ve 600 milyardan fazla parametreli LLM’lerin cihaz üzerinde çalıştırılması hedefleniyor
M3 Ultra’nın rolü ve temel özellikleri
- Apple, M3 Ultra’yı bugüne kadar ürettiği en yüksek performanslı çip olarak tanıttı
- Mac’teki en güçlü CPU ve GPU’yu, 32 çekirdekli Neural Engine’i ve kişisel bilgisayarlarda en yüksek birleşik bellek kapasitesini sunan çip olarak konumlandırılıyor
- Başlıca yapılandırma şöyle
- 32 çekirdeğe kadar CPU
- 80 çekirdeğe kadar GPU
-
32 çekirdekli Neural Engine
-
Thunderbolt 5
- 512 GB’a kadar birleşik bellek
- M3 Ultra, yeni Mac Studio’nun performansını artıran çip olarak kullanılıyor
Performans ve yapay zeka iş yükleri
- CPU, 24 performans çekirdeği ve 8 verimlilik çekirdeğinden oluşuyor; M2 Ultra’ya kıyasla 1,5 kata kadar, M1 Ultra’ya kıyasla 1,8 kata kadar performans sunuyor
- GPU, Apple çipleri içindeki en büyük yapılandırma; 80’e kadar grafik çekirdeğine sahip ve M2 Ultra’ya kıyasla 2 kata kadar, M1 Ultra’ya kıyasla 2,6 kata kadar daha hızlı
- Performans karşılaştırmasının temeli önceki nesil Mac Studio sistemleri
- M1 Ultra: 20 çekirdekli CPU, 64 çekirdekli GPU, 128 GB RAM
- M2 Ultra: 24 çekirdekli CPU, 76 çekirdekli GPU, 192 GB RAM
- Grafik mimarisi dinamik önbellekleme, donanım hızlandırmalı mesh shading ve ray tracing içeriyor
- Yapay zeka ve makine öğrenimi işlerinde CPU’nun ML hızlandırıcıları, GPU, Neural Engine ve 800 GB/sn üzeri bellek bant genişliği birlikte kullanılıyor
- M3 Ultra’lı Mac Studio, 600 milyardan fazla parametreli büyük dil modellerini doğrudan cihaz üzerinde çalıştırabiliyor
Birleşik bellek ve büyük ölçekli işler
- M3 Ultra’nın birleşik bellek mimarisi, yüksek bant genişliği ve düşük gecikmeyi öne çıkarıyor
- Bellek 96 GB’tan başlıyor ve 512 GB’a kadar yapılandırılabiliyor
- Apple, bu kapasitenin günümüz üst seviye iş istasyonu grafik kartlarının sunduğu belleğin üzerine çıktığını belirtiyor
- Yüksek miktarda grafik belleği gerektiren 3D rendering, görsel efektler ve yapay zeka gibi profesyonel işlerde darboğazları azaltan bir yapı hedefleniyor
Thunderbolt 5 ve genişletilebilirlik
- M3 Ultra, Mac Studio’ya Thunderbolt 5 getirerek 120 Gb/sn’ye kadar veri aktarım hızı sunuyor
- Bant genişliği Thunderbolt 4’ün iki katından fazla
- Her Thunderbolt 5 portu, doğrudan çip üzerinde yer alan özel tasarım bir denetleyici tarafından destekleniyor
- Port başına ayrılmış bant genişliği, harici depolama, dock, hub ve yeni nesil genişletme kasaları kullanan profesyonel kullanıcıları hedefliyor
- Thunderbolt 5 üzerinden birden fazla Mac Studio sistemini bağlayan yapılandırmalar da mümkün
Çip içi teknolojiler
- UltraFusion, yerleşik silikon interposer kullanarak iki M3 Max kalıbını 10.000’den fazla sinyalle bağlıyor
- Düşük gecikmeli kalıplar arası bant genişliği 2,5 TB/sn’nin üzerinde
- Yazılıma M3 Ultra tek bir çip gibi görünüyor
- Medya motoru, M3 Max’in 2 katı kaynağa sahip ve daha fazla eşzamanlı video işlemeyi destekliyor
- Donanım tabanlı H.264, HEVC ve dört ProRes kodlama/kod çözme motoru sunuyor
- 24 adede kadar 8K ProRes 422 akışı oynatılabiliyor
- Ekran motoru 8 adede kadar Pro Display XDR destekliyor ve 160 milyondan fazla pikseli sürüyor
- Secure Enclave, donanım doğrulamalı güvenli önyükleme ve çalışma zamanı istismarlarını önleme teknolojileriyle birlikte çalışıyor
Güç verimliliği ve çevre hedefi
- M3 Ultra’nın güç verimliliği, yeni Mac Studio’nun Apple’ın enerji verimliliği standartlarını karşılamasına katkı sağlıyor
- Ürün ömrü boyunca tüketilen toplam enerji miktarının azaltılmasında da etkili oluyor
- Apple, şu anda dünya genelindeki kurumsal operasyonlarında karbon nötr durumda olduğunu ve Apple 2030 hedefi doğrultusunda 2030 sonuna kadar toplam karbon ayak izinde karbon nötrlüğe ulaşmayı planladığını belirtiyor
1 yorum
Hacker News görüşleri
512GB birleşik bellek gerçekten yeni bir alan açıyor
Apple’ın bellek kısıtlarını ne zaman aşacağını merak ediyordum; şimdi birleşik bellek 0.5TB’ye çıkmış. Büyük yapay zeka modellerini yerelde çalıştırmak için oldukça pratik ve NVIDIA tarzı çözümlerle kıyaslandığında, bu kadar yüksek verimli belleği tek bir çipte birleştiren yaklaşım ilgi çekici. Yine de iki M3 Max’i “birleştiren” bu tasarımın ısı ve güç tüketimi tarafında nasıl bir performans vereceğini merak ediyorum
Asıl mesele, bu ölçekte büyük dil modellerinin işe yarar bir performansla çalışıp çalışmadığı. Yeterli birleşik bellek olsa bile bellek bant genişliği aynı kalıyorsa, yeni çipin yapay zeka işlem performansı artsa da azalan getiri oluşur. Sonuçta işlem gücü, bellek bant genişliği ve bellek havuzu boyutu arasında bir optimal oran var gibi görünüyor
Çift SP5 Epyc tarafının bu Apple ürününden daha yüksek bellek bant genişliği sunması muhtemel ve Apple’ın fiyat bandında yaklaşık iki kat RAM de eklenebilir. Muhtemelen Apple çözümü güç verimliliğinde daha iyi olur
Pratiklik açısından, bu kadar bellekle makul ama görece orta seviye hesaplama performansının birleşiminden fayda görecek ana akım uygulamaların neler olacağını merak ediyorum. Tam donanımlı sistemin 14 bin dolarlık fiyatında, örneğin iki adet NVIDIA Project DIGITS’i tercih etmek daha cazip olabilir
İşlem tarafı için en iyi üretim düğümünü ayırıp, RAM için daha ucuz bir süreç kullanmak istenirdi diye düşünüyorum
M4 değil de M3 olması şaşırtıcı. Temelde seçilmiş üretim verimini değerlendirme işi mi diye merak ediyorum; ama bunu M1 çipte mümkün kılan interposer’ın artık olmadığına dair bir şey okuduğumu hatırlıyorum
Yine de NPU’nun erişebildiği 512GB birleşik RAM tam anlamıyla oyunun kurallarını değiştiriyor. Apple bu çipi dahili yapay zeka işleri için geliştirdi ve artık başkalarının da kullanmasına açacak noktaya gelmiş gibi görünüyor. Ama bu donanımın gerçekten 2U rack form factor ihtiyacı var. Şu anda işletim sistemi bu donanımın önünü kesiyor
CPU hız ve bellek bant genişliği açısından neredeyse rakipsiz. Başka hiçbir şirketin hâlâ rekabetçi bir Arm sunucu çipi yapamamış olması şaşırtıcı
Tüketici işletim sistemi kişisel tercihim olarak Windows’tan daha iyi, ama giderek gereksiz öğeler ve eski kalıntılarla doluyor; bu da üretim sunucusu iş yükleri için katlanması zor bir hâle geliyor. Alt donanımı bir hypervisor gibi ele alıp çeşitli bileşenleri VM’lere ve container’lara bağlayabilen ya da paylaştırabilen bir sunucu işletim sistemi olsa, küçük veri merkezleri veya edge ortamları için muazzam değer yaratırdı. Bu kadar RAM’e sahip şirket içi bir NPU, LAN üzerindeki birden fazla kullanıcının paylaştığı yerel yapay zeka hızlandırması için çok faydalı olurdu
Tahminin dayanağı, M3 Max kalıp fotoğrafında interposer görünmemesiydi; ama bunun M3 Ultra yapılandırmasında destek mümkün mü sorusuna dair aslında neredeyse hiçbir anlamı yoktu. Bugünkü duyuru bunun kanıtı
Yine de insanlar sonunda port etmeye başlar ve zaten MacPorts ile Homebrew mevcut olduğundan, bunlar da o platformda çalışacak şekilde uyarlanabilir. Ama Apple’ın o pazarla ilgilenmediği anlaşılıyor; bu yüzden muhtemelen gerçekleşmez
M1 Max’te 24~32 GPU çekirdeği, M2 Max’te 30~38, M3 Max’te 30~40, M4 Max’te 32~40 vardı. Duyuru tarihlerine bakarsak M1 Max 18 Ekim 2021, M1 Ultra 8 Mart 2022, M2 Max 17 Ocak 2023, M2 Ultra 5 Haziran 2023, M3 Max 30 Ekim 2023, M3 Ultra 12 Mart 2025 ve M4 Max 30 Ekim 2024’tü. M3 Max ile Ultra’nın tanıtımı arasındaki ek gecikmeye bakınca, Apple’ın bu çipi dahili yapay zeka işleri için geliştirdiği yönündeki tahmin de oldukça makul görünüyor
Önceki M2 Ultra modelinin azami belleği 192GB’tı ve Pro ya da bazı M3 modelleri 128GB’tı. O kadarı bile profesyonel işlerin %99,9’u için yeterli görülüyordu.
Ama şimdi bunu 512GB’a çıkardılar ve 512GB Mac Studio’nun fiyatı da akıl almaz bir seviye olan 9499 dolar. Bu neredeyse kesin olarak AI altına hücumu etkisi
Örneğin Llama-3.1 405B’nin 4 bit kuantize modeli rahatlıkla sığacaktır
Şu anda bile insanlar bu kadar ya da daha fazla RAM’e sahip Epyc sistemleri çok daha ucuza kurup DeepSeek’i saniyede yaklaşık 6 token hızında çalıştırabiliyor. Ama herkes toplamaktan ve ince ayar yapmaktan hoşlanmıyor; bu yüzden uğraşmak istemeyenler için bir pazar var. “AI altına hücumu”ndan sanki kötü bir şeymiş gibi söz ediliyor ama bu şart değil
Şu anda Docker, Metal GPU desteği sunmuyor
Apple M3 veya M4 çiplerinde Docker ile LLM çalıştırırsanız, Docker yalnızca Nvidia ve Radeon GPU’larını desteklediği için çip sınıfı ne olursa olsun CPU modunda çalışır. Docker içinde LLM geliştiriyorsanız, Nvidia ya da Radeon GPU’lu bir Framework dizüstü bilgisayarı düşünmek daha iyi olabilir. Kaynak olarak, M3 Max üzerinde Docker içinde çalışan LLM kullanan bir AI ajan çerçevesi geliştiriyorum: https://kdeps.com
Studio şu an M3 Ultra ile güncellendiyse, M4 Ultra WWDC’de doğrudan Mac Pro’ya gidebilir. Zamanlama ilginç ve Mac Pro form faktörünü de değiştirebilirler
Ayrıca bu çok düşük hacimli bir ürün olacağından, N3B süreci olması da ölümcül görünmüyor. Aynı zamanda bu çiplerin üretimi çok pahalı olacaktır; bu yüzden yüksek fiyatlı RAM yapılandırmaları ile eşleştirmek de bir ölçüde mantıklı
Bu habere temkinli yaklaşmak gerekir ama Apple’dan doğrudan geldiği söyleniyor. Eğer öyleyse M2 Mac Pro ile ne yapmayı planladıkları daha da gizemli hale geliyor
[0] https://www.numerama.com/tech/1919213-m4-max-et-m3-ultra-let...
[1] Macrumors’dan ek bağlam: https://www.macrumors.com/2025/03/05/apple-confirms-m4-max-l...
Mevcut yöntemde Max çiplerin ara bağlantı etrafında tasarlanması gerekiyor. Teoride çoklu SoC yapılandırması iki çipin ötesine geçip daha geniş bir ürün yelpazesine ölçeklenebilir
Her hâlükârda M2 Mac Pro, Apple’ın müşterilere “Bu PCIe yuvalarıyla ilginç bir şey yapabiliyor musunuz? Biz bağlantı genişletmenin dışında bir şey düşünemedik” diye sorduğu bir ürün gibiydi. Apple Silicon’u yükseltilebilir GPU desteği verecek şekilde yeniden tasarlamadıkları sürece Mac Pro bitmiş gibi görünüyor
Sanki PCIe kullanıcılarını her şeyi Thunderbolt’a taşıyana kadar idare ettirmeyi amaçlayan son dönem ürünü gibi hissettiriyor. Birden fazla büyük GPU’yu barındırmak için yapılmış tasarımı yeniden kullandılar ama artık GPU desteği olmadığından soğutma ve güç dağıtımının büyük kısmı sadece bir iz olarak kalmış durumda. Üstelik PCIe genişletmesi de sessizce düşürüldü ve Apple Silicon’da çok fazla PCIe hattı olmadığından yuvalar PCIe anahtarları üzerinden ciddi biçimde aşırı paylaşılmış durumda
Yapay zeka işlerinde 512GB birleşik bellek gerçekten inanılmaz. Gereken NVIDIA GPU sayısıyla kıyaslayınca fiyatı neredeyse makul görünüyor
Demek istediğim, NPU ve GPU çekirdeklerinin o RAM’e erişebilmesi ve performansın da makul olması gerektiğiydi
Pahalılar ama çok daha hızlılar ve kodu macOS’ta çalışacak hale getirme zahmetini de yaşamazsınız
Yapay zeka modellerini çalıştırmak için en yüksek bellek olan 512GB gerekiyorsa ve model ağırlıklarını tutacak harici bir sürücü takmak da sorun değilse, 10 bin doların biraz altında bir fiyata alınabiliyor. Rüya makine.
NVIDIA Project DIGITS’in 3 bin dolara “yakında” çıkacağı yazıyor; ancak aynı 128GB ve 4TB özelliklere sahip bir Mac yaklaşık 4700 dolara alınabiliyor, gerçekten bir hafta içinde teslim edilebiliyor ve üstünde macOS çalışıyor. Performans farkını bilmiyorum. Birinin bununla tam DeepSeek modelini test ettiğini yakında görmeyi çok isterim; belki de tamamen sahip olunabilen ve istenildiği gibi kullanılabilen ilk küçük kişisel yapay zeka cihazı olabilir
Eğer bir Apple AI tuğlasıysa, epey uzun ömürlü olur
Bu cihazda kuantize sürümler çalıştırılabilir ama tam model mümkün değil
Thunderbolt 5 oldukça faydalı. Çok ince ve hafif bir dizüstü kullanıp, ihtiyaç olduğunda TB 5 üzerinden harici GPU’ya veya eGPU’ya erişilebiliyor [1]
Artık hafif dizüstü avantajı ile güçlü GPU avantajı aynı anda elde edilebiliyor
[1] Asus dünyanın ilk Thunderbolt 5 eGPU’sunu duyurdu:
https://www.theverge.com/24336135/asus-thunderbolt-5-externa...
Bunun yerine Sonoma’ya eklenen oldukça yeni yüksek performanslı ekran paylaşımı modu gerçekten harika. MacBook ile Mac Studio’ya bağlanınca bu modu seçip ekran ayarlarını dinamik çözünürlüğe alabiliyorsunuz. Böylece “thin client” 16:10 MacBook ekranının tamamını tam ekran kullanıyor, gerçek oyunlarda bile 60fps düşük gecikme performansı alınıyor, ses de aktarılıyor, toplantılara katılmak da mümkün oluyor ve ana Mac Studio ekranı kapanıyor. Bunlar VNC ile mümkün olmayan şeylerdi; RDP çok daha iyiydi ama bu yeni yüksek performanslı ekran paylaşımı daha da güçlü. Güçlü bir makineye uzaktan bağlanan ince ve hafif bir dizüstünün, dizüstünde her şeyi yerelde çalıştırıp uğraşmaktan daha iyi bir yüksek hareketlilik sunduğunu hep düşünmüşümdür. Güvenlik duvarında biraz ayar yapınca LTE’de de çalışıyor
Apple’ın Xserve fikrini yeniden değerlendirmesi gerekebilir
Apple’da bir tür sunucu altyapı ekibi mutlaka vardır; ancak kendi donanımı ve yazılımıyla kendi sunucu altyapısını kurma işi keşfedilmeye değer. Uygulama ekosistemiyle Apple sunucularını birleştirip bunu bulut olarak sunmak ya da doğrudan satın alınabilir hale getirmek, çok ilginç bir hizmet işi olabilir. Özellikle artık iPad’lerde de M çipleri varken, donanım performansı düşünüldüğünde App Store’un daha iyi uygulamalara ihtiyacı var. Uygulama ekosistemine uygun tasarlanmış bulut tabanlı donanım-yazılım hizmeti oldukça çekici.
Apple’da donanım, yazılımdan daha hızlı gelişti. Çoğu teknoloji şirketinde genelde yazılımı donanım yakalayamaz; Apple’da ise durum bunun tersi
Apple Silicon’ın Linux gibi işletim sistemlerini yerel olarak desteklediği günün ne zaman geleceğini merak ediyorum
Apple, M serisi SoC’lere dair ayrıntılı teknik referans belgelerini yayımlama konusunda isteksiz görünüyor; bu yüzden Apple Silicon üzerinde Linux’u yerel olarak çalıştırmak zorlaşıyor
Birisi Linux çalıştırmak için Apple donanımı alsa bile bunun AAPL üzerinde olumsuz bir etkisi olmazdı