AMD'nin Turin'i: 5. nesil EPYC tanıtıldı

 (chipsandcheese.com)
3 puan yazan GN⁺ 2024-10-13 | 1 yorum | WhatsApp'ta paylaş
  • AMD EPYC 9575F ölçümleri, Zen 5 çekirdeklerini yeniden anlatmaktan çok sunucu tarafındaki bellek alt sistemi değişimlerine odaklanarak Turin'in pratikte neyi farklı yaptığını gösteriyor
  • Tek iş parçacıklı bant genişliği okumada yaklaşık 52GB/s, yazmada yaklaşık 48GB/s, add işleminde yaklaşık 95GB/s seviyesinde; tüm sokette okuma ise teorik 576GB/s değerinin neredeyse %99'una ulaşıyor
  • Sunucu sınıfı Turin, CCD ile I/O kalıbı arasında GMI3-W üzerinden 2 GMI bağlantısı kullanıyor ve yazma bağlantısı genişliği de bağlantı başına 32B'ye çıkarıldığı için CCD bant genişliği masaüstü Zen 5'ten daha yüksek
  • Bellek gecikmesi yüksüz durumda Genoa ile benzer olsa da çekirdekler arası gecikme Intra-CCD yaklaşık 45ns, Inter-CCD yaklaşık 150ns ve soketler arası yaklaşık 260ns ile Genoa'ya göre artmış
  • 9575F, 64 çekirdeğin tek iş parçacığında en fazla 5GHz'e ulaşabildiğini ve 128 iş parçacıklı Cinebench 2024 testinde yaklaşık 4.3GHz'i koruduğunu göstererek, yüksek frekanslı ve görece düşük çekirdek sayılı kurumsal SKU karakterini net biçimde ortaya koyuyor

EPYC 9575F ile Turin'deki değişim

  • Turin analizi, AMD EPYC 9575F ölçüm verileri merkez alınarak yapıldı
    • StorageReview'dan Jordan sayesinde bu CPU test edilebildi
    • Zen 5 çekirdekleri mobil, masaüstü ve varyant karşılaştırmalarında zaten ele alındığı için bu kez odak bellek alt sistemine kaydırıldı
  • AMD'nin Turin lansman slaytları Serve the Home üzerinde görülebilir; burada ise ağırlık daha çok bağımsız ölçüm verilerinde

CCD bant genişliğini artıran GMI yapısı

  • 1T sonuçlarında EPYC 9575F'nin tek iş parçacıklı bellek bant genişliği şu seviyelerde
    • okuma: yaklaşık 52GB/s
    • yazma: yaklaşık 48GB/s
    • add, yani Read-Modify-Write: yaklaşık 95GB/s
  • Tek bir çekirdek bile CCD'nin toplam bellek bant genişliğinin önemli bir bölümünü kullanabiliyor
    • okuma, toplam CCD okuma bant genişliğinin yarısından biraz az
    • yazma, toplam CCD yazma bant genişliğinin yaklaşık %55'i
    • add, toplam CCD add bant genişliğinin üçte ikisinden fazla
  • Bu fark, sunucu sınıfı Turin'in GMI3-W yapılandırmasından kaynaklanıyor
    • EPYC 9575F, I/O kalıbına bağlanan 2 GMI bağlantısına sahip
    • Ryzen 9950X tek bir GMI bağlantısı kullanıyor
    • Sunucu tarafındaki GMI yazma bağlantısı bağlantı başına 32B genişliğinde; bu da masaüstü Zen 5'teki bağlantı başına 16B'den daha büyük

12 kanallı bellek ve tüm soket performansı

  • Turin, 12 kanallı bellek destekliyor ve en fazla DDR5-6400MT/s hızına çıkabiliyor
    • DDR5-6400MT/s yalnızca belirli doğrulanmış sistemlerde destekleniyor
    • Bu hız yalnızca kanal başına 1 DIMM yapılandırmasında mümkün
  • Test sistemi DDR5-6000MT/s hızında çalışıyordu
    • Çoğu sistem, kanal başına 1 DIMM yapılandırmasında DDR5-6000MT/s destekliyor
    • Kanal başına 2 DIMM kullanıldığında bellek hızı 4400MT/s seviyesine düşüyor
    • Kanal başına 2 DIMM yuvası olan anakartlarda kanal başına yalnızca 1 DIMM kullanılırsa 5200MT/s beklenebilir
  • Tüm 9575F soketinin okuma bant genişliği, teorik 576GB/s değerinin neredeyse %99'una ulaşıyor
    • yazma: 435GB/s
    • add: 453GB/s
  • AMD Volcano Platform üzerinde iki 9575F arasındaki soketler arası bant genişliği de ölçüldü
    • Bu platform, iki CPU arasında yalnızca 3 GMI bağlantısına sahip
    • Sonuçlar Bergamo testine çok benziyordu; Bergamo sistemi de aynı 3 GMI bağlantısı yapılandırmasını kullanıyordu

Yük altı gecikmesi ve çekirdekler arası gecikme

  • Turin'in yüksüz bellek gecikmesi, Genoa ile çok benzer
  • Hot Chips 2024'te Ampere Computing, AmpereOne yongası ile AMD Genoa CPU'nun yük altındaki bellek gecikmesi grafiğini paylaşmıştı; buradan hareketle benzer bir yük altı gecikme testi oluşturuldu
  • Testte, bellek bant genişliği kıyaslamasıyla IOD-CCD bağlantısı veya tüm bellek sistemi dolduruluyor, ardından kalan çekirdek ya da CCD üzerinde bellek gecikmesi ölçülüyor
    • Tek CCD testinde, bir CCD'deki 7 çekirdekte bellek bant genişliği kıyaslaması çalıştırılıp 8. çekirdekte gecikme ölçülüyor
    • Tüm sistem testinde, 9575F'nin 7 CCD'sinde bellek bant genişliği kıyaslaması çalıştırılıp 8. CCD'de gecikme ölçülüyor
  • Yük altında 9575F'nin bellek gecikmesindeki artış, koşullara göre benzer seviyede
    • tek CCD yükünde yüksüze göre yaklaşık 39ns artıyor
    • tüm sistem yükünde yüksüze göre yaklaşık 31ns artıyor
  • Çekirdekler arası gecikme Genoa'ya göre yükselmiş ve özellikle CCD içi artış dikkat çekiyor
    • Intra-CCD gecikmesi: yaklaşık 45ns
    • Inter-CCD gecikmesi: yaklaşık 150ns
    • Socket to Socket gecikmesi: yaklaşık 260ns

Saat hızları ve ürün konumlandırması

  • EPYC 9575F, tek iş parçacıklı testlerde 64 çekirdeğin tamamında en fazla 5GHz seviyesine ulaşabildi
  • Bellek bant genişliği testinde bir CCD'deki 8 çekirdeğin tamamı 5GHz'de çalıştırılabildi
  • Cinebench 2024'te 128 iş parçacığının tamamı kullanıldığında yaklaşık 4.3GHz bandını korudu
  • Level1Techs'ten Wendell, web sunucusu/TLS işlem yükünde yaklaşık 4.9GHz all-core değeri gördü; bu iş yükü daha az vektörize edilmiş görevlerden oluşuyor
  • Turin ürün ailesi, yüksek çekirdek sayılı SKU'larla yüksek frekanslı SKU'ları birlikte sunuyor
    • AMD'nin 9755 ve 9965 gibi yüksek çekirdek sayılı SKU'ları bulunuyor
    • 9575F gibi düşük çekirdek sayısı ve çok yüksek frekans sunan SKU'lar da var
    • 64 çekirdeğin bile “düşük çekirdek sayısı” olarak görülmesi, sunucu CPU pazarındaki değişimi tek başına gösteriyor
  • Turin, Naples'tan Rome'a geçişteki kadar ani bir devrimden ziyade, Milan'dan Genoa'ya geçişe benzer şekilde bellek bant genişliği artışı, çekirdek sayısı artışı ve çekirdek güncellemesinin birleştiği bir evrime daha yakın

İlgili okumalar

1 yorum

 
GN⁺ 2024-10-13
Hacker News yorumları

  • AMD EPYC 9175F en tuhafı: 16 çekirdekte 512 MB L3 önbellek; çekirdek başına lisans maliyetini düşürmek isteyen müşteriler için gibi görünüyor
    Aksi halde bu kadar pahalı bir çipe bu kadar az çekirdek koymak pek mantıklı değil. Oracle’ın hâlâ bu tür bir lisanslama kullanıp kullanmadığını bilmiyorum ama kullanıyorsa artık bırakmalı
    HFT gibi tüm algoritmayı L3’e sığdırıp mutlak en düşük gecikmeyi hedefleyen kullanım alanları da mümkün olabilir; ya da her chiplet’te yalnızca en iyi çekirdekleri kullanmak isteyenler içindir. Yine de muhtemelen yazılım lisansları yüzündendir

    • Ayrık olay simülasyonu da iyi bir örnek. Spiking sinir ağları gibi şeyler, doğru simüle edilmek istendiğinde pending spike queue üzerinden serileştirildiği için doğası gereği neredeyse tek iş parçacıklıdır
      Tüm durumu yerel önbellekte tutup çalıştırmak için en hızlı çekirdeği seçmek en iyi konfigürasyondur. Bunlardan 16’sını paralel çalıştırabilirseniz arama uzayını o kadar daraltabilirsiniz
      Bu tür problemlerde CCD’ler arası gecikme hakkında pek endişelenmeye gerek yoktur. Fiziksel çekirdekler arasında periyodik çaprazlama yapan genetik algoritma gibi bir şey çalıştırsanız bile çekirdekler arası bant genişliği gereksinimi küçüktür
    • Tek iş parçacıklı uygulama çoktur ve kodu paralelleştirmek için yeniden yazdırmaya programcılara on binlerce dolar harcamaktansa çok hızlı bir CPUya birkaç bin dolar harcamak çoğu zaman daha ucuzdur
      Söylendiği gibi kaynak kodu ya da hakları sizde olmayan üçüncü taraf kod ise zaten yeniden yazmak çoğu durumda mümkün değildir
    • 512 MB önbellek şaşırtıcı. Birkaç yıl önce kullandığım Xeon’un önbelleğinin, çocukken kullandığım sistemin RAM’i kadar büyük olduğunu görünce hayret etmiştim; üstelik milenyum kuşağındanım, Commodore gibi antik makineler değil, Quake bile çalıştıran gerçek bir PC’ydi
      Ama 512 MB epey geniş. Puppy Linux’un tamamını L3 önbelleğe koymak mümkün mü, merak ediyorum
    • MATLAB Parallel Server da çekirdek başına lisanslama kullanıyor
      https://www.mathworks.com/products/matlab-parallel-server/li...
    • Birçok algoritma bellek bant genişliği ile sınırlıdır. 16 çekirdekli iş istasyonlarında bile en iyi performansın 16 iş parçacığından daha azında çıktığı işleri defalarca çalıştırdım
      Algoritmayı farklı iş parçacığı sayılarıyla test edip en uygun iş parçacığı sayısını kullanmak yaygın bir yöntemdir. Bellek yoğun algoritmalarda en iyi performans çoğu zaman görece düşük çekirdek sayılarında elde edilir

  • Phoronix kısa süre önce 196 çekirdekli Turin Dense ile AmpereOne 192 çekirdekli modeli karşılaştıran bir inceleme yayımladı
    Ampere’nin önerilen fiyatı 5,5 bin dolar, EPYC’nin ise 15 bin dolardı; Turin 196, 1,6 kat daha yüksek performans gösterirken Ampere 1,2 kat daha iyi güç verimliliğine sahipti
    Phoronix incelemesine göre gerçek performans/dolar açısından Ampere 192 çekirdekli model, Turin Dense 196 çekirdekli modelden 1,7 kat daha iyi. 5,5 bin dolara ya AmpereOne 192 çekirdekli CPU (274 W) ya da Turin Dense 48 çekirdekli CPU (300 W) alabiliyorsunuz
    Ampere gelecek yıl 256 çekirdekli, 3 nm, 12 kanallı bellekli bir ürün çıkaracak; bu yüzden ham performans açısından Turin Dense ve Sierra Forest’a daha iyi rakip olma ihtimali var. Şu anki güçlü yanı performans/dolar
    Qualcomm’un Nuvia tabanlı sunucu çipinin performansını da çok merak ediyorum. ARM istemci çekirdeklerindeki iyileşmeler bir ipucuysa AWS Graviton, Google Axion, Microsoft Cobalt, Nvidia Grace, Alibaba Yitian gibi özel çiplerin daha iyi Neoverse çekirdekleriyle nasıl rekabet edeceği de ilginç olacak. Nuvia’ya karşı ARM’a karşı AmpereOne tablosu
    Şu an muhtemelen sunucu CPU’larının altın çağı. 7 yıl önce yalnızca Intel Xeon vardı; artık çok seçenek var

    • AMD performans/W tarafında da kazanıyor; bu, X86’nın ARM/RISC’in verimliliğine asla yetişemeyeceğine inananlar için oldukça anlamlı bir sonuç
      Bugün birçok veri merkezinde kullanılabilir güç ve buna bağlı soğutma daha büyük bir kısıt olabiliyor; bu da Turin için iyi bir işaret
    • Performans/dolar karşılaştırmasında en pahalı Turin önerilen fiyat modelini karşılaştırıyorlar. O model performans/doları en iyi ürün değil; yoğunluğu veya watt başına performansı maksimize etmek isteyenlerin aldığı model ve bu alanda Ampere’nin önünde
      Yalnızca performans/dolar bakılacaksa Zen5c değil, daha az çekirdekli Zen5 modellerine bakmak gerekir; bu tarafta performans/dolar 192 çekirdekli 9965’in iki katı
      Aynı yaklaşımın Ampere’de pek işe yaramamasının nedeni, 192 çekirdekli 3,2 GHz modelin zaten neredeyse en iyi performans/dolar noktasında olması
    • Fark şu ki EPYC CPU bulunabiliyor, ama Ampere CPU elde etmek zor
    • Ampere’nin önerilen fiyatı, çoğu sistem tedarikçisinin gerçekten ödediği fiyata oldukça yakın. Buna karşılık çoğu tedarikçinin EPYC veya Xeon’u önerilen fiyatın neredeyse %50 altında alabildiğini varsayabilirsiniz
    • Gerçekten ilginç bir dönem ve Intel’in düşüşü çok üzücü. Ancak birçok kişinin uyardığı gibi Intel’in bu durumu öngörmesi gerekirdi

  • Gerçekten akıl almaz ölçekte. 20 yıl önce CPU başına 1-2 çekirdek vardı; çift soketli bir sunucuda 4 çekirdek varsa şanslı sayılırdınız.
    Artık tek bir sunucuda neredeyse 400 çekirdek olabiliyor. Elbette ARM çekirdekleriyle daha fazlası mümkün olabilir, ama en azından şu an bu seviyede performans sunmuyorlar.

    • İki çipte 700'den fazla iş parçacığıyla iki adet 400GbE NIC'i doyuruyor ve çip başına 500W olduğundan iş parçacığı başına 2W'ın altında kalıyor. Üstelik bunların hepsi 2U paketine sığıyor.
      20 yıl önce bu, birkaç rack dolusu ekipman ederdi.
    • Öte yandan o dönemde 20 yıllık ilerlemeyle çekirdeklerin 1000 kat hızlanması beklenirdi; gerçekteyse kabaca 5 kata yakın.
    • Kümelerde çalışan büyük veri işlerinin ne kadarı artık Spark yerine duckdb kullanan tek bir büyük makinede çok daha hızlı olur, merak ediyorum.
    • Günümüzde çoğu servis tek bir sunucuya sığıp yine de günde milyonlarca kullanıcıyı işleyebiliyor.
      Ayda 1000 doların altında güçlü bir dedicated sunucu kiralayıp on binlerce dolar tasarruf edilebiliyorsa, bunun aşırı pahalı bulut servislerini nasıl etkileyeceğini merak ediyorum. O parayla tam zamanlı bir yönetici tutup yine de para artırmak mümkün.
    • Doğru. İlk çift çekirdekli sunucu çipleri 2005 civarında 90nm Denmark/Italy/Egypt Opteron ve Paxville Xeon olarak çıktı; bildiğim kadarıyla Intel tarafında işin gerçekten hızlanması 2007'yi buldu.

  • Hetzner'a AMD Turin bare metal sunucular gelirse dağıtıp denemek isterim. Önceki nesil de fiyat/performans açısından iyiydi; bu nesil bir adım daha iyi görünüyor.

  • 12 yıllık bir Dell PowerEdge üzerinde hâlâ çift Xeon çalıştırıyorum. 1. nesil EPYC sunucuların eBay'de ne zaman ucuz kelepir olarak düşeceğini merak ediyorum.

    • 1-3. nesil EPYC'ler çok ucuza bulunabiliyor ama anakartlar pahalı.
      Asıl amacınız PCIe hattı ve RAM kapasitesi değilse 3. nesilden öncesini pek önermem. Güncel nesil tüketici sınıfı CPU'lar çekirdek sayısı yarı ya da dörtte biri olsa bile hesaplama performansında daha iyi ve çok daha az güç tüketiyor.
    • Şahsen 1. nesil EPYC pek iyi değil; çünkü 2. nesil var, daha yaygın kullanılıyor ve yeterince ucuz. Ben de homelab'imde epyc 7302 ve MZ31-AR0 anakart kullanıyorum.
      Çekirdek başına performansı çok düşük, NUMA ile ilgili sorunları var ve üretim süreci de daha kötü. 2. nesil hesaplama die'ları TSMC 7nm.
    • EPYC çipleri pek bilmiyorum ama Ryzen 5 serisi sistemler o hafta Amazon'da neredeyse bedavaya dağıtılıyordu.
      9 5950X'i 242 sterline aldım.
    • Pek değmez. eBay'de 9654'ü 2000 dolara alıp anakarta 1000 dolar harcarsınız. Tüm sistem yaklaşık 7000 dolar tutar.
      Ya da Epyc 7282 gibi kombinasyonlar da kolay bulunuyor ve gayet iyi.
    • Zaten öyle oldu ve performansı pek iyi değil.

  • ChipsAndCheese, yeni teknoloji medyaları içinde gerçekten konuyu bilen az sayıdaki yerden biri. Özellikle bu tür derinlemesine benchmark'larda güçlüler.
    Anandtech, TechReport, HardOCP gibi eski teknoloji siteleri ortadan kaybolmuşken, eski tarz derinlikli yazıları yakalayabilen yeni bir mecra görmek sevindirici.

    • İlginçtir, Slashdot aslında Chips & Dips adlı bir siteden doğmuştu. Benzer bir esinlenme mi acaba.
    • HardOCP demek istemiş olmalı.
    • Chips and Cheese bana en çok artık kapanmış olan LostCircuits'i hatırlatıyor. Çoğu teknoloji sitesi uygulama benchmark listelerine odaklanırken, C&C tıpkı LC'nin yaptığı gibi mimari üzerine uzun yazıları alt sistem mikrobenchmark'larıyla birleştiriyor.

  • Substack'e geçilmesinden hoşlanmayanlar için https://old.chipsandcheese.com/2024/10/11/amds-turin-5th-gen... var.
    En azından şimdilik mümkün.

  • Yalnızca 16 çekirdeği olup 512MB L3 önbelleği olan parça belli ki belirli iş yükleri için.

    • Oracle, EE ve opsiyonları çekirdek başına 40 bin-100 bin doların üzerinde, bunun da 0,5 ile çarpıldığı bir modelle ücretlendirebiliyor; bazı iş yükleri de önbelleğe çok duyarlı.
      Bu yüzden yüksek önbellek, yüksek bant genişliği, yüksek saat hızı ve büyük bellek kapasitesine sahip 16 çekirdekli CPU[1] ile 2 soketli bir kurulum, 1 milyon doları aşan lisans maliyetine kıyasla en verimli seçenek olabilir.
      [1] https://www.amd.com/en/products/processors/server/epyc/9005-...
    • Bu parçanın topolojisi gerçekten tuhaf. Fiziksel olarak 128 çekirdekli parça ile aynı silisyum; her hesaplama chiplet'inde yalnızca bir çekirdek bırakılıp geri kalanı devre dışı bırakılmış.
      Önbelleği mümkün olduğunca fazla tutmak için 112 çekirdeği kapatıp sadece 16 çekirdek bırakmışlar.
      Ancak her zaman görece yavaş chiplet'ler arası veri yolundan geçeceği için çekirdekler arası gecikme iyi olmayacaktır.
    • Yeni AMD çiplerinin L3 önbelleği eşleyip onu önbellek yerine TCM gibi kullanıp kullanamadığını merak ediyorum.
      Eski X86 dışı işlemciler bunu destekliyordu ve çoğu zaman bellek denetleyicisini başlatabilmek için bu modda boot ediyordu. Bugün de mümkünse DRAM'siz büyük sistemler gibi ilginç gömülü kullanım alanları doğabilir.

  • “Eriştiğimiz sistem belleği 6000MT/s'de çalıştırıyordu ve DDR5-6000 MT/s, çoğu sistemde kanal başına 1 DIMM yapılandırmasında destekleniyor. Kanal başına 2 DIMM kullanırsanız bellek hızı 4400 MT/s'ye düşer; kanal başına 2 DIMM'li bir anakartta kanal başına 1 DIMM kullanırsanız 5200 MT/s bekleyin” kısmı var; bu hızların hepsinin ECC bellek için mi olduğunu merak ediyorum.

    • Evet. Sunucular yalnızca ECC RAM kullanır.