11 puan yazan jhj0517 2025-01-08 | 7 yorum | WhatsApp'ta paylaş

NVIDIA, LPDDR5X tabanlı 128 GB RAM’e sahip kişisel yapay zeka süper bilgisayarı DIGITS’i tanıttı

  • NVIDIA, 7 Ocak 2025’te (yerel saat) Las Vegas’ta düzenlenen CES’te 128 GB RAM’e sahip kişisel yapay zeka süper bilgisayarı DIGITS’i tanıttı
  • DIGITS, NVIDIA’nın yeni NVIDIA GB10 Grace Blackwell süperçipini kullanıyor
  • NVIDIA’nın hedefi, her veri bilimcinin, yapay zeka araştırmacısının ve öğrencinin masasına bir yapay zeka süper bilgisayarı koyarak onların yapay zeka çağının parçası olmasını sağlamak

NVIDIA’nın yeni süperçipi GB10’un performansı

  • GB10 süperçipi, NVIDIA Grace Blackwell mimarisi tabanlı bir 'system on chip' (SoC) olup FP4 hassasiyetinde en fazla 1 petaflop (PetaFlop, 10¹⁵/s, saniyede 1 katrilyon işlem) hesaplama gücü sunuyor
  • GB10, en yeni nesil CUDA® çekirdekleri ve 5. nesil Tensor çekirdeklerine sahip NVIDIA Blackwell GPU içeriyor
  • NVLink®-C2C çipten çipe ara bağlantısı üzerinden Arm mimarisi tabanlı 20 çekirdekli bir CPU’ya bağlanıyor
  • Arm tabanlı SoC tasarımı alanında pazar lideri olan MediaTek, GB10 tasarımına katkı sağladı

Kişisel yapay zeka süper bilgisayarı DIGITS’in yaklaşık teknik özellikleri

  • DIGITS, 128 GB birleşik, tutarlı bellek (unified, coherent memory) ve en fazla 4 TB NVMe depolama ile geliyor
  • Buradaki birleşik, tutarlı bellek; GPU’nun VRAM’inden farklı bir kavram ve DIGITS, 128 GB bellek yapılandırması için LPDDR5X çipleri kullanıyor
  • En fazla 200B (200 milyar) parametreli LLM’leri çalıştırabiliyor
  • NVIDIA ConnectX® ağ teknolojisi üzerinden iki DIGITS yapay zeka süper bilgisayarı bağlanarak en fazla 405B parametreli LLM’ler de çalıştırılabiliyor

Çıkış tarihi ve fiyat

  • DIGITS, NVIDIA’nın önde gelen iş ortakları aracılığıyla bu yıl mayıs ayından itibaren 3000 dolardan başlayan fiyatlarla satın alınabilecek

DIGITS’in bellek bant genişliği (hız) tahmini

  • Bellek bant genişliği, GPU hızını tahmin etmek için kullanılan başlıca göstergelerden biri
  • Bellek bant genişliği dahil DIGITS’in ayrıntılı teknik özellikleri henüz açıklanmadı
  • Bir haberde, NVIDIA’nın paylaştığı görsellere göre DIGITS’te 6 LPDDR5X modülü bulunduğu görülüyor ve buna dayanarak bellek bant genişliği 825 GB/s olarak tahmin ediliyor
  • Bu değer, RTX 3060’ın 360 GB/s değerine göre 2,3 kat daha hızlı, RTX 4090’ın 1008 GB/s değerine göre ise 0,8 kat daha yavaş; ancak 128 GB RAM’e sahip olduğu düşünüldüğünde oldukça tatmin edici bir performans anlamına geliyor
  • Ancak bu yalnızca kişisel ve netliği olmayan bir tahmin; ayrıntılı performans ancak tam teknik özellikler açıklandığında anlaşılabilecek

7 yorum

 
mintfrape 2025-02-06

Haha, 128 GB normal sistem belleğiyle süper bilgisayar mı..?
Evdeki Shih Tzu'm bile buna güler, Bay Huang.
Fiyat da Kore fiyatlandırması gelince herhalde 600'ü bulur…

 
nuthatch 2025-01-09

Bu durumda hangi işletim sistemi kullanılacak acaba?

 
reagea0 2025-01-10

Linux'tur herhalde? Ubuntu.

 
hided62 2025-01-09

Yani şöyle söylemek gerekirse... AMD'nin yüksek performanslı entegre grafiklere sahip bir modeliyle (8840HS gibi) karşılaştırınca..

  • NVIDIA'nınki olduğu için CUDA var,
  • x86 değil, ARM.
    Olay bu mu?
 
scari 2025-01-09

Konum olarak M4 Mac mini'ye benziyor gibi ama bu taraf genel amaçlı değil; onun yerine fiyat/performans açısından daha iyi bir his veriyor.

 
jujumilk3 2025-01-09

Konu dışı ama oyunlar da iyi çalışır mı?

 
jhj0517 2025-01-09

128GB birleşik ve tutarlı bellek gibi özellikler nedeniyle sıradan GPU'lardan farklı olduğu için nasıl olacağını pek bilemiyorum!
Başka bir yazıda oyun için uygun olmayabileceğine dair bir yorum var: https://dirox.com/post/nvidia-project-digits