NVIDIA, Hopper mimarisinin H100 GPU'sunu duyurdu

 (nvidianews.nvidia.com)
2 puan yazan xguru 2022-03-23 | 1 yorum | WhatsApp'ta paylaş
  • GTC 2022'de yeni nesil Hopper™ mimarisi ve buna dayalı H100 duyuruldu.
    → Adını Grace Hopper'dan alıyor. Ampere mimarisinin devamı niteliğinde
  • Büyük ölçekli yapay zeka ve HPC'yi hızlandıran 6 teknolojik yenilik
    • TSMC 4 nm süreciyle 80 milyar transistör entegre ediyor. PCIe Gen5 desteği ve HBM3 bellek kullanan ilk GPU (3 TB/s bellek bant genişliği)
    • Yeni Transformer Engine ile önceki nesle göre 6 kat hızlanma
      1. nesil güvenli Multi-Instance GPU - MIG teknolojisiyle tek bir GPU daha küçük parçalara bölünerek izole iş yükleri çalıştırılabiliyor. Hopper mimarisiyle MIG, önceki nesle göre 7 kat daha geliştirildi
    • İşleme sırasında yapay zeka modellerini ve müşteri verilerini koruyan ilk Confidential Computing hızlandırıcısı
      1. nesil NVIDIA NVLink - en fazla 256 H100 GPU'yu, önceki NVIDIA HDR Quantum InfiniBand'e kıyasla 9 kat daha yüksek bant genişliğiyle bağlıyor
    • Yeni DPX komutları, algoritma/rota optimizasyonu/genomikte kullanılan "dinamik programlamayı" hızlandırıyor. Önceki nesil GPU'ya göre 7 kat, CPU'ya göre 40 kat daha hızlı.
  • Dil modeli Megatron 530B'yi önceki nesle göre 30 kata kadar daha yüksek işleme kapasitesiyle destekliyor

İlgili okumalar