Tesla'nın Project Dojo Genel Görünümü
(perspectives.mvdirona.com)<p>AWS Başkan Yardımcısı James Hamilton'ın yazısı<br />
- Dojo makine öğrenimi sistemi 3 açıdan ilgi çekici <br />
1. Büyük ölçekli ağ yapısı <br />
→ Her D1 çipi 16.000Gbps (4Tbps, 4 kanal) ağ bağlantısı sunuyor ve 25 çipli MCM'lerle (Multi-Chip Modules) birleştirilerek 36.000Gbps (4x 9Tb) bant genişliği sağlıyor<br />
2. Son derece düşük bellek / hesaplama oranı <br />
→ Her D1 çipinde 354 işlev birimi var; her birimde yalnızca 1,25 mega SRAM bulunuyor ve DRAM yok, bu nedenle tek bir D1 çipinde 1GB'ın yarısından bile az bellek var (442,5Mb)<br />
→ 5 rack'lik birimin ucuna büyük bir DRAM havuzu yerleştirilmiş ve hesaplama rack'inin kendisinde DRAM bulunmuyor<br />
→ Bu kadar az bellekle nasıl çalışabildiği düşünüldüğünde, bunun muhtemelen devasa ağ bant genişliği ile diğer tipik ML eğitim işlerine göre çok daha az bellek kullanan görsel modelleri çalıştırmak üzere tasarlanmış bir sistemin birleşimi olduğu anlaşılıyor<br />
3. Olağanüstü güç yoğunluğu <br />
→ Her D1 çipi yalnızca 400W tüketiyor; bu, bu boyut için son teknoloji düzeyinde beklenen bir değer, ancak bunlar oldukça yoğun bir 25 çipli MCM içinde birleştirilerek yalnızca 15kW (D1 için 10kW ve voltaj regülatörleri için 5kW) tüketecek şekilde tasarlanmış<br />
→ Bu da tamamen dolu 10 rack'lik bir Dojo eğitim sistemini 1,8 megavat yapıyor<br />
→ Ölçek açısından bakıldığında, orta büyüklükte bir veri merkezi 30~40 megavat aralığında çalışıyor olurdu<br />
<br />
- Küçük bir ayrıntı olsa da, VRD'yi (Voltage Regulator Down) doğrudan tile üzerine yerleştirmek, alışılmadık derecede yüksek 52V güç beslemesi sağlamak için iyi bir girişim gibi görünüyor. 15kW güç tüketimi hesaba katıldığında bile, 52V'ta hâlâ 288A çekiliyor<br />
- 354 işlev birimi, 645mm^2 boyutundaki tek bir D1 çipinde birleştirilmiş. 25 D1 çipi, training tile adı verilen bir multi-chip modül oluşturuyor; 12 training tile bir rack'i oluşturuyor ve 10 rack bir Exapod'u dolduruyor.<br />
- "Oldukça yenilikçi bir sistem"</p>
1 yorum