MTIA v1: Meta'nın 1. nesil yapay zeka çıkarım hızlandırıcısı
(ai.facebook.com)- GPU'lar, Meta'nın DLRM'ini (derin öğrenme tabanlı öneri modeli) çalıştırmak için optimal değil
- Bu yüzden öneri sistemlerine uygun bir Meta Training and Inference Accelerator (MTIA) ASIC'i geliştirildi
- Yeni nesil öneri modellerinin gereksinimleri göz önünde bulundurularak birlikte tasarlandı ve PyTorch'a entegre edilerek tamamen optimize edilmiş bir sıralama sistemi kuruldu
- TSMC 7nm üretim süreci, 800Mhz, INT8'de 102.4 TOPS, FP16'da 51.2 TFLOPS, 25W
Henüz yorum yok.