Meta, geçen yıl tanıttığı kendi geliştirdiği yapay zeka çıkarım hızlandırıcısı MTIA’nın (Meta Training and Inference Accelerator) ilk sürümü v1’in yeni nesil versiyonu MTIAv2’yi duyurdu. MTIA, Meta’nın yapay zeka iş yükleri, özellikle de ürün genelinde çeşitli deneyimleri iyileştiren derin öğrenme tabanlı öneri modelleri için tasarlanmış bir çip. Yapay zeka iş yükleri Meta’nın ürün ve hizmetlerinde giderek daha önemli hale geldikçe, MTIA’nın verimliliğindeki artışın dünya genelindeki kullanıcılara en iyi deneyimi sunma kabiliyetini geliştirmesi bekleniyor.
Bu yeni nesil MTIAv2 çipinin, dört ana modelde birinci nesil çipe kıyasla performansı şimdiden 3 kat artırdığı görülüyor. Platform seviyesinde ise 2 kat daha fazla cihaz sayısı ve güçlü bir 2 soketli CPU sayesinde, birinci nesil MTIA sistemine göre 6 kat model sunum verimi ve 1,5 kat performans/watt artışı elde edildi. Ticari GPU’larla karşılaştırıldığında, Meta’ya özgü iş yükleri için en uygun performans ve verimliliği sağlamada MTIA’nın oldukça tamamlayıcı bir rol oynadığı kanıtlanıyor.
MTIAv2’nin başlıca özellikleri
MTIAv2’nin başlıca özellikleri şunlar:
- Önceki nesle göre hesaplama performansı ve bellek bant genişliği 2 kattan fazla artırıldı
- Sıralama ve öneri modellerini verimli biçimde işlemek üzere tasarlandı
- 8x8 ızgara yapısında işlem öğelerinden (PE) oluşuyor; yoğun hesaplama performansı 3,5 kat, seyrek hesaplama performansı 7 kat iyileştirildi
- Yerel PE depolaması 3 kat, çip üzeri SRAM 2 kat ve bant genişliği 3,5 kat artırıldı; LPDDR5 kapasitesi 2 katına çıkarıldı
- Geliştirilmiş NoC (Network on Chip) mimarisiyle bant genişliği 2 kat artırıldı ve daha düşük gecikmeyle PE’ler arası koordinasyon sağlanabiliyor
⚠️Reklam⚠️ PyTorch Korece topluluğunda aynı yazıyı görüntüleyin
Henüz yorum yok.