YaLM 100B - 100 milyar parametreli GPT benzeri dil modeli
(github.com/yandex)- Yandex tarafından yayımlandı; geliştiriciler ve araştırmacılar tarafından herkes ücretsiz olarak kullanabilir
- İngilizce ve Rusça 1,7 TB metin, 800 adet A100 GPU üzerinde 65 gün boyunca eğitildi
- Microsoft'un Megatron-LM kod tabanı üzerine kurulu
Henüz yorum yok.