- Mark Zuckerberg, 2024 Q2 earnings call'da bundan bahsetti
- Llama 3 zaten en gelişmiş modellerle rekabet ediyor ve Llama 4'ün geliştirilmesine şimdiden başlandı
- Hedef, gelecek yıl sektörün en üst seviyesine ulaşmak
- Önümüzdeki birkaç yıl için gerekli bilgi işlem kümeleri ve veri planlaması yapılıyor
- Llama 4'ün eğitimi için gereken işlem gücünün, Llama 3'e kıyasla neredeyse 10 kat daha fazla olacağı öngörülüyor ve gelecekteki modellerde bu ihtiyaç artmaya devam edecek
- Bu eğilimin nasıl süreceğini tahmin etmek zor olsa da, şu anda yeni altyapı projelerini devreye almanın uzun hazırlık süreleri dikkate alındığında, çok geç kalmaktansa ihtiyaç ortaya çıkmadan önce kapasite oluşturmanın daha iyi olduğu düşünülüyor
- Şirket, bu yatırımları büyütürken genel operasyonel verimliliği korumayı sürdürecek
1 yorum
DL'de hesaplama kaynakları zaten ortalama olarak her 2 yılda bir 10 kat arttığı için, bunun çok da şaşılacak bir şey olmadığını düşünüyorum.