- Yeni yayımlanan bir makalede, Nvidia’dan daha hızlı ve daha verimli olduğu belirtildi
- Şu anda Nvidia yapay zeka pazarının %90’ını elinde tutuyor, ancak Google TPU’larını 2016’dan beri kendi bünyesinde geliştiriyor
- 2020’den bu yana 4000’den fazla TPU kullanıyor ve son 50 gündür bunları PaLM modeli için kullandı
- TPU v4, Nvidia A100’den 1,2 ila 1,7 kat daha hızlı ve 1,3 ila 1,9 kat daha az enerji tüketiyor
- Ancak Nvidia’nın en yeni H100 modeliyle karşılaştırılmış değil (MLPerf 3.0 benchmark’ına göre H100, A100’e kıyasla 4 kat performans sunuyor)
3 yorum
Açıklanan bir şey değil.
TPU v4 zaten 2021'de açıklanmıştı ve hatta bulutta genel kullanıma açıktı. 1
Bu haber ise, birkaç yıl boyunca işletildikten sonra derlenen bir retrospektif makalenin yayımlanmasıyla ilgili.
H100 karşılaştırması konusunda da yıl içinde buna karşılık verecek bir şeyi deploy edeceklerini söylemişlerdi.
Ah, biraz kafa karıştırıcı bir haberdi. hıçkırık
Haha, diğer haberlere bakınca sanki bunu yeni açıklamışlar gibi yazmışlar; kafa karıştırıcı olması normal.
Makaledeyse bunun tekrar tekrar retrospective bir makale olduğu belirtiliyor (galiba bu onların kültürü).