Cloud TPU v5e
- En uygun maliyetli, çok yönlü ve ölçeklenebilir Cloud TPU; Google Kubernetes Engine (GKE), Vertex AI, Pytorch, JAX, TensorFlow ve diğer başlıca framework'lerle entegrasyon sunuyor
- Cloud TPU v4'e kıyasla LLM'ler ve üretken yapay zeka modelleri için dolar başına eğitimde 2 kata kadar daha yüksek performans ve çıkarımda 2,5 kata kadar daha yüksek performans sunuyor
- Farklı LLM ve üretken yapay zeka model boyutlarına uygun yapılandırmalar seçilebilmesi için 8 farklı sanal makine (VM) yapılandırmasını destekliyor
- Multislice teknolojisi sayesinde kullanıcılar, fiziksel TPU pod sınırlarının ötesine geçerek yapay zeka modellerini on binlerce Cloud TPU v5e veya TPU v4 çipine ölçekleyebiliyor
A3 GPU VM
- NVIDIA'nın H100 Tensor Core GPU'sunu barındırıyor. Özellikle yüksek gereksinimli üretken yapay zeka iş yükleri ve LLM'leri eğitmek ve sunmak için özel olarak tasarlandı; gelecek ay genel kullanıma sunulması planlanıyor
- A3 VM'ler, önceki nesle kıyasla 3 kat daha hızlı eğitim ve 10 kat daha yüksek ağ bant genişliği sağlayarak büyük ölçek ve yüksek performans sunuyor
Henüz yorum yok.