TPU'ya Geçiş: Yapay Zekaya Özel Çiplerin 10 Yıllık Tarihine Bakış

 (cloud.google.com)
8 puan yazan xguru 2024-08-06 | 2 yorum | WhatsApp'ta paylaş
  • Yaklaşık 10 yıl önce Google araştırmacıları, yapay zeka bilgi işlem talebinin o dönemdeki altyapı kapasitesini aşacağını öngördü
  • O dönemde bu talebi karşılayacak bir alternatifin piyasada olmadığını fark ederek, yeni bir çip türü olan TPU'yu (Tensor Processing Unit) geliştirmeye başladı

Tek ve belirli amaçlı çip

  • CPU bilgisayarın çok amaçlı "beyni" olarak görev yaparken, TPU yapay zeka için optimize edilmiş belirli amaçlı bir çiptir
  • TPU, yapay zeka modellerini oluşturmak ve çalıştırmak için gereken matris ve vektör tabanlı matematiksel işlemlere özel bir ASIC'dir (application-specific integrated circuit)
  • 2015'te kurum içinde dağıtılan TPU v1, Google genelinde anında büyük ilgi gördü; sonraki 10 yılda TPU performans ve verimlilik açısından sürekli gelişti

Yapay zeka inovasyonuna ayak uydurmak

  • TPU'nun evrimi, makine öğrenimi ve yapay zeka inovasyonuyla yakından bağlantılı oldu
  • TPU v1 çıkarıma odaklanmıştı, ancak kısa süre sonra model eğitimini daha verimli hale getirmek için TPU v2 eğitim süper bilgisayarı geliştirildi
  • Ardından TPU daha kısa aralıklarla piyasaya çıktı ve performans, verimlilik ve işleme kapasitesi açısından büyük sıçramalar yaptı
  • En yeni nesilde veri işleme hızı o kadar yüksek ki, çipler arası bağlantı kablolarının döşenmesine bile dikkat etmek gerekiyor

Sevgiyi paylaşmak

  • İlk dönemde yapay zeka modellerini geliştirmek ve çalıştırmak için daha iyi yöntemler arayan yalnızca Google değildi
  • 2018'in başında Google Cloud, müşterilerin kendi eğitim ve çıkarım iş yüklerini hızlandırabilmesi için birinci nesil Cloud TPU'yu piyasaya sürdü
  • Bugün Anthropic, Midjourney, Salesforce gibi tanınmış yapay zeka ekipleri Cloud TPU'yu yoğun biçimde kullanıyor
  • Tüm bu işlem gücü hâlâ yalnızca başlangıç
  • Gelecekte veri merkezi tasarımlarını TPU gereksinimlerine daha iyi uyacak şekilde değiştirmeyi planlıyor
  • Tek bir çipin ya da tek bir TPU podunun ötesine geçerek, TPU'larla dolu küresel bir veri merkezi ağı kuruyor
  • Gelecek, silikondan betona kadar her katmanda tam özelleştirmeden oluşacak (The future is full stack customization all the way, from silicon to concrete)

İlgili okumalar

2 yorum

 
ing03201 2024-08-06

TPU gerçekten de zamanının ötesinde bir öngörüydü
Bunu Google Pixel 2 XL'in tek kameralı işleme tarafında net biçimde göstermişti ve LLM çağında altın dönemini yaşıyor
O yüzden coral micro dev board için biraz güncelleme gelsin artık.... huhu
 
ganadist 2024-08-06

İlk Pixel modellerine dahil edilen (Visual Core olarak adlandırılan) görüntü işlemcisi, Intel’in Monette Hill platformu tabanlıdır.