OpenAI ve NVIDIA, 10 GW ölçeğinde NVIDIA sistemleri kurmak için stratejik ortaklık açıkladı

• OpenAI, NVIDIA sistemleri temelinde en az 10 GW ölçeğinde bir yapay zeka veri merkezi kurarak yeni nesil yapay zeka altyapısı oluşturma planını duyurdu
• Bu süreçte NVIDIA, her gigawatt ölçeğindeki dağıtım için kademeli olarak 100 milyar dolara kadar yatırım taahhüt etti
• İlk 1 GW ölçekli sistemin 2026'nın ikinci yarısında Vera Rubin platformunda devreye alınması planlanıyor
• Bu iş birliği, OpenAI ve NVIDIA'nın donanım-yazılım ortak optimizasyonunu içeriyor ve Microsoft·Oracle·SoftBank·Stargate ortaklarıyla mevcut çalışmaları da tamamlıyor
• OpenAI'nin haftalık 700 milyondan fazla kullanıcısı ve küresel iş dünyasındaki benimsenmesiyle birlikte AGI'ye doğru ilerleyişinde bunun önemli bir sıçrama tahtası olması bekleniyor

---

Ortaklığa genel bakış

• OpenAI ve NVIDIA, en az 10 GW ölçeğinde sistem konuşlandırmak için stratejik ortaklık niyet mektubu (LOI) açıkladı
  • Amaç, OpenAI'nin yeni nesil modellerini eğitmek ve çalıştırmak için gerekli altyapıyı güvence altına almak
  • Bu adım, süperzekaya doğru kademeli ilerleyişin bir parçası olarak tanıtıldı
• NVIDIA, veri merkezi ve güç kapasitesi genişlemesini içeren dağıtım sürecine paralel şekilde 100 milyar dolara kadar yatırım planını duyurdu
• İlk aşama, 2026'nın ikinci yarısında NVIDIA Vera Rubin platformunda çevrimiçi olacak

Öne çıkan açıklamalar

• Jensen Huang (NVIDIA CEO'su)
  • OpenAI ile 10 yıllık iş birliği geçmişine değinerek ChatGPT atılımına uzanan yolculuğu vurguladı
  • “10 GW altyapı konuşlandırması, zekanın yeni nesil çağını açacak bir sıçrama” dedi
• Sam Altman (OpenAI CEO'su)
  • “Her şey compute ile başlar” diyerek bunun gelecekte ekonominin temeli olacağını vurguladı
  • NVIDIA ile birlikte yeni yapay zeka atılımlarını ve insanlık ile iş dünyası için geniş ölçekli kullanımları ilerlettiklerini söyledi
• Greg Brockman (OpenAI Başkanı)
  • NVIDIA platformu üzerinde yüz milyonlarca kişinin kullandığı yapay zekayı inşa ettiklerini belirtti
  • 10 GW'lık konuşlandırmayla zekanın sınırlarını genişletmeyi ve teknolojinin faydalarını yaygınlaştırmayı beklediklerini açıkladı

İş birliğinin kapsamı

• NVIDIA, OpenAI'nin stratejik compute ve networking ortağı olarak belirlendi
• İki şirket, OpenAI'nin model ve altyapı yazılımları ile NVIDIA'nın donanım ve yazılımlarını ortaklaşa optimize etme konusunda anlaştı
• Microsoft, Oracle, SoftBank, Stargate gibi mevcut iş birliği ağıyla sinerjinin artırılması planlanıyor

OpenAI'nin mevcut durumu ve anlamı

• OpenAI şu anda haftalık 700 milyondan fazla aktif kullanıcıya ulaşmış durumda ve küresel şirketler, KOBİ'ler ve geliştiriciler arasında yaygın biçimde benimseniyor
• Bu ortaklık, tüm insanlığa fayda sağlayacak AGI geliştirme misyonunu hızlandıracak bir temel olarak değerlendiriliyor
• Önümüzdeki birkaç hafta içinde ortaklığın ayrıntılı şartlarının netleştirilmesi planlanıyor

[GN⁺]

Hacker News görüşleri

• Gigawatt ölçeğinde ifade edilmesi oldukça ilginç. Son 3 yılda veri merkezleri nedeniyle yapay zeka büyümesinin haneler ve küçük işletmeler için elektrik faturalarını hızla artırdığı tartışması vardı. Eğer 10GW, Chicago ile New York’un birlikte kullandığı miktara eşitse, ABD elektrik şebekesinin ve altyapısının berbat durumda olduğu gerçeği ortadayken bu elektriğin nereden sağlanacağı ciddi biçimde tartışılmalı. Zaten veri merkezlerine ucuz elektrik sağlamak için maliyet hanelere yıkıldı; bu eşitsizlik de sorun. ABD’de konut elektriğinin 5 yılda kWh başına 13 centten 19 cente çıkıp %46 artmış olması ne adil ne de sürdürülebilir. Merak ettiğim şu: Bu 10GW gerçekten nereden gelecek ve bunun bedelini kim ödeyecek? Bu arada veri merkezi ölçeğinden söz ederken genelde güç (watt) üzerinden konuşulur, ama bu kez sayı Nvidia gibi saf veri merkezi sahibi ya da işletmecisinden değil, bir hesaplama tedarikçisinden geliyor. Bu da güç tüketimi, şebeke genişlemesi ve maliyet yükünün asıl mesele olduğunu gösteriyor
  • Veri merkezi sektöründe çalışıyorum. Veri merkezi ölçeğini güç tüketimiyle (ör. 200MW) ifade etmek standarttır. Hesaplama donanımı 5 yılda bir yükseltilebilir ama güç gereksinimi neredeyse sabittir. Sonuçta bu birim, yapay zekanın aslında enerjiyi rafine etme işi olduğunu iyi gösteriyor
  • “Adil de değil sürdürülebilir de değil” iddiasına karşılık, ABD’de elektrik fiyatı İtalya’nın yarısı. Dünyanın en zengin ülkesi olan ABD’nin bunun üstesinden gelemeyeceğini sanmıyorum
  • Veri merkezi altyapısı her zaman watt bazında tahsis edilir. IT yükü, soğutma ve diğer tüm hesaplar bu sayıdan türetilir
  • Kamu hizmeti şirketleri zam isterken düzenleyici kurumlara mutlaka gerekçe sunmak zorunda. Maliyet artışının ana sebebi yenilenebilir enerjiye geçiş. Büyük veri merkezlerinin ihtiyaç duydukları maliyeti doğrudan üstlenmesini sağlamak zor değil. Asıl daha karmaşık mesele elektriğin kendisini üretmek. Eskiden Columbia Nehri hidroelektriğinden ucuza güç çekilebiliyordu ama artık konut kullanımıyla doğrudan rekabet etmeye başladı. Yine de üretim maliyeti toplam faturanın çok küçük bir kısmı
  • Yıllık %8 artış büyük ama 2022’de küresel bir yakıt şoku yaşandığını da hesaba katmak gerekir. Örneğin Avustralya’da o yıl elektrik faturaları ikiye katlandı. Ortalama olarak uzun vadede artış oranı yıllık yaklaşık %6 ve bu da ücret artışı olan %4’ün biraz üstünde. Elektrik faturası hâlâ hane gelirinin küçük bir kısmı. Etkinin çoğunu ücret artışları emiyor. Elbette düşük gelirli kesim için darbe olabilir ama çoğunluk için büyük bir sarsıntı değil
• “landmark strategic partnership” hakkındaki basın bültenindeki tüm ifadeler fazla muğlak ve tipik şirket tanıtım dili. Gerçekte “bir gün harika bir şey yapacağız” düzeyinde bir duyuru gibi görünüyor
  • Nvidia hissesi bugün 6 dolar yükseldi, yani duyurunun etkisi gayet işe yaramış. Fiilen yatırımcılara “çok büyük bir şey yapacağız, biraz daha para verin” diye fatura kesmiş oldular ve pek çok yatırımcı da buna tepki vermiş gibi görünüyor
• Nvidia sistemlerinin gigawatt ölçeğinin somut olarak ne anlama geldiğini merak ediyorum. Kendi tahminim ve GPT yardımıyla yaptığım hesap neredeyse 10 milyon cihaza yaklaşabileceğini gösteriyor. Gerçekten inanılmaz bir ölçek gibi duruyor
  • Bu büyüklük gerçekten akıl almaz derecede büyük. Sistem seviyesinde bir H100 yaklaşık 1~2kW çektiği için, 2kW varsayımıyla yaklaşık 5 milyon adet ediyor. Örneğin NVL72 rafı 72 çipte 120kW, soğutma dâhil toplamda çip başına 2kW civarı
  • “Milyonlarca adet” demek yanlış olmaz. Gerçek sayı altyapı ortamına göre değişir ve pratikte hızlandırıcılar toplam gücün yalnızca bir kısmını oluşturur, ama ölçek kesinlikle milyonlar seviyesinde
  • Yorumları görmeden önce hızlı bir hesap yaptım; GPU başına 600W dersek 10,000,000,000/600 = 16,6 milyon çıkıyor. Çeşitli etkenleri düşününce gerçekte oldukça farklı olabilir ama kaba bir başlangıç noktası. Overhead, ısı ve dönüşüm verimi buna dâhil değil
  • 1000 GPU başına 3MW kabul edilirse 10GW kabaca 3,33 milyon adet yapar
  • Bütün bu GPU’ları bağlamak için ne türde ve ne uzunlukta kablo gerekeceğini de merak ediyorum. Ben sadece metal rafa takılıyor sanıyordum ama gerçek veri merkezi fotoğraflarında sayısız mavi kablo bağlı görünüyor
• Bence LLM (büyük dil modeli) teknolojisi zaten zirveyi geçti. Artık biraz elektrikli ısıtıcı reklamı gibi; sanki büyük ilerleme varmış gibi sunuluyor ama gerçekte teknoloji durmuş durumda. Sadece daha hızlı atlar yapılıyor. Piyasanın bu durumu daha rasyonel biçimde dizginlemesi gerekirdi
  • Yapay zeka balonunun bir gün gösterişli biçimde patlama ihtimali elbette var. Ama LLM’lerin şu an tepe noktada olduğunu söylemek, 99~01 döneminde internetin de zirve yaptığını söylemeye benziyor. Oysa sonrasında akıllı telefon gibi pek çok yenilik daha geldi ve metin tabanlı LLM’ler de henüz tıkanmış değil. Yapay zeka sadece metinden ibaret değil; otonom araçlar gibi gerçek dünya yapay zekası da üstel biçimde ilerliyor
  • Dot-com balonunda da aşırı ısınmanın ardından büyük bir çöküş yaşandı ve o dönemi atlatan Amazon gibi şirketler devleşti. Umarım bu yapay zeka patlaması da geride anlamlı kazanımlar bırakır
  • Yakında bir piyasa düzeltmesi geleceğini düşünüyorum. Ama internet dot-com çöküşünden sonra da nasıl değerini koruduysa, bunun da uzun vadede değer bırakacağını umuyorum
  • Artık tüm olumlu beklentilerin zaten fiyata yansımış olması anlamında “fazla ileri gittiğini” düşünen bir bakış bu
• Su, birçok bölgede kıt olan temel bir kaynak. Veri merkezlerinin kuraklıkta suyu emip tükettiğine dair çok örnek görüldü. ABD EPA’sının (Çevre Koruma Ajansı) bu tür projelerin su kullanımını yönetme konusunda hâlâ söz söyleyip söyleyemeyeceğini merak ediyorum
  • Ortabatı yeraltı suyu daha çok etanol üretiminde, Kaliforniya’da ise badem tarımında kullanılıyor. Bu iki sektörün su kaynakları üzerindeki etkisi çok daha büyük ve veri merkezlerine göre toplumsal faydaları da daha düşük. Keşke asıl ciddi meselelere daha çok odaklanılsa
  • Veri merkezlerinin su meselesi medyanın anlattığı kadar önemli değil. Bazı bölgelerde yerel sorunlar olabilir ama asıl mesele daha çok elektrik
  • Veri merkezlerinin su tüketimi gerçekten büyük bir tüketim mi, yoksa aslında çevrimli soğutma sistemiyle sadece pompalayıp dolaştırma düzeyinde mi kalıyor diye merak ediyorum
• Bu devasa tesislerin elektrik talebinden neredeyse kimse söz etmiyor. New Jersey’de PSEG üzerinden ödediğim elektrik faturası da %50’den fazla arttı. Talebin veri merkezleri yüzünden patladığı söylenirken, veri merkezlerine daha yüksek tarife uygulanmıyor olması ayrı bir gerçek ilgili haber
  • Bu tür zamlar, New Jersey’de tüketiciyi hiçe sayan siyasi düzenin bir örneği. Veri merkezleri sonuçta rekabetçi elektrik fiyatı olan bölgelere yığılacaktır
  • Buna göz yuman eyalet yönetimi oldu. İsteseler kolayca reddedebilirlerdi ama izin verdiler
• Google yılda 15TWh kullanıyor (yaklaşık 1,7GW); OpenAI ile Nvidia’nın yeni planı ise bunun 5,8 katı (5,8 Google) kadar güç tüketecek. Ölçek bu düzeydeyse, mevcut GPU’larla kıyaslandığında ultra düşük güç tüketimli yapay zeka işlem çipleri için muazzam bir fırsat oluşacaktır. Zaten çeşitli teknik denemeler var, umut verici
  • Ultra düşük güç tüketimli yapay zeka çiplerine somut örnekler merak ediyorum. Gerçek güç tasarrufunun ne kadar olduğuna dair sayılar görmek isterim
  • Bu tek veri merkezi bile başlıca kripto paraların %51 saldırısını yapabilecek hesaplama gücünü toplayabilir. Yapay zeka piyasası balonun sonunda sönerse ilginç bir sigorta olabilir
• Sessizce sadece Ed Zitron’un konu analizi yazısını bekliyorum
  • Yönetici çıktıyla performans ölçemediğinde, girdiye göre ölçmeye başlar ve verim düşer. Çalışanları ofise geri çağırmak da bunun uzantısı. Artık OpenAI ve Nvidia için gerçek yapay zeka çıktılarından çok, içeri sokulan gigawatt miktarı başarı ölçütü olmuş gibi
  • Ed Zitron’un kendi yazısı
  • Ed Zitron’un karamsar öngörülerinden biri yüzünden büyük kayıp yaşayanlar da çok oldu
• Bu veri merkezi için Monaco büyüklüğünde (740 acre) arazi gerektiği varsayımı var. Hesap 80kW/rack üzerinden yapılmış
  • Monaco çok küçük; Berlin şehir içindeki Tempelhofer Parkı’na sığacak kadar
  • Aslında bunu kabaca tek bir BYD fabrikası ölçeği diye anlatmak da mümkün
  • Monaco 2 kilometrekare. Raf başına 1 metrekare denirse gerçek ihtiyaç 12 hektar, yani yaklaşık 17 futbol sahası eder (tek kat kurulum varsayımıyla). Veri merkezleri dikey olarak da istiflenebilir diye düşünüyorum. Acaba Monaco’nun alanını açıp bakan tek kişi ben miyim? Monaco Vikipedi alan hesabı
  • ABD’nin tamamına 4,8 milyon Monaco sığdırabilirsiniz
• 1960’larda ABD Deniz Kuvvetleri denizaltılarındaki reaktör 78MW idi; dolayısıyla 10GW, nükleer reaktörlü 128 denizaltıya denk geliyor
  • Daha kolay bir karşılaştırma: Bu, ABD’nin ortalama elektrik tüketiminin %2’si ve 18 milyon nüfuslu Hollanda’nın tamamına yakın bir ölçek
  • Bir nükleer santral genelde en fazla 2GW, açık deniz rüzgar çiftlikleri de 1,5GW sınırına yakın. Büyük ölçekli 525kV DC iletim sistemlerinde bile tek kablo hattı başına 2GW üst sınır sayılır. Sırf 10GW ek yük bile şebekede devasa sarsıntı yaratır ve büyük ölçekli altyapı yatırımı gerektirir. Büyük şirketlerden 525kV kablo isteseniz bile teslimatı ancak 2030 sonrasına kalır
  • Öte yandan insan beyni yaklaşık 20W tüketiyorsa, 10GW 500 milyon insan beynine eşdeğer demektir. Sinek gibi böceklerin bile çok küçük enerjiyle bilgi işlediğini düşünürsek, LLM gibi bugünkü yapay zeka tamamen verimsiz bir yönde ilerliyor olabilir. Bir gün bunu tersine çevirecek verimli bir yöntem çıkarsa bugünkü tesisler değersizleşebilir, gülücük
  • Son derece güvenli 10 adet 1GW’lık РБМК reaktörü = 10GW (patlama riski yok)
  • Bir santral yaklaşık 1GW üretir ve nükleer santral inşası yavaş olduğu için en olası seçenek yine doğal gaz santralleri gibi görünüyor