IBM CEO’su: Yapay zeka veri merkezi yatırımlarının kâra dönüş ihtimali yok
(businessinsider.com)- Küresel yapay zeka şirketlerinin veri merkezi yatırımındaki hızlı artış konusunda IBM CEO’su Arvind Krishna, kârlılık açısından güçlü bir şüphe dile getirdi
- O, güncel maliyetlerle 1 gigawatt’lık bir veri merkezi kurulumu için yaklaşık 80 milyar dolar gerektiğini ve büyük şirketlerin 20-30 gigawatt’a yöneldiğini söyledi
- Dünya genelinde yaklaşık 100 gigawatt ölçüsünde bir yapay zeka altyapı yatırımı yapıldığını ve toplam tutarın 8 trilyon dolara çıktığını hesaplıyor
- Krishna, AI çiplerinin 5 yıllık amortismanını ve yüksek sermaye maliyetlerini hesaba kattığında, yıllık 800 milyar dolarlık kârın gerektiğini ama bunun pratikte mümkün olmadığını değerlendiriyor
- Mevcut teknolojiyle AGI (genel yapay zeka) başarısı için olasılık oranını %0~1 olarak veriyor ve yalnızca LLM ile sınırları aşılamayacağını vurguluyor
Yapay zeka veri merkezi yatırımındaki artış ve kârlılık tartışması
- Başlıca yapay zeka şirketleri, AGI yarışında veri merkezlerine on milyarlarca dolar yatırım yapıyor
- Meta, yakın zamanda yaptığı gelir çağrısında “capacity” ve “AI altyapısı” ifadelerini sıkça kullandı
- Google, uzun vadede uzay tabanlı veri merkezleri kurma planını açıkladı
- Krishna, “bu tip yatırımların kâra dönüşünün neredeyse hiç olasılığı yok” dedi
- Kendi ifadesinde “bugünün hesaplarına göre” konuştuğunu ve gelecekteki maliyetlerin belirsiz kalacağını ekledi
Krishna’nın maliyet hesabı ve kârlılık analizi
- 1 gigawatt’lık bir veri merkezinin kurulumu için yaklaşık 80 milyar dolara ihtiyaç olduğunu açıkladı
- Bir şirketin 20-30 gigawatt hedeflemesi halinde 1,5 trilyon dolarlık bir capex oluşur
- Dünya genelinde yaklaşık 100 gigawatt’lık yatırım devam ederken toplamın 8 trilyon dolara ulaştığı belirtiliyor
- Bu ölçekte yalnızca faizleri karşılamak için yıllık 800 milyar dolarlık kâr gerekir
- Böyle bir kârı üretmenin bir yolunun olmadığını iddia ediyor
Amortisman ve yatırım riski
- AI çiplerinin 5 yıllık amortismanını ana bir risk olarak işaret etti
- “5 yıl sonra çipleri değiştirip yeniden doldurmanız gerekir” dedi
- Yatırımcı Michael Burry de Nvidia’nın amortisman sorununa dikkat çekerek AI hisselerinin düşüşünü tetikledi
- Krishna, bu amortisman yapısının ROI (yatırım getirisi oranı)’nı daha da kötüleştirdiğini öne sürüyor
AGI’nin gerçekleşebilirliğine dair şüphe
- Krishna, mevcut teknolojiyle AGI’ye ulaşılıp ulaşılamayacağına dair oranı %0~1 olarak veriyor
- “Ek bir teknik sıçrama olmadan bu mümkün değil” dedi
- Yalnızca LLM (büyük dil modeli) ile sınırlı olacağını, ‘hard knowledge’ ile birleşme gerektiğini önerdi
- OpenAI’nin Ilya Sutskever’i de “ölçekleme dönemi sona erdi” diyerek araştırma odaklı bir dönüşüm gereğine işaret etti
Sektördeki diğer şüpheci bakış açıları
- Marc Benioff, AGI hamlesini “hipnoz”a benzeterek şüpheci bir tavır sergiledi
- Andrew Ng, AGI’nin “abartıldığını” söyledi
- Mistral CEO’su Arthur Mensch ise AGI’yi “bir pazarlama stratejisi” olarak nitelendirdi
IBM CEO’sunun nihai değerlendirmesi
- Krishna, bugün kullanılan AI araçlarının kurumsal üretkenlikte trilyonlarca dolarlık değer yaratacağını düşünüyor
- Ancak AGI’ye ulaşmak için mevcut LLM yolunun ötesine geçen teknik bir ilerleme şartı bulunduğunu vurguluyor
- “Yine de olasılık ‘belki’ düzeyinde” diyerek temkinli duruşunu koruyor
7 yorum
Mevcut AI veri merkezi yatırımlarının ölçeği ve planlarının aşırı olduğu görüşüne katılıyorum; ancak planlar sonuçta sadece plandır ve teknolojinin gelişim hızı ile yönünü kimsenin öngöremediği bir durumda kesin yargılarda bulunmak risklidir, ayrıca CEO olarak iyi bir değerlendirme gibi de görünmüyor.
(Bir röportajda) SKT Başkanı Chey Tae-won’a yapay zekanın bir balon olup olmadığının sorulması ve verdiği yanıt etkileyiciydi
Dürüstmüş.
Harcanan paraya bakınca, verimlilik sağlanabilecek tüm alanlarda verimliliğin devreye gireceğini düşünüyorum.
[elektrik maliyeti, LLM parametre verimliliği, caching vb.] bunlar nihayetinde beklenenden daha az para harcanmasını sağlamaz mı diye düşünüyorum. Hıhım... yapay zekaya karşı karamsar duruşun (~~ kesinlikle olmaz) her zaman boşa çıktığını görüyoruz.
Sadece LLM’ye bakınca bile bana mucize gibi geliyor.
Rakamlar açısından bakınca gerçekten öyle ama...
Yine de LLM’ler ve veri merkezleri dışında ABD ekonomisini sırtlayabilecek başka ne var, emin değilim.
Benim düşündüğüme de neredeyse tamamen uyuyor... Bizim içinse mesele, bol bol bellek satabilmekten ibaret zaten.
Hacker News görüşleri
1958'de IBM'in xerography teknolojisini kaçırdığını, 10 yıl sonra minicomputer'ı küçümsediğini ve bir 10 yıl sonra da Apple II'yi hafife aldığını söyleyen Steve Jobs'tan alıntı yapılıyor
Şimdi IBM CEO'sunun “AI veri merkezi yatırımları kâr getirmez” dediğini görünce, IBM'in hâlâ geleceği okumakta zorlandığı düşünülüyor
İlgili kaynaklar: Steve Jobs 1983 Keynote, Xerox invention history
Sonrasında IBM PC (5150), ticari bileşenler kullanarak fiyatı düşürdü ve başarısının sırrı da buydu
IBM 5100 wiki
Apple II'nin de kurumsal pazarda etkisi sınırlıydı. Ayrıca bu, 50 yıl önceki bir hikâye; bugünkü AI yatırım getirisi (ROI) tartışmasından ayrı bir konu
IBM CEO'su “AI çipleri 5 yıl sonra çöpe atılmalı” dedi ama bu fazla kesin bir varsayım gibi görünüyor
Donanım 5 yıl sonra da kararlı şekilde çalışıyorsa, eski modelleri düşük fiyata çalıştırıp gelir elde etme alanı olabilir
Burry'nin tweet'i
Sonuçta 5 yıllık döngü yatırım kararları üzerinde büyük etki yaratacaktır
AI veri merkezi yatırımlarının tamamının hayata geçmesinin zor olduğunu düşünüyorum. Sadece elektrik talebi bile bir sınır oluşturuyor
Gartner, 2025'te dünya çapında AI harcamalarının 1,5 trilyon dolara ulaşacağını öngörüyor
Bunun, küresel GSYH'ye (2024 itibarıyla 111 trilyon dolar) kıyasla çok aşırı olmadığı düşünülüyor
AI yatırımlarının ömrü 6~8 yıl civarında tahmin ediliyor ve fazla karamsar olunmazsa bu makul bir ölçek
Gartner raporu
Dünya Bankası GSYH verisi
LLM servisleri temelde kısa yanıt modu (200 token altı) kullanır ve prompt caching ile küçük model routing uygularsa
enerji kullanımını %70'ten fazla azaltmanın mümkün olduğu düşünülüyor
ChatGPT ölçeğinde yıllık elektrik maliyeti 50 milyon ila 100 milyon dolar iken, bu yöntemle 5 ila 10 milyon dolara inebilir
AB veya Kaliforniya böyle modları zorunlu kılarsa, veri merkezi ekonomisinde de büyük değişim olabilir
10 yıl önce IBM, “Watson”ı öne çıkarıp “Cognitive Finance” gibi reklamlar yağdırıyordu ama bugün artık kimse bundan söz etmiyor
Acaba bugünkü AI patlamasına başkalarının liderlik etmesinden rahatsız mı oluyorlar diye düşündürüyor
Teknoloji demoları etkileyiciydi ama gerçek bir gelir modeli yoktu
Bizzat PoC hazırlayıp bunun işe yaramadığını kanıtlamak zorunda kaldığımı hatırlıyorum
Yine de pazardaki konumu düşünüldüğünde tamamen göz ardı edilecek bir görüş değil
IBM CEO'sunun dediği gibi, AI'ın kâr üretmesinin zor olduğu görüşünde haklılık payı var
NVIDIA ölçütüne göre 1GW seviyesinde güçle yılda 6.29×10^16 token üretmek mümkünken,
internet üzerindeki tüm metin 10^14 token düzeyindeyse, verinin kendisi bir sınıra dayanıyor olabilir
Bugünkü AI tartışmalarında üç tane korku faktörü var
IBM'in özel bir içgörüye sahip olmasından çok, bu korkuların bir kısmını yansıttığı düşünülüyor
AI altyapı yatırımlarının dot-com balonu dönemindeki aşırı fiber optik yatırımlarına benzediğini düşünüyorum
Uzun vadede değerli olabilir ama tek tek şirketler büyük ölçüde başarısız olabilir
GPU sayısından çok kullanım oranı ve gelir modeli daha önemli
IBM, tüketici donanımı, işletim sistemi ve cloud alanlarının hepsinde fırsat kaçırmış bir şirket
CEO'nun sözleri doğru olabilir ama bunu geleceği öngörme ölçütü olarak almak uygun değil