Google, AI prompt'larının tükettiği enerji kullanımını ilk kez açıkladı
(technologyreview.com)- Google, kendi Gemini uygulamasının prompt işleme sırasında tükettiği elektrik, su ve karbon emisyonlarını açıklayarak yapay zeka enerji kullanımı konusunda ilk somut verileri sundu
- Ortalama bir metin prompt'u 0,24 Wh elektrik tüketiyor; bu da mikrodalganın 1 saniye çalışmasına benziyor ve 0,26 ml su ile 0,03 g karbondioksit üretiyor
- Bu rakamlar, AI çipleri (%58), CPU ve bellek (%25), yedek ekipman (%10), veri merkezi operasyonları (%8) dahil tüm altyapıyı kapsayan kapsamlı bir analizin sonucu
- 2024 Mayıs'a kıyasla 2025 Mayıs'ta enerji verimliliği 33 kat iyileşti; Google bunu yazılım optimizasyonu ve model geliştirmelerine bağlıyor
- Bu açıklama, büyük AI şirketlerinde şeffaflığın artması açısından önemli olsa da toplam sorgu sayısı gibi temel bilgiler hâlâ paylaşılmadığı için standartlaştırılmış bir AI enerji değerlendirme sistemine ihtiyaç olduğu gündeme geliyor
Google'ın Gemini prompt enerji kullanımını açıklaması
- Google, Gemini modelinin metin prompt'larını işlerken tükettiği elektrik, karbon emisyonu ve su kullanımını açıklayan ilk büyük yapay zeka şirketi oldu
- Ortalama 1 prompt 0,24 Wh elektrik, 0,26 ml su ve 0,03 g CO₂ üretiyor; bu da mikrodalganın 1 saniye çalışması ya da beş damla su düzeyine benziyor
- Bu duyuru, MIT Technology Review ile yapılan bir röportaj üzerinden ayrıntılı veriler ve hesaplama yöntemleriyle açıklandı
Enerji kullanımının ayrıntılı yapısı
- Toplam elektrik tüketiminin %58'i AI çiplerinden (TPU), %25'i CPU ve bellekten, %10'u yedek ekipmandan, %8'i veri merkezi operasyonlarından (soğutma ve güç dönüşümü) geliyor
- Google, analizi donanımın yer aldığı tüm altyapıyı kapsayan bütüncül bir yöntemle yaptığını belirtiyor
- Bu, araştırmacıların erişmekte zorlandığı iç verilerin paylaşılması anlamına geldiği için sektörel araştırmaya katkı olarak değerlendiriliyor
Prompt'lara göre farklar ve sınırlamalar
- Açıklanan değerler medyan olduğundan bazı sorgular çok daha fazla enerji tüketebiliyor
- Örneğin: onlarca kitabı özetlemek veya reasoning modeli kullanan karmaşık hesaplamalar
- Bu rapor yalnızca metin prompt'larını kapsıyor; görüntü ve video üretimi dahil edilmedi
- Bu nedenle, Gemini kullanımının tamamındaki gerçek toplam tüketimi anlamak için hâlâ önemli sınırlamalar bulunuyor
Verimlilik artışı ve karbon emisyonu tahmini
- Google, 2024 Mayıs'a kıyasla 2025 Mayıs'ta prompt başına enerji tüketiminin 33 kat azaldığını açıkladı
- Bunun, model mimarisindeki geliştirmeler ve yazılım optimizasyonunun sonucu olduğu belirtiliyor
- Emisyon tahmininde ABD elektrik şebekesi ortalaması yerine, Google'ın satın aldığı temiz enerji payını yansıtan piyasa bazlı yöntem kullanıldı; bu nedenle değerler genel şebekeye kıyasla yaklaşık üçte bir seviyesinde hesaplandı
Araştırmacıların ve sektörün tepkisi
- University of Michigan'daki ML.Energy projesi yetkilileri bu açıklamayı en kapsamlı ve en önemli analiz olarak değerlendirdi
- Hugging Face araştırmacıları, standartlaştırılmış bir AI enerji derecelendirme sistemi gerekliliğini vurgulayarak şu an şirketlerin verileri seçici biçimde paylaştığını belirtti
- Bu rapor, AI kullanımının gerçek kaynak tüketimine dair anlayışı genişletse de toplam sorgu sayısı gibi temel verilerin eksikliği hâlâ büyük bir sınırlama olarak duruyor
1 yorum
Hacker News görüşü
Orijinal haberde ilgili basın bülteni ve rapor bağlantılarını bulamadığım için kendim ekliyorum
Elektrik altyapısının aşırı yüklenmesiyle ilgili haberlere bakınca, teknoloji şirketlerini çevre için zararlı gösteren bir tür “dog whistle” stratejisi gibi geliyor
Su kullanımı ve elektrik kullanımı eleştiriliyor ama konu aşırı kışkırtıcı biçimde öne çıkarılıyor
The Dalles veri merkezinin su tüketiminin eleştirilmesi bunun tipik bir örneği
Bu binalar Columbia Nehri kıyısında ve yakınlarında ortalama 700 megawatt üreten The Dalles Barajı var
Nehir suyunu soğutma için kullanıp sıcaklığını biraz artırarak tekrar nehre veriyorlar
Su yokuş aşağı akarken taşıyacağı ısıyı geri vermiş oluyorsun, yani tamamen israf edilmiyor
İlgili haber, The Dalles Barajı bilgisi
Google’ın resmi teknik rapor PDF’ine buradan ulaşılabiliyor
Neden ortalama yerine medyan prompt enerji tüketimini açıkladıklarını merak ediyorum
Ortalama, gerçek ortalama tüketimi daha sezgisel biçimde gösterirdi
EV konusunda, 2030’a kadar elektrikli araçların baskın hale geleceği beklentisi gerçekçi değildi
Ne batarya üretiminin ölçeklenmesi ne de altyapı buna hazırdı
Veri merkezlerinde bazen belirli küçük bir bölgede birden çok büyük miktarda elektrik ihtiyacı doğuyor
Elektrikli araçlar, ısı pompaları gibi diğer kalemler ise kademeli devreye girdiği için yıllık küçük kapasite artışlarıyla karşılanabiliyor
Veri merkezlerini dağıtmak zor olduğundan altyapı yükü daha büyük
Yakın zamanda Gen Z’den insanların AI’ın suyu “yok ettiğini” söylediğini duyunca şaşırdım
Veri merkezlerinde çalıştığım için soğutmada su kullanıldığını biliyordum ama suyun büyük ölçekte yok edildiği gibi bir izlenim hiç edinmemiştim
GenAI ve su konusunda düşündüğümden daha derin bir algı var
“AI yüzünden gelecekte kuraklık cehenneminde yaşayacağız” gibi şeyler söyleyenler bile oldu
Ben açıkçası tek bir TikTok videosunun enerji tüketiminin ne kadar olduğunu daha çok merak ediyorum ama sanırım böyle bir karşılaştırma farklı bir tartışma
Suyun gerçekte hangi süreç üzerinden kaybolduğu, su buharına mı dönüştüğü diye sorduğumda, birçok insanın sadece buharlaşınca “sonsuzca yok oldu” diye düşünmesi bana garip geliyor
Su molekülleri “yok edilmiyor” ama faydalı biçimde kullanılabildiği yerden tamamen kaybolduğu çok oluyor
Aral Gölü, tarımsal sulama yüzünden yok olmasının en bilinen örneği
YouTube videosu
Su kıtlığı son derece yerel bir sorun
Örneğin Arizona’da veri merkezi işletirsen gerçekten su problemi yaşayabilirsin ama atık su geri dönüşümü gibi yöntemlerle hafifletilebilir
Palo Verde santrali de ısı değiştiricilerinde atık su kullanıyor
Bana da yakın zamanda AI’ın su tüketimi soruldu ve şaşırdım
Kısa bir aramayla veri merkezlerinin düşündüğümden epey fazla su tükettiğini gördüm. Elektrik başına 1kWh için yaklaşık 1 litre
Hyperscaler’ların bu rakamdan daha iyi performans gösterdiğini ve net positive hedeflediğini duydum ama bu değerin tamamen uydurma olduğunu gösteren neredeyse hiç veri yok
“1 litre/kWh” sezgisel gelmeyebilir ama büyük bir veri merkezi için bu 278L/s eder. Duş başlığı debisi 0.16L/s, Kaliforniya’daki tüm badem endüstrisi ise yıllık ortalamada 200 bin L/s civarında
4 mil karelik badem çiftliğine karşılık gelen bir seviye ama pratikte o kadar uç gelmiyor ve hyperscaler verilerinin daha iyi olmasını beklerim
Veri merkezleri evaporatif soğutma kullanıyor
Yani suyu sadece ısıtıp geri vermiyorlar, atmosfer üzerinden tamamen buharlaştırıyorlar
(Su molekülleri kalıyor ama atmosferdeki su buharı yeniden kullanımı zor bir form)
AI’ın suyu yok ettiği iddiası önce NIMBY (arka bahçemde olmasın) söyleminden çıktı, sonra da güçlü antikapitalist eğilimleri olan bazı Gen Z grupları tarafından AI karşıtı argümana dönüştürüldü
2011’de Google, arama başına 0.3Wh harcadığını açıklamıştı; bu yılın başlarında Sam Altman da OpenAI sorgularının ortalama 0.3Wh olduğunu söyledi
İki sayının bu kadar benzer olması şaşırtıcı
LLM sorgularının basit Google aramalarından daha enerji yoğun olacağını düşünürdüm ama Google aramasının da başlı başına devasa bir altyapı olduğu anlaşılıyor
Örneğin sadece kelime anlamı gibi basit bir soru soruyorsan, iPhone üzerinde çalışan küçük bir LLM 0.03Wh ile yetebilir; bu da Google aramasından 10 kat daha düşük
(A16 çipinin 20 saniye boyunca 5 watt çalıştığı varsayılırsa 0.03Wh)
Burada merak ettiğim şey, eğitim maliyetlerinin (özellikle başarısız training run’ların) bu tür tahminlere dahil edilip edilmediği
Google resmi blog yazısı
14 yıldaki enerji verimliliği gelişmelerinin de etkisinin büyük olduğunu not edeyim
2008 civarında aramanın çekirdek süreci tüm belgeleri grep etmek gibiydi
Belgeler dağıtık biçimde RAM’de tutuluyor ve grep 1000 makineye yayılıyordu
Inverted index, “kelime sırasının önemli olduğu sorgular” için uygun olmadığından pek kullanılmıyordu
Sıralama süreci vb. ise daha da karmaşıktı
0.3Wh, 1080 joule eder. 1 litre benzinde 30 milyondan fazla joule var; yani pratikte 0.034 mililitre benzine eşdeğer
Tabii elektrik, içten yanmalı motorlardan çok daha verimli
Yerel LLM’ime sorgu girdiğimde ofis ışıkları titriyor ve sanki fırını 1 saniye çalıştırmaktan bile fazla enerji gidiyormuş gibi geliyor
2008 civarında Google’ın zaten derin öğrenme tabanlı arama kullanıp kullanmadığını merak ediyorum
Özellikler geldikçe sorgu başına güç tüketimi değişmiş olmalı
Tüm raporda hangi promptun “medyan” olduğunun açıklanmaması hayal kırıklığı yaratıyor
Promptların token sayısı, uzunluk dağılımı nasıl; yıllar arasında aynı kalabilir mi, bunları da merak ediyorum
Böyle bilgiler olmadan yalnızca medyanın verilmesi pratikte çok anlamlı değil
Ortalama verilseydi en azından sorgu sayısıyla çarpıp toplam tüketim tahmini yapılabilirdi
Sam Altman da yakın zamanda blogunda ChatGPT’nin ortalama sorgu başına elektrik tüketimini açıkladı
ChatGPT’de sorgu başına ortalama 0.34Wh, yani fırının 1.5 saniye çalışması ve yüksek verimli bir ampulün birkaç dakikalık kullanımı kadar
Su tüketimi ise sorgu başına 0.000085 galon (çay kaşığının 15’te 1’i)
Altman blogu
Bence gerçekten önemli olan şey inference değil; training, fine-tuning ve veri kazıma
“Promptlar çevreyi yok ediyor” söylemi bana fazla sansasyonel geliyor
Giderek daha iyi fact-check yapılması sevindirici
Ama gerçekçi olmak gerekirse yeni veri merkezlerinin iletim-dağıtım şebekesi üzerindeki etkisi de göz ardı edilemeyecek düzeyde
Eğer teknoloji özünde enerji açısından bu kadar verimliyse, büyük şirketlerin bugün özel nükleer santrallere yatırım yapması ya da enerji için rekabete girmesi gerekmezdi
Hedef çıtasını doğru koymak için yalnızca toplam su ve enerji tüketimine değil, o bölgedeki su ve enerji kaynaklarının yeterli olup olmadığına göre göreli değerlendirme yapmak gerekir
Google veri merkezlerinin toplam su kullanımını resmi olarak raporluyor
2024 itibarıyla yaklaşık 10 milyar galon (ABD toplam kullanımının %0.03’ü civarı; tüm veri merkezlerinin ABD’de olmadığını da düşünürsek)
Rakam kendi başına korkunç görünmeyebilir ama yalnızca Council Bluffs, IA’da 1 milyar galondan fazla ve bu tür yerlerde ekosistemin bunu kaldırıp kaldıramadığını, sorumlu biçimde yönetilip yönetilmediğini kontrol etmek gerekiyor
Google, “su tükenmesi veya kıtlık riski orta ya da daha yüksek olan bölgelerde” kullanımın %28 olduğunu kabul ediyor
Google 2025 çevre raporu
Sadece bir web sitesini ziyaret ederken bile istemeden promptların sunucuya gönderildiği oluyor
Hizmet büyük ölçekte ve ucuza sunuldukça, gereğinden fazla kullanılma eğilimi olması can sıkıcı
Enerji tüketimi gerçekten temelde düşük olsaydı, bu kadar yeni veri merkezi ve enerji altyapısı rekabeti olmazdı argümanına katılmıyorum
ABD elektrik şebekesinde uzun süredir fazladan boş kapasite yok
Bunun nedeni enerji verimliliğindeki gelişmeler ve sanayideki durgunluk
Sorun veri merkezlerinden çok elektrik dağıtım altyapısı
Üretim yapılabiliyor ama gerekli yerlere dağıtımda büyük sıkıntılar var
Özel elektrik santrali tartışmalarının da üretimden çok dağıtımla ilgisi var
Medyan promptun 0.24Wh olduğunu varsayarsak, bu yaklaşık olarak
kadar enerji demek
Eğer hesabım doğruysa, 1kWh ile yaklaşık 4 bin sorgu mümkün
Sanayi tipi elektrik fiyatını $0.04/kWh alırsak, $1 ile 100 bin sorgu yapılabilir
Veri merkezi kurulum maliyetleri vb. düşünülünce, aylık $20 abonelik bana da aşırı pahalı gelmiyor
Hesabı doğru mu yapıyorum?
Evet, hesabın doğru
AI enerji / su kötümserliğinin temel hatası şu: elektrik, su ve arazi sonuçta maliyete dönüşüyor ama AI hizmetleri bedavaya yakın sunuluyor
Eğer AI gerçekten tüm elektriği ve suyu yutuyor olsaydı, şirketler buna zararına katlanıp hizmeti sürdüremezdi
Ama training maliyetlerini ayrı düşünmek gerekmiyor mu?
Üçüncü taraf haberleri atlamak isterseniz,
Google blog yazısı ve
resmi makale PDF’i incelenebilir
Ben aslında Gemini’nin günlük toplam sorgu sayısı gibi toplam hacmi daha çok merak ediyorum
Sadece medyan prompt sayısıyla toplam enerji ihtiyacı tahmin edilemez
Toplam sorgu verisi olmadan medyanın kendisi çok anlamlı değil
Muhtemelen ortalama daha yüksek olduğu için özellikle paylaşmıyor olabilirler