1 puan yazan GN⁺ 2024-10-21 | 1 yorum | WhatsApp'ta paylaş
  • Yapay zeka talebi, ABD’de bilgisayar, veri merkezi ve elektrik altyapısı yatırımlarını artırıyor; Microsoft’un Three Mile Island nükleer santralinin 1. ünitesini yeniden devreye alma maliyetini üstlenmesi, veri merkezlerindeki elektrik sıkışıklığının fiziksel altyapı yatırımlarına yayıldığını gösteriyor
  • ABD’de veri merkezi inşaat harcamaları yıllıklandırılmış 28,6 milyar dolar ile tüm zamanların en yüksek seviyesinde; geçen yıla göre %57, iki yıl öncesine göre %114 artarak restoran, bar ve perakende mağazası inşaat harcamalarının toplamına benzer bir ölçeğe ulaştı
  • İnşaat harcamalarına sunucu rafları ve parçalar dahil değil; büyük bilgisayarlar ile bilgisayar parçaları ve aksesuarlarında net ithalat son bir yılda 65 milyar doları aştı, Tayvan’dan çip, bilgisayar ve ilgili parça ithalatı da 38 milyar doların üzerine sıçradı
  • Bu yapay zeka patlamasının etkisi, geleneksel yazılım istihdamından çok donanım, imalat, inşaat ve elektrik altyapısında daha güçlü görülüyor; ABD’de teknoloji işleri son bir yılda yalnızca 32 bin arttı
  • Daha büyük modeller ve gerçek uygulamaların yaygınlaşacağı varsayımıyla yatırım yarışı sürerken, gelişmiş yarı iletken talebi, Tayvan’a bağımlılık ve Çin’in erişiminin kısıtlanması Chip War’ın merkezindeki konular olarak daha da öne çıkıyor

Yapay zeka talebi fiziksel altyapı yatırımına dönüşüyor

  • Microsoft, artan veri merkezi elektrik talebini karşılamak için Three Mile Island nükleer santralinin 1. ünitesini yeniden devreye alma maliyetini üstlenmeyi kabul etti ve Amazon’un ardından mevcut nükleer tesisleri enerji talebine yanıt vermek için kullanan ikinci büyük ABD teknoloji şirketi oldu
  • Microsoft, OpenAI’ın başlıca yatırımcılarından ve bilgi işlem sağlayıcılarından biri; ChatGPT’nin çıkışından iki yıldan az süre geçmişken yapay zeka geliştirme ve kullanımı hızla yayılıyor
  • Yapay zeka ürünleri kod, metin ve görsel üretimi, veri analizi, iş otomasyonu ve çevrimiçi platformların güçlendirilmesi gibi alanlarda kullanılıyor; kullanımın artmaya devam etmesi bekleniyor
  • En yeni yapay zeka modelleri eğitim ve çıkarım için büyük ölçekli bilgi işlem kaynakları gerektiriyor; bunları çalıştırmak için yüksek performanslı donanım, endüstriyel ölçekte tesisler, elektrik, su ve geniş bant altyapısı gerekiyor

Veri merkezi ve bilgisayar yatırımları hızla artıyor

  • ABD’de veri merkezi inşaatı yıllıklandırılmış 28,6 milyar dolar ile tüm zamanların rekorunu kırdı
    • Geçen yıla göre %57 artış
    • İki yıl öncesine göre %114 artış
    • ABD’de restoran, bar ve perakende mağazası inşaat harcamalarının toplamına benzer ölçekte
  • Bu rakam yalnızca binanın kendisini kapsıyor; veri merkezinin beyni işlevini gören yüksek performanslı bilgisayar rafları, kablolar, fanlar ve diğer parçalar hariç
  • Ağustos ayında ABD’nin büyük bilgisayar net ithalatı tüm zamanların en yüksek seviyesine ulaştı; bilgisayar parçaları, aksesuarları ve diğer bileşenlerde net ithalat ise bir önceki ay rekor kırdı
  • ABD, son bir yılda bu iki kategoride 65 milyar doların üzerinde ithalat yaptı; yerli üretim de aynı dönemde artıyor

Teknoloji şirketlerinin yatırım yapısı değişiyor

  • Yeni veri merkezleri, bilgisayarlar ve ekipmanların büyük kısmını bilgi teknolojisi alanındaki şirketler satın alıyor
    • Amazon gibi bilgi işlem altyapısı sağlayıcıları
    • Google gibi web arama şirketleri
    • Microsoft gibi yazılım yayıncıları
  • Bu şirketler son bir yılda gayrimenkul, tesis ve ekipman net varlıklarını 95 milyar doların üzerinde artırdı; bu tüm zamanların en yüksek seviyesi
  • Yaklaşık 10 yıl önce Facebook, Instagram’ı 1,2 milyar dolara; iki yıl sonra WhatsApp’ı 15 milyar dolara satın aldı
    • O dönemde Instagram’ın yalnızca 13, WhatsApp’ın ise 55 çalışanı vardı; fiziksel altyapıları da büyük ölçüde ofisler ve geliştirici iş istasyonlarından ibaretti
  • Meta, yalnızca 2024’ün ilk yarısında 15,2 milyar dolar sermaye harcaması yaptı; bunun önemli bir bölümü Llama yapay zeka modellerini destekleyen büyük ölçekli bilgi işlem altyapısına gitti
  • Bugünkü yapay zeka patlaması önceki teknoloji patlamalarına göre çok daha donanım yoğun ve ABD içindeki inşaat ile yatırımı hızla yukarı çekiyor

Yüksek performanslı bilgisayarlar ve Tayvan ithalatı ana eksen haline geliyor

  • ABD şirketlerinin bilgisayar ve ilgili ekipman yatırımları, yapay zeka patlaması sırasında enflasyondan arındırılmış bazda son bir yılda %16,6 artarak tüm zamanların en yüksek seviyesine çıktı
  • 2010’larda bilgisayar yatırımları neredeyse 10 yıl boyunca görece durağandı; pandemi dönemindeki uzaktan çalışma talebi bu eğilimi kırdı
  • 2022’de evden çalışma düzeyi ve internet kullanımı istikrara kavuşunca bilgisayar yatırımı azaldı; ancak 2023 sonundan itibaren yapay zeka patlamasıyla yeniden hızla arttı
  • Gelişmiş bilgisayar sistemlerinin büyüme hızı, toplam bilgisayar yatırımından daha yüksek
    • TSMC, gelişmiş yarı iletkenlerde dünyanın lider üreticisi
    • ABD’nin Tayvan’dan çip, bilgisayar ve ilgili parça ithalatı son bir yılda 38 milyar doların üzerinde; geçen yıla göre %140’tan fazla arttı
    • ABD’nin doğrudan lojik çip ithalatı düşük bir seviyeden yıllıklandırılmış yaklaşık 5 milyar dolara yükseldi
    • Bilgisayar parçaları ve bileşenleri hâlâ en büyük ithalat kalemi

Yazılım şirketleri de donanım yarışına giriyor

  • 2023’e kadar olan ayrıntılı sektör yatırım verileri, Amazon ve Google gibi veri işleme ve web arama şirketlerinin teknoloji alanındaki en büyük yatırım ölçeğini koruduğunu gösteriyor
  • En hızlı yatırım büyümesi yazılım geliştiricilerde görülüyor
    • Yazılım yayıncılarının fikri mülkiyet alanındaki reel yatırımı 2021’den bu yana %40 arttı
    • Bu kategoriye yapay zeka modellerinin kendisi ve ilgili Ar-Ge de dahil
    • Bilgisayar gibi ekipmanlara yapılan reel yatırım %96 arttı
  • Önde gelen yazılım geliştiricilerinin hafif donanım yapısına sahip olduğu dönem, yerini donanım kapasitesini hızla kurmaya yönelik bir yarışa bıraktı

Veri merkezi konumları bölgelere göre büyük farklılık gösteriyor

  • Veri merkezlerinin ağ ihtiyaçları ve altyapı kısıtlarını aşmak için bir ölçüde dağınık olması gerekir; ancak büyük kümeler halinde yoğunlaşmak etkiyi artırıp maliyetleri ve gecikmeyi azaltabilir
  • Yapay zekada bu yoğunlaşma etkisi özellikle önemli; şirketler model geliştirmeye mümkün olduğunca fazla bilgi işlem gücü ayırmak için veri merkezi boyutu ve ağ sınırlarını zorluyor
  • Resmi inşaat istatistikleri veri merkezi harcamalarını yalnızca bölge düzeyinde ayırdığı için ayrıntılı inşaat verisi yok
  • ABD’de veri merkezi genişlemesi, tarihsel kümelerin bulunduğu Güney bölgesinde en güçlü şekilde sürüyor
  • Büyüme hızı Orta Batı ve Batı Kıyısı pazarlarında daha yüksek oldu; Kuzeydoğu ise fiilen etkilenmedi

Elektrik talebi ve bölgesel şebekeler üzerindeki etkiler

  • Energy Information Administration, veri merkezi talebini yansıtmak için elektrik yükü artış tahminlerini birkaç kez yukarı revize etti
  • Mevcut tahmin, ticari kesim elektrik tüketiminin bu yıl %3, gelecek yıl %1 artacağı yönünde
  • Bu tahminde bile ticari kullanıcılar, konutlarda elektrifikasyon ve sanayinin ülkeye geri taşınmasına kıyasla elektrik tüketimi artışında daha küçük bir etken; ancak ticari kesim için bu, yılların en hızlı talep büyümesi
    • 2007’den 2023’e kadar ticari elektrik tüketimi toplamda yalnızca %5 arttı
    • Yapay zeka patlamasından önceki resmi tahminlerde bilgisayarlar ve ofis ekipmanları, ticari elektrik tüketiminin %11,4’ünü oluşturuyordu
  • Bazı bölgelerde veri merkezlerinin elektrik tüketimi, elektrik yükü artışının başlıca nedeni haline geldi
    • North Dakota’da 2022’de büyük bir veri merkezinin açılmasından sonra ticari elektrik tüketimi %45’in üzerinde arttı
    • North Dakota’nın elektrik ve bilgi işlem pazarı küçük olduğundan ham elektrik talebi artışının büyüklüğü Virginia ve Texas gibi büyük veri merkezi kümelerinde daha yüksek

Virginia ve Texas’ta veri merkezi elektrik talebi

  • Washington DC’nin kuzeyindeki Virginia banliyölerinde yer alan byteway, dünyanın en büyük bilgi işlem gücü kümesi
  • Bu küme nedeniyle Virginia’nın ticari enerji tüketimi 2019’dan bu yana %30 arttı ve ABD’de ticari elektrik talebindeki ham artışın en yüksek olduğu yer oldu
  • Texas, enerji yükü yönetimi programının bir parçası olarak veri merkezleri ve kripto para madencilerini çekiyordu
  • Texas’ın ticari elektrik tüketimi 2019’dan bu yana %10 arttı; ileride daha büyük büyüme bekleniyor
  • Veri merkezi yükündeki artış, Texas’ın yenilenebilir enerji yatırımlarındaki güçlü performansına katkıda bulunuyor
    • ERCOT ve PJM’in bu yıl ve 2025’te yenilenebilir enerji büyümesinde ABD genelini geride bırakacağı tahmin ediliyor
    • Veri merkezi yoğunlaşmasının avantajları nedeniyle yapay zeka şirketlerinin büyük elektrik kaynaklarının yakınına kümelenme eğilimi artıyor
    • Nükleer enerjiye ilginin ve teknoloji şirketlerinin üretim altyapısına doğrudan yatırım yapma isteğinin artmasının arka planını bu oluşturuyor

Gelirler toparlandı ama teknoloji istihdamı zayıf

  • Yapay zeka patlaması sırasında bilgi teknolojisi alanındaki gelirler, 2022-2023 yavaşlamasından toparlandı
  • Yazılım yayıncıları, web arama portalları ve bilgi işlem altyapısı sağlayıcılarının hepsinde son bir yılda gelirler %12-15 arttı
  • Bu, 2021 seviyesinin altında kalsa da Covid öncesi ölçütlere göre güçlü gelir büyümesine giriyor
  • Fiziksel yatırımlar hızla artıp gelirler toparlanmış olsa da teknoloji sektöründe istihdam büyümesi çok zayıf
    • ABD son bir yılda 32 bin teknoloji işi ekledi
    • Bu, 2021, 2022 ve pandemi öncesindeki dokuz yılın herhangi bir döneminden daha düşük
    • Yapay zeka patlamasının merkezindeki yazılım yayıncıları ve bilgi işlem altyapısı sektörlerinde de son bir yılda net istihdam artışı fiilen yoktu
  • Son dönemde bilgisayar bilimi mezunlarını zorlayan teknoloji iş piyasası belirgin şekilde iyileşmedi

İşgücü piyasası etkisi geleneksel teknoloji rolleri dışında daha belirgin

  • Yapay zeka yatırım patlamasının işgücü piyasasına hiç etkisi olmadığı söylenemez; ancak etki daha çok geleneksel bilgi teknolojisi sektörünün dışında yoğunlaşıyor
  • Yarı iletken imalatında toplam ücret ve yan haklar 2023’ün 1. çeyreğinden 2024’ün 1. çeyreğine kadar %25 arttı
    • NVIDIA gibi şirketlerin çalışanları, değeri daha da artan hisse opsiyonlarından etkilendi
  • Son bir yılda ticari inşaat işleri 30 bin arttı; bunun bir kısmı veri merkezi talebinin dolaylı etkisi
  • Çip fabrikaları ve diğer imalat alanlarında endüstriyel inşaat istihdamı patlaması ile elektrik ve daha geniş altyapı genişlemesine bağlı istihdam artışı da aynı anda sürüyor
  • Yapay zeka patlamasının istihdam dinamikleri, son 10 yılın teknoloji işgücü piyasasından oldukça farklı; geleneksel programcılardan çok donanım yatırımı, imalat/tasarım şirketleri ve altyapı inşaatçılarına odaklanıyor

Yatırım yarışı ve Chip War’a doğru genişleme

  • Yapay zeka geliştiricileri, ürün iyileştirmeleri ve ticarileşmenin genişlemesinin mevcut tarihsel yatırım ölçeğini haklı çıkaracağını düşünerek yoğun biçimde rekabet ediyor
  • Kısa vadede daha gelişmiş modellerin geliştirilmesi ve otonom araçlar gibi gerçek uygulamaların yaygınlaşmasıyla yatırımların daha da artması bekleniyor
  • Politika yapıcılar yapay zekayı ABD ekonomisinin geleceğindeki kilit alanlardan biri olarak görüyor
    • Silicon Valley ve büyük ABD teknoloji devlerinin hakimiyeti sayesinde ABD, yapay zeka geliştirme ve veri merkezi kapasitesinde kayda değer bir üstünlük kurdu
    • Yapay zeka patlamasının ABD yatırımlarına diğer tüm ülkelerden daha fazla fayda sağladığı değerlendiriliyor
  • Donanım kapasitesi etrafındaki jeopolitik rekabetin daha da derinleşmesi olası
    • CHIPS Act, ChatGPT’den önce hazırlanmış bir yasa; bazı sektör liderleri, öncelikleri ve ölçeği bakımından artık eski göründüğünden şikayet ediyor
    • Gelişmiş yarı iletken talebindeki artış, CHIPS Act’in azaltmayı hedeflediği ABD’nin Tayvan ithalatına bağımlılığını yükseltiyor
    • Veri merkezi ölçeğinde arzı karşılamak için gereken birçok parçada ABD hâlâ Çin’e bağımlı
  • ABD’nin Çin’in yapay zeka geliştirmesini yavaşlatmak için en üst seviye çiplere erişim kısıtlarını sürdürmesi muhtemel; Çin ise ithalat bağımlılığını azaltmak için çip üretim kapasitesini genişletmeye devam ediyor
  • Yapay zeka yatırım patlaması ilerledikçe mevcut Chip War’ın daha da ön cephesine taşınıyor

1 yorum

 
GN⁺ 2024-10-21
Hacker News yorumları
  • Bu yazıyı okuyunca, bu sermaye yoğun yatırım patlamasının da ABD tarihindeki büyük yatırım patlamalarına benzer şekilde ilerleyeceğine bahse giresim geliyor.
    1800’lerde demiryolu döşenmesi, 1900’lerin başında otomobil şirketlerinin mantar gibi çoğalması, 1990’ların sonundaki telekom fiber optik patlaması gibi; büyük ölçekli altyapının aşırı inşasının ardından sektörün büyük bölümünü batıran bir çöküş geldi, ancak sonrasında bu altyapı sindirilerek ekonomi ve topluma büyük fayda sağladı.
    90’ların sonu ile 2000’lerin başındaki telekom yatırımları ve iflaslardan sonra döşenmiş olan dark fiberın sonunda devreye alınarak Netflix gibi yüksek kaliteli multimedya büyümesini mümkün kılması akla geliyor.
    Burada da ortalama yatırımcıların üst seviye çiplere, veri merkezlerine ve enerji arzına para koyup büyük hayal kırıklığı yaşayacağını, ancak uzun vadede bunun büyük getiri sağlayacağını düşünüyorum.
    Özellikle yalnızca enerji yatırımı bile, yapay zeka devasa bir iklim ısınması enerjisi oburu olarak tasvir edilse de, yenilenebilir enerjinin artık en ucuz elektrik haline geldiği bu dönemde bu muazzam sermaye talebinin fosil yakıtlardan çıkışı hızlandıracağına inanıyorum.

    • Doğru gibi geliyor ve bir noktada balon patlayacak.
      Ancak mesele ne zaman olduğu. Şu an dot-com patlamasının 1999’u değil de 1995’iyse, önümüzde 4 yıl daha yüksek büyüme olabilir ve çöküşten sonra bile 2029 pazarı 2024’ten çok daha büyük olabilir. Cisco da 2001’de hâlâ 1995’e göre 4 kat büyüktü.
      Geçmiş balonlardan biraz farklı olan nokta, hesaplama miktarı arttıkça yapay zekanın daha akıllı ve yetkin hale gelmesi.
      Patlamanın hâlâ başında olup olmadığımızı anlamak için ölçüt olarak, Slack’in son 2 yılda sohbetlerde alınan iş ve teknik kararlar hakkında güvenilir yanıtlar veren bir LLM sohbet botu satıp satmadığına bakıyorum. Henüz böyle bir ürün yok; bunun nedeni de muhtemelen bu kadar büyük çıkarımı yüksek bağlam pencereleriyle çalıştırmanın maliyetinin hâlâ çok pahalı olması.
      Bu yüzden şu an balonun sonundan çok başlangıcına yakın olduğumuzu düşünüyorum.
      İzlenecek bir diğer şey de LLM ölçekleme yasalarının hızla bozulup bozulmayacağı; yani daha fazla hesaplamanın ekonomik olarak daha yüksek zekâ üretmez hale gelip gelmeyeceği. Öyle olursa balon patlayacak gibi görünüyor ve herkes GPT-5 düzeyi modellerin bu sinyali gösterip göstermeyeceğine bakıyor.
    • Buna nasıl böyle bakılabildiğini merak ediyorum. Demiryolu, karayolu ve fiber optik ağlar, ilk yatırımcıları battıktan sonra bile onlarca yıl kullanılabildi.
      Ama mevcut yapay zeka hesaplaması için veri merkezleri konusunda sorun şu: yapay zeka şirketleri batarsa bunları başka amaçlarla kullanmak fiilen zor.
      Hesaplama altyapısı yatırımının sorunu, önümüzdeki 5 yıl içinde tamamını kullanma planınızın olması gerekmesi. Ondan sonra bedava verseniz bile kimse almak istemeyebilir.
    • Yenilenebilir enerji zaten çok ucuz olduğu için muhtemelen zaten aynı hızda inşa edilecekti.
      Buna karşılık pahalı nükleer enerji santralleri bu balon olmasaydı inşa edilmezdi; ama tuhaf biçimde nükleer tarafa da para akıyor gibi görünüyor.
    • Telekom balonunda sonradan da değerini koruyan varlık yalnızca yer altına döşenmiş fiber optikti. Uç ekipmanlar birkaç yıl içinde eskidi ve değiştirilmesi gerekti; fiber optik ise yeniden kullanılabilir olduğu ve kurulum maliyeti yüksek olduğu için temel varlıktı.
      Yapay zeka balonunda 5 yıl sonra da değerini koruyacak varlık ne olabilir? 5 yıllık GPU’larla dolu bir depo olma ihtimali düşük. Belki nükleer santral olabilir.
    • Demiryolları ve bilgisayar ağları ağ etkileri yaratır; ancak çok hızlı eskiyen donanımlarla dolu veri merkezleri için aynı şeyin geçerli olup olmadığı net değil.
  • Demiryollarına benzediği söyleniyor ama çok para gerektirmesi dışında demiryoluyla hiç ilgisi yok.
    Demiryolları onlarca yıl ayakta kaldı ve onlarca yıl daha anlamlı olacak. Yavaş yavaş aşınırlar ve kara taşımacılığının en verimli biçimidirler.
    Buna karşılık bu tür donanım yatırımları 6 yıl sonra tamamen amorti edilmiş olacak ve elektrik maliyetine göre çıktısı nedeniyle çalıştırmaya değmeyip hurdaya ayrılma ihtimali yüksek.
    Ayrıca gelecekteki yapay zeka sistemlerinin herhangi bir nedenle mevcut nesil donanımda verimli çalışmaması gibi ek bir risk de var.

    • Öyle de olabilir, olmayabilir de. Nvidia P40 GPU 8 yıl önce çıktı ve çok ısınıyor, ama fiyatı son 1 yılda ikiye katlandı.
      6 yıl içinde hiçbir şey tamamen amorti olmayacak. İnsanların 15 yıl sonra bile A100 kullanıyor olma ihtimali yüksek. 7 yıllık V100 32GB GPU kartları da eBay’de hâlâ 1500 dolara satılıyor.
      Mevcut donanımın tamamını ikame edecek daha iyi yeni bir donanım türü icat etmektense, daha verimli yazılım mimarileri icat edilmesi bana daha olası görünüyor.
    • Bu benzetmede kamusal mal yapay zeka donanımı değil, yapay zeka modelleri.
    • Binalar ve güç beslemesi gibi bazı varlıklar muhtemelen kullanılabilir kalacak. Yine de çiplerin yakında yenileriyle değişmesi olası.
    • BT altyapısının ömrü demiryolu sektöründen çok daha kısa, ama marjları da şaşırtıcı derecede yüksek.
      Demiryolu yatırımlarının geri dönüşü genellikle onlarca yıl alırken, BT sektöründe bu genelde birkaç yıl içinde gerçekleşir.
  • Bu tartışmada büyük bir boşluk varmış gibi geliyor. Neredeyse tamamı GPU ve donanım yatırımına odaklanıyor; bunun mevcut yapay zeka patlamasını büyük ölçüde sürüklediği doğru, ama yazılım tarafı eksik kalıyor.
    Yapay zeka tabanlı platformlara, araçlara ve uygulamalara giden ciddi risk sermayesi yatırımları da ele alınmalı. Bu yazı donanım konusuna fazla ağırlık verdiği için buna “GPU yatırım patlaması” demek daha doğru görünüyor.
    Yazılım yatırımı da aynı ölçüde dikkat görmeli.

    • GPU’ların ve veri merkezlerinin yapay zekada dot-com patlamasının fiber optiği gibi bir rol oynadığını düşünüyorum.
      Birçok LLM tabanlı yazılımın ekonomik olmamasının nedeni, yapmak istediği işi kaldıracak hesaplama miktarı ve elektriğin henüz yeterli olmaması.
    • Bu oranı iyi tahmin eden bir kaynak var mı? Biraz bildiğim yapay zeka startup’larına bakınca, donanım startup’ı olmasalar bile topladıkları risk sermayesinin büyük bölümünün doğrudan ya da dolaylı olarak donanım maliyetlerine geri döndüğü izlenimini ediniyorum.
      Ama elimde kesin rakam yok.
    • Bugünlerde YC ve Product Hunt’a bakınca, şu anda abartılı şekilde tanıtılan yazılımların neredeyse tamamı “AI Powered bir şey”.
      Yapay zekanın gerçekten faydalı işler yaptığı bir şirket varsa, mevcut bir uygulamanın bir yerine yapay zekayı zorla sıkıştırıp “AI Powered” diye paketleyen yaklaşık on şirket var; bu epey sinir bozucu.
      Geçenlerde şirketimiz Zenhub’ı değerlendirdi; satış ekibi uygulamada yapay zeka kullandıklarını özellikle vurguladı. Bakınca bunun, prompt ile story açıklaması üretmekten ibaret en temel yapay zeka entegrasyonu olduğu ortaya çıktı.
      Yapay zeka çok faydalı, ama her şeyin içine koymak gerekmiyor.
    • Veri merkezleri ve bulut hesaplama hakkında çok konuşuluyor, ama cihaz içi çıkarım çiplerinden söz edilmiyor.
      Mobilin arayüz katmanındaki yerini düşünürsek, ben bir risk sermayedarı olsam cihaz üstü çıkarıma oynardım.
  • Tüm abartılı haberlerin neden “Yapay zeka ürünleri; kod, metin, görsel üretimi, veri analizi, iş otomasyonu, çevrimiçi platformların iyileştirilmesi gibi çok daha fazla alanda yaygın olarak kullanılıyor ve kullanımın artması bekleniyor” gibi cümlelerle başladığını bilmiyorum
    Kişisel olarak kod yazarken Copilot kullanımım azaldı. Denemeye devam ettim ama hızla yolunu kaybedip ince hatalar üretiyor; bu da kendim yazdığımdan daha fazla hata ayıklama zamanı harcatıyordu
    Kodu yeterince kontrol edememiş olabileceğim için sürekli “bu, üretimde bilinmeyen bir şekilde patlayabilir” hissi veriyor. İş arkadaşlarım ve arkadaşlarım da benzer hissettiklerini söyledi
    Yeni “düşünce zinciri” modelini de denedim ama garip biçimde daha kötü göründü

    • Bu yorumu görünce Copilot aboneliğim olduğunu hatırladım
      Aylarca işe yarar kod önerileri sunamadığı için aklımdan çıkacak kadar unutulmuştu. Az önce giriş yapıp iptal ettim
      Şimdi diğer abonelikleri de iptal edip edemeyeceğime ya da daha düşük tarifeye düşürüp düşüremeyeceğime bakmalıyım
    • Benim deneyimim de benzer. Son dönemde kodlama işleri için Claude kullandım; beni durmadan tavşan deliğine sürükledi ve her seferinde önceki halinden daha kötüleşiyor gibi hissettirdi
      Buna rağmen “Üzgünüm ama aslında nasıl yardımcı olacağımı bilmiyorum” deyip durmayı da başaramadı
    • Mevcut yapay zekanın bir uygulayıcıdan çok öğretmene yakın olduğunu hissediyorum. Yeni bir şey öğrenirken ya da hangi yöne gidileceğine dair fikir alırken gerçekten faydalı
      Ama gerçek kodun hâlâ büyük ölçüde insanlar tarafından yazılması gerekiyor gibi
      Yapay zeka harika bir araç ve hızı ciddi ölçüde artırıyor; ancak bizim sadece fikir verip yapay zekanın tüm angaryayı halledeceği yönündeki sihirli düşünceyle uyuşmuyor
      Genel olarak, düşünme modelini hayaller yerine gerçek kanıtlara dayandırmak her zaman daha iyidir ve şu anda işin içinde çok fazla hayal var. Bu, gelecekteki gelişme ihtimali konusunda kötümser olmak gerektiği anlamına gelmiyor; ama bu iyileşmenin nasıl bir biçim alacağını tahmin etmek çok zor
    • Benim deneyimime göre zamanla daha iyiye gidiyor; özellikle LLM’leri Language Server Protocol ve başka araçlarla entegre etme tarafında hâlâ görece kolay elde edilebilecek çok sayıda iyileştirme alanı olduğunu düşünüyorum
      Yine de şu aşamada bağımsız çalışmak için yeterli değil; bu yüzden proje bağlamı çok olmayan ve dikkat süresi kısa, orta seviye bir insan geliştiriciyle eşli programlama yapar gibi kullanmak iyi oluyor
      Özellikle yapay zekaya tek seferde sadece bir fonksiyon ya da bir refactoring işi verip, ilerlerken kolayca test edilebilecek şekilde kullandığımda büyük değer görüyorum
    • Çünkü haberlerin tamamı da yapay zekayla yazılıyor
  • Böyle yazıları ve tartışmaları her gördüğümde, gezegeni mahvettiğimizi ve temel hasara yalnızca 5-6 yıl kalmış olabileceğini söylerken aynı anda LLM’lere hayal etmesi güç kaynaklar yatırmamızın ne kadar absürt olduğunun fark edilmemesine hep şaşırıyorum
    Sonuçta ya yeterli yatırım alan LLM’lerin getirebileceğine dair umudu bırakmamız ya da Dünya’ya verdiğimiz zararla ilgili çok gürültülü ama aslında boş görünen argümanlardan vazgeçmemiz gerekiyor

    • Buradaki “biz” kim, bilmiyorum. Toplumun bir tarafı çevrede geri döndürülemez hasar olacağı alarmını veriyor; diğer tarafı ise daha geniş insan yaşamı üzerindeki etkileri dikkate almadan ya da bilinçli olarak görmezden gelerek sayıları olabildiğince hızlı yukarı çekmeye çalışıyor gibi
      Yapay zeka yatırımını zorlayan insanlar iklim değişikliğinin etkilerinden pek zarar görmeyecek. Tropik bölgelerde yüz milyonlarca insan ölse ve örgütlü insan faaliyetlerinin önemli bir kısmı çökse bile, son ana kadar sonuçlardan korunacakları için umursamıyorlar
    • Belki, gerçekten belki de, daha fazla enerjiye ihtiyaç duyduğumuz şu anda sonunda daha sürdürülebilir gelişme biçimleri bulabiliriz
    • “Boş argümanlar” derken neyi kastettiğini merak ediyorum
    • Güneş enerjisi patlamasını duymuşsundur. Üstel olarak büyüyor
      Ayrıca tüm dünyayı tek bir kişi yönetip ne olacağına karar vermiyor
  • Yapay zeka balonu gelecek yıl patlayacak. Şu an dot-com balonunun 1998’i civarındayız ve bir başka yapay zeka kışı yaklaşıyor
    LLM’ler ve üretken yapay zeka, bu yılın “internette yapılan iş” ya da “X için Uber” tarzı iş planı

    • Yapay zeka balonunun çöküşü startup sektörünün geri kalanını da aşağı çeker mi, yoksa yapay zeka dışı teknolojiye daha fazla yatırım yapılmasını mı sağlar
      İklimle ilgili teknolojilerin daha fazla paraya ihtiyacı var
    • Öyle olacağını sanmıyorum
      Ekonomik balon seçimden sonra patlayacak; Fed yeniden faiz artırmaya başlarsa bunu anlayacağız. Ancak bu seferki tetikleyicinin büyük olasılıkla ticari gayrimenkul olması muhtemel
      Ticari gayrimenkul içinde veri merkezleri yatırımcıların gözünde tek iyi kalem ve yapay zeka patlaması yüzünden bu daha da böyle. Bu yatırımcıların, planlanan çöküşten kaçınmak için enerji üretimine ve yapay zekayla ilgili diğer alanlara eskisinden daha fazla para akıtacağını düşünüyorum
      En büyük değişken, ulusötesi oligarkların bu çöküşü merkez bankası dijital para birimleri gibi çok daha büyük bir para politikası dönüşümü için kullanmaya çalışıp çalışmayacağı
    • Piyasadaki fiyat/kazanç oranları çok yüksek ve bir süredir de öyle. Teknoloji hisseleri ve yapay zeka bunun önemli bir kısmını ayakta tutuyor
      Tesla’da temeller biraz sarsılmaya başladığında ne olduğuna bakmak yeterli. Yine de “yapay zeka balonu”nun gelecek yıl patlayacağını öngörürken temkinliyim
  • Yapay zeka balonu bitse de HN başka şeylerden konuşabilse keşke

    • Kripto para balonundansa yapay zeka balonu her zaman daha iyidir
    • Yorulduysan WordPress karmaşası tartışmalarına katılabilirsin. Son zamanlarda burada epey hareketli şekilde ortaya çıkıyor
    • Fed enflasyonun bitmediğine karar verip 6 ay içinde yeniden faiz artırmaya başlarsa patlayacak gibi
      Sıradan insanlar fiyat artışlarına daha fazla dayanamaz hale gelene kadar balonu besleyebilirler
    • Geçen ay HN’de ilk 30’daki yazıların (https://hn.algolia.com/?dateRange=pastMonth&page=0&prefix=fa...) yalnızca 6’sı yapay zekayla ilgiliydi
      En üstteki yapay zeka yazısı 10. sıradaki “OpenAI to become for-profit” idi; 1. sırada “Bop Spotter”, ardından Starship ve tıklayarak abonelikten çıkma vardı
    • İnsanlar hayatlarının geri kalanı boyunca yapay zeka konuşacak. İstersen bir Amish topluluğuna katılabilir ya da ormanda yaşayıp Firewatch benzeri bir iş yapabilirsin
  • Bunun bizim gibi insanların bulut maliyetlerini nasıl etkileyeceğini merak ediyorum
    Bir yandan ölçek ekonomisi oluşabilir; diğer yandan başkaları bulut kaynaklarını tüketerek fiyatları artırabilir. Ne olacağına dair tahmini olan var mı, merak ediyorum

    • Geleneksel CPU tabanlı bulut maliyetlerini artıracağını sanmıyorum
      Ampere 192 çekirdek ve AMD 196 çekirdek CPUya bakmak yeterli. Verimlilik artışları, geleneksel bulutta fiyat/performansı düşürmeye devam edecek
  • Doğal olarak halüsinasyon görmeyen bir “AI”ı hâlâ bulamadım ve halüsinasyon gören bir “AI”ın niş kullanım alanları dışında nasıl faydalı olabileceğini bilmiyorum

    • Yeni modellerde uydurma oranı azalıyor. Sağlanan belgelere dayalı uydurma, yani RAG için önemli olan durumu burada test ettim: https://github.com/lechmazur/confabulations/
      GPT-4 Turbo ile GPT-4o arasındaki fark epey büyük
    • Çok dar odaklı konularda LLM’lerin çok daha yardımcı ve genel olarak doğru olduğunu hissediyorum. Üretilen içerik ilgili kaynak kodla veya resmi belgelerle doğrulanabilir
      Teoride basitçe sorulacak bir şey olduğunda Claude veya 4o ile konuşmak her gün muazzam zaman kazandırıyor. Önceden dört ya da daha fazla arama motorunu karıştırmak ve çok fazla arama motoru optimizasyonu spam’inin arasından geçmek zorunda kaldığım için hayal kırıklığı yaratıyordu
      Özetleme özelliği de artık meme’e dönüştü ama inanılmaz faydalı. Gün içinde ilginç görünen tüm bağlantıları bir veritabanına koyuyorum; Cloudflare’in cron görevi her bağlantının metnini alıp 4o ile özet oluşturuyor ve kaydediyor
      Hafta sonu kaydedilen bağlantıların özetlerine göz atıyor, yeterince ilginç görünürlerse kendim kontrol edip daha fazla araştırıyorum
      Gerçekten de HN’in 4. sayfasında birkaç oy almış rastgele bir yazıdan SolidJS’i öğrendim; yalnızca özet bile ReactJS hakkındaki şikâyet yazısını sonuna kadar okumadan SolidJS’e bakmam için yeterli bilgi verdi
    • Halüsinasyonu en aza indirme hedefinin ayarlanması gerektiğini düşünüyorum. İnsanlar “yalan” söylediğinde buna alışık olduğumuz bir tarz vardır. “O restoran buralarda bir yerdeydi sanırım”, “O kişi Inception’da oynamamış mıydı?” gibi; insanlar hangi bilgiden emin olduklarını, hangisinin belirsiz olduğunu ses tonu, beden dili ve yazı tarzıyla iyi aktarır
      Gemini’ye basit bir soru sordum ve halüsinasyonu gerçekten rahatsız ediciydi. Yanlışı kendinden emin biçimde söylediği için içgüdüsel beynim onu güvenilmez gördü ve daha fazla soru sormak istemedim
      LLM’lerin çalışma biçiminin olasılıksal doğası gereği halüsinasyonu ortadan kaldırmak imkânsız olabilir; ama bunun insanlara nasıl sunulacağı daha iyi ayarlanabilir
    • Hayal etmeye gerek yok. Üretken yapay zeka zaten birçok niş olmayan uygulamada çok faydalı
    • Kalitenin gerçekten önemli olmadığı çok fazla içerik üretimi de olduğunu düşünüyorum. Böyle durumlarda halüsinasyon da pek önemli değil
      Hukuken sorun yaratabilecek durumlar, örneğin nefret söylemi veya iftira olmadığı sürece
      Makaleleri, sosyal medya gönderilerini, hatta videoları büyük ölçekte yaymak söz konusu olduğunda, ölçek nedeniyle halüsinasyon çok da önemli değil. Zaten yeterli içerik yeterli görüntülenme üreterek bir ölçüde uygulanabilir bir strateji hâline geliyor
  • 90’ların sonunda Bell Labs’i yöneten Dr. Robert Martin’in, bant genişliği kapasitesinin sonsuza gittiğini ve bit başına maliyetin sıfıra yaklaştığını söylediğini duyduğumu hatırlıyorum
    Balon patlamadan önce o dönemin optik kapasite inşacılarının nasıl sonuçlandığını hepimiz biliyoruz
    Zekâya olan talebin tükenmeyeceğini düşünmek için bir gerekçe var mı? Sama’nın dediği gibi, sistem girdisi olarak zekânın maliyetinin veri merkezi GPU’larını çalıştıran elektriğin fiyatına yakınsayacağını düşünmek için bir gerekçe var mı? İkisi de mümkün
    Yine de bant genişliğinin tek bir biti için de aynı şey söylenebilirdi

    • Sonsuz zekânın bilgi çalışanlarının yaşam standartları üzerinde olumlu etkisi olacağı konusunda çok şüpheliyim
      Daha kötümser tarafta, AI bizi ikame edecek ve biz de kömür madenlerine gönderileceğiz
      En iyimser bakışla bile yaşam standardı, gerçeğe kök salmış birçok unsurun bileşimi olduğundan, gerçek üst sınırın yaşam kalitesinin iki katına çıkması civarında olduğunu düşünüyorum. Bu hiçbir şey demek değil; ama son 150 yıla bakınca emsalsiz bir seviye de değil
    • Üretilmiş metin zekâ değildir