2024 ML/AI/Veri Sektör Haritası ve En Güncel Trendler

2024 MAD (ML, AI, Data) sektör haritası ve yılın 24 temasının tek bir görselde özeti

[Part I : Landscape]

• İlk sürüm 2012’de yalnızca 139 şirket içeriyordu, ancak 2024 MAD ekosisteminde 2.011 şirket yer alıyor
• Bu sayı, geçen yılki 1.416’ya kıyasla 578 yeni şirketin eklendiği anlamına geliyor
• Bu kadar çok şirketin dahil edilmesinin nedeni, son yaklaşık 10 yılda veri altyapısı teknolojileri ile ML/AI teknolojilerinde art arda iki büyük teknolojik ilerleme dalgasının yaşanmış olması
  • İlk dalga, big data ile başlayıp modern data stack ile sona eren yaklaşık 10 yıllık veri altyapısı teknolojisi gelişimiydi
  • İkinci dalga ise üretken yapay zeka (Generative AI) ile başlayan ML/AI teknolojisi gelişimi
• MAD ekosistemi, verinin toplanmasından depolanmasına, işlenmesine, analizine ve uygulamalar aracılığıyla değer üretilmesine kadar tüm veri yaşam döngüsünü göstermeye odaklanıyor

Altyapı ve analiz alanındaki başlıca değişiklikler

• Veri altyapısı alanında (MAD ekosisteminin sol tarafı) son dönemde büyük bir değişiklik olmadı
  • Database Abstraction, SurrealDB, EdgeDB gibi hepsi bir arada çok modelli veritabanlarının ortaya çıkışını yansıtmak için Multi-Model Databases & Abstractions olarak değiştirildi
  • Geçen yıl deneysel olarak oluşturulan Crypto / Web 3 Analytics bölümü kaldırıldı
  • Query Engine bölümü de kaldırıldı (ilgili şirketler hâlâ listede yer alıyor)

Makine öğrenimi ve yapay zeka alanındaki başlıca değişiklikler

• 2023’te AI şirketlerindeki patlayıcı artış nedeniyle en fazla yapısal değişiklik bu alanda yaşandı
• MLOps’un yanına 3 yeni kategori eklendi
  • AI Observability: LLM uygulamalarını test eden, değerlendiren ve izleyen girişimler
  • AI Developer Platforms: MLOps’a benzer olmakla birlikte LLM eğitimi, dağıtımı ve çıkarımına odaklanan AI uygulama geliştirme platformları
  • AI Safety & Security: halüsinasyon, etik, mevzuata uyum gibi LLM’e özgü kaygıları ele alan şirketler
• Horizontal AI/AGI, Commercial AI Research ve Nonprofit AI Research olmak üzere iki kategoriye ayrıldı
• GPU Cloud, GPU bulut sağlayıcılarının çekirdek altyapı işlevlerinin eklenmesini yansıtmak için GPU Cloud / ML Infra olarak değiştirildi

Uygulama alanındaki başlıca değişiklikler

• Uygulama katmanındaki tüm şirketler artık kendilerini “AI şirketi” olarak tanımlıyor
• Horizontal Applications içine Presentation & Design kategorisi eklendi
• Search, Perplexity gibi LLM tabanlı sohbet arayüzlerinin ortaya çıkışını yansıtmak için Search / Conversational AI olarak değiştirildi
• Industry altında Gov't & Intelligence, Aerospace, Defense & Gov't olarak değiştirildi

Açık kaynak altyapı alanındaki başlıca değişiklikler

• Data Access ile Data Opsu kapsayan tek bir Data Management kategorisi oluşturuldu
• AI ve LLM’yi yerel geliştirme ortamına getirmek için altyapı araçları sunan Local AI adlı yeni bir kategori eklendi

[Part II: 2024’ün 24 teması]

1. Yapılandırılmış veri vs yapılandırılmamış veri

• Veriler, satır ve sütunlara oturtulabilen yapılandırılmış veriler ile metin/görsel/ses/video gibi yapılandırılmamış verilerden oluşur
• Yapılandırılmış veriler analiz amacıyla çıkarılır, depolanır ve dönüştürülür; ardından BI araçlarıyla görselleştirilir veya geleneksel ML/AI modellerinde kullanılır
• Yapılandırılmamış veriler ise ağırlıklı olarak üretken yapay zeka modellerini (LLM vb.) eğitmek ve kullanmakta (çıkarımda) kullanılır
• Şu anda yapılandırılmamış veriler (ML/AI) ilgi odağıyken, yapılandırılmış veriler (modern data stack vb.) aynı ilgiyi görmüyor

2. Modern data stack öldü mü?

• Modern data stack (MDS), yapılandırılmış veri boru hatlarını ele alır ve çok yakın zamana kadar yazılım sektöründeki en çok konuşulan kavramlardan biriydi
• MDS, merkezinde cloud data warehouse bulunan; üst tarafta Fivetran/Airbyte, ortada DBT ve alt tarafta Looker/Mode gibi araçların yer aldığı bir yapıydı
• Snowflake’in tarihteki en büyük ölçekli IPO’lardan birini gerçekleştirmesiyle MDS’ye ilgi patladı; bu da aşırı ısınmış girişim kurulumlarına ve VC yatırımlarına yol açtı
  • Data catalog, data observability, ETL, reverse ETL gibi birçok kategori 1-2 yıl içinde doygunluğa ulaştı
• MDS bir yandan gerçek sorunlara çözüm sunuyordu, diğer yandan veri değer zincirindeki çeşitli girişimler arasında bir pazarlama ittifakı niteliği de taşıyordu
• Ancak bugün MDS, ① birden fazla üretici çözümünü birleştirmek zorunda olduğu için pahalı olması ve ② üretken yapay zekanın gölgesinde kalıp artık ilgi çekmemesi gibi baskılarla karşı karşıya

3. Veri altyapısı alanında konsolidasyon ve büyük şirketlerin büyümesi

• 2024’te veri altyapısı ve analiz sektöründe şu gelişmelerin yaşanması bekleniyor:
  • MDS ile ilişkili birçok girişim kendisini “AI altyapı girişimi” olarak yeniden konumlandırmaya çalışacak
    • Bazıları bunda başarılı olabilir, ancak çoğu için yapılandırılmış veriden yapılandırılmamış veriye geçiş, ürünün temelden evrilmesini gerektirecek
  • Veri altyapısı sektörü nihayet belirli bir düzeyde konsolidasyon yaşayacak
    • Şimdiye kadar M&A sınırlıydı, ancak 2023’te Stemma’nın Teradata tarafından, Manta’nın IBM tarafından ve Mode’un Thoughtspot tarafından satın alınması gibi küçük ve orta ölçekli birleşme ve satın almalar gerçekleşti
  • Başarısız startup örnekleri ciddi biçimde artacak
    • VC finansmanı kururken tablo giderek kötüleşiyor. Birçok startup maliyetleri büyük ölçüde kıstı, ancak sonunda nakit tükenmesiyle karşı karşıya kalacak. Gösterişli manşetler beklemek zor görünüyor
  • Ölçekli şirketler platformlaşmaya daha da fazla odaklanacak
    • Bu, birleşme ve satın almalarla olacağı gibi, şirket içi geliştirmelerle de daha fazla işlevi kapsama yönünde ilerleyecek

4. Databricks vs Snowflake: mevcut durum

• Yapılandırılmış veri dünyasının Snowflake’i hâlâ mükemmel bir şirket ve teknoloji hisseleri arasında en yüksek değerlemelerden birine sahip (F/K 14,8x)
  • Ancak birçok yazılım şirketinde olduğu gibi büyümesi belirgin şekilde yavaşladı
    • 2024 mali yılı geliri yıllık bazda %38 artışla 2,67 milyar dolara ulaştı; önümüzdeki 12 aya ilişkin beklenen büyüme oranı ise %22
  • En önemlisi, ürün inovasyonu konusunda zorlandığı izlenimini veriyor
    • AI’ye yanıtı yavaş kaldı ve M&A konusunda da çekingen davrandı
    • Yakın zamandaki biraz ani CEO değişimi de dikkat çekici bir sinyal
• Yapılandırılmamış veri tarafındaki Databricks ise genel olarak güçlü bir ivme gösteriyor
  • 2024 mali yılı gelirinin 1,6 milyar dolara ulaştığı ve %50’nin üzerinde büyüdüğü bildiriliyor (halka açık değil)
  • Databricks, üretken yapay zeka alanının önemli oyuncularından biri hâline geliyor
    • MosaicML’yi 1,3 milyar dolara satın alması gibi hamlelerle hem M&A’de hem de şirket içi ürün geliştirmede agresif davranıyor
    • Sadece LLM’lere beslenen yapılandırılmamış veriler için temel bir depo olmakla kalmıyor, Dolly’den yeni duyurulan DBRX’e kadar çeşitli modelleri de doğrudan geliştiriyor
• İki şirket arasındaki rekabet dinamiğine yeni eklenen değişken ise Microsoft’un Fabric lansmanı
  • Mayıs 2023’te duyurulan Fabric, uçtan uca bulut tabanlı bir veri analitiği SaaS platformu
  • Microsoft’un data lake çözümü OneLake, BI aracı PowerBI ve Synapse’i bir araya getirerek veri entegrasyonundan mühendisliğe ve veri bilimine kadar tüm alanı kapsıyor
  • Duyuru ile gerçek ürün arasında farklar olabilir, ancak Microsoft’un üretken yapay zeka yatırımlarıyla birleştiğinde güçlü bir tehdit oluşturabilir
  • Databricks’in büyük ölçüde Microsoft’un bulutu Azure üzerinde çalışıyor olması da ilginç bir nokta

5. 2024’te BI’ın durumu ve üretken yapay zeka analitiği değiştiriyor mu?

• MDS ve yapılandırılmış veri hattı alanları içinde yeniden icadın en acil olduğu alan BI idi
  • 2019’daki MAD’de BI sektöründeki konsolidasyonun neredeyse tamamlandığına dikkat çekilmiş, 2021’de ise metric store’ların ortaya çıkışı ele alınmıştı
• Ancak BI/analitik dönüşümü beklenenden daha yavaş ilerliyor
  • Hâlâ Power BI, Tableau, Looker gibi eski ürün aileleri pazara hakim ve bunlar çoğu zaman daha büyük satış sözleşmelerine bağlanarak ücretsiz sunuluyor
  • Thoughtspot’un Mode’u satın alması ve Snowflake’in Sisu’yu satın alması gibi ek konsolidasyonlar yaşandı; dbt (semantic layer/MetricFlow), Trace (metric tree) gibi yenilikçi yaklaşımlar deneyen genç şirketler de var, ancak bunlar henüz erken aşamada
• Buna karşılık üretken yapay zeka, yalnızca veri çıkarma/dönüştürmeyi değil analizin kendisini de büyük ölçüde etkileyebilir
  • OpenAI’nin Code Interpreter’ı (şimdiki Advanced Data Analysis), Microsoft’un Excel için finans chatbot’u gibi hareketli gelişmeler yaşandı
  • Cloud vendor’lar, Databricks, Snowflake, açık kaynak ekosistemi ve çok sayıda startup, doğal dille DB sorgusu çalıştıran "text to SQL" ürünleri geliştiriyor ya da piyasaya sürüyor
• Bu, ilgi çekici ve potansiyel olarak yıkıcı bir değişime işaret ediyor
  • Analitiğin demokratikleşmesi uzun süredir arzulanan bir hedefti; doğal dil notebook/DB/BI araçlarının arayüzü haline gelirse çok daha fazla kişi analiz yapabilir
• Ancak BI sektörünün içinde şüpheci bakışlar da var
  • SQL’in hassasiyeti ve sorgunun arkasındaki iş bağlamını anlama gerekliliğinin otomasyonun önündeki engel olacağı belirtiliyor

6. Modern AI stack’in yükselişi

• Buraya kadarki tartışmanın önemli bir kısmı yapılandırılmış veri hatlarıyla ilgiliydi
• Yapılandırılmamış veri altyapısı, yapılandırılmış veri altyapısından çok farklı bir döneme giriyor. LLM’lere sağlanacak veriye yönelik talep son derece yüksek
  • Üretken yapay zekayı deneyen ya da devreye alan her şirket, "veri yeni petroldür" klişesini yeniden keşfediyor
  • Herkes LLM’lerin gücünü istiyor, ama bunu kendi kurumsal verileriyle eğitilmiş modellerle istiyor
• Hem büyük şirketler hem startup’lar, üretken yapay zeka altyapısı sağlamak için yoğun bir rekabet içinde sahaya iniyor
• Birkaç AI scale-up şirketi, ivme yakalamak için ürünlerini agresif biçimde geliştiriyor
  • Databricks, Scale AI (otonom araçlar için etiketleme altyapısını OpenAI vb. ile ortaklıklar üzerinden kurumsal veri hattına dönüştürüyor), Dataiku (çoklu vendor/çoklu model için LLM Mesh’i duyurdu) gibi
• Bu arada birçok alanda yeni nesil AI altyapısı startup’ları ortaya çıkıyor
  • Vektör DB: Veriyi üretken yapay zeka modellerinin tüketebileceği biçimde (vektör embedding) saklar. Pinecone, Weaviate, Chroma, Qudrant gibi uzman vendor’lar hızla büyürken MongoDB gibi mevcut DB şirketleri de vektör arama özellikleri eklemekte çok aktif. Öte yandan context window’ların genişlemesinin vektör DB’leri gereksiz kılabileceğine dair bir tartışma da var
  • Framework’ler: LlamaIndex, Langchain vb. çok sayıda unsuru birbirine bağlama ve orkestre etme rolü üstleniyor
  • Guardrails: LLM ile kullanıcı arasında yer alarak çıktının kurum kurallarına uymasını sağlar
  • Evaluator’lar: Üretken yapay zeka modellerinin performansını test eder/analiz eder/izler. Açık benchmark’lara yönelik güvensizlik nedeniyle zor bir problem olarak görülüyor
  • Router’lar: Kullanıcı sorgularını gerçek zamanlı olarak birden fazla modele dağıtarak performans/maliyet/deneyimi optimize eder
  • Maliyet yönetimi: LLM kullanım maliyetlerini izler
  • Endpoint’ler: Model gibi temel altyapıların karmaşıklığını soyutlayan API’ler
• MDS örneği düşünüldüğünde "modern AI stack" terimini kullanma konusunda isteksizlik var
  • Ancak çok sayıda benzerlik bulunuyor: Bu startup’lar, geçmişteki MDS şirketleri gibi "hot", sürü halinde hareket ediyor ve pazarlama/ürün ortaklıkları kuruyor
• Bu yeni AI altyapısı startup kuşağı, MDS şirketlerine benzer zorluklarla karşılaşacak
  • Her kategori, milyarlarca dolarlık şirketler yaratacak kadar büyük mü?
  • Hangi parçaları Big Tech (cloud şirketleri, Databricks, Snowflake vb.) doğrudan kendi içinde inşa edecek?

7. AI hype cycle, şimdi neresindeyiz?

• AI, onlarca yıl boyunca AI yazları ve kışları arasında gidip geldi. Sadece son 10-12 yılda bile üç hype cycle yaşandı
  • 1. dalga: 2013-2015, ImageNet 2012 sonrasında deep learning’in dikkat çekmesiyle başladı
  • 2. dalga: 2017-2018 civarı, chatbot patlaması ve TensorFlow’un yükselişi
  • 3. dalga: 2022 Kasım’ından bugüne, üretken yapay zeka
• Bu hype cycle, neredeyse bir AI balonu gibi hissettirecek kadar özellikle güçlü. Bunun birkaç nedeni var
  • Teknolojinin kendisi son derece etkileyici ve teknoloji alanının ötesinde genel kamuoyu için de kolayca anlaşılabilir
  • Çok miktarda dry powder’a (kullanılmamış fon) sahip VC’ler için, diğer tüm teknoloji alanlarının durgun olduğu bir ortamda tek yatırım alanı buydu
• Hype, her zaman olduğu gibi birçok artıyı ("çılgın bir tutku olmadan büyük başarı olmaz", "yüz çiçek açsın" türü iddialı projelere fon akışı) ve eksiyi (bir gecede herkesin AI uzmanına dönüşmesi, her startup’ın AI şirketi olması, AI konferansı/podcast/newsletter enflasyonu, AI market map seli) birlikte getiriyor
• Ancak hype cycle’ın temel sorunu, kaçınılmaz karşı tepkidir
• Mevcut aşamanın içinde çeşitli "tuhaflıklar (quirkiness)" ve riskler bulunuyor
  • Temsilci şirketin (OpenAI) sıra dışı hukuki/yönetişim yapısı
  • Yeterince anlaşılmamış veya açıklanmamış, "hesaplama gücü desteği karşılığında hisse alma" türü anlaşmaların yaygınlığı (round-tripping ihtimali var)
  • Çok sayıda umut vadeden startup’ın AI araştırmacıları tarafından yönetilmesi
  • Sıfır faiz dönemini hatırlatan VC işlem davranışları ("toprak kapma", devasa round’lar, çok genç şirketlere biçilen baş döndürücü değerlemeler)
• AI hype’ında çatlak işaretleri de var (aşağıya bakın), ancak hâlâ her hafta ortaya çıkan yeni bir şey herkesi şaşırtıyor. Suudi Arabistan’ın 40 milyar dolarlık AI fonu haberi gibi gelişmelere bakılırsa, para akışının bir süre daha durması zor görünüyor

8. Deney mi, gerçek mi? 2023 sahte miydi?

• Hype hesaba katıldığında, şimdiye kadar ne kadarının gerçekten somut olduğu ve ne kadarının sadece deneyde kaldığına dönüp bakmak gerekiyor
• 2023 son derece yoğun bir yıldı
  • Tüm teknoloji şirketleri, ürünlerine üretken yapay zekayı dahil etmek için acele etti
  • Global 2000 şirketlerinin yönetim kurullarının tamamı AI benimsenmesini dayattı ve Morgan Stanley/Citibank gibi regülasyona tabi sektörlerdeki şirketler bile bunu rekor hızla devreye aldı
  • Tüketiciler, üretken yapay zeka uygulamalarına büyük bir heyecan gösterdi
• Bunun sonucunda OpenAI ($2B ARR), Anthropic (2024 için beklenen gelir $850M), Midjourney (yatırım almadan 40 kişiyle $200M gelir), Perplexity (MAU 0→10 milyon) gibi şirketler büyük başarı elde etti
• Ancak buna daha sinik yaklaşmak gerekir mi? Bazı endişeler var
  • Şirket harcamaları çoğu zaman PoC ya da vitrinde sergilenecek çıktılarla sınırlı kaldı ve çoğu zaman inovasyon bütçesinden geldi
    • Acaba bunlar gerçek iş problemlerini çözmekten çok, yöneticilerin geri kalmış görünmek istememesi nedeniyle mi ilerletildi?
  • Tüketici uygulamalarında churn oranı yüksek. Bu yalnızca geçici bir merak mıydı?
  • Hem kişisel hayatta hem işte üretken yapay zekanın nasıl kullanılacağını gerçekten bilmediğini söyleyen çok kişi var
  • En iyi AI uzmanlarının yaptığı ürünler bile tamamen sihir gibi görünmeyebilir
    • $1.3B fon toplayıp sonra sönük şekilde kapanan Inflection AI örneğini nasıl okumak gerekir? Bu, dünyanın bir AI chatbot’una ya da başka bir LLM’e daha ihtiyacı olmadığının göstergesi mi?

9. LLM şirketleri, o kadar da metalaşmadı mı?

• LLM şirketlerine çok büyük ölçeklerde girişim sermayesi ve kurumsal fon akıyor
• Son 18 aydaki en yaygın soru şu oldu: Sonunda emtialaşacak ürünlere devasa sermayenin yakılmasını mı izliyoruz? Yoksa bu LLM şirketleri yeni AWS, Azure, GCP mi olacak?
• LLM şirketleri açısından can sıkıcı gerçek şu: Hiçbir LLM kalıcı bir performans üstünlüğü kurabiliyor gibi görünmüyor
  • Şu an için Claude 3 Sonnet ve Gemini Pro 1.5, GPT-4'ten daha iyi; GPT-4 ise Gemini 1.0 Ultra'dan daha iyi görünüyor, ancak bu üstünlük ilişkisi birkaç haftada bir değişiyor gibi
  • Performans dalgalanması da var; ChatGPT bir dönem "aklını kaçırmış" ve "tembelleşmiş" gibi göründü, sonra geçici olarak toparlandı
• Buna ek olarak açık kaynak modellerin (Llama 3, Mistral, DBRX vb.) performansı da hızla yetişiyor
• Öte yandan, başlangıçta beklenenden çok daha fazla sayıda LLM şirketi piyasaya çıktı
• Birkaç yıl önce baskın görüş, transformer ölçeklendirmesi için gereken uzmanlığa dünya genelinde yalnızca birkaç kişinin sahip olması nedeniyle LLM şirketlerinin bir ya da iki taneyle sınırlı kalacağı ve pazarın kazanan-hepsini-alır yapısına dönüşeceği yönündeydi
• Ancak göründüğü kadarıyla yetkin ekip sayısı düşünüldüğünden daha fazla
  • OpenAI ve Anthropic'in yanı sıra Mistral, Cohere, Adept, AI21, Imbue, 01.AI gibi temel yapay zeka araştırması yürüten pek çok girişim var; ayrıca Google, Meta gibi şirketlerin ekipleri de bulunuyor
• Buna rağmen şu ana kadar LLM şirketleri kötü performans göstermedi. OpenAI ve Anthropic'in gelirleri muazzam bir hızla artıyor
• LLM "modelleri" emtialaşabilir, ancak LLM "şirketlerinin" önünde hâlâ devasa iş fırsatları var
  • Bu şirketler, temel modellerin üzerinde tüketici/kurumsal/geliştirici uygulamaları ve araçları sunan "full-stack" şirketlere çoktan dönüştü
• Bulut şirketleriyle yapılan benzetme oldukça yerinde görünüyor
  • AWS, Azure ve GCP müşterileri uygulama/araç katmanı üzerinden çekip elde tutuyor ve gelirlerini büyük ölçüde farklılaşmamış bilgi işlem/depolama katmanından elde ediyor

10. Hibrit gelecek: LLM, SLM

• Büyük LLM'lere (GPT-3, GPT-4, GPT-5 vb.) ilgi yüksek olsa da SLM'ler (small language model) de hızla gelişiyor
  • Meta'nın Llama-2-13b'si, Mistral'ın Mistral-7b/Mixtral 8x7b'si, MS'in Phi-2/Orca-2'si vb.
  • SLM'lerin işletme maliyeti düşük, fine-tuning süreçleri kolay ve performansları da güçlü
• Kodlama, finans gibi belirli işlere özel modeller de ortaya çıkıyor
  • Code-Llama, Poolside AI gibi kodlama odaklı modeller
  • Bloomberg'in finans modeli, Orbital Materials'ın malzeme bilimi modeli gibi sektöre özel modeller
• Şirketler bu çeşitli modelleri bir araya getiren hibrit mimarilere doğru hızla evriliyor
• Fiyatlar düşüyor olsa da büyük kapalı kaynak LLM'ler hâlâ pahalı ve gecikme sorunları da var; bu yüzden kullanıcılar/müşteriler giderek daha çeşitli model kombinasyonlarını devreye alacak
  • Büyük/küçük, ticari/açık kaynak, genel amaçlı/özelleşmiş modellerin ihtiyaç ve bütçeye göre birlikte kullanılması yönünde bir eğilim var

11. Geleneksel AI öldü mü?

• ChatGPT'nin ortaya çıkışıyla, daha önce son teknoloji kabul edilen AI teknolojileri bir gecede "geleneksel AI" diye anılmaya başladı
• Ancak geleneksel AI (veya tahmine dayalı AI), yapılandırılmış verilerle çalışır ve üretken yapay zeka ile birbirini tamamlar
• Geleneksel AI zaten çok sayıda şirkette büyük ölçekte kullanılıyor
• Bundan sonra şirketler, hangi işlerde LLM kullanacaklarını, hangi işlerde geleneksel AI modellerine başvuracaklarını ve ikisini nasıl birleştireceklerini daha çok düşünecek

12. İnce wrapper, kalın wrapper ve full-stack olma yarışı

• İnce wrapper (thin wrapper): 2023'te, OpenAI gibi üçüncü taraf teknolojilere bağımlı ürünleri küçümseyen bir ifade olarak popülerleşti
  • Jasper gibi girişimlerin yaşadığı zorluklar da bunu destekledi
• Ancak zamanla farklılaşma yolları da ortaya çıktı
  • Belirli (dikey) bir probleme odaklanmak
  • İş akışı, iş birliği ve derin entegrasyon yetenekleri kazanmak
  • Model fine-tuning'i, hibrit sistem kurma gibi AI model katmanında işler yapmak
• Yani hem full-stack (uygulama + altyapı) olmak hem de aynı anda uzmanlaşmış/dar bir alana odaklanmak gerekiyor

13. Dikkat çeken alanlar: AI agent'ları, Edge AI

• AI agent'ları, otomasyonun son aşaması olarak büyük ilgi görüyor
  • Ancak üretken yapay zeka hâlâ zayıf yönler gösterdiğinden beklentilerin gerisinde kalıyor
  • AI sistemlerine bellek yeteneği eklemek gibi iyileştirmeler gerekiyor
  • Buna rağmen önümüzdeki 1-2 yıl içinde en heyecan verici alanlardan biri olması bekleniyor
• Edge AI da ilgi gören bir alan
  • GPU olmadan cihaz üzerinde çalışan modeller uzun süredir hedeflenen bir konu
  • Akıllı telefonlar veya IoT cihazlarında kullanıldığında büyük potansiyel taşıyor
  • Mixtral, Ollama, Llama.cpp gibi aktif açık kaynak projeleri ilerliyor

14. Üretken yapay zeka AGI'ye mi gidiyor, yoksa duraksıyor mu?

• Teknolojideki hızlı ilerlemeye rağmen, üretken yapay zekanın ① kaynak sınırlarına (hesaplama, veri) çarpabileceği ya da ② akıl yürütme eksikliği nedeniyle sınıra dayanabileceği yönünde kaygılar var
• 2018'de de benzer tartışmalar yapılmıştı; sonrasında ise kaynak yatırımlarındaki artış öne çıktı
• Akıl yürütme (reasoning) alanında DeepMind'ın AlphaGeometry'si gibi anlamlı ilerlemeler yaşandı
• Kaynak sınırlarını değerlendirmek zor. Hesaplama kapasitesi artmaya devam ediyor (NVIDIA Blackwell) ve veri tarafında da sentetik veri üretimi gibi yollarla bu sınırların aşılması mümkün görünüyor
• Girişim ekosistemi açısından bakıldığında, GPT-5'in performansının GPT-4'e kıyasla ne kadar iyileşeceği teknik ilerleme hızının bir barometresi olacak
  • Üretken yapay zeka gelişimi bugün dursa bile bir süre daha yeterince iş fırsatı olacak gibi görünüyor

15. GPU savaşı (NVIDIA fazla mı abartılıyor?)

• Hesaplama gücünün dünyadaki en değerli kaynak hâline geldiği yeni bir çağ mı geliyor, yoksa GPU aşırı üretiminin yarattığı bir balon mu söz konusu?
• NVIDIA, AI odaklı GPU pazarını fiilen tekeline almış durumda ve hissesi 5 kat artarak büyük bir patlama yaşadı
  • Bunun bir nedeni, VC'lerin AI'ya yatırdığı paranın NVIDIA'ya akması olabilir
• Ancak donanım üretimi (TSMC fabrikaları) kolay bir iş değil; bu yüzden NVIDIA'nın kaderi mevcut patlamanın ne kadar sürdürülebilir olduğuna bağlı
• AMD, Intel gibi rakiplerden meydan okumalar gelse de uzun vadede AI çip üreticilerinin görünümü parlak görünüyor

16. Açık kaynak AI, fazlası zarar mı?

• Son 1 yılda açık kaynak AI büyük ilgi gördü
  • Meta'nın Llama'sı, Mistral, Google'ın Gemma'sı dikkat çekti; HuggingFace de sayısız modeli barındırırken büyümeye devam ediyor
  • Üretken yapay zeka alanındaki en yenilikçi çalışmaların önemli bir kısmı açık kaynak topluluğunda yapılıyor
• Ancak açık kaynak topluluğunda aşırılık işaretleri de görülüyor
  • Yüz binlerce açık kaynak AI modeli yayınlandı, ancak bunların çoğu oyuncak düzeyinde ya da hafta sonu projesi olmaktan öteye gitmiyor
  • Sıralamaları sık sık değişen, birkaç gün içinde ünlenip sonra kaybolan çok sayıda model var
• Piyasa zamanla kendi ayıklamasını yapacak ve yalnızca az sayıdaki başarılı açık kaynak proje bulut şirketleri gibi oyunculardan destek alacak. Ancak o zamana kadar karmaşık bir tablo sürecek gibi görünüyor

17. AI'nın gerçek maliyeti ne kadar?

• Üretken yapay zekanın ekonomisi hızla değişen bir konu
  • Arama pazarında Google'a meydan okumak için, 10 bağlantı göstermenin maliyetinden daha düşük bir maliyetle AI tabanlı yanıt sunmak gerekiyor
  • AI tabanlı yazılım şirketlerinin, çıkarım maliyetlerinin brüt kâr marjlarını eritmesine izin vermemesi gerekiyor
• AI model müşterileri/kullanıcıları açısından iyi haber: Fiyat indirme yarışı beklenenden daha hızlı başladı
  • Açık kaynak AI ve ticari çıkarım sağlayıcılarının ortaya çıkmasıyla müşteriler açısından geçiş maliyeti çok düştü; bu da OpenAI ve Anthropic üzerinde baskı yaratıyor
  • Embedding modellerinin fiyatlarının eş zamanlı olarak düşürülmesi buna bir örnek
• Tedarikçi açısından AI'yı kurmanın ve hizmet olarak sunmanın maliyeti hâlâ yüksek
  • Anthropic'in gelirinin yarısından fazlasını bulut maliyetlerine harcadığı söyleniyor
  • Veri lisanslama maliyetleri de azımsanacak gibi değil
• Kullanıcı açısından bakıldığında, VC destekli ücretsiz hizmetlerin tadını çıkarmak da bir yöntem

18. Büyük şirketler ve AI'nin politik ekonomisindeki değişim: Microsoft kazandı mı?

• 2022 sonundan beri gündemde olan soru: üretken yapay zekanın değerinin büyük kısmını büyük teknoloji şirketleri mi alacak?
• Yapay zekada veri, hesaplama gücü ve araştırmacı sayısı arttıkça avantaj büyüyor. Büyük teknoloji şirketleri bunun farkında ve agresif şekilde harekete geçiyor
• MS bu sürece en etkili yanıt veren şirket gibi görünüyor (adeta 4 boyutlu satranç oynar gibi)
  • OpenAI'ye 13 milyar dolar yatırım
  • Açık kaynak rakip Mistral ile ortaklık
  • ChatGPT rakibi Inflection AI'nin satın alınması
  • Azure geliri de güçlü biçimde büyüyor
• Google/Amazon, Anthropic ile ortaklık kurup yatırım yaptı; Amazon ayrıca Hugging Face ile ortaklık kurdu
• Meta ise açık kaynak yapay zekaya tüm ağırlığını vermiş görünüyor
• Çin kaynaklı değişimler de dikkat çekici
• Asıl kritik nokta, startup'ların ne kadar büyüme alanı bulabileceği
  • OpenAI, Anthropic gibi az sayıdaki şirket iyi ortaklıklar sayesinde hızlı çıkış yakaladı
  • Ancak birçok startup'ın geleceği belirsiz
  • Inflection AI satın alması, Stability AI CEO krizi gibi olaylar, "ikinci lig" startup'ların zorlandığını gösteriyor

19. OpenAI coşkusu vs alaycılık

• OpenAI hâlâ çok çekici
  • 86 milyar dolarlık değerleme, hızla artan gelir, kurucular arası anlaşmazlık(?), Sam Altman bu neslin Steve Jobs'u
• İlginç sorular:
  • OpenAI aynı anda fazla şey yapmaya mı çalışıyor? Dikeyde de yatayda da yapay zekadaki her şeyi yapmaya çalışıyor gibi; bu fazla iddialı değil mi?
    • Benzer bir durumun yaşandığı Coinbase örneği var
    • Rekabetin kızıştığı ortamda bu son derece zor bir meydan okuma olacak
    • ChatGPT ile ilgili sorunlar, marketplace performansının zayıf kalması gibi işaretler, OpenAI'nin de zorlanabileceğini gösteriyor
  • OpenAI ile MS yollarını ayırır mı?
    • MS'in desteği OpenAI için büyük bir avantaj (kaynaklar, kurumsal müşteriler vb.)
    • Ancak MS, OpenAI'ye bağımlı olmadığını açıkça gösteriyor (Mistral ortaklığı, Inflection AI satın alması vb.) ve kendi yapay zeka kapasitesi de oldukça güçlü
    • Buna karşılık OpenAI de yalnızca MS'e bağımlı kalmak istemeyebilir. Başka bulutlarda da dağıtılmayı isteyebilir
    • OpenAI'nin devasa hırsları ve MS'in hakimiyet arayışı düşünüldüğünde, iki şirketin rakibe dönüşme ihtimali de var gibi görünüyor

20. 2024 kurumsal yapay zekanın yılı olacak mı?

• 2023'te şirketlerin yapay zeka benimsemesi büyük ölçüde kavram kanıtı seviyesinde kaldı
• 2023'te üretken yapay zekanın en büyük kazananları, yapay zeka danışmanlığından 2 milyar dolar gelir elde eden Accenture gibi şirketler oldu
• Beklenti, 2024'ün kurumsal üretken yapay zekanın başlangıç yılı olması yönünde (geleneksel yapay zeka zaten yaygın biçimde benimsenmiş durumda)
• Ancak çözülmesi gereken hâlâ çok konu var:
  • Kullanım senaryoları geliştirici copilot'ları, kurumsal bilgi yönetimi, müşteri hizmetleri chatbot'ları gibi birkaç alanla sınırlı
  • Hangi araçların seçileceği belirsiz (ticari/açık kaynak, büyük/küçük model, yatay/dikey uzmanlaşma gibi kombinasyonlar gerekiyor)
  • Yetenek açığı ciddi boyutta (geliştirici bulmak zaten zorken ML mühendisi bulmak daha da zor)
  • Halüsinasyon sorunu, kara kutu problemi gibi konular şirketler açısından ciddi risk oluşturuyor
  • ROI'nin doğrulanması gerekiyor (Palo Alto Networks'ün iş seyahati yönetim maliyetini yarıya indirdiği gibi bazı örnekler var)
• Olumlu taraf ise şirketlerin bunu inovasyon bütçesinden değil, OpEx bütçesinden finanse etmeye yönelmesi
• Ancak büyük ölçekli benimsemenin 3-5 yıl alması muhtemel

21. Yapay zeka SaaS'ı öldürür mü?

• Son 1 yılda popüler olan fikirlerden biri buydu
• İddiaya göre yapay zeka sayesinde kodlama verimliliği 10 kat artarsa, az sayıda geliştiriciyle bile özel SaaS üretmek mümkün olacak ve mevcut SaaS'lara ihtiyaç kalmayacak
• Ya da yapay zeka İK/finans/satış gibi her şeyi üstlenirse ayrı yazılımlara da gerek kalmayacağı savunuluyor
• Ancak iki senaryonun da tam anlamıyla gerçekleşmesi zor görünüyor
• Daha olası olan, yapay zekanın mevcut SaaS ürünlerine gömülerek onları daha güçlü hale getirmesi

22. Yapay zeka girişim sermayesini öldürür mü?

• Yapay zekanın VC'nin şirket seçimini ve yatırım sonrası değer yaratımını otomatikleştirip otomatikleştiremeyeceğinden bağımsız olarak, yapay zeka çağında VC varlık sınıfının ölçeğinin uygun olup olmadığı tartışılmalı
• VC fazla küçük olabilir mi?
  • OpenAI gibi şirketlerin onlarca milyar dolara, hatta daha fazlasına ihtiyacı var
  • MS gibi büyük şirketler bu finansmanın önemli bölümünü sağlıyor (muhtemelen hesaplama gücü biçiminde)
  • Bazı VC'ler büyük temel model şirketlerine yatırım yapıyor, ancak bu yaklaşım geleneksel VC yazılım yatırım modelinden oldukça farklı
  • Yapay zeka yatırımları için mega ölçekli fonlar gerekebilir (Suudi Arabistan'ın ABD'li VC'lerle birlikte 40 milyar dolarlık yapay zeka fonu kuracağı konuşuluyor)
• VC fazla büyük olabilir mi?
  • Yapay zeka sayesinde geliştirici verimliliği 10 kat artar ve satış/pazarlama otomatikleşirse
  • Küçük ekiplerin hatta tek kişilik şirketlerin bile yüz milyonlarca dolar gelir elde edip halka açılabildiği bir dönem gelebilir
  • 100 milyon dolar gelir üreten tek kişilik bir şirketin, kuruluştan EXIT'e kadar gerçekten VC finansmanına ihtiyacı olur mu?

23. Yapay zeka tüketici pazarını yeniden canlandırır mı?

• Sosyal medya/mobil döneminden sonra durgunluğa giren tüketici pazarı, üretken yapay zekayla yeniden ivme kazanabilir mi?
• İlgi çekici alanlar:
  • Arama: On yıllar sonra Google'a ciddi şekilde meydan okuyan Perplexity AI, You.com gibi; arama motorundan yanıt motoruna dönüşümü öne çıkaran startup'lar
  • AI companion: distopik kaygıları bir kenara bırakırsak, herkesin kendine ait sonsuz sabırlı ve yardımcı bir yol arkadaşı olması ne anlama gelir?
  • Yapay zeka donanımı: Humane, Rabbit, VisionPro gibi tüketici odaklı yapay zeka donanımlarındaki ilginç denemeler
  • Aşırı kişiselleştirilmiş eğlence: üretken yapay zeka araçları geliştikçe ve ucuzladıkça, nasıl yeni eğlence ve sanat biçimleri ortaya çıkacak?

24. Yapay zeka ve blockchain: saçma mı, ilgi çekici mi?

• Yapay zeka ile kriptonun buluşması, Twitter için kusursuz bir meme malzemesi
• Ancak hesaplama gücü, veri ve yetenek gibi yapay zeka kaynaklarının az sayıda şirkette toplanması kaygı verici
• Blockchain'in özü, katılımcıların kaynakları ve varlıkları dağıtık ağlar üzerinden paylaşmasını sağlamak
• Bu iki alanın kesişiminde keşfedilmeye değer noktalar var (birkaç yıldır düşünülen bir konu)
• Bittensor (dağıtık yapay zeka platformu), Render (dağıtık GPU render platformu), Arweave (dağıtık veri platformu) gibi projelerdeki hızlanma dikkat çekiyor
• Asıl soru, kripto sektörünün kendine gerçekten fayda sağlayıp sağlayamayacağı, yoksa yapay zeka temalı memecoin'ler ve dolandırıcılıklara mı savrulacağı

BONUS: Ele alınmayan konular

• Yapay zeka hepimizi öldürecek mi? AI doomsday vs AI accelerationist'ler
• Regülasyon, gizlilik, etik, deepfake
• Yapay zeka yalnızca Silikon Vadisi'nde mi geliştirilebilir?

[Part III: Financing, M&A & IPO]

Finansman

• Yapay zeka yatırımları ile diğer alanlardaki yatırımlar arasında belirgin bir şekilde ayrışan bir "iki piyasa hikayesi" görünümü vardı
• Genel yatırımlar düşmeye devam etti ve 2023'te %42 azalarak 248,4 milyar dolara geriledi. 2024'ün ilk birkaç ayında hafif bir toparlanma görülse de eğilim hâlâ benzer
• Veri altyapısı, daha önce bahsedilen çeşitli nedenlerle yatırım çekme konusunda oldukça zayıf kaldı; Sigma Computing ve Databricks ise istisnai örneklerdi
• Buna karşılık yapay zeka cephesi tamamen farklı bir hikayeydi
• Yapay zeka yatırım pazarının öne çıkan özellikleri şunlardı:
  • Sermayenin, özellikle OpenAI, Anthropic, Inflection AI ve Mistral gibi az sayıdaki girişimde yoğunlaşması
  • MS, Google ve NVIDIA gibi kurumsal yatırımcıların (CVC) olağan dışı derecede yüksek payı
  • CVC anlaşmalarında, fiilî nakit ile "hesaplama gücü desteği karşılığında alınan hisse" arasındaki ayrımın net olmaması
• 2023 MAD'den bu yana dikkat çeken işlemler şunlardı (kronolojik sırayla, tam liste değil):
  • OpenAI (önde gelen temel model geliştiricisi): iki turda 10,3 milyar dolar topladı, değerleme 86 milyar dolar
  • Adept (temel model geliştiricisi): 350 milyon dolar yatırım aldı, değerleme 1 milyar dolar
  • AlphaSense (finansal araştırma platformu): iki turda 475 milyon dolar topladı, değerleme 2,5 milyar dolar
  • Anthropic (temel model geliştiricisi): üç turda 6,45 milyar dolar topladı, değerleme 18,4 milyar dolar
  • Pinecone (vektör veritabanı platformu): 100 milyon dolar topladı, değerleme 750 milyon dolar
  • Celestial AI (optik ara bağlantı platformu): iki turda 275 milyon dolar topladı
  • CoreWeave (GPU bulutu): 421 milyon dolar topladı, değerleme 2,5 milyar dolar
  • Lightmatter (optik çip geliştiricisi): iki turda 308 milyon dolar topladı, değerleme 1,2 milyar dolar
  • Sigma Computing (bulut analitik platformu): 340 milyon dolar topladı, değerleme 1,1 milyar dolar
  • Inflection (temel model geliştiricisi): 1,3 milyar dolar topladı, değerleme 4 milyar dolar
  • Mistral (temel model geliştiricisi): iki turda 528 milyon dolar topladı, değerleme 2 milyar dolar
  • Cohere (temel model geliştiricisi): 270 milyon dolar topladı, değerleme 2 milyar dolar
  • Runway (üretken video modeli geliştiricisi): 191 milyon dolar topladı, değerleme 1,5 milyar dolar
  • Synthesia (kurumsal video üretim platformu): 90 milyon dolar topladı, değerleme 1 milyar dolar
  • Hugging Face (açık kaynak ML platformu): 235 milyon dolar topladı, değerleme 4,5 milyar dolar
  • Poolside (kodlama için temel model geliştiricisi): 126 milyon dolar topladı
  • Modular (yapay zeka geliştirme platformu): 100 milyon dolar topladı, değerleme 600 milyon dolar
  • Imbue (yapay zeka ajanı geliştiricisi): 212 milyon dolar topladı
  • Databricks (veri/analitik/yapay zeka çözümleri): 684 milyon dolar topladı, değerleme 43,2 milyar dolar
  • Aleph Alpha (temel model geliştiricisi): 486 milyon dolar topladı
  • AI21 Labs (temel model geliştiricisi): 208 milyon dolar topladı, değerleme 1,4 milyar dolar
  • Together (üretken yapay zeka bulutu): iki turda 208,5 milyon dolar topladı, değerleme 1,25 milyar dolar
  • VAST Data (derin öğrenme veri platformu): 118 milyon dolar topladı, değerleme 9,1 milyar dolar
  • Shield AI (havacılık/savunma için yapay zeka pilotu): 500 milyon dolar topladı, değerleme 2,8 milyar dolar
  • 01.ai (temel model geliştiricisi): 200 milyon dolar topladı, değerleme 1 milyar dolar
  • Hadrian (havacılık/ savunma için parça üretimi): 117 milyon dolar topladı
  • Sierra AI (müşteri hizmetleri için yapay zeka chatbot'u): iki turda 110 milyon dolar topladı
  • Glean (kurumsal yapay zeka araması): 200 milyon dolar topladı, değerleme 2,2 milyar dolar
  • Lambda Labs (GPU bulutu): 320 milyon dolar topladı, değerleme 1,5 milyar dolar
  • Magic (kodlama için temel model geliştiricisi): 117 milyon dolar topladı, değerleme 500 milyon dolar

M&A, özel şirket işlemleri

• 2023 MAD'den bu yana M&A pazarı oldukça sakindi
• Birçok geleneksel yazılım şirketi, M&A yerine kendi hisse fiyatına ve genel işlerine odaklanıyor görünüyordu
• Özellikle daha da sıkılaşan antitröst ortamı, potansiyel alıcılar için de yük oluşturdu
• Özel sermaye (PE) ise kötüleşen pazarda daha ucuz fırsatlar arayarak görece aktif hareket etti
• MAD'de yer alan dikkat çekici işlemler şunlardı (işlem büyüklüğüne göre):
  • Broadcom (yarı iletken üreticisi), VMWare'i (bulut şirketi) satın aldı, $69B
  • Cisco (ağ/güvenlik altyapısı), Splunk'ı (izleme/observability) satın aldı, $28B
  • Qualtrics (CX yönetimi), Silver Lake/CPP tarafından borsadan çıkarıldı, $12.5B
  • Coupa (harcama yönetimi platformu), Thoma Bravo tarafından borsadan çıkarıldı, $8B
  • New Relic (izleme/observability), Francisco Partners/TPG tarafından satın alındı, $6.5B
  • Alteryx (analitik platformu), Clearlake/Insight tarafından borsadan çıkarıldı, $4.4B
  • Salesloft (gelir orkestrasyonu), Vista Equity tarafından satın alındı, $2.3B
    • Vista ayrıca müşteri deneyimi için yapay zeka chatbot şirketi Drift'i de satın aldı
  • Databricks (veri lakehouse'u), MosaicML'yi (yapay zeka geliştirme platformu) satın aldı, $1.3B
    • Arcion ve Okera gibi şirketlerde de küçük ölçekli satın almalar yaptı
  • Thoughtspot (analitik platformu), Mode Analytics'i (BI) satın aldı, $200M
  • Snowflake (veri ambarı), Neeva'yı (yapay zeka arama motoru) satın aldı, $150M
  • DigitalOcean (bulut), Paperspace'i (yapay zeka geliştirme) satın aldı, $111M
  • NVIDIA (yapay zeka çipi), OmniML'yi (edge AI optimizasyonu) satın aldı
• MS'nin Inflection AI'ı satın alması da sıra dışı bir örnekti
• 2024'ün yapay zeka M&A yılı olup olmayacağı, piyasa momentuma bağlı
• Alt pazarlarda, son 1-2 yılda umut vadeden çok sayıda yapay zeka girişimi yatırım aldı. Geçmişteki yapay zeka patlamalarında, ilk yatırımın ardından performansa kıyasla yüksek bedellerle çok sayıda yetenek edinimi (acquihire) gerçekleşmişti. Yapay zeka yeteneği hâlâ kıt
• Üst pazarda ise önde gelen veri platformları ile yapay zeka platformları arasındaki yakınsama ivme kazanıyor, ancak fiyatların pek de düşük olmayacağı görülüyor

IPO

• Yapay zeka, borsada da sıcak bir temaydı. "Magnificent 7"nin (NVIDIA, Meta, Amazon, MS, Alphabet, Apple, Tesla) hisseleri 2023'te %49'dan fazla yükseldi ve genel piyasa artışına öncülük etti
• Ancak saf yapay zeka hisseleri hâlâ çok az. Az sayıdaki yapay zeka hissesi ise primli işlem görüyor (Palantir hissesi 2023'te %167 yükseldi)
• Bu durum, yapay zeka ile ilgili çok sayıdaki IPO adayı girişim için olumlu olabilir. Başta Databricks olmak üzere Celonis, Scale AI, Dataiku ve Fivetran gibi önemli ölçekli şirketler IPO'ya hazırlanıyor
• OpenAI ve Anthropic'in halka arza nasıl yaklaşacağı da ilgi çekici bir konu
• Buna karşılık 2023 IPO pazarı oldukça zayıftı. MAD ile ilgili şirketlerden yalnızca az sayıda şirket halka açılabildi:
  • Klaviyo (pazarlama otomasyonu): 2023 Eylül'de halka açıldı, değerleme $9.2B
  • Reddit (yapay zeka şirketlerine içerik lisansı sağlıyor): 2024 Mart'ta halka açıldı, değerleme $6.4B
  • Astera Labs (yapay zeka/bulut için yarı iletkenler): 2024 Mart'ta halka açıldı, değerleme $5.5B

Sonuç

• Gerçekten çok özel bir dönemde yaşıyoruz. Bir paradigma değişiminin henüz başındayız.
• Deneme yapma ve yeni şeyler deneme zamanı. Daha yeni başlıyoruz

[xguru]

The 2020 Data & AI Landscape
2021 veri/ML/AI sektör haritası ve en son trendler