Yapay zeka çılgınlığı dünya genelinde karar alma süreçlerini çökertiyor

• Hermit Tech’in bir buçuk yıl boyunca katıldığı veya dolaylı olarak gözlemlediği AI projelerinin başarı oranı %0 oldu; şirketler gerçek sonuçlardan çok AI’yı benimsemeyi stratejik hedef haline getiriyor
• İç chatbot’lar zayıf dokümantasyon nedeniyle kullanılmıyor, müşteri chatbot’larında ise sorunların çözülüp çözülmediği bile doğru dürüst ölçülmüyor; ancak yöneticilerin, çalışanların ve tedarikçilerin başarısızlığı açıklamak için teşviki olmadığından verimlilik artışı duyuruları sürüyor
• 500’den fazla kişilik organizasyonlarda AI’ın faydasından şüphe etmek terfi ve istihdamı tehlikeye atıyor; çalışanlar AI kullanmadan yaptıkları işleri bile AI başarısı gibi paketliyor veya değerlendirme metriklerini tutturmak için token kullanımını yapay olarak artırıyor
• Yöneticiler de müşterilerin, yönetim kurulunun veya meslektaşlarının iddialarına karşı çıkarlarsa sözleşme ya da koltuk kaybedebilecekleri için susuyor; bu koordinasyon sorunu abartılı başarıları ve gereksiz yatırımları birbirini güçlendiren bir döngüye sokuyor
• Her iş, işe alım ve bütçe talebinde AI unsuru istenmesi normal satın alma ve iletişimi engellediğinden, uygulayıcılar gerçekleri gizli görüşmeler ve anonim anketlerle doğrulamalı; durum kemikleşmişse iş değiştirmeye veya sözleşmeli çalışmaya geçmeye hazırlanmalı

---

Gözlemlenen AI yatırımı başarısızlıkları

• Hermit Tech son bir yılda şirketin satışını üstlenip dünyanın farklı yerlerinden yaklaşık 300 uzmanla konuşarak özel ve kamu kuruluşlarının AI benimseme durumunu yakından gördü
• Ekibin bir buçuk yıl boyunca katıldığı veya başka işler sırasında dolaylı olarak gördüğü tüm AI projeleri başarısız oldu; başarı örnekleri varsa bile bunların tipik sonuçtan çok istisna olduğu kanaatine vardı
  • Ekip tüm AI uygulama işlerini reddetti ve OpenAI ortadan kaybolsa bile mevcut sözleşmelerin doğrudan etkilenmemesi için maruziyetini en aza indirdi
• AI araçları belirli işleri hızlandırabilse de mevcut yatırım biçimi ve ölçeğinin makul olmadığı düşünülüyor
  • Şirketlerin genel yazılım projesi yürütme kapasitesi düşük ve mevcut başarısızlık etkenlerini aynen taşıyor
  • AI projelerinde teknolojinin yeniliğinden kaynaklanan ek başarısızlık olasılıkları da var
  • Yazılımı güvenilir biçimde yayımlayıp bu riskleri de kaldırabilecek şirket sayısı az

Başarısızlığı gizleyen çıkar ilişkileri

• Yönetim kurulu, üst yönetim, çalışanlar, tedarikçiler ve danışmanların tamamının AI projelerinin başarılı olup olmadığını muğlaklaştırma teşviki var
  • Başarısızlığı kabul eden yöneticiler koltuklarından olabilir
  • Sorunları dürüstçe söyleyen çalışanlar işten çıkarılabilir veya küçülme hedefi haline gelebilir
  • Bazı halka açık şirketler, Copilot lisansı satın almak dışında kayda değer bir iş yapmadıkları halde AI verimlilik artışları duyuruyor
• Projenin hedefleri, kullanıcıları ve sonuçları hakkında temel sorular sormak bile komuta zincirine saldırı olarak algılanabilir
  • Proje sürerken başarısızlık henüz ortaya çıkmadığı için işler iyi gidiyor yanıtı da gelebilir
  • Hermit Tech, kriz gerçek hale gelmeden müdahale etmenin zor olduğunu düşünüyor; müşteri genel veri stratejisi hakkında açıkça tavsiye istemedikçe devam eden AI projelerini önce kendisi sorun etmiyor
• Bu yaklaşım Gerry Weinberg’in “danışmanlık, istendiğinde insanlar üzerinde etki yaratma işidir” ilkesine dayanıyor

İç ve müşteri chatbot’larının sınırları

• Şirketlerde en yaygın AI projesi, iç çalışanlara veya müşterilere yönelik LLM chatbot’ları
• İç chatbot’larda anlamlı kullanım yayılımı neredeyse hiç görülmedi
  • Şirket dokümantasyonunun kalitesi düşükse LLM yanıt için gereken bilgiyi elde edemiyor
  • Yalnızca kaydedilmiş veya erişilebilir hale getirilmiş bilgiler kullanılabildiğinden, dokümantasyon sorununu AI yerine çözemiyor
• Müşteri chatbot’larında da tatmin edici deneyim nadirdi; tıbbi muayene sırasında gerçek zamanlı transkripsiyon bunun istisnasıydı
• Proje sorumluları aracın gerçekten kullanılıp kullanılmadığı gibi temel metriklerden kaçınmaya veya kolayca manipüle edilebilen metrikleri seçmeye eğilimli

• Mitsubishi müşteri desteği örneği

  • Araç arızasından sonra Mitsubishi ile iletişime geçildiğinde, doğal ses ve hızlı yanıt sunan otomatik danışma sistemi sorunu kayda aldı ve yakında dönüş yapılacağını söyledi
  • 6 ay geçmesine rağmen hiç dönüş gelmedi
  • Talebin hata olarak mı kaydedildiği, yoksa insan müdahalesi olmadan çözülmüş sayılıp sayılmadığı doğrulanamadı
  • Sistem metriklerinde başarı gibi görünebilir; ancak gerçek sonuç, müşterinin bir daha Mitsubishi araç satın almamaya karar vermesiydi

Organizasyon stratejisi AI inanç beyanına dönüştü

• Gözlemlenen 500’den fazla kişilik organizasyonlarda terfi etmek ve işi korumak için AI’ın ilgili işte her şeyi değiştireceği inancını tekrar tekrar dile getirme zorunluluğu giderek artıyor
• Somut kullanım fikirleri değil, inanç beyanına yakın ifadeler isteniyor
  • Bu sözleri çoğunlukla teknik olmayan roller söylüyor, ancak mühendisler de iyi görünmek için eşlik ediyor
  • “AI her şeyi değiştiriyor” dedikten sonra organizasyonda tek bir LLM kullanım örneği veya değişmiş iş akışı gösteremeyenler oldu
  • Yıllık geliri 2 milyar doların üzerinde olan bir organizasyonun teknoloji stratejisini AI merkezli yazan bir yöneticinin, ChatGPT dahil hiçbir AI aracını hiç kullanmadığını kabul ettiği bir örnek de vardı
• Bazıları düşünür gibi görünmek için bilerek abartıyor; ancak teknik geçmişi olmayan kişilerin kendi sözlerine gerçekten inanması daha tehlikeli görülüyor
• Bir organizasyon, en yüksek performanslı çalışanlarını LLM kullanmadan sonuç aldıkları gerekçesiyle işten çıkardı; bunu sadece dış PR’da değil, kendi parası ve iç stratejisinde de aynı şekilde sürdürdü

Teknik uzmanlara zorla AI kullandırılması

• AI’a şüpheyle bakanlar da destekleyenler de yönetimin LLM kullanımını zorunlu kılmasının kötü bir strateji olduğu konusunda hemfikir
  • “Contra Ptacek’s Terrible Article On AI”, Thomas Ptacek’in “My AI Skeptic Friends Are All Nuts” yazısından LLM’in faydasını farklı değerlendiriyor
  • Ancak uzman çalışanlara belirli bir çalışma biçimini dayatmanın uygunsuz olduğu sonucu aynı
• Teknik olmayan yöneticilerin, uzmanların onayı olmadan belirli prosedür ve araçları zorunlu tutması; bir hastanenin ya da inşaat mühendisliği şirketinin CEO’sunun uzman personele tıbbi ya da inşaat tekniklerini doğrudan dikte etmesiyle aynı sorunu taşıyor

• AI aklama ve token skor tabloları

  • Yöneticiler sonuçtan memnun olsa bile AI kullanılmadığı için rahatsızlık gösterdiğinden, çalışanlar işi eski yöntemlerle yapıp Claude’un yaptığını yalan yere raporluyor
  • Bazı organizasyonlar AI maliyeti veya token tüketimi arttıkça daha yüksek puan veren skor tabloları işletiyor
  • Sistem optimizasyonundan sorumlu mühendisler LLM’in kendi kendine prompt’u tekrarlamasını sağlayarak tüketimi artırıyor
  • Çıktının dağıtıma uygun olmadığını düşünseler bile bunu atıp başka iş yaparken sadece kullanım hacmini dolduruyorlar
  • Bir mühendis, Go deposunun tüm kopyasını Zig ile yeniden yazması için AI’a talimat verdiğini ve sonucu görmezden geldiğini söyledi
  • Bu şekilde metrikleri manipüle eden kimse yakalanmadı; yalnızca stratejiden açıkça şüphe duyanların işten çıkarıldığı örnekler oldu
  • Çalışanlar sonunda güvende olmak için yönetimin AI stratejisini övmeleri gerektiğini öğreniyor

AI demosunun satın alma kararını ezip geçmesi

• Hermit Tech’in müşterilere dağıttığı başlıca altyapılardan biri, kullanım bazlı analitik veritabanı Snowflake
• Snowflake’in Cortex’i, veri sütunlarının anlamı gibi metadataları kullanarak şirket veritabanını doğal dil sorularıyla sorgulayan bir AI katmanı
  • “Geçen haftaki satışlar ne kadardı?” gibi sorulara yanıt verebiliyor
  • Snowflake çalışanının sunumunda, ideal şekilde yapılandırılsa bile büyük kurumsal verilerin karmaşıklığı nedeniyle doğruluğun yaklaşık %92 olduğunu hatırlıyorlar
  • CFO’nun gördüğü yaklaşık 10 sayıdan 1’i yanlış olabilir ve dağıtım yönetiminde de ciddi sorunlar bulunduğundan prodüksiyona uygun görülmüyor
• Buna rağmen Cortex etkileyici demo yapmak için çok elverişliydi

• Uyarıları görmezden bıraktıran gösterim

  • Başta teklife ılık yaklaşan müşteriler bile doğal dil veri sorgulama demosunu gördükten sonra hemen satın almak istedi
  • İstenen sonucu vermeyeceği açıkça uyarıldığı halde, AI dışı yöntemlerle elde edilebilecek milyonlarca dolarlık etkiyi bile bir kenara bırakıp bütçeyi chatbot’a odaklamak istediler
  • Hermit Tech, müşterinin muhakeme boşluğundan yararlanmanın sorumsuzca olduğunu ve itibar ile hukuki riskleri de büyük gördüğünü düşünerek satışı durdurdu; daha sonra Cortex’i demo listesinden çıkardı
  • Demo, yaklaşık 2 saatte veri açıklamalarının tarayıcıya girilmesiyle yapılmış düzeydeydi; ancak AI kullanımını zaten tanıtan ASX’te işlem gören şirketler dahil potansiyel müşterilerin mevcut yatırımlarıyla elde ettiği her sonuçtan daha iyi çalışıyordu
  • Daha sonra AI’a geçici merakın ötesinde güçlü bir saplantı gösteren tüm potansiyel müşterilerle iş yapmayı bıraktılar
  • Bunun nedeni yalnızca ahlaki ret değil, sözleşme sürecinde itibar ve hukuki risklerden kaçınmanın zor olmasıydı
  • Bu kişilerin oluşturduğu yönetim ortamı da dini ve verimsiz bir hale geldi

Yöneticileri bağlayan koordinasyon sorunu

• Büyük ölçekli AI işlerini üstlenen veya kamuya açık biçimde abartılı beyanlarda bulunan yöneticilerin bir kısmı kendi sözlerine inanmıyor
  • Yıllık tekrarlayan geliri 1 milyar doların üzerinde olan bazı şirketlerin AI sorumluları, bu rolün kurmaca olduğunu düşündüklerini ama organizasyondaki tek terfi yolu olduğu için kabul ettiklerini söyledi
  • Birçok CISO, AI işlerine sessizce şüpheyle bakıyor ancak açıkça karşı çıkmaktan korkuyor
• Fortune 500 şirketlerinden bir yöneticinin söylediğine göre, müşteri şirketlerin yöneticileri 100 kat verimlilik artışı iddia ederken bir tedarikçi bunu reddederse müşterinin üst yönetiminin güvenilirliğini zedeler ve kurumsal sözleşme iptal edilebilir
• Tedarikçiler de başka tedarikçilerin müşterisi olduğundan, her şirketin yöneticileri karşı tarafın abartısını çürütürlerse önce kendilerinin zarar göreceğinden korkuyor
• Bu, AI sonuçları hakkında dürüstçe konuşmayı zorlaştıran bir koordinasyon sorunu yaratıyor
  • Herkes mevcut pozisyonunu korursa koltuğunu koruyabilir
  • Bir kişi gerçeğe aykırı sonuçları reddederse, meslektaşlarını yalancı, korkak veya beceriksiz göstermiş gibi algılanıp işten çıkarılabilir
  • Boşalan pozisyon yine mevcut pozisyona uyacak biriyle doldurulur
  • Herkes aynı anda kabul ederse durum değişebilir, ancak bunu koordine edecek bir araç yok
• S&P 500 yönetim kurulu üyeleri de AI yatırımı talep etmezlerse koltuklarını koruyamayacaklarına dair kaygılarını dile getiriyor
  • Bir üye “Bu kadar erken yatırım yapmak, yukarı yönlü potansiyeli az ve riski çok olan bir şey gibi görünüyor” dedi
  • Yaklaşık 2 yıl sonra söz konusu milyarlarca dolarlık şirket kendini AI-native olarak markalaştırdı

Her işi geçiren AI saflık testi

• AI’a duyulan inancı açıkça sorgulamanın mümkün olmadığı yapı nedeniyle organizasyonların normal karar alma süreçleri duruyor
• Çalışanlar kolayca manipüle edilebilen AI harcaması gibi metriklerle değerlendiriliyor; gereksiz satın almaları reddetmek AI stratejisine sadakatlerinden şüphe edilmesine yol açıyor
• İç politikanın etkilediği tüm öneriler, değeri belirsiz olsa bile AI unsuru içermek zorunda
• Birçok AI projesi özünde, mevcut projelere organizasyonun saflık testinden geçecek bir AI adımı eklenmiş hali

• Oracle’dan Snowflake’e geçiş örneği

  • Bir organizasyon Oracle veritabanını Snowflake’e taşırken, LLM ile Oracle SQL’i Snowflake SQL’e otomatik dönüştüren bir ön adım ekledi
  • Gerekli izinler alınamadığı için otomasyon başarısız olunca tedarikçi SQL’i elle dönüştürdü
  • Başarısızlığın nedeni LLM’in dönüştürme yeteneği değil, otomasyon izinlerinin eksikliğiydi
  • AI’ın dönüştürdüğü önemsiz bazı SQL’lerin yapıştırılması nedeniyle tüm iş AI tabanlı başarı olarak faturalandı
  • Gerçekte satın alınan şey, lisans yenilemesinden önce mevcut sistemi kaldırmak için yapılan standart veritabanı geçişi idi
  • Üst yönetime “bütçenin önemli bir kısmını AI’a ayırarak hedefe ulaşıldı” diye aktarıldı

AI adını bile koymanın zor olduğu işlerin kaderi

• LLM’in tek temel mekanizma olduğu ve başarı ya da başarısızlığın belirli sayısal hedeflere ulaşılıp ulaşılmadığıyla net biçimde değerlendirilebildiği gerçek AI projeleri nadir
• Bu tür daha çok startup’larda görüldü; ancak bazıları tamamlandı diye pazarladıkları ürünü satış görüşmesinin sonunda Hermit Tech’ten kendileri adına yapmasını istedi
• AI unsuru eklenemiyorsa veya öneriyi yapan kişi yalan paketlemeyi reddediyorsa bütçe talebi kayboluyor ya da tüm belgelerin “yeterince AI gibi” olacak şekilde yeniden yazılması gerekiyor
• Ek personel istemeden önce bunu AI ile çözmeyi denediğini kanıtlamayı isteyen şirketler de artıyor
  • AI kullandığını ama yine de personele ihtiyaç olduğunu söyleyenler “AI’ı iyi kullanamayan kişi” diye sınıflandırılıp küçülme hedefi olabilir
• AI’ın gerçekten en öncelikli sorunları çözdüğü az sayıdaki şirket dışında, büyük organizasyonlar makul yazılım satın alımına, yetenek işe alımına, proje durum raporlamasına ve önemli işleri yürütmeye odaklanmakta zorlanıyor

Belirli bir projeyi düzeltmek gerektiğinde

• Tüm organizasyonun AI inancını değiştirmektense belirli bir proje veya başka bir hedefe ulaşmak istiyorsanız açık çatışmadan kaçınmak gerekir

• Bire bir görüşme ve anonimlik

  • AI projesinin sorunlarını grup toplantısında gündeme getirmemek daha iyidir
  • Çünkü katılımcıların her biri meslektaşlarının önünde şüpheci görünmekten korkar
  • Bire bir görüşmeler ayarlayıp AI ortamının aşırı ısınmış olabileceği görüşünü kabul ettiğinizi ve konuşanın kimliğini koruyacağınızı söylemek gerekir
  • Doğrudan alıntı gibi, meslektaşların konuşanı tanımasına yol açacak ipuçları kaldırılmalı
  • 6 kişiden yalnızca 1’i sorunu söyleyebiliyorsa, iyileşme ihtimali daha yüksek başka bir organizasyona veya projeye geçmek daha iyi olabilir

• Anonim değerlendirmeyle gizli bölünmeyi bulmak

  • Devam eden bir işin başarı olasılığını 1’den 10’a puanlatan anonim anket etkili olabilir
  • Gözlemlenen tipik sonuç, yarısının 3 puan, kalanların ise 8 puan civarı verdiği çift tepeli bir dağılımdı
  • Zaten 3 yıl gecikmiş projelerde bile bu tür bölünme görülüyor
  • Bu sonucu CEO’ya göstermek, proje durumu hakkındaki bilginin gizlendiğini doğrulayabilir

• Gerçek kullanıcıları araştırmak neden gerekir

  • Aracı günlük işinde kullanan saha çalışanları, yatırımın sonucunu değerlendirebilecek tek veri kaynağıdır
  • Onların saygı gördükleri bir ortamda konuşmaları sağlanmalı; büyük organizasyonlarda astlarını eşit insan olarak görmeyen üyeler olabilir
  • Bir müşteri organizasyonda çalışanların AI aracı lisansı aldıklarını bile bilmedikleri ortaya çıkınca mevcut verimlilik iddialarının temeli sarsıldı

• Yaygın inançla doğrudan çatışmamak

  • Amaç belirli bir sorunu çözmekse “AI her şeyi değiştiriyor” gibi kapsayıcı ifadeleri olduğu gibi geçmek daha iyidir
  • Organizasyonun gerçeklik algısına ancak en üst düzeydeki kişinin güveni kazanıldıktan sonra meydan okunabilir
  • Güven, halka açık ortamda karşı tarafı zor durumda bırakmaktan çok, özel bir yemekte kaygıyı azaltarak kurulur
  • Toplantıya girmeden önce kimin hangi açık taahhütlerde bulunduğunu bilmek zordur
  • “Geçen yıla göre verimlilik 100 kat arttı” demiş biri, bunu geri almak istese bile yüzünden dolayı alamayabilir
  • “LLM, insan incelemesi olmadan kod dağıtmamalı” gibi sağduyulu bir söz bile erken ilişkiyi koparabilir
  • Kamusal fayda hedefi önemliyse, çekirdek işe 10.000 dolarlık AI chatbot ekleyip toplantılarda yalnızca o kısmı vurgulamak da gerçekçi bir hayatta kalma yöntemi olabilir

Organizasyonda dayanmak gerektiğinde

• Bu duruma pratikte direnmenin zor olduğunu kabul etmek gerekir; sorun AI’ın kendisinden çok işlevsiz şirket kültüründe yatıyor
• Tam zamanlı çalışan yerine sözleşmeli çalışmaya geçmek ücreti artırabilir ve iç politikadan uzaklaştırabilir; dayanması zor durumlarda bile sözleşmenin bitiş tarihi bellidir
• AI haber tüketimi zihinsel yıpranmayı azaltacak kadar sınırlanmalı
  • Hacker News ve Reddit gibi ilgili haberlerin sürekli aktığı yerlerden kaçının
  • Gerçeklik duygusunu korumak için gerektiği kadar okuyup bırakın
  • Arkadaşlarla dertleşirken de amacınızı önceden söylemek daha iyi olur
• Birisi AI’ı uygunsuz bir amaçla kullansa bile acil fiziksel risk yoksa onaylar gibi yapıp geçmek daha iyidir
• Bir programcı olarak AI hakkında görüşünüz sorulursa, önemli kararları etkileyebilecek biri değilse “abartılan tarafları var” diye kısaca yanıtlayıp konuyu değiştirmek öneriliyor

• Büyük miktarda AI kodu işi ele geçirdiğinde

  • Sürekli 2.000 satırlık düşük kaliteli AI üretimi PR incelemek zorundaysanız, organizasyonun sonunda inceleyicileri tüketip işten çıkaracağı varsayımıyla hemen iş aramaya başlamak gerekir
  • Üreten kişiyi çalışma biçimini değiştirmeye ikna etmek zordur; enerji varken iş değiştirmeye hazırlanmak daha iyidir
  • İş arama nedeniyle işlem hızınız düşse bile, aksi halde tükenmişlik ve depresyon yüzünden aynı sorun daha sonra ortaya çıkar

• Yönetici AI üretimi cümlelerle konuştuğunda

  • Yönetici bariz AI üretimi metinle yanıt veriyorsa zihinsel yükü azaltmak için aynı şekilde yanıt verip yeni iş aramak gerekir
  • Böyle bir yönetici, çalışanın AI ile yanıt vermesini kaba bulmaktan çok AI kullanımını olumlu değerlendirebilir
  • Token kullanımını maksimuma çıkarma talebi bile geliyorsa mevcut organizasyondan ayrılmaya hazırlanmak gerekir
  • Bu sorunların daha az olduğu şirketler var; ancak iş arama platformlarında pek görünmeyen küçük şirketler olma ihtimalleri yüksek. Bulmaları aylar sürebileceği için erken başlamak gerekir

Uzun vadede kalacak sorun

• Mevcut AI balonu bir gün bitse bile liderlik kademesine yerleşmiş irrasyonel özellikler, daha sonra başka bir trendle yeniden etkinleşebilir
• Bazı organizasyonlar, blokzincir furyasından çıkamayan örneklerde olduğu gibi tamamen çökene kadar ideolojik olarak esir alınmış halde kalabilir
• Şimdilik normal muhakemeyi geri kazanabileceğiniz ölçüde gizli veri ve saha görüşleri toplamak; değiştirilemeyen organizasyonlarda ise kişinin gerçeklik duygusunu ve hayatta kalma ihtimalini öncelemek gerekir