Excel’e Copilot girmesinin neden endişe verici olduğu

• TikTok kullanıcısı Ada James(@belligerentbarbies), Excel’e AI Copilot eklenmiş olmasına dair kaygılarını dile getirdi
• Excel, “ekonomimizi çalıştıran bir canavar”a benzetiliyor ve o canavarı ehlileştiren kişi olarak ‘Brenda’ öne çıkıyor
• Brenda, her şirketin finans departmanında bulunan Excel’in adeta tanrıçası olan bir figür olarak tasvir ediliyor
  • “Gökten inen Excel tanrıçası Brenda’nın alnına bir öpücük kondurdu” şeklinde sembolik bir ifade kullanılıyor
  • Brenda’nın çabaları sayesinde kapitalizmin işlediğini anlatan abartılı bir benzetme yer alıyor
• Brenda’nın hazırladığı finans raporunu patronu düzenlemeye çalıştığında, patron yapay zekanın Brenda’dan daha akıllı olacağına inanıp Copilot’u kullanıyor
• Ancak yapay zeka Excel’i yanlış kullanıp raporu mahvediyor ve patron bu hatayı fark etmiyor
• Bunun nedeni, patronun Excel’i anlamaması ve yapay zekanın halüsinasyon üretmesi

“Halüsinasyon üretmeyen kim? Brenda”

[GN⁺]

Hacker News görüşü

• Teknoloji kullanımına dair iki zıt anlatı ilginç
  Biri, “Brenda gibi insanlar hata yapar, bu yüzden otomasyona ihtiyaç var” iddiası; diğeri ise “Brenda kusursuz ama AI çok hata yapıyor” iddiası
  Aslında bu ikisi çelişkili değil. Biz otomasyonu yalnızca anlaşılabilir işler, güvenilir yürütme, gözlemlenebilir süreçler, sıkıcı tekrar işleri için uygularız
  Sorun, AI bu koşulları karşılamadığında ortaya çıkar. Özellikle AI’ın özerkliği korku yaratır. Bunun nedeni, “Bu sonucun neden çıktığını bilmiyorum” kaygısıdır
  Bu yüzden insanlar hâlâ dar kapsamlı AIya ya da güvenlik önlemleri olan AIya daha çok güveniyor

  • Bu, “Brenda kusursuz, AI hatalı” gibi basit bir tablo değil
    Geleneksel kod aynı girdiye her zaman aynı çıktıyı verirken, AI her seferinde farklıdır
    Sorun, AI’ın neden böyle çalıştığını anlayamamamıza yol açan opaklıktır
    Brenda hata yapsa bile nedeni sorulup düzeltilebilir ama AI’da bu zordur
    Ben de AI’ı seviyorum ama onun sınırlarını iyi biliyorum
  • Bu bir çelişki değil; burada “makine” ile kastettiğimiz şey deterministik algoritmalar
    Buna karşılık üretken AI öngörülemez
    Öngörülebilirlik sıralaması yapılırsa Quick Sort > Brenda > Gen AI olur
  • “Thinking mode” sadece debug edilebilirlik yanılsaması verir
    Üretilen token’lar insanın düşünme sürecini yansıtmaz
    Modelin oluşturduğu “akıl yürütme adımları” gerçek iç durumunu göstermez ve sonuçlar görünmeyen önyargılara göre değişir
  • Muhasebe gibi alanlarda deterministik otomasyon önemlidir
    AI’ı doğrulamak zordur ve maliyetine değip değmediği belirsizdir
    Sonuçta asıl soru, “Brenda + AI” kombinasyonunun mu daha iyi olacağı, yoksa Brenda’nın tek başına mı daha iyi olduğudur
    Bugünün AI’ı hâlâ “birkaç yıl sonra faydalı olabilir” aşamasında duruyor
  • AI’a güvensizliğin nedeni Brenda’nın kusursuz olması değil, yöneticilerin AI’a Brenda’dan daha fazla güvenmesi

• Bizim organizasyonda da Microsoft Stack içine Copilot ve AI zorla sokuldu
  Özelliklerin çoğu ya devre dışıydı ya da işe yaramıyordu. Sonuçta bu, sadece hisseyi şişirmeye dönük pazarlama gibi kaldı
  Ayrıca şirket, AI toplantı transkripsiyon botlarını yasakladı. Çünkü güvenlik açısından riskli

  • Toplantı notu transkripsiyonu kurumsal AI’ın en yararlı özelliklerinden biri ama buluta güvenmek zor
  • “Microsoft’un işe yaramaz şeyleri dayatması 40 yıllık iş modeli” diyen alaycı yorumlar da var
  • AI’ın geliştirici yığınına kadar sızması rahatsız edici
    VS Code otomatik tamamlama ya da hata yorumlama güzel ama her şeyi chat arayüzüne sıkıştırmak iyi değil
    Keşke önce ses tanıma kalitesini iyileştirseler

• Eskiden bir arkadaşın şirketinde her gün finans verisini DB’ye commit eden bir Perl scripti vardı
  O script olmadan şirket para kazanamazdı. Yönetici şifresini bilen sadece bir kişi vardı
  Copilot ne kadar iyi olursa olsun o şifreyi bilmiyor

  • Böyle bir sistem varsa, Copilot’tan çok operasyonel risk daha büyük sorun demektir
  • Ben de zamanında aylık 5 milyon dolar faturalandıran bir sistemi yönettim ama root şifresini geride bırakan kimse yoktu
    Muhtemelen hâlâ 2008 Linux’unda çalışıyordur
  • Bir meslektaşım benzer bir Perl scriptini 30 sayfa olarak çıktısını alıp evde saklamıştı
  • Bu tür durumlar AI karşıtı bir argüman değil, kurumsal yönetim zafiyetinin kanıtı
  • Böyle eski sistemler iş güvencesine de yardımcı olmaz

• Bu, TikTok videosundan alıntılanmış bir cümleydi
  MP4’ü yt-dlp ile indirip MacWhisper ile transkribe ettim

  • Muhtemelen doğrudan kendim yazsam daha hızlı olurdu
  • TikTok alıntısının HN’de üst sıralara çıkması ilk kez gördüğüm bir şey
  • İronik biçimde, bu iş belki de Brenda’ya bırakılmalıydı
  • MacWhisper, parakeet v2 modeli kullanan bir GUI aracı ama aslında Python scripti için 60 dolarlık bir kabuk gibi

• Ben de Excel’de LLM kullandım ama gerçek dünyadaki verilerde anında afallıyor
  Demolar her zaman temiz finans tabloları ya da ders kitabı örnekleri oluyor
  Gerçek şirket verileri tamamen farklı. Excel’de neredeyse işe yaramıyor

  • Excel’i çok iyi bilmeyenler için LLM, nelerin mümkün olduğunu anlatan bir rehber olarak işe yarayabilir

• Benim tanıdığım Brenda’lar sadece spreadsheet kullanan insanlar değil
  Gerçekte operasyon ekibiyle koordinasyon, karar etkisi analizi, istisna yönetimi gibi karmaşık işler yapıyorlar
  Copilot bu bağlamı hiç anlamıyor. “Gider talep formu şablonu” istediğinizde size #REF hatası veren bir sheet sunuyor

  • Finans ekibindeki verimsizliğin çoğu, bunun düşük öncelikli görülmesinden kaynaklanıyor
    İyileştirme önerilerini doğrudan sunmak daha iyi. Örneğin herkesin kullanacağı paylaşılan workbook bağlantıları oluşturulabilir
    Ama düzenli güncellenmezse yeniden karmaşa çıkar
  • Otomasyonu artırırsanız sonunda Brenda’dan üç kat pahalı çalışanlara ihtiyaç duyarsınız ve basit e-postalar ticket sistemine dönüşür
  • “Brenda’yı azaltalım” demektense Brenda’ya saygı duyan ve onu destekleyen bir yaklaşım gerekli
  • Otomasyon gelince bakım personeli gerekir ve bu daha pahalıdır
    Süreç her değiştiğinde yeniden uyarlama gerektiği için sonunda yeniden manuele dönülür

• “AI bozarsa ne olacak” sorunu, Git ile entegre Excel sürüm kontrolü ile hafifletilebilir
  Copilot’un oluşturduğu formüller ya da VBA değişiklikleri commit bazında izlenirse, ne olduğu net biçimde görülebilir

• Brenda yavaşladı ama bu sayede tüm sistemi nasıl ayakta tutacağını biliyor

  • Ama sonunda patron, “AI ile daha hızlı yapacağız” diyerek işi dış kaynak kullanımıyla yaptıracak
    Brenda işsiz kalacak, başka bir ülkedeki biri ise yeni bir iş bulacak

• AI kullanmak sorumluluğu ortadan kaldırmaz
  AI çıktısını doğrulayabilecek kadar uzmanlık gerekir
  Zaman kazandırabilir ama doğrulama süreci yüzünden sanıldığı kadar tasarruf sağlamaz

• Ben de Excel’i seviyorum ama karmaşık iç içe formüller hâlâ zor geliyor
  ChatGPT ya da duck.ai gibi modelleri kullandım ama sık sık alakasız formüller üretiyorlar
  Çalışması için birkaç kez düzeltme istemek gerekiyor
  LLM’in İngilizce açıklama yapması güzel ama sonuçta çok zaman kaybı ve hayal kırıklığı yaşadım
  Başta Excel’i daha kolay hâle getireceğine inanıyordum ama şimdi henüz o noktadan çok uzağız diye düşünüyorum