AI bir ekip arkadaşı değil, bir dış iskelettir

• Yapay zekayı otonom bir ekip arkadaşı olarak gören yaklaşım çoğu zaman hayal kırıklığı yaratırken, onu insan yeteneklerini güçlendiren bir araç olarak gören yaklaşım dönüştürücü sonuçlar üretir
• Üretim, askeriye, tıp ve koşu alanlarındaki dış iskelet (exoskeleton) örneklerinde olduğu gibi, yapay zeka da insan muhakemesinin yerini almadan sürdürülebilirliği ve verimliliği artıran bir yardımcı mekanizma olarak çalışmalıdır
• Kasava, 'Ürün Grafiği (Product Graph)' aracılığıyla kod, issue ve strateji bilgilerini birleştirerek yapay zeka ile insan muhakemesinin birleştiği bir yapı kuruyor
• 'Mikro Ajan (Micro-Agent)' yapısıyla işleri daha küçük parçalara ayırarak, tekrarlayan görevlerin yapay zeka tarafından güçlendirilmesini ve karar yetkisinin insanda kalmasını sağlayacak şekilde tasarlıyor
• Gelecekteki verimlilik artışı tam otonomiden değil, insanı güçlendirmeden (amplification) kaynaklanacak ve yapay zeka insanın doğal bir uzantısı haline gelecek

---

Yanlış yapay zeka algısı ve 'dış iskelet (exoskeleton)' modeli

• Şirketler yapay zekayı otonom ajan olarak ele aldıklarında hayal kırıklığı yaşarken, onu insan kapasitesini genişleten bir araç olarak kullananlar somut değişim görüyor
• Yapay zeka bağımsız bir karar öznesi değil, insan karar verme sürecinin bir uzantısı olarak çalışmalı
• “Yapay zeka bir ekip arkadaşı değil, bir dış iskelettir” benzetmesi, yapay zekanın rolünü insan merkezli bir güçlendirme aygıtı olarak yeniden tanımlar

Dış iskeletin gerçek kullanım örnekleri

• Üretim: Ford, 7 ülkede 15 fabrikaya EksoVest kurarak yaralanma oranını %83 azalttı; BMW ise çalışan eforunda %30~40 düşüş bildirdi
  • German Bionic'in Cray X ürünü 66 pound kaldırma desteği sağlıyor; BMW, IKEA gibi müşterilerde hastalık izni %25 azaldı
• Askeri alan: Sarcos Guardian XO Max, 20:1 güç artırımı sağlıyor; 100 pound, 5 pound gibi hissediliyor
  • Lockheed Martin HULC, 200 pound yükü saatte 7 mil hızla taşıyabiliyor ve kas-iskelet sistemi yaralanmalarını önlemeye katkı sağlıyor
• Tıbbi rehabilitasyon: Omurilik yaralanması olan hastaların %76'sı dış iskelet giydiğinde yardım almadan yürüyebiliyor
• Koşu araştırmaları: Stanford'un ayak bileği dış iskeleti enerji tüketimini %15 azaltırken, Harvard'ın soft suit'i metabolik maliyeti %5,4 düşürüyor
• Ortak nokta, insanı değiştirmek yerine kapasitesini artırmaları

'AI agent' kavramının sınırları

• Otonom yapay zeka, bağlam eksikliği nedeniyle yanlış karar ve halüsinasyon sorunları yaratır
• İnsan muhakemesi ve bağlamını anlamadan bağımsız karar almaya çalıştığında başarısızlık olasılığı yüksektir
• Kasava, yapay zekanın derin analiz yapmasını, ancak kararın insan tarafından verilmesini sağlayan bir yapı benimser

Kasava'nın Ürün Grafiği (Product Graph)

• Birinci katman: Kod tabanı, commit'ler, issue'lar, PR'lar ve proje verileri otomatik olarak toplanarak ürünün gerçek yapısı ve evrim durumu modellenir
• İkinci katman: Kullanıcının sağladığı stratejik değerlendirmeler ve öncelikler yansıtılarak otomatik veriler ile insan muhakemesi birleştirilir
• Bu birleşim sayesinde yapay zeka, ürünün gerçek bağlamını ve ekibin niyetini birlikte dikkate alan analizler yapar
• Sonuç olarak Kasava, yapay zeka ile insanın simbiyotik biçimde güçlendiği bir yapı kurar

Mikro ajan mimarisi

• İşleri rol bazında değil, ayrıntılı görevler düzeyinde parçalara ayırarak yapay zekanın güçlendirebileceği alanları belirler
  • Örneğin commit mesajı yazma, kod kalıplarını arama, boilerplate kod yazma, güvenlik incelemesi, dokümantasyonu otomatik güncelleme gibi işleri yapay zeka üstlenir
  • Özellik kararı, karmaşık debugging ve mimari değerlendirmeler ise insan tarafından yönlendirilir
• Her mikro ajan tek bir işleve odaklanır ve girdi/çıktı sınırları net biçimde tanımlanır
• Dış iskelet modelinin korunması için insanın karar döngüsünün içinde kalması gerekir

Verimlilik etkisi ve güçlendirmenin anlamı

• Dış iskelet araştırmalarında görüldüğü gibi, %15 enerji tasarrufu yalnızca verim artışı değil, sürdürülebilirlik ve dayanıklılık artışı da sağlar
• Yazılımda da tekrarlayan işler azalınca bilişsel kaynaklar yaratıcı çalışmalara yeniden ayrılabilir
• Kasava; dokümantasyonun otomatik güncellenmesi, commit mesajlarının otomatik yazılması ve iş akışı entegrasyonuyla bileşik verimlilik artışı sağlar
• Bu, otonom yapay zekadan değil, güçlendirici yapay zeka yaklaşımından gelen birikimli etkidir

Geleceğe bakış: otonomi değil, güçlendirme

• Kurumlar “Yapay zekayı nasıl otonom çalıştırırız?” diye değil, “Yorgunluğu ve hataları hangi alanlarda azaltabiliriz?” diye sormalı
• Dış iskelet sektörünün 2030'a kadar yıllık %20 büyüyerek 2 milyar dolarlık bir ölçeğe ulaşmasının nedeni, insanın yerini almak yerine onu güçlendirmesi
• Yapay zeka da aynı şekilde, insan iş akışına doğal biçimde entegre olan güçlendirici araçlar üzerinden kalıcı değer üretecek

[GN⁺]

Hacker News yorumları

• “AI beni güçlendirecek, yerimi almayacak” şeklindeki kendini rahatlatan düşünceye katılmıyorum
  Sonunda kullanıcılar, resmi sistemleri kil gibi şekillendirecek
  Orta vadede “AI bir iş arkadaşı değildir” demek daha doğru
  İnsan iş birliği özünde verimsizdir ve yazılım geliştirme hızla bireysel bir spora dönüşecek
  İyi estetik anlayışa sahip bir tasarımcıyla çok sayıda ajanın birlikte çalıştığı yapının daha iyi olduğunu düşünüyorum

  • Mevcut nesil AI, yalnızca bir metin tahminleyicisi; bu yüzden koddaki mantıksal kusurları gerçekten bulamıyor
  • Her bireyin AI’ye gereksinimlerini net biçimde aktarabileceğini varsaymak gerçekçi değil
    Ayrıca platformlar ve kütüphaneler değiştiğinde AI’nin bunları sürdürebilip sürdüremeyeceği de şüpheli
  • Jensen Huang, “artık dünyadaki herkes programcı oldu” demişti
    İlgili haber: Nvidia CEO predicts the death of coding
  • İletişim maliyeti sorunu, kadroya insan eklemenin sonucu olarak, Brooks tarafından 50 yıl önce zaten işaret edilmişti
    İster daha fazla insan ekleyin ister daha fazla bot, öz aynı
  • “AI beni leverage ediyor” ifadesi, sanki AI’nin üzerime basıp yükseldiği anlamına geliyor gibi
    Belki de doğru benzetme gerçekten budur

• Dış iskelet benzetmesi havalı ama gerçekçi değil
  Pratikte daha kullanışlı pek çok yaklaşım var — araçlar, robot kollar, uzaktan kontrol gibi
  İnsansı dev robotlar ticari açıdan verimsiz

• “AI hakkında yanlış düşünüyoruz” iddiasına katılıyorum
  Anthropic ve OpenAI CEO’ları niyetlerini zaten açıkça ortaya koydu — hedef SWE’nin %90 azalması

  • Ama buna gerçekten inanan neredeyse yok
    Geçmişte de UML, offshore geliştiriciler, no-code gibi şeylerin yerimizi alacağı söylenmişti ama sonuçta AI sadece bir araç
    CEO’ların açıklamaları, hisse fiyatını desteklemeye yönelik mesajlardan ibaret
  • SWE talebini azaltmak için önce AI’yi değil, örgütsel verimlilik sorununu çözmek gerekir
    Gerçekte birçok geliştirici, değeri belirsiz projelerde zamanını boşa harcıyor
  • Büyük bir atılım olmadan bu mümkün değil
    İronik biçimde, bu araçları yapan geliştiriciler işlerini ilk kaybedenler olabilir
  • Ajan tipi AI takıntısına saplanmazsak çok daha iyi olur gibi görünüyor
    IDE içindeki AI araçları çok daha doğru ve hızlı
    Ama Claude, bağlamı en aza indirip “tek seferde tamamla” yönüne itiyor
    Bu da kullanıcıdan çok şirketin çıkarına göre tasarlanmış gibi görünüyor
  • SWE talebinin %90 azalacağı söylemi gerçekçi değil
    Verim arttıkça daha karmaşık yazılımlar yapıyoruz ve talep aslında artıyor

• Dış iskelet benzetmesi teselli edici ama asıl değişim ‘zevkin ölçeklenebilirliği’
  Eskiden güçlü muhakemeye sahip biri, bir ekip olmadan hayata geçirmekte zorlanıyordu
  Şimdiyse tek bir kişinin iyi sezgisi ve tasarım yeteneğiyle ekip ölçeğinde çıktılar üretmek mümkün
  Darboğaz, “kod yazabiliyor musun?” sorusundan “neyi yapmaya değer?” sorusuna kaydı

  • “Tamamen farklı bir oyun” ifadesi ilginç
  • Prototipler hızlı yapılabilir ama ürün seviyesine çıkmak için hâlâ uzmanlık gerekiyor
  • Aslında bu tam olarak augmentation tanımı — çünkü tek kişinin yeteneğini büyüten bir araç
  • “Eskiden ekip gerektiren yazılımı artık tek kişi dağıtıyor” sözü biraz abartılı geliyor

• AI zaten bir iş arkadaşı (co-worker) gibi çalışıyor
  Eskiden insanlara verdiğimiz işleri şimdi AI’ye devrediyoruz

  • Gerçekte devredilebilir işlerin kapsamı çok daha geniş
    Çoğu sektör hâlâ bu potansiyeli neredeyse hiç kullanmıyor
  • Ama AI’nin ürettiği çıktıları düzeltmek zorunda kalmak bazen stres yaratıyor

• Lenny’s Podcast’te Claude Code’un yazarı Boris, “kod yazmak artık çözülmüş bir problem” dedi
  Mühendisler açık kaynak katkısını bırakırsa AI’nin hâlâ öğrenip öğrenemeyeceği sorusu akla geliyor

  • Bu söz fazla kesin
    Bu tür araçları yapan insanların sözlerinde çıkar çatışması (conflict of interest) var
  • Muhtemelen testleri iyi kurulmuş temiz bir kod tabanında çalışıyordur
    Böyle bir ortamda kod yazmak basit görünebilir ama projelerin çoğu böyle değil
  • Sorun “kod yazma” değil, “yazılım mühendisliği”
    Bu alan henüz durgunlaşmış değil
    Desenler birbirine dik olmadığından, bunu basit bir doğrusal kombinasyonla açıklamak da mümkün değil
  • “Şiir zaten tamamlanmış bir sanat ise artık şairlere ihtiyaç yoktur” mantığına benziyor
    Yaratıcı mühendislere hâlâ ihtiyaç var
  • Boris’in, Excalidraw’daki açık bir issue’yu Claude ajanıyla çözdüğü bir demoyu izledim
    Kendisi doğrudan tek satır kod yazmadan sorunu çözdü
    Yani söyledikleri tamamen yanlış olmayabilir

• Dış iskelet giymek seni 10 kat hızlı koşturmaz ya da ellerini daha hızlı hareket ettirmez
  Benzetme uymuyor

• AI’nin sık sık “Not X, but Y” tarzı cümleler üretmesi, bunun şablon temelli göründüğünü düşündürüyor

  • “It’s not X, it’s Y” kalıbı yine tespit edildi

• Bugünkü AI benim için bir yükselteç (amplifier) gibi
  Kodlama ve belirli işlerde beni güçlendiriyor
  Tam bir ikame gerçekleşene kadar endişelenmiyorum

  • Ama güçlendirme sonuçta daha az kişiyle daha çok iş yapmak demek
    Bu da emek talebinin ve maaşların düşmesine yol açabilir
  • Sonuç olarak, aynı çıktıyı üretmek için gereken geliştirici sayısının azalacağı bir yöne gitme ihtimali yüksek

[dkmin]

Paylaşım için teşekkürler. Taze bir bakış açısı.