54 puan yazan GN⁺ 27 일 전 | 4 yorum | WhatsApp'ta paylaş
  • Yapay zeka çağındaki temel değişim olarak otonom bileşen iyileştirme, niyet temelli mühendislik, şeffaflığa geçiş, scaffolding farkındalığı ve uzmanlığın yayılması gibi 5 fikir birbirini güçlendirerek tüm organizasyonların çalışma biçimini kökten yeniden şekillendiriyor
  • Karpathy’nin Autoresearch projesinden ilhamla, hedef durumu tanımlayıp otomatik olarak değerlendiren ve iyileştiren döngü, ML araştırmasının ötesine geçerek güvenlik, danışmanlık, işe alım gibi tüm alanlara genişleyebilir
  • Yeni temel mühendislik becerisi, kod yazmak ya da prompt üretmek değil, istenen sonucu doğrulanabilir ölçütlerle açık biçimde ifade edebilme yeteneği olarak öne çıkıyor
  • Yapay zeka, organizasyon içindeki gerçek maliyet, kalite ve süreçleri görünür kılarken, bilgi emeğinin %75 ila %99’unun scaffolding (yan işler) olduğunu ortaya koyuyor
  • Yalnızca uzmanların zihninde bulunan bilgi becerilere, SOP’lere ve bağlam dosyalarına çıkarıldığında, tüm yapay zeka örneklerinin aynı anda öğrendiği geri döndürülemez bir mandal etkisi oluşuyor

1. Otonom Bileşen Optimizasyonu (Autonomous Component Optimization)

  • Karpathy’nin Autoresearch projesi, bu kavramı somutlaştıran temsilî bir örnek. PROGRAM.md dosyasına fikirleri girdiğinizde sistem, model parametresi ayarlama, ortam yapılandırması gibi zahmetli işleri otomatikleştiriyor ve ML optimizasyonu yoluyla önceye göre daha iyi sonuçlar üretiyor
  • Autoresearch, tek bir projenin ötesine geçerek "X için Autoresearch" şeklinde bir paradigma olarak yayılıyor; farklı alanlardaki insanlar aynı yaklaşımın kendi projelerine uygulanabilirliğini araştırıyor
  • Bu yaklaşım, genelleştirilmiş doğrulanabilirlik (general verifiability) veya genelleştirilmiş hill-climbing kavramıyla birleşerek, her çıktıyı ideal durum ölçütlerine ayrıştıran ve otomatik iyileştiren bir yapı sunuyor
  • Her şey için evals kavramı da bununla bağlantılı; önemli olan yalnızca her faaliyetin ölçülebilir olması değil, aynı zamanda iyileştirilebilir hale gelmesi
    • Bunu mümkün kılan temel ise şeffaflık (transparency)

Evrensel İyileştirme Döngüsü (Universal Improvement Cycle)

  • Tüm şirketlerin, organizasyonların, devletlerin ve bireylerin standart çalışma modeli haline gelebilecek döngü:
    • Hedefleri misyon, amaç, iş akışı ve SOP olarak yapılandırmak
    • Ajanların iş akışını yürütmesi
    • Çıktıların, konuşmaların, sonuçların ve kalitenin geniş kapsamlı biçimde loglanması
    • Hata, başarısızlık ve kalite sorunlarının ilgili organizasyonun sorun toplama noktasına akması
    • Öz iyileştirme algoritmalarının sorun toplama noktasından veri alıp autoresearch tarzında sorun çözme, deney, doğrulama ve optimizasyon yapması
    • Değişiklikler doğrulandıktan sonra SOP’nin güncellenmesi ve döngünün tekrarlanması
  • Bu döngünün özü: hedef eşleme → ajan yürütme → tam kapsamlı loglama → başarısızlık toplama → otonom iyileştirme → SOP güncelleme → tekrar; her yinelemede hız daha da artar

2. Niyet Temelli Mühendisliğe Geçiş (Intent-Based Engineering)

  • Yapay zekanın gerçek gücü mevcut durumdan ideal duruma geçebilmekte, fakat bundan önce kişinin gerçekte ne istediğini açıkça ifade edebilmesi (articulate) gerekiyor
  • İfade boşluğu (articulation gap) ciddi bir sorun: Bir CEO’ya ideal güvenlik programı sorulduğunda eliyle tarif ediyor; bir ekip liderine "tamamlandı"nın ne anlama geldiği sorulduğunda ise üç kişinin üç farklı yorumlayacağı bir paragraf ortaya çıkıyor
    • Bu boşluk yalnızca uzmanlarla yapay zeka arasında değil, liderlerle kendi organizasyonları arasında da var
  • Somut yöntem olarak, tüm talepleri 8 ila 12 kelimelik ayrık ve test edilebilir ideal durum ölçütlerine geriye doğru ayrıştırmak ve ikili (pass/fail) değerlendirme uygulamak öneriliyor
    • Bu ölçütler tanımlandığında hill-climbing, değerlendirme ve otomatik iyileştirme de mümkün hale geliyor
  • Yeni temel mühendislik becerisi, kodlama ya da prompting değil, niyeti doğrulanabilir bir seviyede açık biçimde ifade edebilme yeteneği

3. Opaklıktan Şeffaflığa Geçiş (Opacity to Transparency)

  • Şirketler bugüne kadar içeride gerçekte ne olduğunu tam anlamıyla göremedi: süreçlerin gerçek maliyeti, ne kadar sürdüğü, çıktı kalitesi, asıl işi yapanlarla yan işleri yapanların ayrımı gibi konular belirsizdi
  • Çoğu organizasyon uzun süre "sezgiler ve elektronik tablolar" ile yönetildi; ancak yapay zeka artık gerçek iş, maliyet ve kaliteyi daha önce mümkün olmayan şekillerde ölçülebilir hale getiriyor
  • Şeffaflık sağlandığında iyileştirme mümkün olur; bu da şirketler, devletler ve küçük ekipler dahil tüm organizasyonlara uygulanabilir
  • Şeffaflığın ilk ortaya çıkardığı gerçek şu: işlerin büyük kısmı aslında gerçek iş değildi

4. İşlerin Çoğu Scaffolding’dir (Most Work is Scaffolding)

  • Yapay zekanın ortaya çıkardığı gerçek şu ki bilgi emeğinin %75 ila %99’u scaffolding overhead niteliğinde
    • Güvenlik testi, geliştirme, danışmanlık gibi alanlarda zamanın büyük kısmı araç bakımı, iş akışları, şablonlar ve bilgi tabanı yönetimine harcanıyor
    • Gerçek anlamda zor düşünme (hard thinking), çok az sayıda insan tarafından, çok kısa sürelerle yapılıyor
  • Yapay zeka, scaffolding kısmını ezici derecede iyi yapıyor: bağlam, metodoloji ve araçlar Agent Skills olarak becerilere paketlendiğinde, yapay zeka bunları çoğu zaman uzman seviyesinde veya üstünde yerine getirebiliyor
  • Zor olan işin kendisi değil, scaffolding’i ayakta tutmakmış

5. Uzmanlığın Kamusal Bilgiye Dönüşmesi (Expertise Diffusion)

  • İfade boşluğu (articulation gap): uzmanların bildikleri ile belgelenmiş olan arasında büyük bir uçurum var
    • Örneğin her şeyi bilen ama hiçbir şeyi belgelemeyen 62 yaşındaki çalışan "Cliff" emekli olursa, o bilgi de kaybolur
  • Bugün uzmanlık beceriler, SOP’ler, bağlam dosyaları ve açık kaynak projelere dağılmış halde depolanıyor; bir kez çıkarılan bilgiyi yeniden ortadan kaldırmak mümkün değil
    • Bu durum "havuzdaki idrar" benzetmesiyle anlatılıyor: yayımlanmış beceriler, belgelenmiş süreçler ve uzman debrief’leri kalıcı olarak kolektif bilgi tabanına giriyor
  • Geri döndürülemez mandal (one-way ratchet) etkisi: İnsanlar bir alanda derin uzmanlık geliştirmek için 20-30 yıl harcıyor, sonra unutuyor ya da emekli oluyor; buna karşılık yapay zeka yakalanmış uzmanlığı anında emiyor, asla unutmuyor ve sonsuz biçimde kopyalanabiliyor
  • İnsan uzmanlığının birikim hızıyla yapay zekanın uzmanlık birikim hızı arasındaki fark her gün daha da açılıyor

Çıkarımlar (Implications)

Otonom iyileştirme her alandaki hızı değiştiriyor

  • İdeal durum tanımlanabildiğinde, ölçülebildiğinde ve otomatik yineleme yapılabildiğinde, aylar süren manuel tuning bir gecede tamamlanabilir
  • Bu yalnızca ML araştırmasına değil; güvenlik programları, danışmanlık çıktıları, içerik pipeline’ları, işe alım süreçleri gibi tanımlanabilir ideal durumu olan her şeye uygulanabilir
  • Tüm organizasyonlar aynı döngüyü işletecek (hedef eşleme → ajan yürütme → loglama → başarısızlık toplama → otonom iyileştirme → SOP güncelleme) ve erken benimseyenler bileşik etkiyle rekabet edilemez bir fark yaratacak

Darboğaz niyet haline geliyor

  • Yeni kıt beceri, kodlama ya da prompting değil, ne istediğini açıkça söyleyebilme yeteneği
  • Fikrin kalitesi her zaman en önemli unsur olacak; ikinci en önemli unsur ise o fikri ifade etme, tanımlama ve tüm organizasyonu onun etrafında hizalama yeteneği
  • Çoğu lider ve şirket bugün bunu yapamıyor; bunu önce çözen organizasyonlar tüm optimizasyon araçlarını gerçek hedeflere yöneltebilir

Her şey şeffaflaşıyor

  • Opak sezgilerden şeffaf ve optimize edilebilir bileşenlere geçiş yaşanıyor; dolandırıcıların ve kapı bekçilerinin saklanacak alanı azalıyor
  • Ürün ve hizmet rekabetinde de ajanlar pazarlama metni ya da müşteri tavsiyeleri yerine gerçek, doğrulanabilir performans verisi talep edecek; bunu sunamayanlar rekabet dışı kalacak

Scaffolding’in metalaşması (Commoditization)

  • Belli alanlara özgü uzmanlık sanılan şeyin, aslında çoğu insanın anlamadığı scaffolding olduğu ortaya çıkıyor
    • Örneğin belirli geliştirme ortamlarının kurulumu ve bakımı ya da hukuk, danışmanlık gibi yüksek gelirli profesyonel işlerdeki yan işler de buna dahil

Uzman bilgi kamusal altyapıya dönüşüyor

  • Yalnızca uzmanlarda bulunan bilgi yakında herkesin, özellikle de yapay zekanın sahip olduğu bir şeye dönüşecek
  • Belirli bir alandaki 50 yıllık deneyim avantajı uzun süre korunamayacak; bu bilgi ya kişinin kendisi ya da dünyadaki meslektaşları tarafından çıkarılacak

Temel Özet ve Sonuç

  • Beş fikir de birbiriyle etkileşen ve birbirini güçlendiren bir yapıya sahip
  • Sadece çeşitli bileşenler iyileştirilmiyor, iyileştirmenin hızı da iyileştiriliyor
  • Tüm şirketler, devletler ve organizasyonlar aynı döngüye yakınsayacak (hedef tanımı → ajan yürütme → tam loglama → başarısızlık toplama → sistemin kendini iyileştirmesi) ve oraya önce ulaşan organizasyonlar bileşik etki sayesinde diğerlerinin kapatamayacağı bir fark oluşturacak

4 yorum

 
softer 24 일 전

Özet derli toplu olmuş ama sonuçta iş aynı, değişen bir şey yok; mesele eninde sonunda "yapay zekayla ben de çalışabileyim, bilgiyi paylaşalım" noktasına geliyor.

 
hanje3765 25 일 전

O sırada hangi sorunu çözmek amacıyla kod yazıldığının kaydının kalması gerekir.

Zaman geçince geriye sadece "Bunu ne amaçla böyle yazmıştık acaba?" sorusu kalıyor..

 
geekpi 26 일 전

Deneyince anlarsın: Erişilemeyen veri, tek gerçek hendektir.

 
runableapp 26 일 전

Anlayışım zayıf olabilir ama dürüst olmak gerekirse tam olarak ne anlatmak istediğini pek anlayamıyorum.