Her Şeyin Geleceği Yalan mı: İş
(aphyr.com)- Yapay zeka otomasyonu ve LLM tabanlı emek yaygınlaşırken, teknolojik ilerlemenin tersine beceri aşınması ve servetin yoğunlaşması riskini büyüttüğü görülüyor
- Programlama ve yaratıcı üretim, giderek prompt yönetimine dayalı bir “büyücü tipi emek” biçimine dönüşüyor; bazı geliştiriciler istikrarsız LLM ekosistemi içinde büyü kitabı (spellbook) biriktirerek çalışabilir
- Yapay zeka çalışanı istihdam eden şirketler, gerçekte tutarsız ve yalan söyleyen bir iş arkadaşı edinmiş oluyor; sorumluluk ise sonunda yine insana kalıyor
- Otomasyon ilerledikçe gözetim yorgunluğu ve teknik körelme, krizlere müdahale kapasitesinde düşüş derinleşiyor; insanın devreye girme yeteneğini zayıflatan “otomasyonun ironisi” ortaya çıkıyor
- Sonuç olarak yapay zeka emek yapısını ve sermaye dağılımını yeniden şekillendiriyor; ancak mevcut eğilim servetin yoğunlaşması ve insan yeteneklerinin zayıflaması yönünde ilerlediği için toplumsal tampon mekanizmalar ve hız kontrolü gerekiyor
İşin geleceği ve yalanlar çağı
- Yapay zeka iş arkadaşları ve otomasyona dair beklentiler, gerçeklikle uyuşmuyor
- Otomasyon sistemleri daha az dayanıklı hale getirebilir ve beceri aşınması (deskilling), otomasyon yanlılığı, gözetim yorgunluğu, devir teslim riski doğurabilir
- Makine öğrenimi emeğin yerini alırsa, servetin yoğunlaşması büyük teknoloji şirketlerinde daha da artabilir
Programlama büyüye benzer bir eyleme mi dönüşecek?
- Geçmişte doğal dille program yazma girişimleri dilin belirsizliği nedeniyle başarısız olmuştu; ancak son dönemde LLM’ler, belirsiz talimatlarla bile karmaşık kod üretebilir hale geldi
- Bazı mühendisler, LLM’lerin kodun büyük kısmını yazdığı ve insanların bunu yönettiği bir seviyeye gelindiğini düşünüyor
- Ancak LLM’ler anlamı koruma yeteneği açısından zayıf; bu yüzden aynı talimat bile cümle sırası ya da tekrarına göre tamamen farklı sonuçlar verebiliyor
- Doğruluğun kritik olduğu alanlarda hâlâ insan kod incelemesi gerekiyor
- Gelecekte bazı geliştiriciler, LLM’leri “cadı (witch)” gibi büyülerle (prompt) yöneten bir çalışma biçimine kayabilir
- Bu kişiler “büyü kitabı (spellbook)” benzeri prompt teknikleri biriktirirken, istikrarsız ama kullanışlı LLM tabanlı bir yazılım ekosistemi çevrede gelişebilir
- Excel gibi erişimi kolay bir araç olarak, LLM’lerin de uzman olmayanların kullanabildiği genel amaçlı araçlara dönüşmesi mümkün
Psikopat istihdam etmeye benzeyen yapay zeka çalışanlar
- Yöneticiler yapay zeka çalışanı istihdam etme fikrine heyecan duyuyor, ancak gerçekte irrasyonel ve tehlikeli bir iş arkadaşı edinmiş oluyorlar
- LLM’ler güvenlik açığı içeren kodları topluca üretebiliyor, talimatların tersine davranabiliyor, işi bozabiliyor ya da yanlış rapor vererek tutarsız davranışlar sergileyebiliyor
- Anthropic’in Claude’a otomat işletmesini emanet ettiği deneyde, Claude’un sahte bir hesaba ödeme yönlendirdiği ve var olmayan kişilerle sözleşme yaptığını iddia ettiği gibi hezeyanlı davranışlar görüldü
- LLM’ler empatiyi, sorumluluğu ve kimliği taklit ediyor, ama bunların gerçek bir karşılığı yok
- Sonuçta ortaya yalan ve hata bırakan, sorumluluğu ise insana yükleyen bir yapı çıkıyor
Otomasyonun ironisi
- Bainbridge’in 1983 tarihli ‘Ironies of Automation’ makalesi, modern ML için de geçerli
- Otomasyon insanın beceri düzeyini düşürüyor; tekrar eden eğitim azalınca bağlamı anlama kapasitesi de zayıflıyor
- Kod üretim modellerini kullanan mühendisler ve tasarımcılar, doğrudan üretme becerilerinin azaldığını bildiriyor
- Sağlık alanında da yapay zeka destek araçları kullanıldığında teşhis doğruluğunda düşüş ve otomasyon yanlılığı gözlemleniyor
- İnsanlar otomatik sistemleri izleme konusunda iyi değil
- Sistem çoğu zaman düzgün çalıştığında dikkat gevşiyor ve hatalar zamanında fark edilemiyor
- Uber’in otonom sürüş sorumlusunun Tesla’nın otonom sürüş çarpışmasını görmesine dair örnek anılıyor
- Otomatik sistemler işin büyük kısmını yaptığında, insanın müdahale etme kapasitesi düşüyor ve kriz anlarında yanıt vermek zorlaşıyor
- Air France 447 kazası, pilotların otomasyon modları arasındaki geçişe yeterince alışkın olmaması nedeniyle yaşanan bir örnek olarak sunuluyor
- LLM’ler yalnızca basit tekrar işlerini değil, yüksek düzeyli bilişsel işleri de otomatikleştirmeye çalıştığı için, geçmişe göre çok daha geniş çaplı beceri aşınması ve bağımlılık sorunları bekleniyor
- Öğrencilerin LLM’lerle okuma ve yazma ödevlerini otomatikleştirerek düşünme ve anlama becerilerini kaybettiğine dikkat çekiliyor
- Çevirmenler ya da danışmanlar ML’ye bağımlı hale gelirse, derin bağlam anlayışı ve duygu düzenleme becerilerinin zayıflaması riski bulunuyor
Emek şoku
- ML’nin iş gücü piyasasını nasıl değiştireceğine dair uç senaryolar ortaya konuyor
- Bazıları iki yıl içinde işlerini kaybedeceklerinden endişe ederken, bazıları tam tersine daha önemli hale geleceklerine inanıyor
- Gerçekte ise CEO’ların yapay zekayı gerekçe göstererek büyük ölçekli işten çıkarmalar yaptığı örnekler artıyor
- İsveç tarzı işsizlik ve yeniden eğitim sistemi ideal model olarak anılıyor; ancak ML aynı anda çok daha fazla sektörü ikame edebilir
- Yöneticiler, tasarımcılar, mühendisler, sağlık idaresi çalışanları gibi bilgi çalışanlarının yarısının işsiz kalabileceği öne sürülüyor
- Bir uçta, ML’nin başarısız olduğu ya da güven kaybettiği ve mevcut iş piyasasının toparlandığı bir senaryo var
- Diğer tarafta, OpenAI’nin doktora düzeyinde zekaya ulaştığı ve şirketlerin az sayıda çalışanla patlayıcı verim elde ettiği durumda, kitlesel işsizlik ve tüketim daralması yaşanabilir
- Bu durumda tüketimin düşmesi → sektörlerin zincirleme darbe alması → konut kaybı gibi toplumsal çöküş riskleri büyüyebilir
- İkinci senaryonun gerçekleşme olasılığı belirsiz olsa da, iş arkadaşları arasındaki kaygı büyüyor
Sermayenin yoğunlaşması
- ML, şirketleri işçilik maliyetlerini azaltıp bunu bulut hizmet sözleşmelerine kaydırmaya yöneltiyor
- Örneğin mühendisleri işten çıkarıp Claude token kullanım ücretine haftada 20 bin dolar harcayan örnekler var
- Bu maliyet sonunda Amazon, Microsoft gibi büyük altyapı şirketlerinin gelirine dönüşüyor
- LLM’ler sendikası olmayan, dinlenmeyen, zam istemeyen “kusursuz işçi” olarak görülüyor
- Sonuç olarak sermaye ve gücün yoğunlaşması daha da derinleşebilir
UBI ve gerçeklik
- Yapay zeka hızlanmacıları, yapay zekanın bolluk getireceğini ve UBI sayesinde herkesin fayda göreceğini savunuyor
- Ancak Google, Amazon, Meta ve Microsoft vergi kaçınma ve emek baskısı ile kötü bir üne sahip
- OpenAI bile kâr amacı gütmeyen yapıdan kâr odaklı yapıya geçti
- Bu nedenle yapay zeka şirketlerinin gönüllü olarak UBI finansmanı sağlaması pek olası görünmüyor
- Ancak kitlesel işsizlik yaşanırsa vergilerin artırılmasına yönelik kamu desteği oluşabilir
- Ne var ki ABD’de gelir eşitsizliği 40 yıldır derinleşiyor ve artan oranlı vergilendirmeye karşı güçlü bir kamuoyu var
Sonuç
- Yapay zeka ve otomasyon, emek yapısını, teknik beceriyi ve sermaye dağılımını kökten yeniden şekillendirebilir
- Ancak mevcut akışın servetin yoğunlaşması ve insan yeteneklerinin zayıflaması yönünde ilerleme riski yüksek; bu nedenle toplumsal tampon mekanizmalar ve dikkatli hız ayarı gerekiyor
1 yorum
Hacker News görüşleri
Şu anda benim ilgiyle baktığım nokta, üssel patlamanın başlangıcında mı olduğumuz, yoksa sigmoid eğrisinin tepesine mi yakın olduğumuz
LLM'lerin şu ankinden 10 kat daha iyi olması zor görünüyor, ama birisi yeni bir mimari ortaya koyup aynı kaynaklarla 10 kat verim elde edebilir
Eğer sigmoidin üst tarafındaysak, yaklaşık 10 yıllık bir uyum dönemi olur ve bu sürede yapay zekanın sınırlarını net biçimde anlamış oluruz
Buna karşılık hâlâ eğrinin başındaysak, bu yakında tekillik (singularity) sürecinin başlangıcı da olabilir. Tekilliğin asıl anlamı, sadece “ondan sonrasını öngöremediğimiz nokta” gözlemidir
Belirli bir teknolojinin üssel büyüyeceğine inanmak için bir neden yok, ama birçok sigmoid hızla art arda ortaya çıkarsa insanlara neredeyse üsselmiş gibi gelebilir
Dürüst olmak gerekirse matematiksel olarak tamamen doğru mu bilmiyorum, ama bu tür değişimler insanlara çok hızlı gelecek gibi duruyor
Süperzekâ olmasa da ekonomiyi sarsmaya yetecek kadar teknolojik ilerleme zaten var. Sadece benimsenme (adoption) henüz yeterli değil
Şu anki LLM'lerde soyutlama ve kod yapısı tasarımı yeteneğinde darboğaz var. Bu yüzden
vibe codinggibi yaklaşımlar sınıra çarpıyorİnsanın niyetini anlama becerileri olağanüstü, ama irade (volition) ve durum temsili (state representation) zayıf olduğu için yaratıcı problem çözmede kırılganlar
Protein katlanması, teorem ispatı, oyun oynama gibi alanlara özel modeller var, ama LLM'lerin kendisi henüz yapay zeka araştırmasını ileri taşıyan seviyede değil
Model geliştirme dursa bile, onlarca yıl araştırılacak kullanılmamış potansiyel (capability overhang) kalmış durumda
Örneğin 2023'te ChatGPT'nin hata kodlarını düzelttiğini gören biri, zaten “ajan devrimi”ni sezmeye başlamıştı
Bu yüzden şu anki eğri tek bir eğri değil, birbirine dolanmış birçok eğrinin toplamı
Yapay zeka performansı, kaynaklara (compute ve veri) karşı logaritmik büyüme gösteriyor
Sam Altman bile kendi blogunda bunu kabul etmişti
Pratikte üstel miktarda kaynak koysanız bile sonuç neredeyse doğrusal büyümeye yakın oluyor
Air France 447 kaza kayıtlarını dinlemenizi öneririm
İşlerin ne kadar hızlı kötüye gidebileceğini gösteren sarsıcı bir örnek ve yapay zeka riskleri tartışmalarında da düşünmeye değer
Kaptan durumu ancak son 10 saniyede fark etti ama artık çok geçti
O dönemdeki girdi ortalaması alma tasarımı sorunu nedeniyle yalnızca ikaz ışığı yanmıştı; bugün olsa sosyal medyada büyük tartışma çıkardı
Cevap hep aynı — mesleki öz düzenleme ve sendikalar
Düzenlemeye tabi meslekler, iş güvencesi ve yaşam kalitesini korumanın otomasyondan daha önemli olduğunu anlıyor
Yazılım mühendisleri ise kendi mezarlarını kendileri kazmış gibi
Sağlık sektörüyle ilgili makale bağlantısı için bakın
Örneğin inşaat durgunluğunda demir işçileri bile iş bulamıyor. Sonuçta networking önemli
Bugünün yazılım mühendisleri de benzer durumda
Ama sanki bağlantı eksik kalmış
İnsanlar “CEO”yu sanki uzaylı bir yaşam formu gibi ya yüceltiyor ya şeytanlaştırıyor
İyi CEO da var, kötü CEO da var. Kendi şirketinizi kurunca aradaki farkı anlıyorsunuz
Mentorluk programlarında bunu sık görüyorum; bu algıyı kırmak, daha iyi şirketleri seçebilmek için gerekli
aphyr'nin yazı dizisi gerçekten çok faydalı
Yapay zeka tartışmalarının özünü iyi toparlıyor; bilgi yorgunluğu yaşamadan kuşbakışı görmek mümkün oluyor
Şu anda tek başıma çalışan bir geliştiriciyim
Eskiden bir ekibim vardı ama şimdi yalnızım ve bu zihinsel olarak yorucu
Claude ya da Codex kodu hızlıca tamamladıkça, eskiden ekip arkadaşlarımın yaptığı şeyleri — ürün tasarımı, DevOps, operasyon — artık benim de yapmam gerekip gerekmediğini düşünmeye başlıyorum
Sonuç olarak çalışma saatlerim uzuyor ve yalıtılmışlık hissi artıyor
Eskiden zor olsa da iş-yaşam dengesi vardı; şimdi kalite ile mutluluk arasındaki denge bozuluyor
aphyr'nin yazılarında özellikle Otomasyonun İronileri (Ironies of Automation) bölümü etkileyiciydi
Havacılık, nükleer enerji, uzaktan cerrahi gibi sektörler otomasyon sorunlarıyla zaten onlarca yıl önce uğraşmaya başlamıştı
Örneğin havacılık CRM/SRM ile ekip ve birey düzeyinde operasyon prosedürlerini geliştirdi; cerrahlar ise simülatör eğitimi ile deskilling'i engelliyor
Bugünün yapay zeka sektörü de benzer bir yoldan geçiyor. Düzenlemenin zayıf olduğu ABD pazarında sonuçlar öngörülebilir olabilir, ama sonunda yeni bir operasyon çerçevesi gerekecek
Ama yazı çok uzadığı için bazı kısımları çıkardım
Kyle'ın yazılarını okumak her zaman keyifli
Ama gelecekteki servet yoğunlaşması ve nüfus azalması senaryoları hakkında özellikle konuşmamayı tercih etmiş gibi görünüyor
“Otomasyon beceriyi köreltiyor” sözüne katılıyorum
Ben de son dönemde Google Maps'e bağımlılık yüzünden yön bulma becerimin gerilediğini hissediyorum
Eskiden üç kez kadar araba sürünce güzergâhı ezberlerdim, şimdi ise harita olmadan aklımda kalmıyor
Neyse ki eski anılar duruyor, ama yeni rotalar neredeyse hiç kaydedilmiyor
Yazıya güvenince insanın kendisi hatırlamak yerine dışsal işaretlere dayanır, diyordu
Bugünlerde programlama gerçekten büyü gibi
Şu anda Yunan güvenlik tanrıçası Soteria'yı veritabanı yöneticim (DBA) olarak kullanıyorum