- Yapay zekanın mevcut seviyede durup insanların da daha iyi kaliteyi hedeflememeye başlayabileceği ihtimaline dair bir korku ifade ediliyor
- Günümüz yapay zekası %90 tamamlanmış sonuçları hızla üretiyor, ancak kalan %10’luk son dokunuş için çaba gösterme kültürünün yok olma riski var
- ‘Yeterince iyi (good enough)’ ürünlerin olduğu gibi piyasaya sürülmesi ve tüketicilerin bunları eleştirel süzgeçten geçirmeden kabul etmesi olgusuna dair kaygı dile getiriliyor
- AI araçları tekdüze çıktıları seri halde üretirken, özgün ve zanaatkârlık taşıyan yazılım geliştirmek giderek zorlaşıyor
- Sorunun asıl büyük yanı teknoloji ilerlemesinden çok kalite ve yaratıcılığın gerilemesi; geliştiriciler ve kullanıcılar birlikte kayıtsızlaşırsa yazılım zanaatkârlığı ortadan kalkabilir
Yapay zeka ilerlemesinin sınırları ve ‘yeterince iyi’ seviyesinin riski
- Yapay zeka bugünkü seviyede kalırsa, web tarayıcısı ya da derleyici gibi şeyleri neredeyse tamamlayabilen modeller var olacak, ancak kusursuzluğa ulaşamayacak
- Buna örnek olarak, çoğu durumda çalışan ama kritik anlarda başarısız olan otonom araçların eksikliği veriliyor
- Bu tür %90 tamamlanmış çıktılar sürekli çoğalırsa, kalan %10’luk tamamlanmışlığı artık aramayan bir topluma dönüşme ihtimalinden korkuluyor
- Sorunun özü yapay zekanın kendisinden çok, insanların ‘bu kadarı yeter’ diyen tutumu olarak görülüyor
‘Slop’ ve yazılım kalitesindeki düşüş
- Yazar, yapay zekanın ürettiği özensiz sonuçların (slop) gündelikleşmesinden endişe ediyor
- Yapay zekanın ürettiği uygulama ve içeriklerin yalnızca ‘yayınlanabilir seviyede’ diye değerlendirilmesi, gerçek kaliteye dair öğrenme ve anlayışın eksik kalması eleştiriliyor
- AI ajanları uygulama yazsa bile, bunları yöneten kişilerin ortaya çıkan sonucun kalitesini anlamadan dağıtıma çıkarması problem olarak görülüyor
- Bu akışın yazılımı bir tür ‘dropshipping’ ürününe dönüştürdüğü, IKEA tarzı seri üretimden bile daha düşük nitelikli sonuçlar doğurduğu söyleniyor
AI araçlarında tekdüzelik ve yaratıcılığın kaybı
- Claude gibi AI modelleri yeni teknolojileri öğrenmede yardımcı olabilir, ancak sonuçta ortaya çıkan şey çoğunlukla ortalama bir ‘Next-React-Tailwind’ tarzı uygulamaya dönüşüyor
- AI araçlarıyla özgün bir uygulama (ör. Paper by FiftyThree) yapmaya çalışılsa da, sonuç sıradan ve ilhamsız bir forma evriliyor
- AI, belirlenmiş patikanın dışındaki üretimleri iyi işleyemiyor; bu da yaratıcı yazılım üretiminin önünde bir sınır oluşturuyor
İnsan merkezli sorun ve sektör yapısı
- ‘Slop’un yeni bir olgu olmadığı, bunun zaten insanların kötü kararları ve teşvik yapılarından kaynaklanan bir sorun olduğu belirtiliyor
- Rahatsız sandalyeler, SEO ile kirlenmiş arama sonuçları, berbat UI’lar; bunların hepsi insan tercihinin ürünü
- “Move fast and break things” kültürü içinde zanaatkârlık taşıyan uygulamalar, büyük şirketlerin ücretsiz kopyaları ve pazar bozucu hamleleriyle yok oluyor
- AI ajanları bu süreci çok daha hızlı tekrar edebildiği için, iyi yazılımın döngüsel biçimde yok oluşu hızlanıyor
Kullanıcıların ve geliştiricilerin kayıtsızlığı
- AI araçlarının kullanıcılarla geliştiriciler arasındaki farkı azaltabileceği yönünde bir beklenti de var
- Örnek olarak, muhasebe çalışanlarının hazırladığı karmaşık Excel tabloları ya da TikTok üzerinde otomasyon kuran kullanıcılar anılıyor
- Ancak bu yaratıcı kullanıcıların istisnai kişiler olabileceği, çoğu insanın teknik sorunlara, gizliliğe ya da kaliteye ilgisiz kalabileceği öne sürülüyor
- Sonunda toplum ‘yeterince iyi’ seviyesinden memnun kalırsa, zanaatkârlık ve yaratıcı geliştirme kültürü ortadan kalkabilir
- Yazı, “Teknik zanaatkârlığımız ölse bile kimse buna üzülmeyecek” şeklindeki karamsar bir tespitle sona eriyor
1 yorum
Hacker News görüşleri
Üretken yapay zeka ürünleri yaygınlaştıkça, insanların dünyaya tarihsel bağlam içinde bakmamasının üzücü olduğu düşünülüyor
Yapay zekanın dünya üzerindeki etkisi geçmişteki teknolojik dönüşümlere benziyor ve dünyanın işleyişi kökten değişmiyor
Çoğu ürün ve hizmet, yalnızca işlevini ‘yeterince iyi’ düzeyde koruyup kaliteden ödün vererek varlığını sürdürdü
Tıpkı bir yürüyüş botunun sadece 20 mil dayanması yetiyorsa daha uzun ömürlü olanını almaya gerek görülmemesi gibi, yazılım da aynı şekilde işliyor
Kullanıcıların çoğu güvenlik, gizlilik, bakım yapılabilirlik ve dayanıklılıkla ilgilenmiyor
Bu gerçek yeni değil ve gelecekte de sürecek
Ancak büyük veri sızıntıları ya da küresel kesintiler yaşandığında öfkeleniyorlar
Bunlar tam da gizli gereksinimler (hidden requirements)
Gereksinimler değiştiğinde, 20 mil giden botla 35 mil yürünememesi gibi yazılım da sınırına dayanıyor
Ucuz ama uzun ömürlü ürünler de var, pahalı ama berbat projeler de çok
Neden baştan hem ucuz hem kaliteli bir şey yapılamadığı sorgulanıyor
Çünkü insanlar sermaye harcaması (capex) yapmak istemiyor
Evinden pahalı araba ya da 2000 dolarlık ayakkabı almak isteyen çok az kişi var
Örneğin Ford'un Model T'si, üretim maliyetlerini düşürerek otomobili kitleselleştirdi
Kalite düştü ama erişilebilirlik patlayıcı biçimde arttı ve sonunda yeni bir denge noktasına ulaşıldı
Yüksek kalite yalnızca ekonomik olarak gerekçelendirilebilen niş alanlarda korunuyor
Uygarlığın nasıl değişeceği konusunda korku duyuluyor
Zenginler daha zenginleşecek ve birçok insan işini ve umudunu kaybedecek gibi görünüyor
Gelirsiz bir toplum sürdürülebilir değil ve şiddete dönüşme riski yüksek
Bunu engelleyebilecek güç sahiplerinin neredeyse olmadığı düşünülüyor
İlgili kaynak olarak Douglas Rushkoff'un Survival of the Richest kitabı ve bir YouTube videosu sunuluyor
Bazı şeyler kötüleşirken bazıları iyileşiyor; bunu net bir toplam kayıp ya da kazanç olarak tanımlamak zor
Her çağın çözmesi gereken sorunları farklı
LLM tabanlı sistemlere dair temel kaygılar var
Ancak bu tür sorun bilinci LLM'lerden önce de vardı
Geçmişteki offshoring (yurtdışı outsourcing) gibi, artık kodu insanlar yerine GPU farm'ları üretiyor
Fark şu ki bu kez özel yatırım sayesinde maliyet neredeyse sıfıra indirilmiş durumda
Sonunda bunun bedeli bir gün ödenecek
şimdi ise para en zengin ülkelere yoğunlaşıyor
ChatGPT gibi hizmetler abonelik ücreti alıyor ve sonunda Hindistan outsourcing seviyesinde bir fiyat bandına oturacağı düşünülüyor
Kod kalitesi ırkla değil, yatırım ve yönetimle ilgili bir mesele
Üretken yapay zeka sanayileşmenin devamı niteliğinde
Mümkün olduğunca hızlı ve ucuz ürün üretmeye dayalı bir yapı
“Yeterince iyi” standart haline geldi ve bunun sonucu olarak kalite düşüşünün birikimi durmadan sürüyor
Sistem o kadar büyük ki yön değiştirmek zor
Startup dünyasında çoğu kişi zanaatkârlıktan çok hıza önem veriyor
“Move fast and break things” gibi sloganlar gündelik hale gelmiş durumda
Aslında çoğu kişi öteden beri son %10'luk kaliteyle ilgilenmiyordu
Hatta LLM'ler bug düzeltme hızını artırabilir
Eskiden “Kullanıcı istatistiklerine baktık, kimse umursamıyor” denip düzeltilmeyen sorunlar artık daha hızlı çözülebilir
%0 bug neredeyse imkânsızdır ve kullanıcılar ihtiyaç duydukları işlevler için bazı hatalara katlanır
LLM'ler bu dengeyi değiştirmez ama rakiplerin niş kullanıcı kitlesini hedeflemesi için alanı daraltabilir
“Usta işi becerinin öleceğinden korkuyorum” sözüne karşılık,
eğer o beceriyi hâlâ seven insanlar varsa o şey ölmez diye düşünülüyor
LLM'ler adeta Pareto ilkesinin vücut bulmuş hali gibi
Zamanın %1'iyle sonucun %80'i alınabiliyorsa, kalan %20'yi kimse umursamıyor
Bu, kaliteden çok tüketimi maksimize eden kültürün zayıflığını ortaya koyuyor
Benzer durumlar içerik çiftliklerinde zaten vardı; şimdi bunun varış noktasını veri merkezlerindeki israfta görüyoruz
Kalitenin anlamını bile yitirmiş bir kültürü hızlandırıyor
Aksine inanan düşünce tarzı sonunda kendi kendini yok edecek
Ancak insanlar irrasyonel olduğu için, bu ‘sonunda’nın ne zaman geleceği bilinmiyor
ABD'de “yeterince iyi” anlayışına daha fazla hoşgörü var
Japonya ise bu tür ürünleri hiç piyasaya sürmüyor
Örneğin Nintendo'nun 3D Mario serisi, Amerikalı stüdyoların hayal bile edemeyeceği bir tamamlanmışlık düzeyi gösteriyor
Apple istisnai olarak kaliteye takıntılıyken, Microsoft için “zevki yok” yorumu yapılıyor
LLM'leri aşırı kullanan geliştiricilere yönelik sahadaki memnuniyetsizlik büyük
LLM ile yazılmış kodların incelemesini ya da bakımını üstlenenlerin işi, insan dışı kod yapıları yüzünden kat kat artıyor
Kendilerini “verimli” sanıyorlar ama gerçekte başkalarının zamanını boşa harcıyorlar
Bu durumun sona ermesi isteniyor
Eğer bu, Japon alan adı kullanan birinin yazısıysa ilginç bulunuyor
Japonların kalite konusunda sabrı daha yüksekken, Amerikalılar “yeterince iyi” ile yetinme eğiliminde
Grado gibi pahalı ürünlerin glue gun ile monte edilmiş halde bile satılması buna örnek gösteriliyor