- LLM tabanlı kodlama araçları etrafındaki abartıya rağmen, gerçek yazılım geliştirme çıktılarının kalitesi belirgin biçimde iyileşmedi; aksine sahteciliğe (forgery) daha yakın ürünler ortalığı kaplamış durumda
- LLM'lerin yaptığı işin özü, kişinin kendi ya da başkasının potansiyel çıktısını taklit ederek onu daha hızlı üretmesi; bu çıktılar özgünün yerine ikame edilmeye çalışıldığında sorun ortaya çıkıyor
- Açık kaynak projeleri, yapay zeka üretimi düşük kaliteli PR'lar yüzünden açık katkıları kapatmak veya bug bounty programlarını durdurmak gibi gerçek zararlar görüyor
- Oyun sektörü, tüketici öncülüğünde AI içerik etiketleme ve filtreleme talep ederek etkili biçimde direniyor; buna karşılık yazılım mühendisleri bunu savunmasız şekilde kabulleniyor
- LLM'lerin yalan söylemeyi bırakması için doğru kaynak atfı (source attribution) şart; ancak mevcut model yapılarında bu teknik olarak imkansız durumda
Yapay zeka kullanımının kaçınılmazlığı çerçevesine itiraz
- Sektördeki abartıya göre geleneksel yazılım geliştirme sona erdi; ancak yıllardır LLM tabanlı araçlar kullanılmasına rağmen ortaya çıkan sonuçlar eskisiyle neredeyse aynı düzeyde
- Teknoloji etrafındaki muazzam miktardaki abartı, devasa yatırımları çekiyor; bu yatırımlar da karşılığında daha fazla abartı talep eden döngüsel bir yapı yaratıyor
- Yeni modeller, çoktan emekliye ayrılmış modellerin yerine getirmesi gereken vaatleri gerçekleştirmek için sürekli eğitiliyor
- "Yapay zeka kullanmıyor olmanız tamamen sorun değil" — bu, modası geçmiş bir tavır değil; hatta yapay zekayı benimsemiş olanlara göre daha az stresli ve daha tatmin edici olabilir
Zanaatkarlık (Craft) vs seri üretim (Kraft): sahtecilik çerçevesi
- LLM'lerin yaptığı işe dair farklı çerçeveler arasında (yardım, yaratıcılık, üretkenlik vs tembellik, tek kullanımlıklık, intihal), şaşırtıcı biçimde eksik kalan kelime tam da sahtecilik (forgery)
- Van Gogh tarzında resim yapıp onun imzasını atmak sahteciliktir; hukuki belgeyi taklit etmek sahteciliktir; verileri manipüle edilmiş araştırma sahteciliktir — bir şeyin sahte olup olmadığı, nesnenin kendisine ve nasıl üretildiğine içkindir
- LLM, kişinin kendi ya da başkasının potansiyel çıktısının sahte bir kopyasını daha hızlı üretmesini sağlayan bir araçtır
- Taklidin kendisi ifade özgürlüğü kapsamında yasal olabilir; fakat sahte ürün, özgünün yerine geçen bir ikame olarak kullanılmaya çalışıldığında sorun başlar
- Noel Baba mektubunu "sahte" olarak yazmak yüzünden tutuklanmazsınız; ama son derece ustaca yapılmış "sahte para"yı yalnızca koleksiyon amacıyla bulundurmak bile birçok yargı alanında kabul edilmez
Menşe koruması ve kalite standartları benzetmesi
- Fransa'nın "Brie de Meaux" gibi menşe denetimli gıdaları; geleneksel üretim yöntemleri, yüksek kaliteli hammaddeler ve belirli coğrafi kökenin tümünü şart koşar
- Yurt dışı üretime izin vermek kaçınılmaz olarak ucuz taklitlerin ortalığı kaplamasına yol açar; bu da özgün markayı zedeler ve kuşaklar boyunca aktarılmış nadir yerel uzmanlığı tehdit eder
- Yalnızca bireysel tüketici yargısı, piyasanın sağlıklı işlemesini güvence altına alamaz; mağaza raflarında neyin bulunduğu zaten tüketicinin kontrolü dışındaki etkenlerle belirlenir
- Zanaat ürünü peynirin kalitesi, modern yöntemlerle işleyen bütün bir tedarik zincirini temsil eder; bunu başka yere taşımak için insan kaynağına, altyapıya ve tarıma büyük yatırım gerekir
- Her toplum, "geleneksel zanaat peyniri" ile "endüstriyel kimyasallarla yapılmış sahte yumurta" arasında bir yerde çizgi çekmek zorundadır; gıda zanaatkarlığının değerini anlayıp koruyan toplumlar ancak bu şekilde %70'i aşan obezite oranlarından (Nauru örneği) kaçınabilir
Açık kaynakta ve gündelik kodlamada AI slop'un zararı
- Açık kaynak bakımcıları, yan etkileri ilk hissedenler oldu — zaten motive olmuş katkı sağlayıcıları bulmak ve onları projenin hedeflerine ve mühendislik yaklaşımına uyarlamak zaten büyük zorluktu
- GitHub özgeçmişini şişirmek için slop kodlanmış PR'lar gönderen katkıcılar ortaya çıktı
- tldraw açık katkıları kapattı, curl projesi bug bounty programını durdurdu, başka projeler ise sahte katkıcılarla alay ederek tepki verdi
- Vibe-coding yapan iş arkadaşlarıyla gündelik çalışmada da benzer etki görülüyor — yeni çalışan hızla adapte oluyormuş gibi görünse de gerçekte erken öğrenme sürecini bota devrediyor
- 2026 itibarıyla, yeni bir çalışanın son derece ayrıntılı açıklamalar ve yorumlarla dolu bir PR göndermesi halinde yazdığı her kelimeden şüphe etmek gerekiyor
Kıdemli mühendisler ve 10x/100x üretkenlik yanılsaması
- Yapay zeka kullanan deneyimli kıdemlilerin eskisinden 10 kat, 100 kat fazla kod ürettiği söyleniyor; ama hâlâ çalıştırılan ve bağımlı olunan her kod satırının bir yükümlülük (liability) olduğunu kavrayamıyorlar
- "AI ile kodlamanın harika olmasının nedeni, ajanın ihtiyaç duyduğu her şeyin kod tabanında açıklanmış olması" iddiası ölümcül derecede yanlış — eğer bu doğru olsaydı, yapılacak gerçek kodlama işi zaten kalmazdı
- Asıl fark, bir mühendisin kariyerinin çoğunu başka yazılımların yarattığı sorunları çözerek mi, yoksa yazılım ortaya çıkmadan önce insanların sahip olduğu sorunları çözerek mi geçirdiğinde yatıyor
- Yalnızca ikincisi, problemin gerçek kısıtları ve kullanıcı ihtiyaçları üzerine düşünmeyi öğretir
- Yazılım kendi başına amaç haline geldiğinde, ayda $10'lık bir VPS ile çözülebilecek şeyi aşırı mühendislik ürünü bir bulut altyapısına dönüştürürsünüz
Slop kodun özellikleri ve sektörün tepkisi
- Zanaatkarlık sahibi mühendisler, inceleme sırasında slop'u kolayca fark eder — aşırı tekrar eden kod, gereksiz karmaşıklık, refactoring'e direnç gibi biçimlerde
- Kıdemlilerin bile yılların deneyimine rağmen vibe-coding yüzünden utanç verici hatalar yapıp bunları aynen ilettiği örnekler gözleniyor
- Microsoft'un Co-pilot Discord sunucusunda "Microslop" hakaretinin yasaklanması olayı — kullanıcı tepkisini "spam" ya da "zararlı" diye çerçeveleyerek, vaatlerin gerçek sonuçlardan daha önemli sayıldığı bir durum yaratıyor
- Bu araçlar "bağımlılık yapıcı" ya da "sahip olabileceğiniz en iyi arkadaş" diye anılıyor; ama buna eşlik eden bir yaratıcılık ve başarı kambriyen patlaması görünmüyor
Yazılım sektörünün yapısal sorunları ve yapay zekanın rolü
- Yapay zeka ile üretilen şeylerin çoğu, PC devriminden sonra yazılım uygulamalarının daha kapalı, daha parçalı ve daha kurumsal hale gelmesiyle ihtiyaç duyulan glue code
- HTTP API'ler, her gece şeması değişen kötü belgelenmiş JSON blob'ları gerektirdiğinden gerçek açıklık sunmuyor
- Birçok şirket hâlâ büyük ölçüde Excel ile çalışıyor; JSON'un Excel karşılığı sayılabilecek bir araç ise yok
- SQL'in, işletmeleri özel araç bağımlılığından kurtaracağı söylenmişti ama bu başarısız oldu; tarih tekrar ediyor
- Vibe-coding ile yapılmış Electron uygulamaları hâlâ çok platformlu yerel uygulamalara tercih edilirken, 100 kat üretkenliğin somut karşılığı nerede sorusu ortaya çıkıyor
- Apple bile en güncel işletim sistemlerinde düzgün form ve ikon sistemini koruyamazken, web slop ile eğitilmiş bir yapay zekanın potansiyeli daha da düşük görünüyor
Oyun sektörünün etkili direnişi
- Yazılım mühendisleri can yeleği olmadan suya atladı; ama oyun sektörü tüketici öncülüğünde etkili biçimde direniyor
- Çok sayıda oyun, etiketsiz AI içeriği için özür diledi ve bunu kaldırdı
- Steam, AI içeriğine dair açık bir politikaya sahip; SteamDB ise yapay zeka üretimi oyunları filtrelemek için araçlar sunuyor
- Steam politikası yakın zamanda güncellendi; oyuncuya sunulan içeriği üretmeyen geliştirme araçlarının "verimlilik artırma" amaçlı kullanımını kapsam dışı bıraktı
- Oyun pazarının etkili biçimde direnmesinin iki nedeni var:
- Dijital dağıtımın saf D2C (doğrudan tüketiciye satış) pazarı — tüm seçim gücü oyuncuda ve şeffaflık talep eden kanaat önderleri bizzat oyuncular
- Oyunların çoğu sanatsal ürünlerdir ve belirli bir estetik çekicilik nedeniyle satın alınır — sanatta taklit, özgün eserin değerini düşürmek ve emeğin kredisini çalmak olarak görülür
Kodun yeniden kullanımı ile sanatsal özgünlüğün karşıtlığı
- Kod, genel olarak yeniden kullanımdan zarar görmez; altyapı söz konusuysa bu hatta yarar sağlayabilir
- Bu da açık kaynak projelerinin yetenekli sanatsal yaratıcıları çekmek için özellikle elverişsiz olmasının nedenlerinden biridir — maliyetsiz paylaşım anlayışı, sanatsal tasarımın bağlamından koparılarak anında aşırılabilmesi anlamına gelir
- Klasik procedural generation dikkat çekici bir emsaldir ve genel olarak beklentileri karşılamamıştır
- No Man's Sky (2016 sürümü) örneği — sınırlı kaynaktan üstel içerik üretme vaadi, sonunda kendi çıktısındaki çeşitliliği değersizleştirir
Üretken yapay zeka, korsan kütüphaneler ve hukuki muğlaklık
- Sanatçıların üretken yapay zekayı kitlesel intihal olarak kınaması doğaldır; teknoloji girişimcileri ile veri derleyicilerinin bunu anlamayıp modelleri korsan gölge kütüphaneler üzerinde eğitmesi de aynı ölçüde doğaldır
- Nvidia'nın, Anna's Archive içindeki devasa korsan kitap koleksiyonuna yüksek hızlı erişim anlaşması yapmaya çalıştığı iddia ediliyor
- Çıktıların vasat, özensiz ve şüpheli görünmesinin açık bir nedeni var — eğitim kaynağındaki çeşitli örnekler zaten makine için slop'tan ibaret
- Bu da neyin alıntı, neyin halüsinasyon, neyin özgün olduğunu ayırt etmeyi imkansızlaştıran makul inkar edilebilirlik (plausible deniability) üretiyor
- AI içeriğine AI tarafından üretildi etiketi ya da filigran eklemek çoğunlukla sorumluluktan kaçmaktır; gerçek anlamda sorumlu bir açıklama değildir
- Vibe-coding'in kabul edilebilir ve meşru sayılabilmesi için, mühendisin kendi çıktısının tek kullanımlık, yaratıcı olmayan ve kredi almaya değmez olduğunun varsayılması gibi paradoksal bir pozisyon gerekir
Çözüm olarak kaynak atfı (Source Attribution)
- Hiçbir mahkeme, AI çıktısının tamamı hakkında bunun yasal ya da telif hakkına uygun olup olmadığını hükme bağlamamalıydı; kaynağı olmayan çıktı sahtecilik sayılmalı
- LLM sorununun çözümü açık ama ulaşılamaz: LLM'nin akıl yürütmeyle birlikte doğru kaynak atfı yapması
- Bu, yalnızca sanatsal yönü değil; vibe kodun önemli bir bölümünün de asıl yazar, lisans ve bağlantılar atlanarak mevcut kod tabanlarından kopyala-yapıştır edildiğini ortaya çıkarabilir
- Mevcut modellerde gerçek atıf teknik olarak imkansız — LLM'lerin kaynak anma ve alıntılama yeteneği, toplanmış verinin bir ortaya çıkan özelliği (emergent property)
- LLM'ler yalnızca metindeki mevcut konuma uygun olduğunda kaynak verebilir; bu da sık alıntılanan şeyleri düzgün alıntılamaktan ibaret bir atıf rol yapması (citation role-play) anlamına gelir
- Atıf zorunluluğunun sonuçları çok büyük: ağırlıklar atfedilebilir ve ileri yayılım denetlenebilir olmak zorundaysa, geri yayılım (backpropagation) nasıl görünecektir; bu,
int4 içine sığmaz
- **"AI tespit araçları"**nın ters yönden çözmeye çalıştığı problem de tam olarak budur
- World Wide Web ve onu kullanan Google ölçeğindeki arama motorlarından sonra gelecek yeni nesil teknolojinin, bilginin kaynağını tasarım gereği söyleyemeyen bir teknoloji olması paradoksaldır
- Makinenin yalan söylemeyi bırakması için kaynakları düzgün biçimde alıntılaması gerekir; AI şirketleri için de aynı şey geçerli
3 yorum
Ne oluyor böyle, galiba kelime dağarcığım zayıflamaya başlıyor.
"Emergent, slop, kaynak atfı, çerçeveleme etkisi, Kambriyen patlaması" diye oturmuş araştırıyorum.
Hacker News görüşleri
Video oyun pazarı, tüketicilerin AI'a tepki gösterdiği nadir örneklerden biri gibi görünüyor; ama gerçekte tepki sadece AI art asset'lerine vardı
Kodun AI ile yazılıp yazılmadığını kimse umursamıyor. Steam'in AI anketine bakılırsa kod üretimine zaten izin veriliyor
Sonuçta LLM ile kodlamanın yayılması kaçınılmaz. Prosedürel üretim de aynı şekilde, araçtan çok onu kullanan kişinin becerisine bağlı
LLM tartışmasından bıkmış durumdayım. Bu teknoloji, insanları güçlendirmekten çok kontrol etmek, işten çıkarmaları kolaylaştırmak ve serveti daha da merkezileştirmek yönünde kullanılıyor
Sanki domuzlar bacon makinesinin faydasını tartışıyor gibi
Luddit hareketi basit bir teknoloji karşıtlığı değildi. Kalite düşüşünden endişe ediyorlardı ve gerçekten de haklı çıktılar
Ortaçağ Avrupası'nın el işi yün atkıları, modern fabrika ürünlerinden tamamen farklıydı. Teknolojik ilerleme her zaman bire bir ikame anlamına gelmez
Bugün de teknik olmayan kişilerin yaptığı iç araçların yüzlerce saat kazandırdığını görünce, mükemmel olmasa da işe yarıyorsa yeterlidir hissi doğuyor
LLM'in ortaya çıkardığı gerçek, programlamanın büyük kısmının boilerplate kod olduğudur
Asıl değer, üst seviyedeki küçük yeniliklerde yatıyor
LLM'in ideal kullanımı öğretmen rolüdür. Kod yazmak yerine kavramları hızlıca öğreten bir araç olarak kullanmak daha iyi
Zanaat peyniri ya da jambon gibi, gelecekte Artisanal Coding diye bir şey çıkabilir
İnsan yerine spesifikasyonu koda çeviren bir makineye dönüşmüş durumda
Soğuk gerçek şu ki kimse bizim kodun kendisiyle ilgilenmiyor
Çoğu insan sadece çalışıp çalışmadığına, hızına ve maliyetine bakıyor. Sonuçta biz fabrika işçilerine daha yakınız
Bu, saat ustalarının otomatik tornayı görünce hissettiği kayıp duygusuna benziyor
Sonunda, koruyup durduğumuz yaratıcı mesleke dair romantik anlatı çöküyor
Bütün bu tartışma sonunda, TTP(Time To Penis) memi gibi tekrar eden insan doğasıyla ilgili bir mesele gibi görünüyor
Bu yazı gerçekten gerçekçi ve dengeli bir bakış açısı sunuyor
Hem yazı hem de yorumlar şaşırtıcı derecede olumsuz. Görünüşe göre hiçbiri Claude Code'u çalıştırmayı bile denememiş..