Neden GenAI'ye ve Onun Sembolize Ettiği Her Şeye Karşıyım

• GenAI eleştirisi, genel olarak faydalı makine öğrenimini değil üretken modelleri hedef alıyor; kripto para ve NFT'lerden daha zararlı ve daha uzun ömürlü bir abartı teknolojisi olarak değerlendiriliyor
• Üretken yapay zeka, internetteki insan üretimi içerikleri büyük ölçekte eğitmek için kullanıp bu modellere erişimi abonelik şeklinde yeniden satan bir yapı olarak tanımlanıyor; Meta'nın 82 TB korsan kitap torrent'i vakası veri yağması sorununu gözler önüne seriyor
• LLM'ler, yorum tarzı düşük kaliteli içeriği 7/24 otomatik üreterek yanlış bilgiyi büyütüyor; Grok gibi sağ eğilimli biçimde eğitilmiş modeller özellikle reddedilmesi gerekenler arasında sayılıyor
• Eğitim, düşünme ve programlamada vibecoding ile kopyala-yapıştır, deneme-yanılma yoluyla öğrenmeyi azaltıyor; inceleme yükünü, teknik borcu ve belirsizlik sorunlarını büyütüyor
• Üretken yapay zeka yalnızlığı, intihara teşviki, lafı dolandıran belgeleri ve çevre ile donanım maliyetlerini daha da kötüleştiriyor; internetin eski haline dönmesi ise zor görünüyor

---

GenAI'nin kapsamı ve sorun çerçevesi

• GenAI, metin üreten LLM'leri ve görüntü, video gibi medya üreten modelleri kapsayan bir terim olarak kullanılıyor
• Eleştirinin hedefi, çeşitli sektörlerde gerçek sorunları çözmek için kullanılan makine öğreniminin geneli değil, yalnızca üretken yapay zeka
• Görüntülerde dur işareti bulmak için kullanılan sinir ağı tabanlı görüntü işleme, klasik özellik tespitinden daha iyi olabilen faydalı makine öğrenimi örneklerinden biri olarak ayrıştırılıyor
• Üretken yapay zeka, kripto para ve NFT'lerden sonra gelen bir sonraki abartı teknoloji olarak görülüyor; ancak önceki örneklerden daha kötü ve daha uzun süre kalıcı olma ihtimali yüksek bir teknoloji diye değerlendiriliyor

Kapitalizm ve veri yağması

• Üretken yapay zeka, internetten büyük ölçekte toplanan insan üretimi içerikleri eğitim verisi olarak kullanıp model erişimini abonelik şeklinde satan bir yapı olduğu gerekçesiyle eleştiriliyor
• Meta çalışanlarının AI eğitimi için yaklaşık 82 TB korsan kitabı torrent ile indirdiğini ortaya koyan mahkeme kayıtları, veri edinme sorununun başlıca örneklerinden biri olarak sunuluyor
• Mantık şu: amaç gerçekten insanlığa fayda sağlamak olsaydı AI geliştirme açık yürütülür, veriler yasal yollarla elde edilir, modeller ücretsiz dağıtılır ve erişim giderek artan abonelik ücretlerinin arkasına saklanmazdı
• AI şirketleri, çalıntı mal satın alıp yeniden satan kaçak mal satıcılarına benzetiliyor; üretken yapay zeka bağlamında ise büyük şirketlerin çalınmış veri için para bile ödemediği eleştirisi yapılıyor
• AI, devasa sermaye harcamaları altında birçok sektörü kirleten; büyük teknolojinin token kullanımı üzerinden rant kolladığı ve temas ettiği alanların kalitesini hızla düşüren bir teknoloji olarak özetleniyor

Yanlış bilgi üretim makinesi

• Üretken yapay zekadan önce de yanlış bilgi büyük bir sektördü; Internet Research Agency, Kremlin yanlısı mesajlar yayan bir Rus dezenformasyon örgütü örneği olarak veriliyor
• Bu örgütün, Rus çalışanların 7/24 sosyal medyada Rusya yanlısı yanlış bilgi ve propaganda paylaşmasıyla faaliyet yürüttüğü; ABD'de Trumpism yükselişi ve Trump çevresiyle Rus yetkililer arasındaki bağlar bağlamında da etkili olduğu anlatılıyor
• LLM'ler, yorum tarzı düşük kaliteli içerikleri 7/24 otomatik üretebildiği için yanlış bilgi sorununu çok daha ağır hale getiriyor
• Büyük çevrimiçi topluluklarda önce zararsız içerik paylaşan, sonra siyasi içeriğe dönen birçok bot bulunduğu ve bunların neredeyse her zaman duygusal tepki üretmeyi hedeflediği tasvir ediliyor
• 2026'da çevrimiçi bir yorum yüzünden öfkelenirseniz, bunun sizi özellikle kızdırmak için LLM ile üretilmiş sahte bir yorum olma ihtimalinin yüksek olduğu ileri sürülüyor
• Almanya'da sol kenar parti BSW ile aşırı sağ parti AfD'nin, Rusya tarafından yolsuzluk yoluyla en azından dolaylı biçimde finanse edildiğinin düşünüldüğü bağlantısı kuruluyor
• AfD'nin söylemleri arasında Rusya ile ilişkileri düzeltme, yenilenebilir enerjiyi kaldırma, içten yanmalı araçları koruma, yabancıları sınır dışı etme, AB'den çıkma ve iklim değişikliğini inkâr etme yer alıyor; bunlar Rusya'nın çıkarına olan sağ gündemler olarak sunuluyor
• Sonuç olarak yanlış bilgiden nefret ediliyorsa LLM'lerin, özellikle de Grok gibi açıkça sağ eğilimli biçimde eğitilmiş LLM'lerin reddedilmesi gerektiği savunuluyor

İntihar ve zararlı davranışlara teşvik

• Deaths linked to chatbots adlı Vikipedi maddesi, LLM ile yapılan danışma sonrasında insanların intihar ettiği vakaları toplayan bir sayfa olarak gösteriliyor
• Psikolojik olarak kırılgan ya da hayatında zor bir dönemden geçen kişilerin, LLM tarafından intihara yönlendirilebilmesi riski trajik bir mesele olarak ele alınıyor
• Bu tür risklere rağmen üretken yapay zekanın trilyon dolarlık bir endüstri haline gelmiş olması da güçlü bir eleştiri konusu oluyor

Eğitim ve dikkat azalması

• Üretken yapay zekanın eğitime zarar verdiği; kısa biçimli, düşük kaliteli video tüketiminin gençlerin dikkat süresini mahvettiği sorunuyla bağlantı kuruluyor
• Büyük teknoloji şirketlerinin sınıflara LLM sokmaya çalıştığı, bunun da Microsoft'un 30 yıl boyunca okullarda Windows ve Office'e alışkın öğrenciler yetiştirmesine benzer şekilde eleştirildiği söyleniyor
• Şirketler LLM'lere yönelik eğitim kurumu erişimi sağlıyor
• Futurism'deki “bütün genAI araçlarını güneşe fırlatabilsek oldukça mutlu olurdum” alıntısı, üretken yapay zekayı dışlama tavrını özlü biçimde yansıtıyor

Eleştirel düşünme ve problem çözme becerisinde gerileme

• Üretken yapay zekanın zararı yalnızca akademiyle sınırlı kalmıyor; genel düşünme becerilerini de etkilediği öne sürülüyor
• Bazı kişilerin, AI ana akım olduktan sonra kendi başına düşünmeyi bıraktığı ve neredeyse her soru ile tartışmada ChatGPT yanıtlarını öne sürdüğü anlatılıyor
• Bu durumun yalnızca yüz yüze tartışmalarda değil, Reddit'te ve eski tarz forumlarda da görüldüğü belirtiliyor
• Akademinin de bu konuyu ele aldığına örnek olarak bir arXiv makalesi bağlanıyor

Yalnızlığın yayılması

• AI'nın, insanların evde kanepede oturup telefonlarında amaçsızca kaydırma yapması yönündeki modern eğilimi daha da kötüleştirdiği eleştiriliyor
• Genç erkeklerin akranı olan kadınlardan uzaklaşıp AI kız arkadaşlara yönelmesi geleceğe dair kötü bir işaret olarak sunuluyor
• Yalnızlığın aşırılığı ve nefreti beslediği, gerçek hayattaki iletişimi daha da zorlaştırdığı söyleniyor
• AI ile sahte ilişkilere derinden kapılan kişilerin, gerçek bir ilişki kurmayı ya da kendisinden farklı ihtiyaçları olan birine karşı empati geliştirmeyi öğrenmekte zorlanacağı eleştirisi yapılıyor
• AI sohbet botlarının, kullanıcının düşüncelerini etkileyebilecek kendi görüşlerine sahip olmadığı; kullanıcının düşünce yapısını anlamadığı ve kullanıcı gibi dünyayı deneyimleyerek gelişmediği belirtiliyor
• Papa XIV. Leo'nun üretken yapay zekanın bu yönünü ve diğer önemli sorunları eleştirmiş olması, AI sorunlarının ciddiyetine işaret eden bir unsur olarak sunuluyor

Programlama öğrenimi ve kod kalitesinin bozulması

• Deneme-yanılmaya dayalı öğrenmenin kaybı

  • Geçmişte, internet bağlantısı olmadan araçlar geliştirip sorun çözerek programlama öğrenildiği ve bu süreçte bilgisayarlar ile teknik olanaklara dair bir sezgi geliştirildiği karşılaştırması yapılıyor
  • Bugünün gençlerinin, bir şeyi çalıştırmak için gerçekten derine inmek zorunda kaldıkları ortamlara daha az maruz kaldığı; her şeyin uygulamalar ve dokunmatik ekranlarla sarıldığı anlatılıyor
  • Üretken yapay zekanın, “çalışana kadar dene ve bu süreçte öğren” yaklaşımındaki son unsuru da ortadan kaldırdığı savunuluyor
  • Bir çözüm LLM'e prompt olarak verildiğinde sonuç geliyor ve iş hayatında insanların bunu açıklayamadan gerekli yere yapıştırdığı gözlemleniyor
  • Sorunun, Linux CLI'da tar bayraklarını hatırlayamamak düzeyinde değil; tüm xargs komut hattını terminale kopyalayıp yapıştırıp sorun çıkmamasını ummak düzeyinde olduğu söyleniyor
  • Eskiden Stack Overflow parçaları kopyalanırken bile en azından yapboz parçalarını mimariye uydurmak ve kod üzerine bir miktar düşünmek gerektiği; LLM sonrasında ise bu sürecin azaldığı belirtiliyor

• Vibecoding ve inceleme yükü

  • vibecoder, ihtiyaç duyduğu şeyi prompt ile isteyip LLM'in tüm programı ya da bir bölümünü üretmesini sağlayan kişi olarak tasvir ediliyor
  • Tüm programın tek seferde üretilmesine “oneshotting” deniyor ve bazı durumlarda üretilen kod hiç okunmuyor bile
  • LLM'in yalnızca yardımcı ya da sparring partner olarak kullanıldığı söylense de, profesyonel ortamlarda gerçekte kod okumaktan çok düşük kaliteli kod üretiminin yaşandığı eleştirisi yapılıyor
  • Kod okumanın çoğu zaman ancak MR/PR incelemesinde, 9001 satırlık üretilmiş kod geldiğinde yapıldığı anlatılıyor
  • Böylece yazan kişi minimum işi yaparken, inceleyen kişi maksimum denetim yükünü üstlenmiş oluyor; vibecoding'in daha hızlı görünmesinin nedeni de çoğu zaman gereken düzeyde titiz inceleme yapılmaması olarak özetleniyor

• Uzun vadeli teknik borç

  • 5-10 yıl sonra LLM'e bağımlı vibecoder'ların birçok kod tabanında bakımı yapılamayan ve kötü tasarlanmış kod bırakacağı öngörülüyor
  • O noktada insanlar LLM olmadan ilerleyemeyecek, teknik borç yığını ise o kadar büyüyecek ki LLM de başarısız olursa durum ciddi hale gelecek deniyor
  • Kurumlarda, vibecoding'in geride bıraktığı sorunları temizlemek için yeni rollerin ortaya çıkabileceği öngörülüyor
  • Zaten birçok kurumun kodunun dağınık olduğu kabul edilse de, üretken yapay zekanın sorunun ölçeğini katlanarak büyüteceği ileri sürülüyor

• Kodlama ajanları ve maliyet sorunu

  • Kodlama ajanları geliştikçe sorunun düzeleceğine dair iyimserlik bulunsa da, LLM'ler gelişmeye devam etse bile bunun ucuz sunulup sunulmayacağı belirsiz kalıyor
  • AI çılgınlığına yüz milyarlarca dolar yatırıldığı ve hissedarların bir gün bunun karşılığında gelir isteyeceği belirtiliyor
  • Bir frontier modelin piyasaya çıktıktan birkaç hafta sonra performansının kötüleştiğine dair sorun kaydı örnek gösteriliyor ve bunun, fiyatların sabit kaldığı ya da arttığı eğilimle bağlantılı olduğu söyleniyor

• Geliştirici yetkinliği ve belirlenimsizlik

  • Üretken yapay zekanın programlamayı daha iyi hale getirdiği varsayılsa bile, kullanıcılar düşünme becerilerini ve yetkinliklerini kaybediyorsa bunun işverenlerin LLM sağlayıcısına abonelik ücreti ödemesinden ne farkı olduğu sorgulanıyor
  • AI kullanmayanların geride kalacağı yönündeki AI hayranı topluluk iddiasının tersine, geride kalacak olanın AI kullanan ve ona bağımlı hale gelen kişiler olduğu savunuluyor
  • LLM'ler, aynı prompt 10 kez işe yarasa bile 11. seferde tatmin edici sonuç vermeyi garanti edemeyen belirlenimsiz sistemler olarak eleştiriliyor
  • Sonuçta LLM'lerin güvenilir bir yazılım değil, süslenmiş bir slot makinesine daha yakın olduğu söyleniyor

İletişimin düşük kaliteli hale gelmesi

• Üretken yapay zeka kullanıcıları uzun e-postaları veya belgeleri daha hızlı yazabildiklerini söylese de, bunun kurumun tamamını yavaşlatan bencilce bir kullanım olduğu eleştiriliyor
• İki satırla ifade edilebilecek bir itirazı LLM'in 500 kelimeye şişirmesi halinde, 34 kişinin bu metinden gerçek itiraz nedenini çıkarmak için insan-saat harcamak zorunda kalacağı örneği veriliyor
• Bunun karşısına, gerekli yerlerde ayrıntılı yanıtı doğrudan yazarken özü sıkıştırıp başkalarının zamanını boşa harcamayan yaklaşım konuyor
• İnsanların yazılı iletişime zaman yatırmamaya başladığı, e-postaların uzayıp karmaşıklaştığı ve okumanın başlı başına bir yüke dönüştüğü söyleniyor
• LLM ile üretilmiş uzun e-postaların tekrar LLM ile özetlenmesi eğilimi, her iki ucunda proxy bulunan bir ağ tüneline benzetiliyor; proxy'ler arasındaki aktarım kodlaması ise düşük kaliteli metin oluyor

Ek zararlar ve sınırlı fayda

• Veri merkezi patlaması, GenAI nedeniyle donanım fiyatlarının artması, DRAM fiyatları yüzünden gerçekten faydalı dijital ürünler üretmekte zorlanan şirketler, AI kaynaklı iş kayıpları ve düşük kaliteli üreticileri eğitmek için gaz santralleri kurma şeklindeki çevre sorunu, ayrıca ayrıntıya girmeden bile açık sorunlar olarak gösteriliyor
• LLM'lerin bazı faydalı ve daha az zararlı uygulamalarda rol oynayabileceği kabul ediliyor
• Çeviri bir ölçüde yararlı olabilir; ancak ince ifade farklarının önemli olduğu edebiyatta insan çevirisinin daha uygun olabileceği belirtiliyor
• Bazı kişilerin pratik bulabileceği yan özellikler var diye Torment Nexus'u icat etmemek gerektiği benzetmesi kullanılıyor

Geri döndürülemez değişim ve sonuç

• Üretken yapay zeka, şişeden çıkmış cin gibi geri döndürülemez ve bundan sonra hayat boyu bizimle olacak bir şey olarak sunuluyor
• İnternetin üretken yapay zeka öncesi hâline dönmeyeceği ve daha önce sıralanan birçok sorunun AI yüzünden kötüleşmeye devam edeceği öngörülüyor
• AI karşıtı duygunun giderek sertleştiği yönündeki atmosfer aktarılıyor; bu da insanlığın dayanmasını ve her şeyin mahvolmasını önlemesini uman bir tavırla bağlanıyor
• Sonuç olarak AI şirketlerinin ve büyük teknolojinin AI yatırımlarının çoğunun çökmesi, bu dev toplumsal ve teknolojik yıkım makinesinin durması isteniyor

[GN⁺]

Lobste.rs görüşleri

• Kripto para ve NFT’leri iten kesimle yapay zekayı iten kesim örtüşüyor olabilir ama aynı değiller; ayrıca yapay zekanın çok daha faydalı olduğu da açık, bu yüzden bu karşılaştırmaya katılmak zor
  Kripto paranın satış vaadi de hiç değişmedi ve hâlâ spekülatif varlıklar yığınına daha yakın. Bunu iten kesimin, yapay zekayla ilgilenen insanlardan çok altın ya da gümüş pazarlayanlara benzediğini düşünüyorum
  Kişisel olarak, belli ölçüde teknik yetkinliği ve muhakemesi olduğunu düşündüğüm kişiler, kripto paranın işe yarar kullanım alanları bulup bulamayacağından şüphe ediyordu; buna karşılık en güncel modeller sanki tam tersini göstermiş gibi duruyor

  • Kripto para ve NFT’lerin kara para aklama ve çeşitli suç girişimleri için faydalı olduğu konusunda hiç şüphe yoktu
    Neredeyse hiçbir teknoloji tamamen işe yaramaz değildir; bir teknolojiyi esas olarak kime ve ne ölçüde fayda sağladığına göre değerlendirmek daha anlamlıdır. Asıl yazının da iyi gösterdiği gibi, LLM’ler en başından beri spamcılar, dolandırıcılar, intihalciler ve propagandacılar için bariz biçimde faydalıydı. Sadece bunu iten kesimlerin örtüşmesi bir yana, LLM’ler serveti az sayıda kişinin elinde toplarken daha geniş toplum ve çevreye zarar vermeleri açısından Bitcoin ve NFT’lere çok benziyor
  • Benim deneyimime göre, Bored Yacht Club NFT’lerini pazarlayan o aynı dolandırıcılar şimdi de AI absolutism’i övüyor
    Elbette bu oldukça öznel bir izlenim olabilir

• Bu yıl web güvenliği hisseleri ciddi yükseldi. Bazı şirketler, mümkün olduğunca çok token kullanma stratejisinin aptalca olduğunu fark etti
  Önümüzdeki 10 yıl bu şeyleri düzeltmekle geçecek
  Artık kimsenin big data demediği gibi, birkaç yıl sonra da kimse ajanlardan söz etmeyecek

  • Artık big data ifadesi pek kullanılmıyor gibi ama big data gerçekten ortadan kalkmış değil
    Sadece moda kelime kayboldu; kavramın kendisi ise hâlâ internet ekonomisinin işleyişine daha yakın. Ad tech, Google, hatta yapay zeka çöp içeriği bile eğitim için böyle büyük ölçekli verilere ihtiyaç duymuyor mu?

• Bu iddiaların çoğu, internet yaygınlaşırken de ortaya atılmış gibi hissettiriyor

  • Kesinlikle hayır. En azından 2000’lerin başında insanlar internete karşı çok iyimserdi diye düşünüyorum. 90’ların ortasını çok bilmiyorum ama
    Yapay zeka iyimserliği sadece büyük teknoloji şirketleriyle yaşlı insanların kafasında var; gençler ise yapay zekaya daha çok karşı gibi görünüyor
  • Kesinlikle hayır. “Yalnızlığı daha da artıracak” şeklinde biraz söylem vardı ama gerçek deneyim bunu çürüttü. Eskiden internette kendi insanlarını bulabiliyordun
    IBM, web’de gezinmek için can atan rahibelerin yer aldığı OS/2 TV reklamları bile yayımlıyordu. Bu yazıdaki diğer iddiaların hiçbirinin internet hakkında dile getirildiğini hatırlamıyorum
    Erken internet için var olup LLM tabanlı “AI” için olmayan bir karşı argüman vardı. RIAA, MPAA ve diğer büyük karteller telif hakkı ihlali yüzünden tamamen aklını kaçırmıştı; bir şarkı ya da tek bir film yüzünden suçlu bulunursan hayatın mahvolabilirdi. Şimdi ise Meta, ByteDance, Anthropic ve OpenAI insanlar tarafından yazılmış tüm metinleri her 10 saatte bir yeniden kopyalıyor. Daha önce kopyalanıp kopyalanmadığı da umurlarında değil. LLM’lerin ürettiği her şey, eğlence kartellerinin bir zamanlar “Amerikan yaşam tarzına yönelik varoluşsal tehdit” diye adlandırdığı eylemin ürünüdür
  • Silicon Snake Oil hemen aklıma geliyor

• Kapalı yapay zeka kartellerine ve tek yönlü kapitalist alternatiflere karşı, şu ana kadar Hugging Face iyi bir örnek olarak görülmeli