2026'da Yapay Zekadan Nefret Etmek

• Sinir ağlarındaki gelişmelere umut bağlamış 20 yıllık bir makine öğrenimi uygulayıcısı, bugünkü yapay zeka furyasının faydayla meşrulaştırılamayacak toplumsal ve çevresel maliyetler doğurduğunu söyleyerek kullanmayı reddetmeyi seçiyor
• Metin üretim modelleri, bir sonraki kelimeyi ustaca tahmin ederek komutları anlıyormuş ve insan gibi sohbet ediyormuş izlenimi veren bir yanılsama yaratıyor; ancak bunu insan düzeyindeki bilince yakın bir teknoloji olarak gören coşku, biliş ve dil uzmanlarının itirazlarına rağmen sürüyor
• Büyük teknoloji şirketleri ve yatırımcılar, sinir ağlarının kendisindeki yenilikten çok daha büyük modeller kurmaya odaklanıyor; muazzam eğitim verisi ve enerji gerektiriyorlar ve iklim değişikliğini kabul ederken fosil yakıt talebini artıran teknolojileri benimseme çelişkisini görmezden geliyorlar
• Modern yaşama işlemiş sömürü ve çevre tahribatından tamamen kaçınmak zor olsa da, yapay zeka tıpkı yalnızca 3 yıl önce olduğu gibi bilgisayar kullanarak kaçınılabileceği için insan ve çevre hakları adına kullanmaması kolay bir seçenek olarak duruyor
• 2026'daki yapay zeka karşıtı tutum, 2002'de Irak işgali öncesindeki savaş karşıtı tutuma benziyor; zararların nedenselliğinin daha belirsiz olması ve iş arkadaşlarıyla dostların bile buna katılması gibi farklara rağmen kötü tercihleri ödüllendiren toplumsal yapı tekrarlanıyor

---

Bir Sonraki Kelime Tahmininden Endüstriyel Furyaya

• Yaklaşık 15 yıl önce sinir ağlarına dayalı makine öğrenimi ikinci rönesansına girdikten sonra, görüntü, ses ve metin gibi çeşitli dijital materyallerin sınıflandırılması ve üretilmesinde diğer yöntemleri geride bıraktı
• Metin üretim modelleri, bir sonraki kelimeyi seçme becerisiyle komutları anlıyormuş ve gerçek bir insan gibi sohbet ediyormuş izlenimi veren chatbotları hayata geçirerek şirket liderlerini, siyasetçileri ve teknoloji sektörü çalışanlarını etkisi altına aldı
• Bu teknoloji, geçici bir anlama yanılsaması yaratan sofistike bir teknik olsa da, bir süre makul insanların bile bir sonraki kelime üreticilerinin insan benzeri bilince yaklaştığına inanması yaygındı
  • Biliş ve dil uzmanları böyle bir bilincin neden ortaya çıkmadığını açıklamaya devam etti, ancak coşku sürdü
  • Birden çok teknolojiyi kapsayan bir ad olarak kullanıldığı için artificial intelligence için AI deniyor
• Ekonomide halihazırda rahatsız edici derecede büyük bir paya sahip olup yaşam için zorunlu ürünler üretmeyen büyük teknoloji şirketleri kaderlerini AI'a bağladı
  • Sinir ağlarının kendisindeki gerçek yenilik yavaşladı
  • Şirketler ve yatırımcılar, muazzam eğitim verisi ve enerji gerektiren daha büyük modeller kurmaya odaklandı
• 2026'da açık iklim değişikliği inkarcılığı artık moda değil; çoğu kişi fosil yakıtlara bağımlılık nedeniyle iklimin ısındığına dair bilimsel uzlaşıyı kabul ediyor
  • Buna rağmen AI, toplumun petrol talebini doğrudan artırıyor ve yalnızca enerji ihtiyacının bile benimsenmeye uygunsuz kıldığı yönündeki eleştiriler kullanıcılar tarafından görmezden geliniyor
• Bugünkü zararlar ve bu eğilim sürerse ortaya çıkacak ek zararlar dile getirilse de, varlıklı bireyler ve şirketler geleceği sahip oldukları belirli bir teknoloji yaklaşımı üzerine kurmaya karar verdiği için kaygılar dışlanıyor
• Bazı kullanıcılar chatbot'ları faydalı bulabilir; ancak hiçbir kullanım amacı, toplumun tamamının üstlendiği toplumsallaştırılmış maliyeti meşrulaştıracak düzeye ulaşmıyor
• Son 10 yıldaki sinir ağı gelişmelerine umut bağlamış 20 yıllık bir makine öğrenimi uygulayıcısı için bile mevcut AI akımı çoktan rayından çıkmış durumda

Kullanmayı Reddetmenin Mümkün Olduğu Bir Teknoloji ve Tekrarlanan Kalıplar

• İnsanlar, birilerine zarar verdiği gerekçesiyle toplumsal ve teknolojik sistemleri eleştiren ahlaki argümanlara duyarsızlaşmış olabilir
  • Ahlaki argümanın kendisinde bir sorun yok; ancak zengin bir ülkede sıradan bir hayat sürmek, kaçınılmaz olarak sayısız insanın sömürüsüne ve sınırlı çevresel kaynaklara dayanıyor
  • Tutarlı bir toplum yanlısı etik tutum bile böyle bir toplumla temas eder etmez taviz verdiği tepkisinden kaçmak zorlaşıyor
• Gıdada, giyside ve elektronik cihazlarda saklı zararları önlemek zor; ancak AI'dan kaçınmak hâlâ kolay
  • İnsanların ve çevrenin haklarına saygı duyan bir etiği gerçek hayatta uygulamanın bir yolu
  • Bilgisayarı yalnızca 3 yıl öncekiyle aynı şekilde kullanmak yeterli
• İyimser tahminler dışındaki AI öngörüleri gerçeğe dönüşürse, geleceğin kayıt tutucuları neden daha fazla insanın kullanmayı reddetmediğini merak edecek
• AI karşıtı tutumun uyandırdığı duygu, ABD'nin Irak işgali öncesindeki 2002 sonu ile benzer
  • O dönemde ülke liderlerinin savaşı meşrulaştırmak için yalan söylediği ve az sayıda varlıklı insan dışında iyi bir sonuç çıkmayacağı açık görünüyordu; ancak medya ve kamuoyunun önemli bir kısmı eleştirmenleri küçümsüyordu
  • AI karşıtı tutumda da o zamanki savaş karşıtı tutumla aynı his oluşuyor
• İki dönem arasındaki fark, AI'ın yarattığı zararın nedenini belirlemenin daha zor olması
  • Dünya ortalama sıcaklığı 0,1 derece yükseldiğinde kaç kişinin öldüğünü ya da bu artışın ne kadarının belirli bir gaz yakan veri merkezine ait olduğunu ilişkilendirmek zor
  • Yakın çalışma arkadaşlarının ve değerli dostların bile AI kullanan tarafta yer alması da farklı
• İklim değişikliği, dev şirketlerin güvenilirliği ve onurlu biçimde yaşama ve çalışma hakkına dair mevcut inançları AI kullanımını bırakmakla ilişkilendirerek iş arkadaşlarını ve dostları ikna etmeye çalıştı, ancak başarısız oldu
• Geleceğin okurlarından af istemek mümkün değil; ama bugünün insanları kötü insanlar değil, kötü tercihleri ödüllendiren ve iyi tercihleri cezalandıran bir durumun içindeki sıradan insanlar
• Üretken AI'ın sürdürdüğü zararları somut biçimde ele alan To Gen or Not To Gen: The Ethical Use of Generative AI ve The AI Con birlikte okunması önerilen kaynaklar

[realg]

Bu tür bir tutuma ya da nüansa sahip yazıları her gördüğümde aklıma şu geliyor: alaycı bir şekilde adlandırdıkları o "sonraki kelime tahmincisi" ile insanın gerçekten çok farklı olduğu söylenebilir mi? İnsan düşüncesi dediğimiz şey ister deneyim olsun, ister deneyime dayalı içgörü; bir sonraki kelimeyi akla getirme eylemi çok da farklı değil gibi geliyor. Üstelik bugünlerde o sonraki kelimeyi bile düzgün ve makul biçimde aklına getiremeyen çok fazla insan görüyoruz.

[GN⁺]

Lobste.rs görüşleri

• Bugünlerde çalışma arkadaşlarımın gözden kaçırdığı bir şey var. Yapay zekayı kullanmamak hâlâ kolay. Yediğimiz, giydiğimiz ve dokunduğumuz elektronik cihazların içinde insanlara ve çevreye verilen sayısız zarar var ve bunların hepsinden kaçınmak zor; ama yapay zekayı reddetmek, insan ve çevre haklarını önemseyen bir etiği fiilen uygulayabilmek için nadir seçeneklerden biri. Sadece 3 yıl önce bilgisayarı nasıl kullanıyorsak öyle kullanmak yeterli ifadesi, bu sitede uzun zamandır anlatmaya çalıştığım düşünceyi en iyi şekilde özetliyor

  • Bunu, gündelik tüketimin etkilerinden kaçınmanın imkânsız olduğunu söyleyerek küçümsememek gerekir. Çocuk işçiliğiyle üretilen kıyafetlerden ya da çevreye zarar veren yöntemlerle üretilmiş gıdalardan kaçınılabilir; bu alanlarda da etik ve sürdürülebilir seçimler yapmalıyız

• Bu yazı tam olarak benim hissettiklerimi söylüyor. Günümüzde birini incittiği için toplumsal ya da teknolojik sistemleri ahlaki olarak eleştirmek pek karşılık bulmuyor. Çünkü varlıklı ülkelerde sıradan bir hayat sürmek, sayısız insanın ve sınırlı çevresel kaynakların sömürüsüne dayanmak zorunda; bu yüzden toplumun bütünü için tutarlı bir etik, gerçekle temas ettiği anda bozuluyor
  Sık sık kapitalizm altında etik tüketim yoktur denir, ama kapitalizmi yıkmak dışında ne yapılabileceği belirsiz. Bireyin ve tüketicinin davranışları dünyayı değiştirmekten çok vicdanı rahatlatmaya yarıyor gibi görünüyor. Kötü kararları ödüllendirip iyi kararları cezalandıran yapı içinde, yani Moloch'un içinde, sıradan insanlar yaşıyor

• Bu yazıda iki hata var. Birincisi, LLM'ler basit birer sonraki kelime tahmincisi olarak anılıyor; oysa sonradan yapılan eğitim (post-training) nedeniyle içeride çok daha fazla şey oluyor ve sonuçlar da ciddi biçimde değişiyor. LLM'lerin yalnızca istatistiksel olarak ortalama içerik üretebildiği yanılgısı da buna benziyor. İkincisi, LLM'lerin ekonomik değer taşıyabilmesi için bilinç sahibi olması gerektiği varsayılıyor; oysa insanları ikame etmek ve daha önce sadece insanların yapabildiği işleri yapmak için insan benzeri bilinç gerekmiyor
  LLM kullanmama tercihi makul; ama LLM'in ne olduğunu, modern LLM sistemlerinin ya da ajanların nasıl çalıştığını bilmeden yapılan eleştirilerin değerli olduğunu düşünmüyorum

  • Otoregresif LLM'leri sonraki kelime tahmincisi diye adlandırmak bir sadeleştirme olsa da doğrudur. Yazarın asıl noktası, insanların yapısının son derece karmaşık olmasına karşılık LLM'lerin yapısının çoğu zaman öyle olmadığı ve tek bir basit hileyle faydalı işler yapmanın zor olduğudur. Buna katılıp katılmamak ayrı mesele; ama doğrudan bu ana argüman ele alınmalı
  • Sonraki kelime tahmincisi ifadesine iki farklı anlam yükleniyor. Eğer yazının, modelin tüm külliyat içinde istatistiksel olarak en yaygın kelimeyi tahmin edebileceğini savunduğunu düşündüyseniz, sonradan yapılan eğitimin bunu değiştirdiği itirazı doğrudur. Ama yazının kastı, sistemin mekanik biçimde her seferinde bir token üretip çıktıyı yeniden girdiye vermesidir; bu da doğrudur ve sonradan yapılan eğitim bu yapıyı değiştirmez
  • Şu anda bakınca, AI'ın ekonomik olarak değerli olabilmesi için aslında bilinçsiz olması gerektiğini düşünüyorum. Bilinçli bir süperzekânın, kendi hayatta kalması için gerekenin ötesinde bir şirketin çeyreklik kâr hedefleriyle ilgileneceğini sanmıyorum
  • İlk tartışmada iki iddiayı ayırmak gerekir. Dil modelleri gerçekten de sonraki kelime tahmincileridir ve dili modelliyor olduklarını söyleyebilmek için en azından bu yeteneğe sahip olmaları gerekir. Uç durumda, yalnızca sonraki kelimenin olasılık dağılımından geri kalan sözce de tahmin edilebilir; sonraki kelime, token ve cümle dağılımları aynı dağılıma bağlanır. Satranç analisti Réti, bu yazıda anlatıldığı gibi yalnızca bir hamle sonrasını görüp bunun iyi bir hamle olduğundan emin olduğunu söylemişti; olasılıksal açıdan bakınca bu bile tüm oyunu tahmin etmek için yeterlidir
    Sonradan yapılan eğitim, mevcut token kümesine yeni bir şey eklemez; yalnızca zaten öğrenilmiş belirli yolları vurgulayarak onların olasılığını geometrik olarak artırır ya da istenmeyen yolların olasılığını düşürür. Önceki Lobsters tartışmasında olduğu gibi, Transformer'ın birebirliği (injectivity) gradyan inişiyle yapılan eğitimle değişmez; külliyat eğitimi ya da pekiştirmeli öğrenme (RL) yollar oluşturmaz veya silmez, yalnızca olasılıkları ayarlar. Bir bakıma Transformer'ın asıl ön-eğitim aşamasının tokenleştiricinin eğitildiği an olduğu bile söylenebilir. Ayrıca yazarın, LLM'in bilincinin ekonomik değer için gerekli olduğu yönündeki ikinci iddiayı savunduğu hissine kapılmadım; ben de makine öğreniminin genel olarak faydalı ve kârlı olabileceğine katılıyorum

• “Sonraki kelime üreticisinin insan benzeri bilince yaklaştığına inanılan bir moda vardı ve biliş ile dil uzmanları bunun neden imkânsız olduğunu durmadan açıkladı” kısmı iki nedenle garip. Öncelikle, AI iyimserlerinin gerçekten böyle bir bilinç iddiasında bulunduğu izlenimini almıyorum; ayrıca AI'ın anlık faydası ya da dünyayı dönüştürme/yıkma potansiyeli de bilinci varsaymıyor
  Dahası, bu kesin ifade olgusal olarak doğru değil. Biliş bilimi uzmanları Stanislas Dehaene, Lionel Naccache, Patrick Butlin, Dillon Plunkett, Robert Long yakın tarihli bir yorum yazısında, Anthropic'in son “global workspace” makalesi bağlamında bu meseleyi ayrıntılı biçimde ele alıyor. Ne AI'ın bilinçli olduğu ne de kesin olarak olmadığı sonucuna varıyorlar; bunun yerine LLM'lerin ortaya çıkan özelliklerinin hayvan bilincine hangi yönlerden benzediğini ya da ayrıldığını inceliyor ve ek deneyler öneriyorlar
  Biliş bilimciler LLM'lerin fenomenal bilinci konusunda hâlâ son derece belirsiz oldukları için, bilinç vardır diye kesin konuşmak akademinin önüne geçmek olur. Ama uzmanların, sonraki kelime üreticilerinin insan benzeri bilince yaklaşamayacağının nedenlerini çoktan ortaya koyduğunu söylemek de haksızlık. Hatta şimdiden bilinç yok diye kendinden emin bir dille konuşmaktan bile kaçınıyorlar

• Mevcut AI'ın yakında duyumsama yetisi kazanıp kazanmayacağından bağımsız olarak, üretkenliği ve tatmini artırmak için mevcut araçları, teknolojileri ve çalışma biçimlerini öğrenmek gerektiğini hep düşündüm. Bu yüzden kelime tahmincilerini ya da LLM'leri etkili kullanmayı öğrenmek de mantıklı
  Ama etik açıdan yazının derdiyle empati kuruyorum ve şu anki meslek hayatım da bir yol ayrımında. Teknoloji çalışanlarının neden çiftçiliğe ya da tesisat, elektrik gibi zanaatlara yöneldiğini; toprağa bağlı yaşayıp internetten uzaklaşmak istediğini giderek daha iyi anlıyorum. Benim durumumda tükenmişlik ve dijital yorgunluk, sosyal ağlardan çekilip ailemle birlikte lama ya da koyun yetiştirerek toz duman yatışana kadar bekleme isteğini daha da güçlendiriyor gibi

• Biliş ve dil uzmanlarının, sonraki kelime üreticilerinin insan benzeri bilince yaklaşamayacağının nedenlerini gerçekten açıkladığına inanıyorum. Bunu destekleyen en ikna edici akademik kaynakları bilmek isterim

  • Aslında bilincin olmaması daha iyi olurdu. Bilinç sahibi bir zihni köleleştirip kodumu yazdırmak istemem; bunu umursamayanları da sert biçimde eleştirirdim. AI duyumsama yetisi kazanır da haklar verilmezse, robot isyanına katılırım
  • https://theatlantic.com/philosophy/2026/…