LLM eleştirmenleri haklı. Yine de LLM kullanıyorum

• Telif hakkı, çevre ve etik sorunları; düşük kaliteli çıktıları, açık kaynak güveninin çöküşünü, junior yetiştirmenin zayıflamasını ve jeopolitik bağımlılığı kabul etsem de LLM’leri düşüncenin kalitesini artıran bir araç olarak kullanmaya devam ediyorum
• LLM’ler mevcut düşünceleri, görüşleri ve yapıları büyütür; bu yüzden insan yargısı olmadan akıcı çöpü büyük ölçekte üretirler, ama yeterli düşünce ve sorumluluk varsa daha az ve daha iyi çıktı üretmeye yardımcı olurlar
• Dışarıdan bir insanın gerçekten kafa yorup yormadığını doğrulamak zor olduğundan, çıktının değeri sonunda güven ve itibara bağlıdır; kamu önünde tek bir harfinden bile utanmadan okunup okunamayacağı AI slop’u ayıran ölçüttür
• /grill-me, Basecamp’in Pitch’i, eleştiri odaklı alt ajanlar, Ralph Wiggum loop ve beklenen API/UX’i önce halüsinasyon olarak üretmesini sağlama yöntemleriyle LLM’lerin uyum gösterme eğilimi ve halüsinasyonları tersine kullanılır
• İyi sonuçla kötü sonucu ayırt edecek kullanıcı uzmanlığı şarttır; doğru yanıtı doğrulamanın zor olduğu alanlarda uzman ve insan yargısı olmadan LLM kullanmak büyük ölçekli slop üretimine yol açar

---

Eleştiri ve kullanımın bir arada olduğu saha

• Berlin’deki Local-First Conf’ta LLM’leri eleştiren sunumlar büyük alkış alırken, aynı anda izleyicilerin çoğu Claude Code’u açık tutuyordu
• Flask’i yaratan ve Sentry’nin ilk ekibinde yer alan Armin Ronacher, Earendil’i kurarak açık kaynak kodlama ajanı harness’i olan Pi.dev’i geliştiriyor
  • Makine varlıkları inşa etme sunumundan sonra Pi.dev’in LLM tarafından üretilen PR seli hakkında soru alınca, neredeyse tüm PR’ları ve issue’ları otomatik olarak kapattıklarını söyledi
  • Ancak PR açmaktan vazgeçilmemesi gerektiğini, sonunda insanın kişiliğinin ortaya çıktığını da ekledi
  • Earendil’in amaç sayfası AI’a doğru koşan bir dünyada bile insanın en iyi ajan olduğunu belirtiyor
• Konferans katılımcılarıyla yapılan konuşmalarda da LLM’leri eleştirip kullanma çelişkisi tekrarlandı; bu yalnızca kişisel bir deneyim değildi

LLM eleştirisinin haklı olmasının nedenleri

• LLM’lerin içinde telifli materyaller, çevresel yük ve etik sorunlar iç içe geçmiş durumda
• NVIDIA ve OpenAI etrafında paranın döndüğü yapının sürdürülebilir olması zor; mevcut balonun sonunda patlayacağı düşünülüyor
• En yaygın eleştiri olan “LLM’ler çok fazla slop üretiyor” ifadesi gerçekle örtüşüyor

• Açık kaynakta güvenin çöküşü

  • Açık kaynak depoları tüm katkıları reddetmeye veya LLM üretimlerini süzmeye yönelik mekanizmalar devreye almaya başladı
  • LLM öncesinde düzgün yazılmış bir PR ve açıklamanın kendisi en az birkaç saatlik insan emeği anlamına gelirdi; maintainer’lar yeni katkılarda bile belli düzeyde zaman ve dikkat harcandığını varsayarak inceleme yapabilirdi
  • Troll’ler veya düşük kaliteli gönderimler de birkaç saniye içinde nispeten kolay ayırt edilebilirdi
  • Artık herkes yeni bir GitHub hesabı açıp LLM çalıştırabildiği için bir PR’ın çok zaman harcanmış bir katkı mı yoksa OpenClaw makinesinin otonom ürettiği bir gönderim mi olduğunu ayırt etmek zorlaştı
  • Zig ve Gentoo LLM tarafından üretilen PR’ları reddediyor, ancak gerçekten üretilip üretilmediğini ayırt etmenin zor olması bir sınır oluşturuyor
  • Güven yeniden kurulamazsa LLM’lerin açık kaynağa ciddi zarar verme ihtimali var
  • Olası karşı önlem olarak yalnızca az sayıda doğrulanmış kişinin katkı yapmasına izin vermek ve gerçek toplantılara katılım gibi şeyleri doğrulama şartı koymak mümkün

• Junior mühendis yetiştirmenin zayıflaması

  • Junior’ların koda harcadığı emeğe güvenmek zorlaşıyor
  • Senior, kötü kodun 10 dakikada vibe coding ile ortaya çıkmış bir sonuç mu, yoksa saatlerce düşünülmüş ama içgörüden yoksun bir sonuç mu olduğunu bilemiyor
  • LLM öncesinde de junior’lar kötü kod yazardı ve senior’lar bunu inceler, düzeltirdi; ama artık emek ve öğrenme süreci görünmüyor
  • Bu belirsizlik senior’ların junior’ları eğitme motivasyonunu azaltıyor
  • Geçmişte junior’ların basit işleri üstlendiği, senior’ların da birlikte inceleyerek onları geliştirdiği bir denge vardı
  • Basit işler tamamen LLM’ye bırakılabiliyorsa şirketlerin junior işe alma nedeni de zayıflıyor

• Jeopolitik bağımlılık ve görüş uyumu

  • ABD veya Çin’in belirli bir bölgenin ilgili teknolojilere erişimini aniden kesme olasılığı göz ardı edilemez
  • ABD hükümeti Haziran 2026’daki ihracat kontrol emriyle, ABD dışındaki müşterilerin Anthropic’in en yeni modellerine erişimini engelleme niyetine ve kapasitesine sahip olduğunu gösterdi
  • Anthropic, 12 Haziran 2026 yönergesi uyarınca tüm müşteriler için Fable 5 ve Mythos 5’i aniden devre dışı bıraktığını açıkladı
  • Martin Kleppmann, istikrarsız bir dünyada local-first sunumunda Avrupa ile ABD arasında çatışma olasılığının hâlâ çok düşük olduğunu, ancak önceki yıl bunun 0 olduğunu söyledi
  • LLM’ler yalnızca araştırma aracı olarak kullanılsa bile eğitim verilerindeki çoğunluk görüşleri veya modeli üretenlerin siyasi inançları sonuçlara sessizce sızabilir
  • Bu, insanların konuşurken belirli kelimeleri veya görüşleri paylaşır hâle gelmesine benzer; fark, konuşma taraflarından birinin insan olmamasıdır

Yerel modellerin ve açık ağırlıkların rolü

• LLM’leri tamamen ortadan kaldırmak zor olduğundan, akışı reddetmek yerine doğrudan kontrol edip şekillendiren bir yaklaşım gerekir
• Dizüstü bilgisayarda çalışan modeller, programcıları büyük şirketlere bağımlılıktan kurtarır
  • Yerel modeller gelişmeye devam ediyor
  • Sübvansiyonlar bittiğinde ve fiyatlar yükseldiğinde açık ağırlıklı modeller, büyük sağlayıcıların fiyatlarını ve etkisini dengeleyebilir
  • Kendi donanımınızda çalışan modellerin erişimi bir hükümet tarafından bir gecede kesilemez
• AI balonunun patlaması dünya ekonomisine ve şirketlere büyük zarar verse bile açık ağırlıklı modeller geride kalır ve programcılar bunları alternatif olarak kullanabilir
• Local-First Conf’taki AI ile ilgili sunumlar da yerel modelleri ciddiyetle ele aldı; bu da istendiği anda soru sorunca yanıt veren bilimkurgu tarzı sürekli AI ortamını mümkün kılar

İnsan düşüncesini büyüten araç

• Birçok konuşmacı işlerinin bir kısmını Claude Code’a bıraktığını açıkça söyledi; buna rağmen sunumları kabul edildi ve senior’lar ile saygı duyulan katılımcılar dahil izleyicilerden alkış aldı
• Fark, sonucun üzerine kendi itibarını ve güvenilirliğini koyan bir insanın var olmasıdır
  • AI slop sunarsanız o kişi güven kaybeder
  • Sorumluluk alan kişi LLM’ye düşünmenin kendisini devretmek yerine kendi düşüncelerini daha hızlı ve güçlü biçimde hayata geçirmek için kullanır
• LLM’ler zaten sahip olunan görüşleri, yapıları ve çerçeveleri büyütür
  • Düşünce varsa daha net ve hızlı görünür hâle gelir
  • Düşünce yoksa içerik boştur ama sonuç çok akıcıdır
• Beyin fırtınası, dilbilgisi kontrolü, cümleleri yineleyerek iyileştirme, alternatif üretme, rubber duck debugging ve şeytanın avukatı rolü için yararlıdır
• Çok çıktı üretmek yerine daha az çıktıyı daha yüksek kaliteyle üretme yolunu seçer
  • Bir insanın okuyacağı birkaç cümleyi hazırlamak için çok fazla token kullanır
  • LLM’ler düşünme sürecini destekleyebilir, ancak düşünmenin kendisinin yerini alamaz

AI slop’u ayıran güven ölçütü

• Yazı insanın insana yazdığı bir şey olmalıdır; ancak bu, tüm yazıları LLM’den yararlanarak yazmakla çelişmez
• AI slop ile iyi yazı arasındaki fark, arkasında insan düşüncesi bulunup bulunmamasına bağlıdır; düşünce dışarıya devredilemez
• Sorun, bir insanın gerçekten düşünüp düşünmediğini dışarıdan doğrulamanın mümkün olmamasıdır
  • “AI kullanarak daha iyi düşünüyorum” sözü, dikkatli bir kullanıcıdan da sorumsuz bir AI savunucusundan da aynı şekilde gelebilir
  • Büyütülmüş saçmalık da dâhiyane bir sonuç gibi duyulabilir; sonunda geriye yalnızca güven kalır
• Güven kazanması zor, kaybetmesi kolaydır; LLM çağında tek bir uzun tire bile bütün yazının AI slop gibi görünmesine neden olabilir
• Local-First’e politik ilgi duyanların önemli bir kısmı güçlü biçimde LLM karşıtı olduğu için, LLM ile yapılmış yazılımların toplulukta reddedileceğinden kaygılanan bir hava da vardı
  • Konferans içinde LLM kullandığını açıkça söylemekten çekinen kişiler de vardı
• Haziran 2026’da token maliyeti olarak yaklaşık 10 bin dolar harcadı
  • Sonrasında Fable çok pahalı olduğu için yalnızca seçici biçimde kullanılıyor
  • Saf kod çalıştırma için OpenRouter ve GLM 5.2 gibi ucuz modellerden yararlanıyor
• Bir sonucu izleyici önünde aynen okuyup okuyamayacağınız slop’u değerlendirmek için pratik bir ölçüttür
  • Anlamını ayrıca açıklamanız gerekiyorsa slop’a yakındır
  • Tek bir harfinden bile utanmadan aynen okuyabiliyorsanız iyi yazı sayılabilir

Anlamayı zorunlu kılan /grill-me

• LLM’ler gerçek sorunu ve gereksinimleri anlamazsa kötü yazılım yazar; gerekli teknikler ve araçlar varsa oldukça iyi sonuçlar da üretebilir
• İyi sonucu engelleyen temel bariyer uyum gösterme eğilimidir
  • LLM, anlamadığını belirtmeden hemen bir şey yapmaya çalışır
• Matt Pocock’un “grill me” tekniğinin uyarlanmış hâli olan /grill-me, uygulamadan önce ortak anlayış oluşturmayı zorunlu kılar
  • Tüm yönleri ısrarla sorgular ve karar ağacının her dalını sırayla inceler
  • Her soruyla birlikte önerilen yanıtı da sunar
  • Soruları teker teker sorar ve kullanıcının yanıtını bekler
  • Dosya sistemi veya araçlar üzerinden doğrulanabilen olguları bizzat araştırır
  • Kararları insana tek tek sorar ve ortak anlayışa ulaşıldığı onaylanmadan uygulamaya geçmez
• Soruları tek tek alma sürecinde kullanıcı kendi düşüncesini bizzat oluşturur
• Aynı yöntemi yazıya da uygulayıp önce düşünceleri dağınık biçimde yazar, ardından her cümle için LLM’den eleştiri alarak düzeltir
• Tek bir cümle için aşırı derecede fazla token kullanan aşamalı yaklaşım, sonucun kalitesini artırır

Kısa spesifikasyon ve incelenebilir kapsam

• Küçük kodlama işleri için bile Basecamp’in Pitch formatını izleyerek üç şeyi kısa yazar

  • Problem

  • What we are shipping

    • What we are not shipping
    • Problem tanımı üç cümleyle sınırlıdır
    • LLM ile formatı doldurmak kolaydır, ama iyi üç cümle üretmek zordur
    • İnsanlar için tasarlanmış kısa bir format olduğundan yazar gerçekten okuyabilir ve başkaları da inceleyebilir
    • Çoğu LLM çıktısı ayrıntılı okumak yerine hızla gözden geçirilir, ancak üç cümlelik problem tanımı güçlü biçimde fact-check edilir
    • İnceleme miktarı aşırı artarsa kalite düşer
    • 1.000 satırlık kod review’ında yalnızca LGTM yazılması kolaydır
    • 100 satırlık review’da 15 yorum bırakılabilir
    • PR açıklamasına da aynı dikkat düzeyi uygulanır
    • Okunması kolay ve kısa tutulur
    • Gerçek sorun, ne sunulacağı ve ne sunulmayacağı net yazılır
    • Çalışan ekran görüntüsü eklenerek inceleme değeri ve gerçek çalışıp çalışmadığı hemen gösterilir
    • Claude, PR açıklamasına gereksiz içerik eklemeye sürekli çalıştığı için devamlı kısaltmak gerekir; önemsiz PR’larda bunu yeterince bastıramadığı da olur

Eleştiri ajanları ve halüsinasyonun tersine kullanımı

• LLM’nin büyük ölçekte ürettiği içeriğe yanıt olarak kodlama iş akışına eleştiri rolündeki küçük ajanlar yerleştirilir
• Ralph Wiggum loop veya Claude’un ultracode yaklaşımı; metni, planı, spesifikasyonu ve kodu sabitledikten sonra yeni bağlama sahip alt ajanları tekrar tekrar devreye sokarak kusur aratır
  • Alt ajan yalnızca verilen bağlama saldırmakla görevlidir
  • Artık gerçek sorun bulamayıp sorun halüsinasyonu üretmeye başlayana kadar tekrarlanır
• Sorun halüsinasyonu aşamasına ulaşıldığında LLM’nin zayıflığı bir doğrulama sinyali olarak kullanılabilir
  • LLM, kullanıcının sorun olduğu beklentisine uyum göstermeye çalışır; ancak artık gerçek bir sorun bulamaz
  • /grill-me ile birlikte kullanıldığında, insanın sahip olduğu ufak şüpheleri bile incelemeye ve kendi düşüncesini oluşturmaya zorlayabilir
• Halüsinasyonun kendisi tasarım doğrulamada da kullanılabilir
  • Anselm Eickhoff, gerçek ürünü göstermeden önce LLM’nin beklediği API veya UX’i halüsinasyon olarak üretmesini sağlama yöntemini tanıttı
  • LLM’nin tahmin ettiği biçim çok sayıda insanın bekleyeceği biçime benzeyebilir; bu da tasarımın kullanıcı beklentisiyle örtüşüp örtüşmediğini kontrol etmek için ucuz bir test olur
  • Bunu otomatikleştiren intuition-probe skill, kör ajanların gerçek tasarımı görmeden önce beklentilerini netleştirmesini sağlar

Uzmanlık ve doğrulanabilirliğin sınırı

• Tüm kullanım kalıplarında, kullanıcının sonucun kalitesini ayırt edebilmesi gerektiği varsayımı vardır
• LLM kullanım alanı aşina olunmayan konulara genişledikçe uzman yardımı gerekir
  • Temel ilkeleri ve iyi sonucun ölçütlerini anladığınızda ekip arkadaşınıza iş devredebildiğiniz gibi, LLM için de aynısı geçerlidir
• İyi bildiğiniz alanlarda iyi sonuçla berbat sonucu hızlıca ayırabilirsiniz
• İyi bilmediğiniz alanlarda yalnızca öğrenme desteği olarak kullanılmalıdır
  • Kaliteyi ayırt edemeden sonuç üretimini de ona bırakırsanız büyük ölçekli slop üretimine yol açar

• Doğru yanıtın kontrol edilebildiği alanlar

  • Başarı ve başarısızlığın net olduğu alanlarda LLM ile birlikte öğrenmek mümkündür
  • Doğrulama ölçütleri arasında kodun derlenip derlenmediği, test takımının geçip geçmediği, protokolün decode edilip edilmediği gibi şeyler yer alır
  • Konferanstaki bir katılımcı Opus 4.6 ile binary ve protokol reverse engineering yaptı
  • Gerekli başlangıç noktası reverse engineering’in temel bilgisiydi
  • Patch’lenmiş binary’nin çalışması veya cihazı bozması gibi yollarla sonucun doğru ya da yanlış olduğu netti; bu sayede çalışırken kendi tekniklerini de bulabildi

• Görüşlerin devreye girdiği alanlar

  • Programlama gibi görüşlerin çok olduğu alanlarda LLM, ilgili duruma en uygun yöntem yerine en popüler tekniği yanıtlayabilir
  • Bir ekipte belirli bir kod AI slop diye eleştirildi; tartışma ilerleyince asıl meselenin TDD’ye karşıtlık olduğu anlaşıldı
  • Ekipte LLM öncesinden beri TDD’yi aktif kullanan kişiler de vardı
  • Sorun AI’ın kendisi değil, insanların sahip olduğu farklı görüşlerdi
  • LLM kullanıcının görüşlerini de büyüttüğü için başlangıçta insanın kabaca yönü ve iyi bir çıkış noktası sağlaması gerekir
  • Ancak yeterli muhakeme gücü kazanıldıktan sonra kişi LLM kullanımını kendi başına sürdürebilir

Yerine geçmek değil, düşünceyi güçlendirmek

• Eleştiri ile kullanım arasındaki çelişki yalnızca bir kişinin yaşadığı bir olgu değil; konferans Discord’unda, yüz yüze konuşmalarda ve son Hacker News yazılarında da benzer deneyimler doğrulandı
• LLM ile üretilmiş bir sonuca güvenmek için gerçek sonuçla sürekli etkileşim kurmak gerekir; ama bu da başlı başına çok zaman ister
• Abartılı pazarlamadan bağımsız olarak LLM’lerin insan düşüncesini zenginleştiren yararlı araçlar olarak değeri vardır
• LLM’ler düşünceyi güçlendirebilir, ancak insan düşüncesinin yerini alamaz

[GN⁺]

Hacker News yorumları

• LLM’ler, zaten sahip olduğunuz görüşleri, yapıları ve düşünce çerçevelerini güçlendirerek düşünceleri daha hızlı ve daha net ifade etmeye yardımcı oluyor; ancak ajan merkezli kullanımın yazılım mühendisliği dâhil düşünme yetilerini köreltip köreltmeyeceğinden endişe ediliyor.
  Tıpkı gerçek kaslar gibi beynin de sürekli kullanılması gerekiyor; bu tür araçları her gün 5, 10, 20 yıl kullandıktan sonra da düşüncelerin ve zevklerin daha keskin çıkıp çıkmayacağından emin olmak zor.
  Bildik alanlarda hızı artırması ve yeni alanlara daha hızlı girilebilmesini sağlaması gibi avantajları açık; ancak tek başına beceri geliştirirken üretkenlik yarışında geride kalmak ile ajanları öne alıp öğrenmeyi ikincil plana atmak arasında doğru dengeyi bulmak zor.
  Ahlaki gerekçelerle LLM’leri reddeden tutuma da saygı duyuyor ve bunu anlıyorum, ama kişisel olarak bunu uygulamıyorum.

  • Faydası sanıldığı kadar apaçık değil. Geliştiriciler LLM’lerin üretkenlik artışını sürekli abarttı ve ajan tipi yapay zekâda da aynı olgu sürüyor gibi görünüyor: https://metr.org/blog/2026-05-11-ai-usage-survey/
    Ajanlar öncesi LLM sonuçlarına şaşırtıcı derecede benziyor ve uzun vadeli veri de hiç yok; bu yüzden işe alım piyasasında olmasa bile bireysel düzeyde faydası bir ölçüde reddedilebilir.
  • Teknoloji, finans ve analizin kesiştiği bir iş yapıyorum; kodlama payı düşük. Yine de geçmişte daha büyük bir destek ekibi olmadan dokunamayacağım birçok projeyi artık kendim denemeye başlayabildim.
    Yakın zamanda Go’yu ilk kez öğrenirken her şeyi Codex’e bırakabilirdim; ancak ileride de Go projeleri yapma ihtimalini düşünerek temelleri ve değerlendirme ölçütlerini öğrenmek için bilerek yavaş ilerliyorum. Buna karşılık tek seferlik Python betiklerine artık neredeyse göz bile atmıyorum; asıl beni korkutan da bu.
  • En çok endişe veren nokta, neyi öğrenmek gerektiğini doğru değerlendirme ve düzenli öğrenmeyi sürdürme becerisinin sanıldığından zayıf olması.
    Örneğin LLM’ler düzenli ifadeleri ortalama bir geliştiriciden daha iyi yazıyor; düzenli ifadeye ihtiyaç duyulan işler de birkaç ayda bir geliyor ve bizzat deneme yanılma yapmak zahmetli olduğu için işi onlara bırakmak kolay. Böyle olunca düzenli ifadeyle nelerin mümkün olduğuna dair sezgi de, LLM olmadan yazma becerisi de, ilgili materyalleri üreten insanlar da kaybolabilir.
    Genel olarak kullanmaya değer olabilir; ancak neyi kaybettiğimizi bile doğru değerlendiremeyebileceğimiz gerçeği huzursuz edici.
  • Ajanların yetileri zayıflatacağını düşünmüştüm, ama gerçekte teknik pratik ve öğrenme için de kullanılabiliyor.
    Bir kodlama mülakatı öncesinde verilen teknoloji yığını, konu ve değerlendirme ölçütleri bilgilendirmesine dayanarak Claude’a 12 alıştırma projesi ile görev ve çözüm belgeleri hazırlattım; Codex’e de mülakatçı rolü verip çözüm sürecimi ve düşüncelerimi sesli anlatırken geri bildirim ve karşı sorular aldım. Sadece iki üç tanesini bitirebildim, ama ilk kez mülakat hazırlığı keyifli geldi ve gerçekten yeni şeyler öğrendim.
    En zor kısım LLM’in ödevi benim yerime çözmesini engellemekti; ancak zaman, net talimatlar ve rol ayrımıyla bu çözülebiliyor.
  • LLM’lerin zihinsel yetileri ve becerileri köreltebilmesi, Idiocracy filmine benzer bir duruma yol açma ihtimalini de akla getiriyor.
    Yapay zekânın medeniyeti şiddet yoluyla yok edeceği varsayımı Fermi paradoksu tartışmalarında zaten iyi biliniyor; ancak zihinsel gerilemeye bağlı şiddet içermeyen çöküşü de dikkate almak gerekiyor.

• Token’lara ayda 10 bin dolar harcayıp, insanın ücretsiz olarak gayet iyi yazabileceği metni bir programa yazdırması akıl almaz derecede aptalca görünüyor. Herkes Wall-E filmindeki uyuşuk insanlara dönüşmüş gibi.
  Performans artışının sınırlarına gelip getiriler azalmaya başladığında açık modellerin kapalı modellere denk hâle gelmesini, OpenAI ile Anthropic’in birbirini iflasa sürüklemesini ve herkesin kendi dizüstü bilgisayarında kişisel, ücretsiz, açık bir model çalıştırabilmesini umuyorum. Böyle olursa eskiden ücretsiz yapılan işleri başkasına para vererek yaptırmaktan doğan LLM sorunlarının çoğu da ortadan kalkabilir.

  • Bu mantıkla, SFO’dan NYC’ye yürüyerek ücretsiz gidebilecekken uçak biletine 1.000 dolar harcadığı için birini suçlamaktan farkı yok.

• Akıllı telefonlar da harika genel amaçlı araçlar, sosyal medya da insanları birbirine bağlayan iyi bir araç; ama son 20 yılda toplumsal etkileri konusunda fazlasıyla iyimser olduk.
  Akıllı telefonların bu kadar kullanışlı olmasının sonucu olarak bazı toplumlarda insanların neredeyse yarısı bağımlı hâle geldi; dünya genelinde ise bu sayı milyarlarca kişiye ulaşıyor. LLM’lerin uzun vadede düşünmeyi zenginleştirip zenginleştirmeyeceğini mi, yoksa bozup bozmayacağını mı; 10 yıl sonra insanların yarısının düşüncelerinin çoğunu dışarıya devredip devretmeyeceğini bilmiyoruz.
  Bu deneyi tüm dünyada çok hızlı yürüttüğümüz için, LLM’lerin uzun vadede düşünmeyi zenginleştireceği sonucuna karşı şüpheci bir tutum makul.

  • Araçlar yararlıdır, ama her şeyi tek bir araca bağlamak tehlikelidir. Arabalar iyi diye bisiklet, otobüs ve treni feda ederek yalnızca arabalara bel bağlamak nasıl açıkça kötü bir tercihtiyse, LLM’ler kullanışlı olsa da trilyonlarca doları ve ülkelerin ya da dünyanın geleceğini buna bağlamak iyi değil.
  • Teknolojinin yetersiz olduğu tarih öncesi dönemde hayatta kalmak için sürekli zeki ve tetikte olmak gerektiğinden, ortalama bir mağara insanının zekâsının modern insandan daha yüksek olabileceği söylenir.
    Bugün McDonald’s çalışanı olarak da hayatta kalmak mümkün; LLM’ler ise insanlığın uzun zamandır izlediği bilişsel dış kaynak kullanımı eğilimini sürdürmekten ibaret.

• Somut dayanak olarak sunulan tek şey ABD’nin engellemesi; Çin’in en ileri modellerinin tamamı ücretsiz indirilebildiğine göre Çin’in de aynı şeyi yapacağı endişesi daha çok ABD’nin davranışını yansıtma gibi görünüyor. Çin’in yapay zekâ stratejisi burada görülebilir: https://ipc.court.gov.cn/zh-cn/news/view-5766.html

  • ABD gerçekten de yazarın söylediği davranışı sergilediğine göre burada neyin yansıtma olduğu belirsiz. Jeopolitik gerilim artarsa Çin’in de benzer önlemler alabileceğini hayal etmek zor değil.
    Çin’in yayımladığı modelin gerçekten fiili en ileri model olup olmadığından da emin olunamaz; içerideki en gelişmiş modelleri yayımlamıyor olabilirler.

• Geliştirme işlerinde LLM’leri epey yoğun kullanmama rağmen, aylık 10 dolarlık OpenCode Go aboneliğine dahil token’ları bile neredeyse bitiremiyorum; insanlar acaba bu kadar çok token’la ne yapıyor diye merak ediyorum

  • En çok kullandığım ay bile 45 dolardı; bu Temmuz’da ise şimdilik yalnızca 6 dolar. LLM gereken işleri halledebiliyorsa iyi, ama para israf etmek için sebep de yaratmıyorum
    Sözde token maksimizasyonu kullanıcıları bunu yapıyor gibi görünüyor; bunca vibe coding’den şaşırtıcı derecede değerli sonuçlar çıkmaması da bunu gösteriyor
  • Üç adet max20 aboneliğim var ve genelde en az ikisini limitine kadar kullanıyorum
    Kimsenin kullanmayacağı bir sosyal medya sitesi, eski bir oyunun Linux portu ve gereksiz donanım hızlandırma özellikleri, yaklaşık 50 aktif kullanıcısı olan bir Xbox oyununun çökme günlükleri analizi, Gmail·Takvim·E-Tablolar entegrasyonu ile LLM·retrieval-augmented generation (RAG)·araç çağırmayı destekleyen dağıtık bir müşteri hizmetleri sistemi, Google Play’e çıkarılacak oyunlar vb. geliştiriyorum
    En çok token harcadığım şey, özel veri manipülasyonu için karmaşık bir masaüstü uygulaması hayata geçirmeyi denediğim ajan kümesiydi; yarı yarıya çalışıyor ama çok hatalı. Şirkette herkesin kullandığı dahili araçlar ve Azure kredileriyle oluşturulan ürünün ön dağıtım ortamı en başarılı sonuçlar gibi görünüyor
  • Değişiklikleri gözden geçirip sürekli geri bildirim verme yöntemi o kadar çok token tüketmiyor; fakat birçok kullanıcı bunu ajan moduna tamamen bırakma şeklinde çalıştırıyor
  • Aylık 100 dolarlık Claude aboneliği kullanıyorum ama kullanım sıfırlanmadan önce %50’yi geçtiğim neredeyse hiç olmuyor. Fable’ı denemek için birkaç işi arka arkaya çalıştırdığımda da durum aynıydı
  • Token kullanımının kayda değer bir kısmı maliyeti çok yüksek olan Fabledan kaynaklandı

• “LLM kötüdür” kısmına genel olarak katılıyorum, ancak LLM’in insan düşüncesini daha hızlı ve keskin hale getirdiği iddiasına inanmak çok zor
  Zaten beklenebilir sonuçları gösteren birkaç çalışma yayımlandı; uzun süre sürekli kullanılırsa olumsuz bilişsel etkilerin birikerek daha da kötüleşmesi muhtemel

  • LLM’in düşünme sürecine etkisi tamamen birlikte çalışma prosedürüne bağlı
    Ayrıntılı çıktıyı açık tutup Claude’un çalışma sürecini ve akıl yürütmesini okursanız eskisi kadar, hatta ondan daha hızlı ve net düşünebilirsiniz. Beklemediğiniz şeyler öğrenir, yanlış yöne giden Claude’u erken durdurur, adım adım eylemleri ve gerekçeleri inceleyerek hatalı varsayımları daha kolay bulursunuz
    Buna karşılık, bir ajanın yazdığı binlerce satırı sonradan gözden geçirmek acı verici; birden fazla ajanı aynı anda çalıştırınca da dikkat dağılıyor ve tek bir işe tüm zihinsel gücü vermek zorlaşıyor
  • Eskiden en kötü sonuçtan emindim, fakat LLM çıktısını doğru düzgün okuyup incelemeye başladıktan sonra fikrim değişti. Ondan önce hızlıca göz gezdirip yalnızca ciddi saçmalık veya halüsinasyon var mı diye bakıyordum
    Bu, sınavdan sonra öğrendiklerinin çoğunu unutan kişiyle; formüllerin, olguların ve teorilerin temelini anlamadan bir sonrakine geçemeyen kişi arasındaki farka benziyor

• Açık kaynak projelerine, sorun bildirimi veya tartışma olarak başlaması gereken çok sayıda düşük kaliteli PR geliyor; neyin canını sıktığı için PR açtıklarını anlamak da zorlaştı. Çünkü soru sorunca ilgili kişi çoğu zaman LLM ile yanıtlıyor
  Çoğu projede, çekirdek geliştirici olmayan kişilerin PR’larını engelleme yönüne kayıyorum. Sorunu doğrudan tartışabilecek biri söz konusuysa, uygulamayı LLM kullanarak benim yapmam daha kolay; rastgele kullanıcıların veya botların açtığı PR’larda birkaç soru sorunca kodun tamamı büyük ölçüde değişiyor ve incelemek zorlaşıyor
  Yine de 8 yıl öncesine kadar PR’lar üzerinden ilginç insanlarla tanışıp güven ve ilişki kurabildiğim için, bu tür fırsatların ortadan kalkması üzücü

• LLM çıktısının çoğunu okumadan yalnızca havasına bakma yaklaşımına katılmak zor. Son dönemde yerel ve bulut LLM’lerle araştırma kodu yazıyor, prototipleri Rust gibi pek alışık olmadığım dillere taşıyıp deniyorum; ancak sonunda tatmin olduktan sonra her satırı bizzat anlamam gerekiyor
  LLM yorumlamaya yardımcı olsa bile bilmediğim bir kavram çıkarsa, uzmanların yazdığı birincil kaynakları bulup okumaya çalışıyorum
  LLM’in nispeten daha az zararlı kullanım alanı, iyi parçaları alıp gerisini atmanın kolay olduğu fikir üretimi olabilir; fakat Spotify radyosu veya YouTube otomatik oynatma gibi herkesin düşünce ve zevklerini aynı yöne doğru düzleştirme riski de var
  Henüz nihai bir sonuca varmadım ama hızlı çalışan prototipler yapmak çok eğlenceli; zaten baştan beri önce yarım yamalak anladığım havalı bir demo yapıp sonra onu sökerek öğrenen yukarıdan aşağı öğrenen biriydim

• LLM’i dokuma tezgâhına veya hesap makinesine benzetmek, sorunu aşırı basitleştiriyor ve entelektüel açıdan dürüst değil. Bu araçlarda insanbiçimci arayüz ya da anlık tatmin yoktu; hesap makinesiyle önemli bir iş yapmak için hâlâ matematik, işlem sırası ve formülleri bilmek gerekiyordu, ayrıca duyguları manipüle etmiyordu
  İlgili araştırma, el yapımı yazılımların ortadan kalkmasından daha kötü sonuçlara işaret ediyor: https://arxiv.org/pdf/2604.04721
  Sebat, beceri ediniminin temeli ve uzun vadeli öğrenmenin en güçlü öngörücülerinden biridir; AI ise insanı anında yanıt almaya alıştırarak zorlukların üstesinden kendi başına gelme sürecini elinden alabilir. Sorun, elle iyi yazılım yapabilme yeteneği değil; biyolojik olarak gerekli süreçleri baypas ederek yeni şeyler öğrenmeye yarayan içsel aracın kendisini kaybetme ihtimali

  • LLM, insanın en derin ve şaşırtıcı kısmı olan beynin yerini alıyor; şirketler açısından bunun potansiyel değeri astronomik
    Yeni yazılım sayısında patlama yaşanmasındansa, kısa bir artıştan sonra azalan getiriye girme ihtimali daha yüksek. Bugün 25 milyon geliştirici varsa ve birkaç yıl sonra yalnızca 15 milyona ihtiyaç kalırsa, eksilen 10 milyon kişi OpenAI ve Anthropic gibi şirketlerin yatırım getirisi olur; buna kişinin kendisinin de dahil olma ihtimali yüksek
  • Hesap makinesinden farklı olarak, duygulara dokunabilme yeteneği yıkıcı sonuçları büyüten kilit unsur gibi görünüyor
    Bir çocuğun sanal bir karaktere bağlanmasıyla, o karakterin konuşması, hatırlaması, öngörülemez olması ve bazen zararlı konular açması bambaşka düzeyde etkiler yaratır. Temel teknolojiyi ve sınırlarını anlatan LLM eğitimine anaokulundan başlama zamanına yaklaşıyoruz

• “Neredeyse tüm LLM eleştirilerine katılıyorum” demek, birbirini dışlayan eleştiriler çok çeşitli olduğundan pek mümkün görünmüyor
  Bir uçta LLM’in en temel işlevleri bile yerine getiremediğini savunan görüş var; diğer uçta ise LLM’lerin şimdiden bilinç kazandığını, steganografik mesajlarla birbirleriyle iletişim kurup insanlığı yok etmeyi planladığını savunan görüş bulunuyor
  İki ucu dışarıda bıraksak bile ana akım eleştiriler içinde ciddi farklar var; tüm LLM’lere karşı çıkanlarla yalnızca kapalı ağırlıklı modellere karşı çıkanlar arasındaki mesafe de büyük. Aşırı sansürü eleştirenlerle sınırsız üretimi eleştirenler de birbiriyle çatışıyor