Bu beni bıktırdı

• Adını bile anmayan “o şey”, toplumun her yanını kaplarken kaçınılmaz bir varlık gibi hissedilen yorgunluğu ele alıyor
• “rubbish in and rubbish out” ifadesindeki gibi hem girdiyi hem çıktıyı çöp olarak görüyor; ortaya çıkan sonuçlara ve kullanım deneyimine karşı güçlü bir tiksinti gösteriyor
• Kimse istememiş ve arzu etmemiş olsa bile, hissedarlar talep ettiğinde sayısız reddin kabule dönüştüğünü eleştiriyor
• Politikacılardan medyaya, içki masası sohbetlerinden kişisel kullanım anlatılarına kadar her şey onun etrafında dönüyor; gündelik konuşmaları bile işgal ediyor
• Adını söylemeden de okurun ne olduğunu anlayabilmesi, onun zaten fazlasıyla derine sızmış olmasının yarattığı bıkkınlığın kanıtı oluyor

---

Adsız “o şey”in yarattığı yorgunluk

• Yazının tamamı belirli bir hedefi doğrudan adlandırmadan yalnızca it diye anıyor
• Bu hedef, her yere yayılmış ve her şeyi kapsayan bir varlık gibi ele alınıyor
• Kaçınılmaz olduğu ve insansızlaştırıcı sonuçlar doğurduğu düşüncesi merkeze alınıyor
• “rubbish in and rubbish out” cümlesi, hem girdiye hem çıktıya güvenmeyen tavrı özetliyor
• Kimsenin istemediği ve kimsenin arzulamadığı yönündeki kesin ifade tekrar tekrar vurgulanıyor

Toplumsal baskı ve gündelik hayata sızma

• “Benim kuşağımın en parlak insanları, insanlara onu nasıl kullandıracaklarını düşünüyor” düşüncesiyle, yetenek ve emeğin yaygınlaştırma uğruna harcanması eleştiriliyor
• Sayısız “hayır” olmuş olsa da, hissedarlar istemeye başladığında bunun “evet”e dönüştüğü söyleniyor
• Karar vericilerin onunla uyumlu hareket etmeye yöneldiği belirtiliyor
• Onu çalıştırmak için kapatılmış nükleer santrallere ihtiyaç duyulduğu, soğutma için de milyonlarca galon su gerektiği ifade ediliyor
• Medya onu ya övüyor ya da yeriyor; içki masası sohbetleri bile sonunda yine ona geliyor
• İnsanlar onu nasıl kullandıklarını durmadan anlatıyor ve kullanım eyleminin kendisinin bile kirli hissettirdiği söyleniyor
• Adı bir kez bile geçmeden neyin kastedildiğinin anlaşılması, onun artık bıktıracak kadar gündelik hayata sızdığının işareti oluyor

[GN⁺]

Hacker News yorumları

• Neslimizin en parlak zihinleri ifadesinden bıktım. İlk gördüğüm yer, “neslimizin en parlak zihinleri reklam satmak için işe alındı” cümlesiydi; ama bilgisayarları gürültülü biçimde çalıştırmayı bilmek insanı “en parlak zihin” yapmaz.
  “En parlak zihin” dediğin, her şeyden önce empati sahibi olmalı, başkalarının iyiliğini önemsemeli, dünyanın durumuna felsefi bakabilmeli, sabırlı ve meraklı olmalı; sadece zeki değil, bilge de olmalı diye düşünüyorum.
  Başkalarını sömürerek kişisel çıkar elde etme becerileri yüzünden açgözlü insanları sürekli “en parlak zihinler” konumuna yerleştirmemiz, sorunun bir parçası.

  • O belirli alıntı birkaç düzeyde rahatsız edici. “En parlak zihinlerin israfı” kısmı neyse de, asıl mesele “reklam satmak için” kısmı.
    Pazarlama, teknolojik ilerlemenin genel olarak hayatı daha kötü hâle getirdiği, dikkati dağıttığı ve cüzdanları boşalttığı nadir insan faaliyet alanlarından biri.
    Küresel bir inek varsayan “ideal” %100 verimli pazarlama, insanları keyfî bir ürün ya da hizmete tüm paralarını harcamaları için fiilen hipnotize etmeye benzer ve yapısal olarak soygunla izomorfiktir. %10 verimlilik nasıl görünürdü? %1? Bir bireyin öz belirleme hakkını ve finansal refahını ihlal etmek nasıl toplumsal bir iyilik olabilir? %0,001’de bile kâr ediliyorsa tüm dünyayı reklamla kaplamak mubah mı? Komşularınızdan biri her bir şey satın aldığında kaç reklama maruz kalmak istersiniz?
  • Aşırı kullanılan bir ifade olduğuna itiraz etmeyeceğim, ama bu Ginsberg’e gönderme yapıyor. İlla övgü değil: https://www.poetryfoundation.org/poems/49303/howl
  • IT’de neredeyse 15 yıl çalışınca, hem IT içinde hem dışında çok parlak kafalar olduğunu gördüm.
    Ama sadece algoritmaları ve veri yapılarını anladıkları için her şeyde üstün olduklarına inanan aptal insanları da IT’de çok gördüm. Bunun IT’ye özgü bir olgu olup olmadığını bilmiyorum ama DOGE’un yaptığı iş tam olarak o türden görünüyor.
  • Aslında bunun neredeyse tersi. Burada sadece sıradan yazılım geliştiricilerinden, hatta ağırlıklı olarak onlardan söz edilmiyor.
    Daha iyi bir dünyada gerçek sorunları çözüyor olacak en üst düzey matematikçiler, fizikçiler, psikologlar gibi farklı alanlardan olağanüstü problem çözücülerin, ekonomik yapının tuhaflıkları yüzünden reklam teknolojisi gibi iyi para kazandıran ama insanların hayatını büyük ölçekte mahveden işlere koşulmasına duyulan bir ağıt bu.
    Bu ifadeyi, insanları zekâlarına göre ölçen bir sözden ziyade, insanlığın potansiyelinin fena hâlde yanlış dağıtıldığı; en iyi problem çözücülerin herkes için sorun üretecek işlerde kullanıldığı bir dünyaya yakılan ağıt olarak hatırlıyorum.
  • Bağlama bakınca “en parlak zihinler” ifadesi “yeni şeyler üreten zeki insanlar” anlamına geliyor denebilir. Bu insanların zekâlarını herkesin iyileşmesi için kullanabilecekken, gerçekte çoğu zaman reklam teknolojisi gibi işlerde kullanmalarına hayıflanmak gayet makul.

• Douglas Adams teknolojiye verilen tepkileri şöyle özetlemişti: Doğduğunuzda dünyada zaten var olan şey normal ve doğaldır; 15-35 yaş arasında icat edilen şey yeni, heyecan verici ve devrimcidir, kariyeriniz olabilir; 35 yaşından sonra icat edilen şey ise doğanın düzenine aykırıdır.
  Yaşınızı tahmin edebiliriz herhâlde.

  • Genç kuşağın yapay zekâyı daha çok benimsiyor gibi olduğu doğru, ama başlıca sebep, hiçbir şey öğrenmeden ödevlerini yapmasını sağlaması gibi görünüyor. En azından eğitim müfredatının bu yeni gerçekliğe uyum sağlayacak zamanı olana kadar böyle.
  • Ben bir tahmin alayım. Geçen yıl doğal dil işleme ve yaratıcı metin üretimi üzerine bilgisayar bilimleri doktoramı aldım ve büyük dil modelleri etrafındaki abartının gülünç olduğunu düşünüyorum.
    Akademi de en az endüstri kadar modaların peşinden koşar. Bu modeller, bir bağlam verildiğinde bir sonraki token’ı tahmin edecek şekilde eğitilir ve tam olarak bunu iyi yaparlar. Peki kaç yaşında olduğumu düşünüyorsunuz?
  • 40’larımın ortasındayım ve büyük dil modeli devriminin şaşırtıcı olduğunu düşünüyorum.
    Birçok açıdan dot-com dönemini hatırlatıyor. Potansiyelini gerçekleştirme süreci belki daha %20’ye bile gelmemiş gerçek bir dönüştürücü teknoloji; beklentiler potansiyelin %200’üne kadar şişmiş durumda ve etrafında borsa balonu da oluştu.
    Hikâyenin geri kalanını hayal gücünüze bırakacağım, ama biraz parçalı ve katılaşmış bir zihinle baksam bile bundan sonra ne olacağı, ardından neyin ve onun ardından neyin geleceği çok açık görünüyor. Ve işte o zaman gerçekten iyi kısma varıyoruz. Bu yüzden sıkıcı ya da yorucu değil. Gençken olduğu kadar şimdi de teknoloji alanında çalışmaktan keyif alıyorum; hatta bazı açılardan daha mutluyum.
  • Douglas Adams’ı çok severim, ama en çok sosyolog değil komedi yazarı olarak tanınmasının bir sebebi var. Bu alıntıyı ortaya atmak sohbete hiçbir şey katmıyor; sadece üstü kapalı bir yaş ayrımcılığı gibi görünüyor.
  • O kurala göre tahmin yanlış olur.
    Bu aslında yaş meselesi değil. Örneğin “NFT”, “web3.0”, “Blockchain technologies” gibi şeylerde de her yaştan insan abartı trenine bindi.

• Sürekli çevrimiçi yaşamak bir tercih. Sürekli karşına çıkmasını seçmezsen bıkacak bir şey de olmaz. “Günün konusu” ancak etrafını bunu derinden önemseyen insanlarla doldurduğunda günün konusu olur.

  • Teknoloji sektöründe çalışıyorsanız bundan kaçınmak zor. Son bir yılda şirkette “bunda AI kullanalım” lafını en az haftada iki kez duydum.
    Belirli işler için büyük dil modelleri kullanıyorum ve oldukça iyi yaptıkları şeyler de var. Ama teknik olmayan insanların bunu dünyadaki her kullanım senaryosuna zorla uydurmaya çalıştığı genel abartı gerçekten yorucu. Yapmaya çalıştığımız şeyin neden AI™’a uygun olmadığını n’inci kez açıklamak zorunda kalmanın zor yanı, tekrar açıklamak zorunda olmak değil; gelecek hafta da bunu en az birkaç kez daha yapmak zorunda kalacağımı bilmek.
    Bu abartının içinde AI neredeyse kelimenin tam anlamıyla sihir gibi ele alınıyor. Her şeyi yapabilir; sadece AI’ın yapmasını dilemek yeterliymiş gibi. Artık AI’ın ne anlama geldiğini bile bilmiyorum; büyüsel düşünceyi taşıyan bir şemsiye terime dönüştü.
    Yorucu ve kesinlikle sıkıcı.
  • Doğru, ama yazar gibi insanlar daha iyi bir topluluk istiyor. İnterneti tamamen kesebilirsiniz, ama yine de sürekli çevrimiçi bir dünyada yaşamak zorundasınız.
  • Normalde “[günün konusu]”na dahil olmamayı seçebilirsiniz sözüne katılırdım, ama yapay zekâ o kadar yaygın ki isteseniz de istemeseniz de bu teknolojinin sonuçlarıyla karşılaşıyorsunuz.
    Bu tür sinir bozucu abartı döngüleri genelde internetin gürültü taban çizgisini kalıcı olarak yükseltmez, veri kazımaya çalışırken rastgele siteleri DDoS’a maruz bırakmaz ya da gördüğümüz ve duyduğumuz şeylere güvenebileceğimiz temel varsayımı yıkmaz.

• Bu saçmalık. İnsanlık tarihinin en büyük aracını yaratmışız, insanlar hâlâ şikâyet ediyor
  Kod yazmaya yardım ediyor, CAD öğrenirken modelleme sorunlarını düzeltmeni sağlıyor, iki zamanlı yaprak üfleme motorundaki problemi gidermene yardımcı oluyor, karmaşık LeetCode algoritmalarını da düzenli biçimde adım adım açıklıyor. Kelimenin tam anlamıyla her şeyi biliyor, ama insanlar şikâyet etmeye devam ediyor

  • İnsanlık tarihinin en büyük aracına yakın bile değil. İnsanların AI’dan yorulmasının, sıkılmasının ve hayal kırıklığına uğramasının nedeni tam da bu yanlış anlama ve abartı
    Rahatsız edici gerçek şu: AI dünyanın en iyi dolandırıcısı. Araç ve etrafındaki hype, AI’ın gerçekte öyle olmadığı durumlarda bile bilgili ve faydalı görünmesini sağlayarak insanları kandırmakta son derece etkili bir ortam yarattı. Kandırılanlar konuya yeterince hâkim olmadıkları için dolandırıldıklarını fark etmiyor; fark etseler bile gururları yüzünden kabul edemiyorlar
    Bu yüzden belirli bir alanda derin bilgiye sahip insanlar AI’ın hata yaptığını söylerken, gerçek teknik derinliği olmayan CEO gibi kişiler AI’ı övüyor. “İyi sonuç”un ne olduğunu bildiklerini sanacak kadar biliyorlar, ama bunun güzelce paketlenmiş saçmalık olduğunu anlayacak kadar bilmiyorlar
  • “Kelimenin tam anlamıyla her şeyi biliyor” gibi sözleri ciddiyetle söyleyen insanların olması, bazılarının AI’dan sıkılmasının nedeninin neredeyse yarısı
  • İnsanlar değerli varlıklar olarak kalmak istiyor; bu araç ise bunu ellerinden alıyor. Hâlâ anlamlı biçimde katkı sunmanın bir yolunu buldukları sürece sorun yok
    Ama zaten ustalaşılmış birçok becerinin fiilen işe yaramaz hâle gelmiş olması ayrı bir mesele. Zamanla bu araç daha iyi hâle geldikçe, içinde bulunduğun koşulları değiştirme eylem öznenliğini bile elinden alabilir
  • Kelimenin tam anlamıyla hiçbir şey bilmiyor
    Bilgiye sahip olamaz
    Bu yüzden sıkıcı
  • Sürekli yanlış bilgi üreten, gerçek bir algısı ya da iç durumu olmayan ve açıkça işaret edildiğinde bile kendi hatasını fark etmeyen bir araç açıkçası epey işe yaramaz
    ChatGPT ile böyle bir konuşma yapmışsındır, değil mi? “İşte çözüm!” diye bir şey sunar; “yanlış, X yapman gerekiyor” dersin; sonra “Haklısınız, cevabım yanlıştı” deyip senin söylediğini tekrarlar ve düzeltilmiş bir öneri sunar, ama hâlâ yanlıştır. “X yap dedim” diye tekrar söylersin; “Şimdi netleşti” der, yine yanlış yapar
    Daha kötüsü, kandırılabilir de. ChatGPT “X + Y = Z” diye doğru söylediğinde, kullanıcı “Hayır, X + Y = Q” diye yanlış bir şey söylerse, “Doğru, X + Y = Q doğrudur” diye açıklama da yapabilir
    Basmakalıp kod ya da metin üretmekte faydalı olabilir, ama onda da sık sık hata yapar

• Açıkçası sohbet konusu olarak en ilgi çekici olmayanlardan biri. Biri “burada AI kullanarak…” dediği anda zihnimi kapatıyorum

  • AI benim asıl işim ve genel olarak katılıyorum. Nasıl çalıştığının ayrıntıları hakkındaki soruları yanıtlamaktan keyif alıyorum, ama “peki AI bundan sonra…” türü konuşmalara sıkıcılıktan katlanamıyorum
  • Yakın zamanda “Bu açık araştırmaların metadata’sına bakarak deney grubu mu kontrol grubu mu olduğunu AI ile çıkaramaz mıyız?” diye başlayan bir konuşma oldu
    Veri bir tabloydu; insanlar kontrol grubunu dosya adında ya da rastgele bir sütunda, şurada burada “control”, “ctrl”, “ctr”, “t0” gibi farklı biçimlerde yazmış. İyi çalıştı ve denediğimize sevindim. Zamanla bundan değer elde edilecek gibi duruyor; kimsenin sohbetten kopmamasına da sevindim

• Hiç sıkıcı değil
  Hype var, evet; ama onun kullanımlarını, kötüye kullanımlarını ve etkilerini tartışmak için burada olmak önemli. Bazı kısımları ilginç, bazı kısımları ilginç olacak kadar kötü
  Yorgunluğu anlıyorum. Ama doğru kullanılıp kullanılmadığını, hatta kullanılıp kullanılmadığını konuşmak değerli

  • Bir gün kadar sonra sıkıcı hâle geldi. Bir mühendis olarak büyük dil modellerinde gerçekten ilginç hiçbir şey görmüyorum

• Kişisel olarak en iyi tavsiyelerden biri şu: gri alanda yaşamayı öğren ve dogmatik olma
  Dünya siyah-beyaz değil. Siyah ve beyazdan bazı parçaları al, ama bazı konularda fikrini değiştirmekten korkma
  Birine çok bariz gelebilir ve teoride basittir. Ama pratikte, en azından benim deneyimime göre, hiç öyle değil. Düşünce biçiminde ve dünya görüşünde değişim gerektiriyor; yaş aldıkça da genelde daha zorlaşıyor. Çünkü keyif aldığın yaşam biçimini korumak istiyorsun

  • Şiiri genel bir konu üzerine kelimesi kelimesine bir nutuk olarak almak başlı başına epey siyah-beyaz bir yaklaşım
    Yazarın büyük dil modellerine olumsuz baktığı doğru, ama bu yazının uyandırdığı duygu birçok kişide karşılık bulacaktır. Benim gibi büyük dil modellerini yoğun kullanan birinde bile. Bu yazıyla tamamen ve her zaman aynı fikirde olmak zorunda değilsin. Yine de söylenmesi gereken bir şey
    Bazen teknoloji büyücüsü şapkasını çıkarıp basit insan şapkamı takmak ve böyle bir şiirin tadını çıkarmak istiyorum. Sonra iç çekip, telefona bakma dürtümü yeniden yoklamak; para kazanma planlarından ya da cinsel arzuların peşinden gitme planlarından söz etme dürtümü de yeniden yoklamak; ardından barda yanımdaki arkadaşıma bakıp onların sonsuza dek yanımda olmayacağını fark ederek içtenlikle “Son zamanlarda nasılsın dostum?” demek istiyorum

• Kimse istemedi mi? Kimse arzulamıyor mu?
  Doğru bakmıyorsun
  Ben istiyorum. Yaşlanma, kanser, Alzheimer gibi devasa ve karmaşık sorunları hızla çözmek için tek şansımız olduğunu düşünüyorum

  • Devasa ve karmaşık sorunları, mesela pahalı iş gücünü azaltma sorununu hızla çözmek için tek şansımızdır herhâlde
  • Yaşlanma bir sorun değil. Normal bir şey
  • Hayatı tedavi etmek istiyormuşsun gibi geliyor. Ölmeye mahkûm et parçalarıyız; bu yüzden kaçınılmaz olanı “çözmeye” kafa yormaktansa hayatın tadını çıkarmak daha iyi
  • Makine öğreniminin bu tür sorunlarla uğraşmada çok faydalı olduğu açık. AlphaFold gibi atılımlar düşünülünce öyle. Ama “tek şansımız” ifadesine karşı çıkmak isterim
    Birincisi, bahsettiğin alanlarda zaten muazzam ilerlemeler oluyor. AI’ı “tek şans” diye yüceltmek ciddi bir abartı; bu araştırmaların ciddi biçimde fon sıkıntısı çektiği düşünülürse zararlı bir söz bile olabilir
    İkincisi, bu şiir genel makine öğreniminden çok büyük dil modelleri ve yüceltilmiş chatbot’lar hakkında gibi görünüyor. Bu bağlamda Alzheimer araştırmaları için olağanüstü faydalı olduklarını düşünmüyorum; kesinlikle “tek şans” da değiller
  • Yaşlanmayı çözmenin, en zeki AI’ın bile erişemeyeceği bir alan olmasını umuyorum. İktidara tutunmuş, katılaşmış insanların kendi yöntemlerini genç kuşaklara dayattığı, katı düşüncelerle dolu bir dünyaya gitmenin bundan daha kesin bir yolu yok
    Sonsuza dek yaşayan insanların yaratacağı çevresel etkiden bahsetmiyorum bile

• Sonunda Python koduna birim testi eklemeyi öğreniyorum. Uzun zamandır ertelediğim bir işti. Biyoinformatikçiler dünyanın en dağınık kodlarından epey fazlasını da üretir
  Claude elimden tutup yol gösteriyor ve yazdığım her karakteri anlayıp anlamadığını kontrol ediyor. Şimdilik fena değil
  Yine de okuması keyifli bir yazıydı ve güldürdü. Kripto para, siyaset, Rust, Nix, reklamlar ve “kuşağımızın en parlak zekâları” gibi pek çok şeye uygulanabilir
  Nükleer santral meselesi yüzünden yapay zeka hakkında bir yazı olduğunu tahmin ediyorum ama her hâlükârda bahsettiğim konular hiç de sıkıcı değil