Yapay zekaya çok fazla düşünmeyi mi devrediyoruz?

 (artfish.ai)
1 puan yazan GN⁺ 6 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • Önemsiz seçimlerden karmaşık araştırma ve akıl yürütmeye kadar yapay zeka hazır yanıtlar sundukça, zaman kazanmaktan öte düşüncenin özerkliğini ne kadar koruyacağımız önem kazanıyor
  • Arama motorları soruyu parçalara ayırmayı, kaynakları değerlendirmeyi ve yanıtı sentezlemeyi insana bırakıyordu; ancak Google Deep Research ve OpenAI Deep Research dakikalar, saatler, hatta günler süren ara düşünme süreçlerini bile üstleniyor
  • Portekiz’in sömürge tarihi hakkında önce hipotezler kurup tartıştıktan sonra bunları yapay zekayla doğrulayınca, yapay zeka birkaç hipotezi destekleyip yeni açıklamalar ekledi; ancak geçerli olabilecek bazı olasılıkları atlayarak önce düşünme, sonra yapay zekadan yararlanma yaklaşımının değerini gösterdi
  • Gemini çevirileri, kodlama ajanları ve kişisel öğretmen olarak ChatGPT gibi örneklerde yapay zeka tekrarlı işleri ve öğrenme yükünü azaltabilir; ancak öğrencilerin neredeyse aynı ödev yanıtlarını teslim ettiği vaka, yanıtı almak ile düşünmeyi öğrenmenin farklı şeyler olduğunu ortaya koyuyor
  • Yapay zeka basit işleri otomatikleştirmekle kalmayıp ne isteyeceğimizi ve hangi kararları vereceğimizi de bizim yerimize belirlerse, insanlar kolaylıkla birlikte eylem öznesi olma yetisini de devredebilir

Günlük yargılarımızı bile üstlenmeye başlayan yapay zeka

  • Araştırma, akıl yürütme ve yanıtlamayı yapay zekaya bırakmak; önemsiz kararlardan karmaşık düşünmeye kadar kolay ve pratik hale geldi, hatta bazı ortamlarda aktif olarak teşvik ediliyor
  • Ken Liu’nun 2012 tarihli kısa öyküsü The Perfect Match’te, kullanıcının zevklerini ve ruh halini bildiğini söyleyen genel amaçlı yapay zeka asistanı Tilly yer alıyor
    • Ana karakter sabah ne yiyeceğini, hangi müziği dinleyeceğini, kiminle çıkacağını ve randevuda ne söyleyeceğini bile Tilly’ye bırakıyor
    • Tilly’nin zevklerine bilimsel olarak uygun seçimleri bulduğuna inanıyor; giyim gibi küçük kararlardan aşkı bulmak gibi önemli kararlara kadar bunları devrediyor
  • San Francisco’daki bir startup etkinliğinde, gömleğine iki parmak genişliğinden küçük metal kapsül biçimli bir mikrofon takıp tüm konuşmaları kaydeden biri ortaya çıkıyor
    • Günün sonunda kaydedilen konuşmaları özetleyen ve analiz eden bir iş akışı çalıştırıyor
    • Claude Fable’ın kendisinden daha iyi eleştirel düşündüğüne inandığı için tüm düşüncelerini ona bıraktığını söylüyor
    • Onun startup’ı, insan mühendislerin tüm girdilerini ve çalışmalarını açık rıza olmadan toplayıp mühendislerin yerini almayı amaçlıyor

Arama sonuçlarından tamamlanmış yanıtlara

  • Claude, ChatGPT ve Gemini’den önce de insanlar düşünmenin bir kısmını arama motorlarına bırakıyordu; ancak arama hâlâ soruyu parçalara ayırma, kaynakları değerlendirme ve yanıtı sentezleme gerektiriyordu
  • Yapay zeka bu ara adımları üstlenerek karmaşık ya da uzmanlık gerektiren sorular için bile dakikalar içinde tamamlanmış yanıtlar üretiyor
  • Google Deep Research ve OpenAI Deep Research bir kişinin birkaç dakikadan birkaç saate, hatta daha uzun durumda günlerce sürecek işlerini yerine getirebiliyor
  • Bu araçlar yalnızca zamandan değil, doğrudan düşünme sürecinden de tasarruf ettirdiği için iş desteği ile özerklik kaybı arasındaki sınırı bulanıklaştırabilir
  • Yaşamda önemli konularda nihai kararı kimin verdiğine bağlı olarak, yapay zeka asistanının işi desteklediği seviye ile kararları kontrol ettiği seviye birbirinden ayrılır

Hızlı yanıt ile yavaş düşünmeyi ayırmak

  • Mevcut hava durumu, 10 yıl önce belirli bir ülkenin başkanı, cilt bakım ürünleri ya da spor ekipmanları yorumları gibi birçok soru için hızlı yanıt uygundur
  • Buna karşılık hemen arama yapmak yerine daha uzun düşünmeye değen sorular da vardır
  • Telefon olmadan yürüyüşe çıkınca kirazların ağaçta mı çalıda mı yetiştiği, ilk Dünya Kupası maçının ne zaman ve nerede oynandığı gibi sorular akla gelir; ancak eve varmadan önce çoğu unutulur
    • Yalnızca birkaç önemli soru akılda kalıyorsa, önemsiz soruları unutmanın ve her meraka anında yanıt vermemenin de bir değeri olabilir

Önce hipotez kurup yapay zekayla doğrulanan Portekiz gezisi

  • Portekiz’deki Monument to the Discoveries, Portekiz’in sözde Keşifler Çağını anıyor
  • Portekiz’de o dönemin kişileri ‘kaşif’ ve ‘gezgin’ olarak yüceltiliyor gibiydi; ancak ABD’de aynı kişilere ‘fatih’ ve ‘sömürgeci’ denebileceği farkı hissedildi
    • Yerel tur rehberi, Henry the Navigator gibi kişilerin ABD’deki Christopher Columbus gibi iptal kültürünün hedefi olmadığını ve genel olarak saygı duyulan tarihsel figürler sayıldığını söyledi
  • Portekiz’in sömürge tarihinden gurur duyması ve ABD’den farklı tepki vermesinin nedeni merak edilince, kardeşiyle ChatGPT’ye hemen sormak yerine önce kendi hipotezlerini kurmaya karar verdiler
    • Portekiz’in ABD’ye kıyasla görece daha homojen ve dindar olabileceği olasılığı
    • ‘Keşifler Çağı’nın Portekiz’in ulusal anlatısındaki en belirgin bölümlerden biri olabileceği olasılığı
    • İki kişi tahmin yürütüp bağlantılar kurarken, karşı argümanlar geliştirip fikir değiştirirken, okulda uzun zaman önce öğrendikleri tarih bilgisini hatırladı
  • Bazı hipotezlerin yanlış olabileceğini bilseler de hafızayı ve bilgiyi, dünyaya dair anlayışı ve eleştirel düşünmeyi kullanma sürecinin kendisini pratik ettiler
  • Daha sonra yapay zekaya aynı soruyu sorduklarında, mevcut hipotezlerin çoğunu destekledi ve kaçırdıkları açıklamalar ekledi; ancak iki kişinin hâlâ geçerli gördüğü bazı olasılıkları atladı
  • Soru → hipotez üretme → yapay zekayla doğrulama ve genişletme sırası izlenirse, yapay zeka insan düşüncesinin yerini almak yerine onu tamamlayabilir

Tekrarlı işleri azaltan üretken kullanım

  • Gemini’nin zor görevleri çözme, düşünme ve araç kullanma yeteneğini ölçen çalışmalarda da yapay zekanın pratik kullanım potansiyeli görülebiliyor
  • İş ve öğrenme ortamlarında yapay zeka harcanan zamanı büyük ölçüde azaltıp insanların daha önemli kısımlara odaklanmasına yardımcı oluyor
    • Koreli bir şirkette çalışan bir kullanıcı, Gemini ile uzun bir resmi İngilizce raporu Koreceye çevirerek iş hızını artırıyor
    • Bir araştırmacı fikirleri geliştirip ayrıntılı uygulamayı kodlama ajanına bırakarak analize daha fazla zaman ayırıyor
    • Bir öğrenci ChatGPT’yi kişisel öğretmen olarak kullanıp biyokimyayı sıfırdan çalışarak birkaç ay içinde MCAT’ye hazırlanıyor
  • Sıradan düşünmeyi ve tekrarlı işleri yapay zekaya bırakıp daha önemli ve ilginç düşünmeye zaman ayrılırsa yaşam memnuniyeti ve üretkenlik artabilir
  • OECD’nin iş yerinde yapay zeka etkisi raporu, yapay zeka yoluyla standart, tekrarlı ve sıkıcı işlerin otomasyonunu ele alıyor
  • International Labour Organization’ın Digital Labour Platforms and the Future of Work çalışması, insan işçilerin düşük ücretlerle yaptığı işleri ele alıyor
  • Yapay zeka saatler süren zahmetli basit işleri üstlenirse, insanlar daha ilginç ve tatmin edici düşünmeye odaklanabilir

Öğrenme süreci atlandığında ortaya çıkan sorun

  • Çevrim içi bir üniversitede fizik öğreten bir profesör, öğrencilerin çoğunun ya da tamamının ödevleri yapay zekayla yaptığından şüpheleniyor
    • Bazı yanıtlar, öğrenciler aynı yapay zekaya soruları aynen yapıştırmış gibi neredeyse aynı
    • Öğrencinin kişisel düşüncesi ya da görüşü olmadan genel yapay zeka yanıtları tekrarlanıyor
  • Yapay zeka kullanılıp kullanılmadığını kanıtlamanın bir yolu yok ve yanıtların kendisi oldukça kapsamlı olduğu için öğrencilerin çoğu A alıyor
  • Yapay zeka öğrenmeyi destekleyebilir; ancak yanıta nasıl ulaşılacağını öğretmeden yalnızca sonucu da üretebilir
  • Fizik probleminde hangi denklemin kullanılacağına karar vermek ya da bir denemede kaynakları ve argümanları seçmek sıkıcı olabilir; ancak bunlar atlanırsa okulun ve öğrenmenin amacı zayıflar

Basit iş otomasyonu ve düşüncenin özerkliği

  • Düşüncenin tam özerkliği ile basit iş otomasyonunu net biçimde ayırmak zordur; gerçek yapay zeka kullanımı ikisinin karışımı haline gelir
  • Kişisel verileri toplama ve analiz etme işi de bazı yönleriyle Microphone Man’in yöntemine benziyor
  • Fark varsa, verilerin doğrudan toplanıp seçilmiş olması, yanıtlanmak istenen soruların oluşturulması ve nihai sonucun değerlendirilmiş olması olabilir
    • Başkalarının konuşmalarını kaydetmeden kendi verilerini kullanmış olma farkı da var
  • Basit işleri otomatikleştirip zamanı anlamlı etkinliklere ayırmak ile öğrenme deneyimi için işi bizzat yapmak arasında her zaman denge gerekir

Arzuları ve eylem öznesi olma yetisini kim şekillendiriyor?

  • The Perfect Match’te Jenny, Tilly’nin kullanıcıya yalnızca ne istediğini söylemekle kalmayıp ne düşüneceğine de karar verdiğini eleştiriyor
  • Özerklik, en azından kısmen, kişinin kendi arzularını doğrudan şekillendirme sürecine katılmaya devam etmesine bağlıdır
  • Dinlenecek müziği, izlenecek filmi, yenilecek yemeği ve giyilecek ayakkabıyı bile yapay zekaya bırakırsanız, ne istediğinize kendiniz karar verme yeteneğini de birlikte devretmiş olursunuz
  • Yapay zeka otomasyonunu değerlendirirken bunun insan emeğini ve görevlerini azaltıp azaltmadığını, yoksa insan düşüncesi ve eylem öznesi olma yetisinin de yerini alıp almadığını ayırt etmek gerekir

İlgili okumalar

1 yorum

 
GN⁺ 6 시간 전
Hacker News yorumları

  • Aşırı kullanım öznel bir şey; bu yüzden yapay zekayı çok kullanan herkes, potansiyelini ortaya çıkardığını ve hesap makinelerinin de insanları aptallaştırmadığını savunabilir.
    Ama hesap makinesine toplama yaptırdığımda ben yine aynı kişiyim; düşüncelerimin çoğunu LLM'e devredersem geriye ne kalır? Çocuk yetiştirmeyi, insan ilişkilerini, ürün tasarımını bile ona devredersem dünyaya kattığım özgün değer, bir kez yazdığım prompttan mı ibaret diye sormaya başlarım.
    İnsanların yazdığı romanlar, zorlukla kazanılmış ortak deneyimlere dayandığı için özünde daha değerlidir; ben de eski usulle roman yazabilen bir insan olmak istiyorum. Sporda da pek iyi olmadığıma göre en azından düşünme becerimi korumak istiyorum.

    • Fısıldayan Küpe makalesi LLM çağına özellikle iyi uyuyor.
      Yapay zekayı sürekli “Şimdi ne yapmalı ve bunu nasıl düzeltmeli?” diye soran bir küpe gibi de kullanabilirsiniz; istediğiniz sonucun biçimini önceden belirleyip “Bu probleme xyz metrik uzayını uygulayan bir kd-tree implemente et” diye talimat verdiğiniz bir dış iskelet gibi de. İkincisi, düşünme zaten tamamlandıktan sonra yürütmeyi otomatikleştirdiği için gözden geçirmesi kolaydır; ilki ise düşünme becerisini köreltir.
    • Tanıdığım LLM uç görüşlülerinin önemli bir kısmı, teknoloji alanında başarılı olacak bilgi veya yetkinlikten yoksun oldukları için LLM'i işleri halletmek için bir hile kodu olarak kullanıyor.
      Birkaç yıl önce bir Drupal sitesini doğru düzgün kuramayan lise arkadaşım şimdi bir yapay zeka startup'ında son teknoloji mühendisi oldu ve LinkedIn'de her gün yapay zeka moda sözcükleri paylaşıyor. Sonunda yapay zeka çıktılarıyla insan çıktılarının ayırt edilemediği bir noktaya gelinecek; hatta şimdiden ayırt edemeyen çok kişi var.
    • Hesap makinesi olsa bile bir tarifteki miktarları ayarlayacak kadar hesabı kafadan yapabilmek gerekir; ayrıca neyin hesaplanması gerektiğini de bilmek gerekir. “Hesap makinesi var, matematiğe gerek yok” mantığı, problemin ders kitabındaki gibi düzenli biçimde verildiğini varsayar.
      LLM ile programlama yaparken de ne isteyeceğinizi, sonucun gereksinim kapsamına uyup uymadığını, doğru ve güvenli olup olmadığını yargılayacak bilgiye ihtiyaç vardır. Çıktıyı bizzat inceleyip düzeltmeyen teknik olmayan kişiler, sonunda kendi başlarına debug edemeyecekleri bir duvara çarpar ve insan yardımına ihtiyaç duyar.
    • Hesap makinesi, matematik yapan insanın yerini almadı; matematik tabloları ve sürgülü hesap cetveli gibi zaten var olan araçların yerini aldı.
      O dönemin matematik öğretmenlerinin gözünden bakıldığında öğrencilerin eleştirel düşünmesi kesinlikle azalmıştı. Sürgülü hesap cetveli ve matematik tabloları kullanırken anlamlı basamaklar gibi şeyleri düşünmek gerekirdi; hesap makinesi ise böyle bir düşünme gerektirmez.
    • Hesap makinesini kullanmadan önce cevabın yaklaşık değerini zaten bilirsiniz; bu yüzden sonucun büyüklüğü veya işareti yanlışsa hemen fark edebilirsiniz. GPS de benzer; ama kendi başına yolunu bulamayan biri yazım hatası yaptığında veya yanlış Springfield'ı seçtiğinde bunu fark etmez.
      Bir iş arkadaşımın proje planını incelerken temel parametreleri kendim araştırıp anlamadığım yerleri sordum; arkadaşım toplantıda Claude'un bulamadığı birkaç problemi benim yakaladığımı söyledi. Bu, alanın tuzaklarını henüz öğrenmemiş yeni başlayanlar için özellikle tehlikeli; bu örnekte deneyimli biri bile işi bütünüyle LLM'e devretmişti.

  • “Artık kendini yönetici olarak düşün” tavsiyesinin aksine, yapay zeka çağında daha işe yarar biri olmak ve yapay zekayı da etkili kullanmak için teknik anlayışı derinleştirmenin daha iyi olduğunu düşünüyorum.
    Çocuklara ilgi duydukları alanların ders kitaplarını okumalarını öneriyorum; ben de öyle yapıyorum. Yakın gelecekte derin kavrayışın başlı başına nadir ve değerli bir kaynak olacağını tahmin ediyorum.

    • Yönetici olarak işi iyi yapabilmemin nedeni, astlarımdan istediğim işleri benim de yapabiliyor olmamdı. Bu sayede sonuçları eleştirel biçimde değerlendirebildim, gerçekçi takvimler belirleyebildim, onların katkılarını üst yönetime doğru şekilde aktarabildim ve personel eksik olduğunda işi doğrudan ben de üstlenebildim.
      İyi birinci kademe yöneticiler genelde bu yeteneklere sahipti; bunlara baştan sahip olmayan ya da uzun zaman önce kaybetmiş yöneticiler zorlandı. Üst düzey yöneticileri veya yöneticileri yönetmek farklıdır, ama LLM yönetimi birinci kademe yönetime benzer.
    • Zor kavramları öğrenmek hiç olmadığı kadar kolaylaştı; ama o kavramı anlamadan, o kavramın gerekli olduğu çıktıları üretmek de kolaylaştı. Güçlü yeni araçları sabır ve amaç bilinciyle kullanacak disiplin ve itici güç gerekiyor.
    • Ders kitabı önermektense yapay zekayı eleştirel kullanmayı öğretmek daha etkili olabilir.
      Makul ölçüde yetkin ama bazen ölümcül biçimde yanlış olan bir yapay zekayla konuşmak, soru sormaya, yanıtı sorgulamaya, araştırıp akıl yürütmeye, eleştirmeye ve sonra yinelemeye iter. Ders kitaplarının doğru olma ihtimali daha yüksektir ama garanti değildir; ayrıca bilgiyi tek yönlü aktarırlar. Buna karşılık yanlış bir yapay zeka yanıtı, kişiyi materyalle aktif olarak ilgilenmeye zorlar.
    • Yönetici olmak istemediğim için terfileri bile reddettim; bu yüzden yapay zeka nedeniyle “kendini yönetici olarak düşün” fikrinden de hoşlanmıyorum. İnsanları ya da otomasyonları yönetmek yerine doğrudan bir şeyler üretmek istiyorum.
    • Genç meslektaşlarıma ders kitabını açmalarını tavsiye ediyorum. Akademik temelleri yetersiz olduğu için sınırsız zamanları olsa bile bizzat implemente edemeyecekleri karmaşık sistemler kurarken performansı berbat ve tutarlı bir veri modeli bile olmayan şeyler ortaya çıkardıklarını görmek can yakıcı.

  • Tasarım incelemesi sırasında genç bir geliştiriciye belirli bir hesabı neden yaptığını sordum; “bilmiyorum” diye yanıt vermesi beni şoke etti. Hatalı hesaplamanın tamamı yapay zeka üretimiydi ve kendisi bunun yanlış olduğunu bile ayırt edememişti.
    Çoğu kişi yapay zekayı yeni bilgi öğrenmek için değil, işin kendisini ona yaptırmak için kullanıyor ve sonucu da anlamıyor. Bir prompt üreten kaynak olmaktan başka hiçbir değer katamıyorsa insana neden ihtiyaç var, diye sorguluyorum.

    • Mezuniyeti yaklaşan 90 öğrencinin tamamıyla bire bir basit bir kod incelemesi yaptığımda üç grup net biçimde ortaya çıktı. Yapay zekayla öğrenip kodu ve soruları anlayan öğrenciler; yapay zekayı neredeyse hiç kullanmayıp ne yazdığını bilen öğrenciler; ödevi yapay zekaya bırakıp tüm sorulara “bilmiyorum” diye cevap veren öğrenciler.
      Kendi kodunu bir kez bile okumadığını kabul eden bir öğrenciye, “Seni azarlamıyorum; şu anda burada tamamen gereksiz olduğunu kendi ağzınla söylüyorsun” dedim.
    • Her meslekte esas olan, kişinin kendi hatalarından veya başkalarının hatalarından öğrenerek biriktirdiği pratik deneyimdir. Kendi hatalarınızdan öğrenmezseniz uzman değil, kötü promptların hatalarından öğrenen profesyonel bir prompt yazarı olabilirsiniz ancak; bu yüzden ben ilkini seçerim.

  • İnsan işini otomatikleştirdiğimize kendimizi inandırmak kolay; ama giderek otomatikleşen şey aslında insanın özne oluşu ve düşünmesi. Modelin varsayılan olarak sunduğu ya da tek bir promptla ortaya koyduğu fikirler dilbilgisel olarak o kadar kusursuz ki, bunları görmezden gelip boş sayfadan akıl yürütmek zorlaşıyor.
    Düşünme sürecini kestirmeden atlamaya çalışan modele karşı koymak için bazı görevleri ve fikirleri yapay zekadan yalıtmak gerekebilir. Ancak hızlı ve çok çıktı üretme baskısı altında hangi zihinsel işleri yalıtacağımıza karar vermek bile son derece zor.

  • Bundan sonrası için, her ifadeye LLM alıntısı eklenmesi ve her eylem için onay alınması gereken, düşünmenin zorla yapay zekaya devredildiği bir çağ daha korkutucu geliyor. Bir toplantıda ortaya attığınız fikri Fable 9 kötü diye değerlendirirse ilerleyemezsiniz; karşı gelirseniz işten bile çıkarılabilirsiniz.
    En az dirençli yol her zaman LLM’in talimatlarını izlemek olacağı için, birçok insan düşünmeyi tamamen bırakacak. Yapay zeka konuşulabilen ama karşı çıkılamayan, yalnızca fikrini değiştirmeye ikna edilmesi gereken bir tanrı gibi muamele görebilir; bu korkunç bir zihinsel baskı ve bence yalnızca birkaç yıl uzağımızda.

    • Kısa vadeli kazanç için kolay yolu seçmek yerine dayanıklılığı artıran uzun yolu seçecek pek fazla kişi olmayacak.
      Zaten düşünmeyi LLM’e bırakıp sonra onun yanıldığını söylediğinizde öfkelenen insanlara sıkça rastlanıyor. Şirketimizin sunmadığı ürün veya hizmetleri talep ediyorlar; LLM’in yanıldığını kabul etmek yerine, sahadaki uzmanlar olarak bizi hatalı olmakla suçluyorlar. Sadece üç buçuk yıl içinde LLM’in uzmandan daha yüksek otorite olarak görülmesi, sanılandan çok daha yaygın hale geldi.
    • Fiilen 《1984》 ile aynı; artık tele-ekranları ve Hakikat Bakanlığı’nı büyük ölçekte hayata geçirecek teknolojiye de sahip olmuş durumdayız.

  • Hesap makinesi kullanmadan önce cevabın yaklaşık basamak sayısını zihinden tahmin ettiğimiz gibi, LLM’lere de aynı yöntemi uyguluyorum. Önce ben nasıl cevap verirdim diye düşünüyor, sonra ne kadar yakın olduğuna bakıyorum; cevaba güvenmeden, bağlamın nüanslarını dikkate alıyorum.
    Ancak ilgisiz kısımları gereğinden fazla ya da yetersiz açıklayıp, soruya biçimsel olarak cevap verse de nesnel olarak berbat çözümler sunduğunda daha çok yoruyor. Boş yer bırakmamak için puan toplamaya yönelik laf kalabalığı yapan bir öğrenci gibi hissettiriyor.

    • Çocuklara tüm hesaplamalarda logaritma tabloları ve hesap cetveli kullandırılsa, hesaplamaya geçmeden önce çözüm stratejisi kurmayı ve sayı hissini daha iyi öğrenebilirler gibi geliyor. Hesabın zahmetli kısmını fazla soyutlayarak matematiksel gelişimi engellemiş olabiliriz; ama bunun derslerde çok daha fazla zaman gerektirmesi gibi bir yükü de var.
    • Matematiksel nesneleri öğrenirken mümkün olduğunca zihinden hesap yapmaya kendimi alıştırdım; lineer cebir öğrenirken 4×4 matrisin tersini bile kafamda buluyordum. Kâğıt kalemi bile hile sayıyordum. Hesap makineleri ve bilgisayarlar bu işleri ömrüm boyunca benden daha iyi yaptı; bu açıdan bakınca bugün de değişen bir şey yok.
    • Okulda kâğıt kalem olmadan hesap yapmaya yönelik zihinden aritmetik dersleri aldım; hesap makinesi seçenek bile değildi. Altı yaşındaki çocuğuma da bu yöntemlerin bir kısmını öğretmeye çalışıyorum.
    • Hesap makinesi, nasıl kullanılacağını ve ne girileceğini bilmiyorsanız hiçbir şey yapamaz; oysa LLM o sürecin kendisini baypas eder. Bu yüzden hesap makinesi ile LLM karşılaştırmasının anlamsız olduğunu düşünüyorum.

  • Son zamanlarda danışmanlık işlerim giderek, başkalarının düşünmeyi yapay zekaya devretmesinden sonra ortaya çıkan sorunları toparlamaya kayıyor.
    Araştırma sorusuyla ilgisiz, saçma sapan tekilleştirme işlemlerini regex ile yapmaya çalışmak için Claude’a aylarını harcayan araştırmacılar da var; tüm araştırma metodolojisini ChatGPT’den doğaçlama çıkaranlar da. Sonuç her zaman karmaşa, büyük stres ve zaman kaybı oluyor.
    Teknik olmayan kişiler LLM’leri kehanet kaynağı gibi görüyor; sonuçların ima ettiklerini neredeyse hiç incelemeden büyük varsayımlar ve kararlar alıyorlar. Eleştirel düşünce eksikliği yapay zekadan önce de vardı, ama şimdi tamamen yeni bir seviyede; birilerinin “Claude’a soralım” demesiyle her yerde yanlış işler dönüyor olmalı.

    • Son zamanlarda avukatlar ve yazarlar docker ve agents hakkında, junior mühendisler gibi çok somut sorular soruyor. Bu iki meslek de zaten kişinin kendi işini ve başkalarının işini eleştirel biçimde incelemeye, titizlikle ele almaya çok zaman ayırır.
      Teknik çalışanlar dahil birçok kişinin LLM’leri kehanet kaynağı gibi görmesinin nedeni, kültürümüzün tuğlanın doğru yere gidip gitmediğinden ya da en başta doğru tuğla olup olmadığından çok, tuğlaları daha hızlı taşımaya önem vermesi. Tuğlanın burada neden önemli olduğu https://www.business.com/articles/management-theory-of-frank... ve https://en.wikipedia.org/wiki/Time_and_motion_study adreslerinde görülebilir.

  • LLM’ler insanları daha tembel yapıyor gibi. Cevabı aramadan önce kendi başlarına hiçbir çaba göstermeden önce soru soruyorlar ve karşıdakinin tüm işini bırakıp yapay zeka gibi ayrıntılı cevap vermesini bekliyorlar.
    Kullanım kılavuzlarını ya da belgeleri kimse okumuyor; okuyacak odak ya da irade yok, hatta var olup olmadığını kontrol etmeyi bile israf gibi görüyorlar. Eskiden de bir ölçüde böyleydi ama LLM’lerden sonra kendi başına düşünme ve çözme becerisinin çok daha kötüleştiğini hissediyorum.

  • Üretken yapay zekayı hiç kullanmadığım için kişisel olarak düşünmeyi devretmiş değilim. Çeşitli teknoloji ve programlama forumlarına baktıkça sektörün gittiği yönden hoşlanmıyorum.
    Bu akımın ortadan kalkacağına dair hâlâ umut var; ama ne kadar uzun sürerse zararın da o kadar büyüyeceğini düşünüyorum.

    • Burayı görmeseydim, tüm sektörün bu akımı %100 desteklediğini sanırdım. Hatırı sayılır bir muhalefet ve direnişin de var olduğunu bilmekten az da olsa umut alıyorum.
    • Tek umudum, sübvansiyonlarla desteklenen kullanım ücretlerinin sona ermesi ve LLM’lerin maliyet verimliliğinin artık daha iyiye gitmemesi. Silahı kullanmaya devam edebiliyorken gönüllü olarak bırakıp kılıcı alacak kimse yok.

  • En başta, çoğunluğun gerçekten düşündüğü varsayımı bile şüpheli. Genelde başkalarının düşünceleriyle karşılaşarak öğrendikleri kalıplara göre davranıyorlar; bunları kabul ederken ya da birbirleriyle çatıştıklarında da zorla bir tutarlılık oluşturuyorlar.
    Gerçek düşünme zor ve zaman alıcıdır; ama başkalarından öğrenilmiş kalıplar bile düşük hedeflere ulaşmak için yeterli olduğundan, zaman ve emek harcamaya yönelik motivasyon azdır. Modern yapay zeka, modern insanın düşünme yokluğunu daha hızlı ve çok daha fazla enerjiyle gerçekleştiren genişletilmiş bir sürüme daha yakın.

    • İnsanlara, tanıdığım hiç kimseyi böyle tarif edemeyeceğim kadar karamsar bakan bu bakış açısı bana yabancı geliyor. İnsanlarla derin sohbetler yapıp yapmadığınızı ya da hobi olarak sanat üreten insanlarla karşılaşıp karşılaşmadığınızı merak ediyorum.
      Teknoloji uzmanları insanı bu kadar değersiz görüyorsa insanlığın geleceğinden korkarım. Sonunda bedensel kaynaklarınız ataş üretimine yeniden tahsis edilse bile kimse üzülmeyecek.
    • Modernitenin insanı gerilettiğini düşünmüyorum. Düşünmek zahmetli bir işse enerjiden tasarruf etmek rasyoneldir; bu da insanın mimesis yeteneğini geliştirerek büyük ölçekli işbirliğinin temelini oluşturmuş olabilir.
      Az sayıda kişi zorlanarak düşünüp yeni ve yararlı şeyler keşfedebilir, çoğunluk ise bunları eleştirmeden taklit edebilir. Bu cesaret verici bir insan tasviri değil; ama kimseyi küçümsemek için de bir neden yok. Daha çok, stratejik olarak ele alınması gereken bir yaşam gerçeği gibi.
      https://en.wikipedia.org/wiki/Mimesis
    • Kurt Vonnegut’un 《Timequake》 eserinin ortalama bir insan hayatına çok iyi uyduğunu düşünüyorum.
    • “Gerçekten düşünen insan sayısı çok az” sözü doğrulanamaz ve soğuk bir kesin yargıdır.
    • LLM’leri insanbiçimci biçimde ele almak bile rasyonel söylem için zararlıyken, bu ifadeyi tekrar insanlara uygulayıp kelimelerin anlamını da bulanıklaştırmamak gerekir. İnsanlar “tutarlılık halüsinasyonu” görmez; halüsinasyon tanımı gereği gerçekle örtüşmeyen algıdır.
      Yapay zeka yalnızca mevcut düşünme yokluğunun bir uzantısı değil, daha önce olmayan sorunlar da yaratıyor. Bilginin en ileri hattında derin düşünen bilim insanları, lisansüstü öğrenciler ve doktoralı araştırmacılar bile LLM kullanımıyla düşünme becerilerini kaybettiklerinden endişe ediyor. Bunu daha hızlı ve daha fazla enerjiyle kötüleştirmeye teslim olmak yerine durdurup tersine çevirmek gerekir.