Yapay zeka yeteneklerimizi köreltiyor mu? İlk araştırma sonuçları olumsuz

• İş ortamında yapay zeka araçlarına bağımlılık arttıkça, tıp ve bilgisayar bilimi gibi uzmanlığın kritik olduğu alanlarda insanların biriktirdiği yetkinliklerin zayıflayabileceğine dair ilk kanıtlar ortaya çıkıyor
• Polonya’daki endoskopi uzmanları üzerinde yapılan bir çalışmada, yapay zeka kullanılmadığında adenom tespit oranı %28,4’ten %22,4’e düştü
• Anthropic’in randomize kontrollü deneyinde, yapay zeka desteği alan mühendislerin quiz ortalama puanı %50 oldu; bu oran destek almayan grupta %67 idi
• ABD’li sağlık çalışanları anketinde hemşirelerin %70’i, doktorların %77’si yapay zekaya aşırı bağımlılık nedeniyle yetkinlik kaybından endişe duyuyor
• Geçmişte GPS’in yön bulma becerisini zayıflatmasına benzer şekilde, üretken yapay zeka düşünme ve yorumlama gibi bilişsel yetilerin kendisini otomatikleştiren ilk teknoloji olarak insan uzmanlığını korumayı önemli bir mesele haline getiriyor

---

Yapay zeka kaynaklı deskilling olgusunun yükselişi

• Profesyoneller işlerinde yapay zeka araçlarına bağımlı hale geldikçe, emek verilerek edinilmiş becerilerin körelebileceği yönündeki kaygı sağlık uzmanları, bilgisayar bilimcileri ve diğer çevrelerde yayılıyor
• Wolters Kluwer’in bu ay yayımladığı ABD sağlık çalışanları araştırmasında hemşirelerin %70’i, doktorların %77’si yapay zeka sistemlerine aşırı bağımlılığın yol açacağı yetkinlik kaybından endişe duyduğunu belirtti
• Tıp ve bilgisayar bilimi dahil çeşitli alanlarda yapay zekanın yol açtığı 'deskilling' sürecinin başladığına dair kanıtlar sunulurken, araştırmacılar yapay zeka çağında insan uzmanlığının nasıl korunacağını tartışıyor
• Syracuse University bilgi bilimci Kevin Crowston: "Bu olgunun varlığını fark etmek bile, hangi becerileri koruyup hangilerini yapay zekaya dış kaynak olarak vereceğimiz konusunda öz değerlendirme yapmamızı sağlayabilir"

Sağlık alanı — endoskopi uzmanları araştırması

• Araştırma tasarımı

  • Polonya’daki endoskopi uzmanları üzerinde yapılan çalışmada, katılan doktorların tamamı kariyerleri boyunca en az 2.000 kolonoskopi gerçekleştirmiş kişilerdi
  • Bu doktorlara, kolonoskopi görüntülerini gerçek zamanlı analiz ederek kanser öncesi bağırsak lezyonları olan adenomları işaretleyen bir yapay zeka sistemi sağlandı
  • Araç bazı günler kullanılabilir, diğer günler ise kullanılamaz olacak şekilde işletildi

• Sonuçlar

  • Doktorlar yapay zekayı kullanmaya başladıktan sonra, sistemin kullanılamadığı zamanlarda performanslarının anlamlı biçimde düştüğü görüldü
  • Yapay zeka devreye alınmadan önceki 3 ay boyunca uzmanlar, kolonoskopilerin %28,4’ünde en az 1 adenom tespit etti
  • Yapay zeka devreye alındıktan sonraki 3 ayda, yapay zeka desteği olmadan yapılan kolonoskopilerde adenom tespit oranı %22,4’e geriledi
  • Sonuçlar geçen ekimde The Lancet Gastroenterology and Hepatology dergisinde yayımlandı

• Uzman yorumu

  • University of California, San Francisco’dan doktor Robert Wachter: "Son derece yüksek beceriye sahip uzmanlarda bile, yapay zekaya bağımlılık arttıkça iş için gerekli görevleri yerine getirme becerisi azalabilir"
  • Araştırmanın yazarları: "Bu tür araçlara sürekli maruz kalmak, klinisyenlerin yapay zeka olmadan bilişsel kararlar verirken daha az motive, daha az odaklı ve daha az sorumluluk sahibi olmasına yol açabilir"
  • University of Oslo’dan doktor ve araştırmacı, aynı zamanda ortak yazar olan Yuichi Mori: "Bu olguyu doğrulamak için daha fazla araştırma gerekiyor, ancak yapay zeka kullanıcıları bazı becerileri kaybetme riskinin farkında olmalı"
    • "Şu anda deskilling konusunda yerleşik bir çözüm yok ve bu, önümüzdeki 10 yılın çok önemli araştırma başlıklarından biri olmalı"

Bilgisayar bilimi alanı — Anthropic kodlama deneyi

• Bilgisayar biliminde beceri kaybı olup olmadığını incelemek için, San Francisco merkezli yapay zeka şirketi Anthropic’in araştırmacıları 52 yazılım mühendisiyle randomize kontrollü bir deney tasarladı
  • 52 katılımcının tamamı temel kodlama görevleri sırasında web aramasına ve nasıl yapılacağına dair yönlendirmelere erişebiliyordu
  • Yarısına ek olarak bir yapay zeka asistanı kullanmaları önerildi
• Görev sonrasında öğrenilen içerikle ilgili quizde yapay zeka kullanan grubun ortalaması %50, kullanmayan grubun ise %67 oldu
  • Yapay zeka desteği alan katılımcılar özellikle kod hatası teşhisi sorularında zayıf kaldı; bu da az önce yazdıkları kodun kavramlarını öğrenemediklerini gösterdi
  • Çalışma, hakem değerlendirmesinden önce preprint sunucusu arXiv’de yayımlandı
• Crowston: "Artık performans ile öğrenme arasında tuhaf bir kopukluk var"
  • "İnsanların oldukça yüksek düzeyde performans gösterebilmesinin temel nedeni, beceriyi yapay zekadan ödünç almaları; bu beceriyi kendileri geliştiremiyorlar"
  • Bu sonuçlar özellikle alandaki öğrenciler ve genç profesyoneller için endişe verici

Bilişi dış kaynaklaştırmak — geçmiş teknolojilerle karşılaştırma

• University of Queensland’dan bilgi sistemleri araştırmacısı Tapani Rinta-Kahila: "Geçmişte de GPS navigasyonun yön bulma becerisini zayıflatması gibi bazı becerileri gereksiz hale getiren teknolojiler vardı"
  • Ancak üretken yapay zeka, "uzun süredir insana özgü kabul edilen düşünme ve yorumlamaya ilişkin bilişsel yetileri otomatikleştiren ilk teknoloji"

• Muhasebeci örneği

  • 2018’de yayımlanan bir araştırmada, 10 yıldan uzun süre otomatikleştirilmiş ama yapay zeka içermeyen muhasebe sistemlerini kullanmaya devam eden bir muhasebeci grubu incelendi
  • Araç ortadan kalktığında muhasebecilerin çeşitli rutin görevleri nasıl yapacaklarını unuttukları görüldü
  • "Yeni nesil programcılar yeterli pratik deneyim edinmezse, kodlamanın temellerini tam olarak anlayamayabilir"
  • "Aynı durum muhasebe, hukuk ve diğer bilgi yoğun meslekler için de geçerli"

• Beceri aşınmasını önleme önlemleri

  • Üretken yapay zekaya ne kadar çok görev devrettiğinizin farkında olmanız gerekiyor
  • Üretken yapay zeka modellerinin nasıl çalıştığını ve sınırlarını doğru anlamalı, doğrulama yapmadan yapay zeka çıktısına güvenmemelisiniz
  • "Üretken yapay zekaya bağımlılık ile bilinçli teyakkuzu sürdürme arasındaki rekabetçi dinamiği yönetmek gerekiyor"

[GN⁺]

Hacker News görüşleri

• Fazla rahat yaşadık. Klimalı ofislerde Herman Miller koltuklarında oturup bilgisayar öğrenerek yüksek maaşlar aldık; şimdi ise zekâyı sentezlemenin yolunu bulduktan sonra aklımıza gelen şeyin çoğu, hayal edilebilecek en eğlenceli kariyeri mahvetmekten ibaret
  Elbette şu anda daha üretkeniz, ama bunun ne kadarı eskiden elle biriktirdiğimiz zekânın üstüne AI ekleyip kullanmamız sayesinde, bilmiyorum
  36 ay sonra sistem bilgimizin körelip genel olarak daha kötü geliştiriciler olmayacağımızı kim garanti edebilir
  Burada söylenen AI kullanmayalım değil. Özellikleri bizzat geliştirirken GitHub Workflows kurmak ya da VPS üzerindeki bir ajana internetteki işleri yaptırmak gibi faydalı yan işlerde onu hep kullanıyorum. Bir miktar sentetik zekâ iyidir
  Ama kendi zekânızı tamamlayıcı olmak yerine onun yerine koyarak güçlendirmek iyi değil. Steroid kullanınca vücudunuza zarar verirken kaslı da olabilirsiniz; bence asıl kazanç tam da o işi yapma sürecinin içinde. Kısayol, çoğu zaman en tehlikeli yol olur

  • “Daha üretken miyiz” sorusundan çok, AI çağının bizi sadece daha fazla ve daha hızlı üretmeye daha da derin biçimde ittiğini sormak istiyorum. Peki ne uğruna?
    Yazılım mühendisi olma nedenim kod yazmanın, karmaşık problemleri düşünüp çözmenin ve kendi ellerimle yaptığım bir şeyin ilk kez çalışmasının verdiği ödül hissinin eğlenceli olmasıydı
    Kod yerine ajan ordularını yönetmek gerçekten eğlenceli mi? Yoksa tek başına mümkün olmayacak kadar hızlı bir şeyler üretmenin temposu mu keyif veriyor? Hızlı hareket etmek tek başına benim için eğlencenin özü değildi
    Tekrarlı işleri ya da boilerplate’i azaltmak için AI kullanılmasını anlıyorum, ama ajan tabanlı geliştirmeye tamamen yüklenen insanları görünce gerçekten sorguluyorum
  • Birçok geliştirici için 36 ay sonra daha kötü bir geliştirici olmak aslında en iyi senaryo olabilir. İşgücü piyasası zaten üretkenlik artışını emmeye göre değişiyor ve işini korumak için herkes daha fazla üretmeye zorlanacak
    Talep, üretkenlik artışını hemen yakalayamaz; şirketler de bu yüzden sadece daha fazla satamaz, sonunda işten çıkarmalar olur. Daha az iş için daha çok kişi rekabet ederse geride kalanların ücretleri de düşer. Bu temel bir arz-talep meselesi
    2024’te “Benim işim fazla karmaşık ya da fazla uzmanlık gerektiriyor, etkilenmem” diyenlerden bugün aynı şeyi söyleyecek kaç kişi kaldığını merak ediyorum
    Şirketler ya giderek pahalılaşan token başı fiyatı ödeyip insan maliyetini azaltacak ya da bu takasın değmediğine karar verip yeniden insan zekâsına yatırım yapacak. Önümüzdeki birkaç ayda sektörün ekonomisi kararı bizim yerimize verecek gibi görünüyor
  • Ya AI’ı yanlış kullanıyorsunuz ya da çalıştığınız yer iyi değil. Benim için AI ile kod yazmak çok eğlenceli
    LLM’ler ve araçları, sistem tasarlarken uymamız gereken yeni kısıtlar gibi; iyi kullanılırsa eskisinden daha büyük ve daha iyi şeyler inşa edebilirsiniz. Programlama beceri ağacında tamamen yeni bir dal öğreniyormuşum gibi geliyor
    Tabii bunu Claude uygulamanın RBAC yapısını tamamen mahvedip son iki gündür her şeyi yeniden kurmama neden olduktan sonra söylüyorum
  • “Biz” dememenizi tercih ederim. Pek çok insan bu modelleri ya da şirketleri ne istedi ne de onlara katkıda bulundu. Katkı sayılacaksa, kodlarının/verilerinin/fikrî mülkiyetlerinin çalınması kadar oldu
    Birçok kişi AI kullanımına gönüllü olarak geçmedi; işverenleri tarafından fiilen zorlandı. Ayrıca AI sayesinde herkes daha üretken de olmadı; kazandığı zamanı AI’ın yazdığı kodu gözden geçirmekle harcayan çok kişi var
  • İş yerinde LLM kullanmam zorunlu tutuldu ve bana “anlamaya çalışma, sadece çalışır hale getir” dendi. Bunu, cümlenin saçmalığı apaçık değilmiş gibi söylediler
    O günden beri bu işten, belki de bu kariyerden çıkmanın yolunu arıyorum
    Sonunda gerçekten önemseyen insanlar elenecek ya da kendileri ayrılacak ve bu alanın tamamı Dunning-Kruger tarzı AI maksimalistleriyle dolacak. “AI mühendislerin yerini alacak” sözü doğru olabilir, ama bunu söyleyenlerin düşündüğü nedenlerle ve biçimde değil

• Bunun çok zengin ya da çok üst düzey yöneticiler için de aynı etkiyi yaratıp yaratmadığını merak ediyorum. Böyle insanlar zaten uzun zamandır düşünmeyi “dış kaynak” olarak verebilen kişilerdi; iş devri, araştırma/özet isteme, görev atama vb. yapıyorlardı.
  Böyle şeyleri insanlara devretmek de yetkinliği aynı şekilde köreltiyor mu? Yoksa AI temelden farklı mı? Farklıysa neden? Her şeyi devretmemek yönünde ahlaki ve toplumsal baskı olmadığı için mi?

  • Evet. Günlük uygulamalı geliştirmeden yönetim pozisyonuna geçtiğin andan itibaren beceriler gerilemeye başlar. Büyülü biçimde gerilemese bile, yeni gelişmeleri takip edip pratik yapmıyorsundur.
    Yönetici rolünü düzgün yapıyorsan bu, mümkün kariyer yolları içinde en korkutucu olanıdır. Birkaç yıl sonra düşük ücretli uygulamalı geliştirici olarak gerçekçi biçimde geri dönmenin yolu kalmaz. İşin, bir şeyi kendin yapmak değil, başkalarının yapmasına yardımcı olmaktır.
    Elbette arada bir alan var; Ar-Ge ya da yan projelerle becerilerini biraz bilemeye çalışırsın, ama bu her gün üretim sahasında yapılan pratik işlerle aynı değildir.
    Başlangıçtaki beceri seviyesi kişiden kişiye değişir, ama zaman içinde alınan etki genelde benzerdir.
    Tecrübeli bir mühendis yönetim yoluna geçmek istediğini söylediğinde en güçlü uyarıyı tam bu noktada yaparım. Hafife alınacak bir karar değildir.
  • Evet. Profesörlerde ya da üniversite dekanlarında da olur.
    Bu yüzden Noam Shazeer’in OpenAI’ye katılmasını da bağlam içinde görmek gerektiğini düşünüyorum. Evet, iyi bir transfer, ama onun hâlâ başkalarının daha güncel biçimde sahip olmadığı gizli bir büyü getirdiğine inanmak için kendine özgü bir neden yok.
  • Sahipler sınıfı fiilen çalışmaz. Onların devrettiği yüksek seviyeli planlar, yazılım mühendisliği gibi işlere kıyasla AI ajanlarının yapması için daha kolaydır. Çünkü o kadar hassas ya da uygulanabilir olmaları gerekmez.
    Yine de kapsam çok geniş ve rolün riski yüksek olduğu için, insanı aradan çıkarmayı yeterince “güvenli” kılmak adına Fable 5 ya da Fable 6 düzeyinde görsel-dil modelleri gerekebilir.
    2027’de patlama yaşayacak olan şey otomatikleştirilmiş AI şirketleri olacak ve insan CEO’lar ile sahipler bu tür AI işletilen şirketlerle rekabet edemez hale gelecek.
  • Zihinsel işler, daha genel olarak da yukarı ya da aşağı gidilebilen bir beceri ağacı olan her alan, pratik yapmazsan zamanla körelir. Bir süre koşmayınca yeniden koşmaya başladığında eski kişisel dereceni hemen yapamamana benzer.
    Bir süre uzak kaldıktan sonra yeniden yetişmek, beceriyi en baştan hiç geliştirmemiş ya da doğuştan yeteneği olmayan birine göre daha kolaydır, ama egzersiz yapmazsan kesinlikle gerilersin. Saf yönetim/strateji rollerine çıkıp uygulamalı becerilerini korumayan liderlerin sonunda anlama hızları epey düşmüştü.
    Bu araştırmanın yapılmış olması iyi. AI ile insan refahı arasındaki ters korelasyonun çağımızın büyük meselelerinden biri olduğunu düşünüyorum. Ama bu sonucun kendisi oldukça bariz görünüyor.
  • Birkaç yıl yöneticilik yaptıktan sonra fizzbuzzı bile zar zor yapabilen epey eski programcı yöneticiler gördüm. Bu yüzden oldukça benzer olduğunu düşünüyorum.
    Beynin birçok kısmı “kullanmazsan kaybedersin” ilkesine yakındır ve bu tür delegasyon kullanmamak demektir.
    Yine de LLM’lerin, insanlara devretmekten çok daha kötü olma ihtimali fazlasıyla var. Kısmen de yineleme döngüsü o kadar hızlı ki, aşırı zengin olmasan bile insanlardan satın alamayacağın bir hız elde ediyorsun.

• Bir yılı aşkın süredir tek bir kod fonksiyonunu baştan sona kendim yazmadım. Onun yerine mimari ve sistem özellikleri üzerine çok daha fazla zaman düşünüyorum.
  Bu yüzden çok düşük seviyeli becerileri bir ölçüde kaybettiğimi hissediyorum. Ama belki de daha yüksek seviyeli becerilere daha fazla zaman ayırabilmeye başlamışımdır. Doktorların görüntüleri yorumlamada kötüleşip ama hastanın bağlamını düşünmek için daha fazla bilişsel kaynak kazanması gibi olabilir mi?
  Emin değilim.
  Yine de artık AI olmadan oturup kod yazmak için kendimi harekete geçiremiyorum. Fazlasıyla yavaş ve neredeyse acı verici geliyor.

  • Yeni gelen birinin, örneğin veri yapıları ve düşük seviyeli algoritmalarla gerçek uygulamalarda bizzat boğuşmanın verdiği zihinsel eğitim olmadan bu kadar faydalı ve üretken düşünme biçimlerini edinip edinemeyeceğini merak ediyorum.
    Tasarım okulundayken işin önemli bir kısmı grafit, kesilmiş kâğıt, boya, kömür gibi fiziksel malzemelerle yapılıyordu; bunun yanında çok iyi kerning ve dijital araç kullanımı pratiği de vardı. Dijitalde de tek tek darbeler üretmek ve uygun aracı seçmek gerekiyordu, ama tamamen dijital geçmişten gelen insanlarda süreç farkındalığında bariz eksikler oluyordu.
    Bu, sadece fotoğraf referansıyla çalışmış birinin canlı çizim yapmaya çalışmasına benziyor. Zaten 2D olan bir şeyi çizerken bilişsel sürecin bütün bir parçası kullanılmıyor. Öğrenilebilir, ama zorunlu tutulmazsa kişi muhtemelen fotoğraf çekmeye ve onu çizmeye devam eder.
    Görsel üretim, çok ayrıntılı inpainting olsa bile o kadar farklı ki karşılaştırması bile zor. İleri düzey görsel üretim deneyimi olan birinin resim çizmeyi öğrenmeye başladığında tamamen acemiden çok daha ileride olduğunu söylemekte tereddüt ederim. Fotoğraf referansıyla çalışan biri için durum öyle değil; tabletle canlı çizim yapmış tamamen dijital bir sanatçı için ise hiç değil.
    Milenyum kuşağı teknolojiye hep erişebildi ama çevirmeli bağlantı döneminde bilgisayar kullanmayı da yaşadı; bu yüzden tipik bir “iPad kid” gibi dizin yapısında bile gezinemeyen birine kıyasla genel olarak teknolojiye daha hâkim olmalarına benziyor.
  • Mesele, odaklanabileceğin üst düzey beceriler olarak neyin kalacağı.
    Proje yönetimi ya da mimari gibi işlerde AI’ın özünde daha kötü olduğundan emin değilim.
  • AI kullandığında düşünce için fazladan alan açıldığı, böylece daha üst seviye şeyleri düşünecek bilişsel kapasitenin serbest kaldığı yönündeki AI rahiplerinin söylediği doğru olsa bile, patron bu fazlalığı sana nasıl kullandıracak? Kullanıcının daha üst düzey bilişsel beceriler geliştirmesine izin mi verecek? Hiç sanmıyorum.
    Diyelim ki yazıdaki doktorlar AI sonrasında daha kötü performans gösterdi. AI sayesinde önceden 10 testin yapıldığı sürede artık 100 test yapılabiliyorsa, işveren o boşalan emek zamanını nasıl kullanır? Elbette daha fazla test yaptırır ve artık gerek kalmayan bazı doktorları işten çıkarır.
    Hayatta kalan doktorlar vasıfsızlaştırılmış halde aynı ya da daha fazla işi yapar ve toplum daha düşük kaliteli sağlık hizmeti alır. Ama işveren işçilikten tasarruf eder ve hissedarlar mutlu olur tabii.
  • Biz IBM delikli kartlarının nasıl kullanılacağını öğrenmedik. Modern dillerde fonksiyonları elle yazmak da hızla anakronik bir iş haline geliyor.
  • Birçok CEO’nun gözünde sen yavaş yavaş işe yaramaz hale geliyorsun.

• Bu yeni bir şey; özellikle de ölçeği yeni. Mesele birkaç bireysel “beceri” değil, neredeyse hepsi. Derin, geniş ve ısrarlı düşünme kapasitesinin en temel kısmı meydan okumayla karşı karşıya. Bu daha önce hiç böyle yaşanmadı
  Ajanların çalışmasını izlemek bazen şaşırtıcı, hatta nefes kesici olabiliyor. Tersine, tam da bu güç yüzünden, aynı ölçüde o ayartıya ve etkisizleşmeye karşı savunmasız hale geliyoruz. Uzun vadeli psikolojik etkilerinin potansiyeli neredeyse güçlü uyuşturuculara yakın

  • Derin, geniş ve ısrarlı düşünme kapasitesinin zorlanması açısından akla önce sosyal medya ve içerik algoritmaları geliyor. Yapay zeka çağına girmeden önce bugünkü korkunç durumu yaratan ilk dalga onlardı
    Bugünlerde yankı odalarına düşmek fazla kolay, silolardan çıkmak ise çok zor
    İki ucu keskin bir kılıç olabilir. Çoğu insanın her şeye kadir bir kehanet gibi inandığı yapay zeka, sosyal medyada ya da Youtube, TikTok kaydırırken pasif biçimde benimsediğimiz görüşlere karşılaştığımız tek itirazı da sunabilir
    Örneğin Claude, ChatGPT, Grok’a Marjorie Taylor Greene gibilerinin sosyal medyada öne çıkardığı 2018 Hawaii orman yangınlarındaki “uzay lazerleri”ni sorarsanız, bunu hızla saçmalık diye çürütüyorlar
    Sonunda herkes sadece duymak istediğini söyleyen kendi yapay zekasına sahip olabilir. Ama şimdilik Grok bir iddiayı reddettiği için Twitter’da tartışmayı bırakan insanlar gördüm. O yüzden biraz umut var gibi
  • “Bu daha önce hiç olmadı” demeden önce insanların radyonun ve televizyonun icadı hakkında neler söylediğini okumak gerekir
    Ajanların çalışmasını izlemenin nefes kesici derecede etkileyici olması gibi, sihir de öyledir. Bunun tamamının tam olarak anlamadığımız bir yanılsama olabileceği yönündeki rahatsız edici ihtimal insanlara pek yük olmuyor gibi görünüyor
    Uzun vadeli psikolojik etkinin güçlü uyuşturucular gibi olması, bu ürünün sahiplerinin onu nasıl pazarlamayı ve dağıtmayı seçtiğiyle daha çok ilgili olabilir. Örtü biraz aralanınca sarhoşluk korkuya dönüşebilir. Upton Sinclair tarzı bir an yaklaşıyor
  • İnsan zihni de beden kadar meydan okumaya ihtiyaç duyar. Gelişmek için, hatta yüksek bilişsel düzeyi korumak için tek yol budur
    Hemşireler, doktorlar ve aileler, bir insan aniden yatağa bağlandığında ve uyarım ile üstesinden gelebileceği zorluklar en aza indiğinde yaşam çizgisinin ne kadar keskin düştüğünü çok iyi bilir
    LLM’ler meydan okumayı ortadan kaldırıyor ya da en aza indiriyor. İşveren için maliyet düşürmenin dışında mühendise ne tür bir katma değer sağladığını hayal etmek zor. Elbette eskisinden 10 kat daha fazlasını yaptığını söyleyenler çıkacaktır ve gerçekten öyle olanlar da vardır, ama buna da şüpheyle yaklaşıyorum. Geri kalan çoğu insan için iyi değil ve çoğu pazarda fiyat yüzünden kullanılamaz hale gelmedikçe de daha iyi olmayacak

• 40 yaşımda yeni şeyleri hayal bile etmediğim bir hızla öğreniyorum. Yeni sporlar, yeni iş, yeni akademik ilgi alanları
  Teknoloji bir kaldıraçtır ve AI sahip olduğumuz en büyük kaldıraçtır. Tembelliği de mümkün kılar, muazzam üretkenliği de. Bundan sonraki yolu insan kendisi seçer

  • Senin için geçerli mi bilmiyorum ama bilimin sınırlarını keşfettiğine inanmaya başlayan birkaç arkadaş gördüm ve sonuçta konuşma hep tuhaf kuantum ve metafizik tarzı saçmalıklara savruldu
    LLM’ler yağcıdır ve uzun konuşmalarda bu yağcılık bir pozitif geri besleme döngüsü yaratır. Bağlam penceresine yanlış bir yorum ya da benzetmeye yönelik onay girdiğinde, chatbot önceki metnin en makul devamını ürettiği için o yolda ilerlemeyi sürdürür
    Bir bakmışsın evrenin gizli dokusunu keşfediyorsun; bu da her zaman Minkowski fraktal uzay-zaman tensör kafes manifoldları ve subharmonik DNA nanotüpleri gibi bir şey olur
    Bu yüzden ne öğrendiğini değerlendirmek ve gerçekten öğrenip öğrenmediğini doğrulamak için sağlam bir yöntemin yoksa dikkatli olmakta fayda var
  • Öğrenmiyorsun. Öğrenme doğrudan yapmayı içerir
    Bu çok uzun zamandır biliniyor. Bir öğrenci sadece matematik kitabı okuyup problemleri tekrar tekrar çözmezse sınavı geçemez
    En iyi ihtimalle sadece bir şeyler okuyorsun. Kodlama ajanı kullanıcıları bunu bile yapmıyor
  • Öğrenmiyorsun. Açıklamalar dinliyorsun ve çoğu zaman bunları ortalamanın altındaki bir beceri düzeyiyle kullanmana yarayan bir çekiç verilmiş oluyor
    Öğrenme çok büyük zaman yatırımı gerektirir. LLM kullanmak o süreyi azaltmaz
  • AI sporda tam olarak nasıl yardımcı oluyor? Daha iyi bir sporcu mu oldun? Örneğin koçluk açısından her sporun stratejisi hakkında daha çok şey öğrendin mi? Biraz ayrıntı verebilir misin
  • Aslında katılıyorum. LLM’lerle kavramları öğrenip keşfedebildiğimi kesinlikle hissediyorum. Ama ben zaten baştan beri kendi kendine öğrenmeye yatkın ve motivasyonu yüksek biriydim
    Teknik olarak bildiğim her şeyi kendi çabamla öğrendim. Bu yüzden bu araçların daha çok iş yaptıran bir model olarak değil, daha iyi iş yapmaya yardımcı olan bir model olarak pazarlanmasını isterim
    Şu anda insanları daha yetkin hale getirmekten çok, kitlesel işten çıkarmaların bahanesi olarak kullanılıyorlar. Doğal olarak, gerçek yeteneklerini abartılı göstermeye çalışmak için kullanan çok sayıda insanı da kendine çekti

• Araç kullanımı genelde böyle bir eğri izler. Bir beceriyi korumak istiyorsanız, onu gerçekten korumalısınız
  Bunun kendisi özünde kötü değil. Araçlar, araçsız yapabileceklerimizden çok daha fazlasını mümkün kılar ve bir araç devraldığında bazı becerilerin hâlâ özsel olarak önemli olup olmadığı tartışmaya açıktır

  • Buradaki zor kısım, köreltmeye çalıştığımız beceri kümesinin fiilen sonsuz kapsamda olması
    Hesap makinesi gibi problem alanı net tanımlı özel bir araç değil. Gerçekte birçok insan yapay zekayı kodlama ya da görsel tasarım gibi uzmanlık alanlarında kullanıyor, ama ilke olarak şu an çalıştığımız soyutlama düzeyinin kendisini bile AI’a devretmememiz için bir neden yok
  • Bu durumda büyük sorun, bu aracı iyi kullanabilmek için bile temel becerilerin geliştirilmiş ve korunmuş olması gerekmesi. Elektrikli matkapla çok farklı
  • Sorun olup olmadığını belirleyen fark, aracın ne kadar güvenilir olduğuna bağlı. Hesap makinesi ya da derleyici ise sorun yok. Yazıdaki örnek olan makine öğrenimli görüntü sınıflandırma da makul görünüyor ama emin değilim
    LLM çıktıları güvenilir değil, dolayısıyla hâlâ muhakeme gerekiyor. Kodu değerlendirebilmek için de onu belli ölçüde bizzat ele almış olman gerekir. Bu yüzden güvenilir olmayan bir araç, bu belirsizliği kabul etmiyorsan pek yardımcı olmaz
  • Doğru. Ama o araca sahip değilsen ve merkezi, hatta siyasete ve devlete komşu grupların elindeyse, “bilgisayar hayır diyor” anına geldiğinde ciddi biçimde zor durumda kalırsın

• Staff+ mühendisleri düşününce bu şaşırtıcı değil. Yaptıkları iş, AI'ya komut vermeye oldukça benziyor. Çoğu; emek, güçlü mühendislik becerileri, soft skill'ler ve biraz da şansla merdiveni tırmanıyor. Ama şirket büyüdükçe kodlama, debugging ve derin tasarıma ayırdıkları zaman giderek azalıyor
  Bunun yerine çok teknik bir ürün yöneticisi gibi davranıyorlar. VP'lerin yüksek seviyeli ürün gereksinimlerini planlayıp yazmasına yardımcı oluyor, üstüne biraz teknik jargon serpiyorlar. Beyaz tahtaya kutular çizip şık slaytlar hazırlıyor, liderliğin hoşuna gidecek polished belgeler yazıyorlar. Ya toplantıdalar ya da bir sonraki toplantıya gidiyorlar; teknik bir fikirleri olduğunda da doğrulaması için ekibi gönderiyorlar
  Doğal olarak hâlâ kendilerini derin teknik biri gibi hissediyorlar, ama bir üretim kesintisini çözmeleri, teknik mülakatı geçmeleri ya da çok fazla kod yazmaları gereken bir gün geldiğinde becerilerinin paslandığını fark ediyorlar
  Bu bir eleştiri değil; gerçek bir kariyer sorununu vurgulama çabası. Mühendis olarak teknik yetkinliklerinizi keskin tutmak istersiniz, ama organizasyon merdivenini çıkmak için daha fazla organizasyon işi üstlenmeniz gerekir. Aklıma gelen tek çözüm, araştırmacı ya da profesöre daha yakın bir role yönelmek. İyi profesörler de zamanla makale yazmaya veya formül türetmeye daha az vakit ayırır, ama içgörüleri derinleştiği için doktora öğrencilerine rehberlik edip harika sonuçlar çıkarırlar. Yine de o yol, söylemesi kadar kolay değil

• Benim gördüğüm en büyük olumsuz etki, insanların ortaya attıkları şeyi değerlendiremeyecek kadar hızlı hareket etmesi. Fazla hızlı hareket ederseniz zevk geliştirecek ya da aynı probleme yönelik farklı yaklaşımların nüanslarını anlayacak zamanı bulamazsınız
  Ben de LLM'leri epey kullanıyorum, ama çıkan koda takılıp onu inceleyerek geçirdiğim süre, ortalamada iş arkadaşlarımdan çok daha uzun gibi geliyor. İlk çıkan şey “çalışıyor”, ama zihnimde biraz oturttuktan sonra gerçekten merge etmeye uygun olduğuna ikna olana kadar genelde ilk fikri 2-3 kez daha yineliyorum
  Bu yüzden toplamda bakınca, gerçekten önemli olan tasarım seviyesi meselelerde üretkenliğimin çok arttığını hissetmiyorum

• Öncelikle endoskopi çalışmasının değerini merak ediyorum. AI kaynaklı olası deskilling öncesi ve sonrası bulunan adenom sayısını karşılaştırmak için adenom görülme oranının sabit olduğunu varsaymak gerekiyor; bu varsayım da pek güvenli görünmüyor
  Sorun çalışmanın kendisinde mi yoksa özetinde mi bilmiyorum, ama katılımcıların bir temel analizle karşılaştırıldığında ne kadar iyi performans gösterdiğini ölçmek çok daha iyi bir çalışma tasarımı olurdu ve gerçekten beceri değişimi olduğuna dair daha fazla güven verirdi
  Ayrıca okuma süresi azaldı mı, ya da AI hızlı okuduğu için eski usulle taramayı okumaları gerektiğinde daha fazla baskı mı hissettiler, bunu da merak ediyorum. Bu da potansiyel bir karıştırıcı etken
  İkincisi, AI yüzünden ölçülebilir bir deskilling görülmesi şaşırtıcı değil. Ama geçmişte de yazım denetleyicileri ve hesap makineleri yüzünden deskilling tespit edilebilirdi. Yine de bugün kimse çıkıp kelime işlemci kullanmayalım, parmakla ayak parmağıyla sayalım ya da uzun bölme yapalım demiyor
  Hangi beceri ve bilginin uzmanlar için gerçekten önemli olduğu, hangilerinin teknolojiye outsource edilebileceği konusunda her zaman ödünleşimler vardır. Şu an bir geçiş dönemindeyiz; çünkü teknoloji hem yeni hem de çok hızlı değişiyor. Birkaç yıl sonra benimseme eğrisinde daha yukarı çıkıp bazı alanlarda değişim hızı dengelendiğinde, kodlama ve tıp gibi alanlarda bilgi ve beceri birleşimi gerektiren AI kullanım biçimlerine oturacağız. Ve bence bugün bir işin çekirdeği sayılan şeyleri insanların artık bilmek ya da bizzat yapmak zorunda olmamasına da alışacağız

• AI ortadan kalkar da kaybettiğimiz becerilere hayıflanacağımız bir duruma gelir miyiz? En kötü ihtimalle son teknoloji yerine açık ağırlıklı modeller kullanırız; bence bu büyük bir sorun değil
  Hesap makinesi icat edildikten sonra insanların aritmetik konusunda daha kötü hale geldiğine eminim

  • Asıl tehdidin bireysel düzeyde değil, toplumsal düzeyde olduğunu düşünüyorum
    Zamanla beceri biriktirdikçe içgörü oluşur ve o içgörü inovasyona dönüşür
    AI pek çok ilginç şey yapıyor ama henüz inovasyon yapamıyor
    Asıl tehdit, hepimizin becerilerini kaybedip AI'ya erişimi de yitirmesi değil. Bu mümkün olsa da erişimi kaybetme olasılığı düşük görünüyor. Daha büyük risk, AI kabaca bugünkü seviyede kalırken bizim ona bağımlı hâle gelip becerilerimizi köreltmemiz ve düşünmenin çok büyük kısmını yenilik üretmeyen bir makineye devrederek inovasyonu durgunlaştırmamız
    Bunun kesinlikle olacağını söylemiyorum, ama fazlasıyla mümkün bir sonuç gibi görünüyor
  • 2023 öncesi bilişimin tüm tarihi silinip gitti mi? Durum gerçekten bu kadar vahim mi
  • “Hesap makinesi icat edildikten sonra insanlar aritmetikte daha kötü oldu” cümlesinde, LLM'ler için “aritmetik”i X değişkeniyle değiştirebilirsiniz
    “LLM icat edildikten sonra insanlar X konusunda daha kötü oldu”
    Sorun sadece X becerisinin körelmesi değil
    Sorun, LLM'lerde X'in fiilen tüm bilgi ve iletişim becerileri olması
    Toplum, fiilen tüm bilgi ve iletişim becerilerinin köreldiği bir durumu gerçekten kaldırabilir mi
  • En kötü durumda bilişsel bir körelme yaşarız. Daha aptal ve daha tembel oluruz