- İnsan tarafından doğrudan yazılan bilimsel yazının önemi LLM çağında da sürekli vurgulanıyor
- Yazmak, araştırma sonuçlarını aktarmanın ötesinde, düşünceyi rafine eden ve yeni fikirlerin keşfedilmesini sağlayan bir araç
- LLM tarafından yazılan metinler sorumluluk ve özgünlükten yoksun; ayrıca yanlış bilgi üretme riski de yüksek (halüsinasyon olgusu)
- LLM’ler okunabilirliği iyileştirme, dil bilgisi düzeltme, fikir üretme gibi araçsal kullanımlarda etkili olsa da, yazının tamamını onlara bırakmak eleştirel düşünme ve yaratıcı düşünme fırsatlarının kaybedilmesine yol açabilir
- Yaratıcı araştırma anlatısı oluşturma deneyimi ve buna dair düşünme fırsatı, insana özgü önemli bir süreçtir
LLM çağında insan üretimi bilimsel yazının değeri
- Bilimsel yazı, araştırma yönteminin temel bir parçasıdır ve araştırma sonuçlarını iletmenin yaygın bir pratiğidir
- Yazmak yalnızca sonuçları raporlamak değil, düşünceleri yapılandırılmış ve amaçlı bir biçimde düzenleyip ana mesajları ortaya çıkarma sürecidir
- El yazısının, beyin bağlantısallığı ile öğrenme ve hafıza üzerinde olumlu etkileri olduğunu gösteren araştırmalar da vardır
İnsan merkezli bilimsel yazıya neden ihtiyaç var
- İnsanların doğrudan yazdığı bilimsel metinlerin öneminin sürekli olarak kabul edilmesi gerektiği savunuluyor
- LLM kullanılarak bir makalenin ya da hakem raporunun tamamı hızlıca yazılabilir; ancak LLM yazar olamaz (sorumluluk eksikliği nedeniyle)
- Eğer yazmak düşünmekse, LLM’in yazdığı bir makale araştırmacının değil modelin “düşüncesini” okuyor olmak anlamına gelir; sorun da tam burada görülüyor
LLM kullanımının sınırları ve dikkat edilmesi gerekenler
- Günümüz LLM’leri yanlış bilgi üretebilir; buna ‘halüsinasyon olgusu’ deniyor
- LLM’in ürettiği alıntılar ya da kaynakçalar kurmaca olabilir, bu yüzden her şeyin dikkatle doğrulanması gerekir ve bu da gerçekte daha fazla zaman alabilir
- LLM’lerin bazı sorunları yalnızca bilimsel veritabanlarıyla eğitilmiş modellerle iyileştirilebilir; ancak bunun pratik verimliliği hâlâ belirsizdir
LLM’leri olumlu kullanma yolları
- LLM’ler okunabilirliği artırma, dil bilgisi düzeltme, farklı makaleleri arama ve özetleme, fikir beyin fırtınası gibi alanlarda faydalı biçimde kullanılabilir
- Yazar tıkanıklığını aşma, farklı açıklama biçimleri sunma, yeni konular arasında bağlantılar keşfetme gibi yaratıcı düşünceyi destekleyen yardımlar da sağlayabilir
İnsana özgü yaratıcılık ve düşünsel değerlendirmenin önemi
- Buna karşın yazma işinin tamamını LLM’e devretmek, araştırma alanı üzerine düşünme ve yaratıcı bir anlatı kurma fırsatını kaybetmeye yol açar
- Araştırma içeriğini çekici ve ikna edici bir hikâyeye dönüştürme süreci, akademik makalelerin ötesinde, vazgeçilmez bir insani yetenektir
1 yorum
Hacker News görüşleri
Okumanın düşünmek olduğunu düşünüyorum. Ve okuma ile yazma düşünme sürecinin parçası olduğundan, bunları alışkanlık hâlinde AI modellere devretmek tehlikeli. Özellikle öğrencilerin gelişim çağında, okuma ve yazma yoluyla düşünmeyi kendi başlarına öğrenmeleri gerekir — bunun için düşünme, not alma gibi sürekli pratik şart. Bu, hesap makinesi kullanımına benziyor: belli bir temel oluştuktan sonra elektronik hesap makinesi kullanmak sorun değil, ama öncelik zihinden hesap yapma ya da elle çözme deneyimine sahip olmak olmalı. Çünkü bu, giriş hatalarını ya da sonucu kontrol etme alışkanlığını kazandırır. Henüz düşünme becerisi yerleşmemiş küçük öğrencilerin işleri LLM'lere bırakmaya başlamasından endişe duyuyorum
Antik Mısır'da yazının icadı hikâyesini (Platon'un Phaedrus'undan alıntı) örnek vermek isterim. Thoth, Thamus'a yazının faydasını över ama Thamus, yazıya bağımlılığın hafızayı zayıflatacağı uyarısında bulunur. Demek ki bu tartışma 2000 yılı aşkın süredir tekrar ediyor. Ben de Thamus'un haklı olabileceğini düşünüyorum, ama gerçek şu ki artık hepimiz hayatımızı okuma ve yazmayla sürdürüyoruz
Gerçekten bir şeyi kâğıda yazma eyleminin kendisinde daha derin düşünme gerçekleşiyor. Özellikle mühendislikte bu içselleştirme önemli. Bu yüzden birçok teknoloji şirketinde RFC gibi belge kültürleri gelişmiş durumda. Bu hem yazan kişiye hem de gözden geçirenlere çok yardımcı oluyor
Okumak başkalarının düşüncelerini takip etmektir, ama yazmak kendi düşüncelerimi doğrudan keşfetme sürecidir. Bu yüzden yazmak birçok insan için acı vericidir, ama aynı zamanda tam da bu yüzden gereklidir. Ve öğretmek de önemlidir. Düşünceyi açık biçimde rafine etmek çok değerli ve zor bir iştir
LLM'lerin düşünme üzerindeki etkisinin hesap makineleriyle aynı olduğunu düşünüyorum. Bazı düşünme adımlarını atlatmamıza yol açıyorlar ama bunun karşılığında başka tür düşünmeleri mümkün kılıyorlar. Bence LLM'ler sayesinde daha fazla düşünüyorum. Tekrarlı işleri üzerimden aldıkları için, bilginin yalnızca 'sinyal' kısmını hızla çıkarmaya ya da farklı alanlardaki fikirleri birleştirmeye daha çok zaman ve enerji ayırabildim. Hata yapabilirim ama LLM olmadan da yalnızca daha yavaş biçimde benzer hatalar yapardım. Hatta uzmanı olmadığım alanlarda araştırmayı tamamen bırakır ya da çok daha dar düşünürdüm. LLM'leri engellemek düşünmeyi derinleştirmez. Nasıl hesap makinelerini yasaklamak herkesi matematikte iyi yapmıyorsa, hesap makinelerine izin verildiğinde matematiği sevenler çok daha ileri gidebilir
Bu çocuklar, AI'ın gelişmiş olduğu bir gelecekte yaşayacak. Dünya hızla değişiyor, bu yüzden çocukların da bunu kendilerinin fark edeceğine inanıyorum. Ama internet kuşağının hayal ettiği dijital bolluğun giderek artık içerik seli ve bilgi savaşıyla bir kâbusa dönüştüğü gerçeği de var
Paul Graham'dan alıntı yapmak isterim: "Yazmak düşünmektir. İyi yazmak için net düşünmek gerekir ve net düşünmek son derece zordur. Yalnızca gerçekten yazma sürecinden geçerek yapılabilen özel bir düşünme biçimi vardır. Eğer yazmadan sadece düşündüğünü sanıyorsan, aslında düşündüğünü sanıyorsundur. Dünya 'yazanlar' ve 'yazmayanlar' diye ayrılırsa, bunun sonucu göründüğünden çok daha tehlikeli olur. Yakında dünya 'düşünenler' ve 'düşünmeyenler' diye ayrılacaktır"
https://www.paulgraham.com/writes.html
Düşünce ve yazı sıkı sıkıya bağlantılıdır. Düşünce ile ChatGPT kullanımı ise öyle değildir
MIT Media Lab'in 'Your Brain on ChatGPT' bağlantısı: https://share.google/RYjkIU1y4zdsAUDZt
LLM'lerin bilimsel makaleleri gerçekte nasıl "yazabildiğini" merak ediyorum. Örneğin western blot sonuçları, belirli genetik olarak değiştirilmiş fare verileri, tek hücre dizileme verileri verildiğinde; makalede yeni bir proteinin ortaya konması ve fare genleri düzenlendiğinde hangi yolakların değiştiğinin açıklanması gerekiyor. LLM'ye hangi malzemeyi verip bunun neden anlamlı bir keşif olduğunu nasıl anlatabilirsiniz? Bana göre LLM özünde sadece benim söylediklerimi yeniden ifade ediyor. Yazmanın gerçekten zor kısmı, 'hikâyenin nasıl kurulacağına karar verme' bölümüdür
Yüksek lisansa gidince her alanda makale yazımı için standart bir format öğrenirsiniz. Eğer LLM o alandaki yeterince çok makaleyi öğrenmişse, kullanıcının verdiği bilgileri uygun bölümlere otomatik olarak yerleştirebilir. Makale yazımında harcanan zamanın büyük kısmı atıf düzenleme ve biçim uydurmaya gider, bu yüzden böyle stil ve tekrar ağırlıklı işleri LLM'lerin yapması aslında iyi olabilir. Bilim insanı için titizlik ve açıklık önemlidir, ama biçim uyarlama gibi angaryaları otomasyona bırakmak isterim
LLM'ler arXiv gibi tüm makale depolarını öğrenip ilgili çalışmaları insanlardan daha iyi kavrayabilir
LLM'ler plan ya da taslak da çıkarabilir; bu da bir tür yazmadır
Konuşmak bile düşünmektir. Bu yüzden ifade özgürlüğü Birinci Değişiklik'tir. Birisi konuşma hakkımı kısıtlarsa düşüncemi de kontrol eder.
Yazmak, 'Harry Potter'daki 'Pensieve' gibi bir süper güçtür. Fikirleri kafandan çıkarıp analizin farklı katmanlarında incelemeyi, anıları kolayca saklayıp düzenlemeyi mümkün kılar
İfade özgürlüğüne dair mevcut anlayış aslında nispeten yenidir; 1910'lar ve 1920'lerde yerleşmiştir. Ondan önce 'free speech' bugünkünden çok farklı bir anlama sahipti; bunu ele alan harika bir podcast vardı (Radiolab vb.)
İlgili site: https://voicebraindump.com
İnsanlar "yazmak önemlidir" dediğinde, aslında "yazarken daha akıllı hissediyorum ve bu hoşuma gidiyor" demeleri değil mi diye düşünüyorum. Gerçekte insan uzun süre fikirleri zihninde birleştirir ve ancak hepsi toplandığında daha üst düzey bir sentez yapar; bu gerçek sentez sürecini yazma eylemiyle karıştırmak kolay. Eğer bunu bir hafta önce yazmaya çalışsaydım verimsiz olurdu
En azından benim için öyle değil. Düşünceleri, fikirleri ve bilgiyi kâğıda somut olarak aktarma sürecinde hataları ya da eksikleri fark ediyor ve bunları düzeltme fırsatı buluyorum. Bu yalnızca düzeltmeyle sınırlı kalmıyor, yeni bakış açıları da ortaya çıkıyor — bunlar daha önce bilincimde olmayan şeylerdi. Ben yazmayı bir düşünme aracı olarak kullanıyorum. Bir başka araç da grup beyin fırtınası ya da tartışma. Bu tür eylemler düşüncelerimi tamamlıyor, daha sağlam hâle getiriyor, hatta yeni yönler ve bağlantılar da gösteriyor. Paul Graham'ın denemesini (fikirleri kelimelere dökmek) ve Paul Zissner'in 'Writing to Learn' kitabını da tavsiye ederim. Yazmayı öğrenirken pratik olarak bunu yapmak bir tür 'öğretme' etkisi yaratıyor; bu da Feynman öğrenme yöntemiyle paralellik taşıyor
https://paulgraham.com/words.html
Kendi deneyimimden örnek verirsem, gerçekten yazınca düşüncemde ya da bilgimdeki çelişkileri ve boşlukları buluyorum. Bunları tespit edip düzeltmek, benim neden 'yazmak düşünmektir' dediğimin sebebi
Katılmıyorum. Benim yöntemim, önce birbirine karışmamış düşüncelerin hepsini yazmak, sonra yapı ortaya çıkana kadar bunları yerleştirip yeniden düzenlemek. Sonunda sentezlenmiş bir sonuç oluşuyor. Belirli bir yapı zihnimde bir ölçüde vardı ama açık seçik değildi. Sürekli yeniden düzenleme yapılması bile yazmanın bizzat sentez işi olduğunun kanıtı
Ancak yazıya dökünce boşlukları ya da hataları fark ediyorum. Yazmazsam, deneyimime göre bunları asla bulamıyorum
Bu fazla alaycı bir bakış. İnsanların düşünme ve çalışma biçimleri farklı, dolayısıyla elde ettikleri faydalar da farklı. Çoğu kişi bunu 'yazmak bir erdemdir' diye gösteriş yapmak için söylemiyor
"Yazmak düşünmektir" mesajına katılıyorum ama bu koşullara bağlı olarak doğru. Başından beri böyle değildi. Aslında biz ancak yazmanın ucuzlamasından sonra yazarak düşünce geliştirmeyi öğrendik. 18. yüzyıldan 20. yüzyılın başına kadar yazarların eserlerine ve günlüklerine bakınca; Tolstoy, Zweig, Goethe gibi isimlerin tüm kitabı önceden zihinlerinde tasarlayıp sonra 20-30 günde bir seferde yazmış gibi görünüyor. Eskiden düşünmek ve yazmak ayrı şeylerdi. Modern çağda ucuz kâğıt ve bilgisayarlar sayesinde bu değişti. Bu, bugünkü yöntemin yanlış olduğu anlamına gelmez ama 'düşünce = yazı' tek yoldur sanılmamalı. Sokrates de yazının hafızayı bozduğunu söylemişti (tamamen haksız da değildi), ama bugün herkes yazıyı kullanıyor. LLM'lere yöneltilen eleştiri tuhaf biçimde ironik. Yazıya yönelik benzetme kendiliğinden akla geliyor. LLM'lerle büyüyen çocuklar farklı düşünecek
Bana kalırsa bu daha çok "düşünce yazıdır" iddiasına bir tepki. Ben de yazı olmadan düşünmenin fazlasıyla mümkün olduğunu düşünüyorum. Ama yazmak, tamamlanmış düşünceleri sadece dışarı boşaltmak değildir; süreç içinde kendi düşüncemi eleştirmeme, yeni fikirler üretmeme, sadeleştirmeme ya da genişletmeme yardımcı olur. Yazıya dökünce ona üst düzeyden yeniden bakmak çok daha kolaylaşıyor
Kâğıdın pahalı olduğu dönemlerde geçici kayıt için balmumu ya da tahta tabletler kullanılırdı. Sadece hafızaya dayanarak tüm kitabı tasarlayıp tek seferde yazmanın gerçekte ne kadar yaygın olduğu konusunda şüpheliyim; Tolstoy'un Savaş ve Barış'ı yazma sürecine dair de kanıtlar var
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
Ortaçağ felsefe metinlerinde uzun ve mantıksal anlatılar gördüğümde, o dönemde geçici not kâğıdının bile pek yaygın olmadığı bir çağda bunu nasıl kurduklarını merak etmişimdir.
Ve "LLM'lerle büyüyen çocuklar farklı düşünecek" sözüne gelince, bunun somut olarak nasıl olacağını merak ediyorum. Bugünün üniversite öğrencilerinin LLM kullanma biçimlerine bakınca, farklı düşünmelerinden çok daha az düşündüklerinden endişe ediyorum
Benzer ama biraz farklı bir açıdan Larry McEnerney'nin teorisi var. Yazmayı düşünmek için yazmak ve iletişim için yazmak diye ayırıyor. Düşünmek için yazma, Sokrates'ten önce de vardı ama daha kişisel bir eylemdi. İletişim için yazma ise romanlardan gazeteciliğe kadar geniş bir alanı kapsıyor. Larry daha çok, makale hazırlayan öğrencilerin bu ikisini bağlayamaması nedeniyle yaşadıkları zorlukları ele alıyor
LLM'ler mevcut "yazı"dan çok farklı. Daha çok yaratıcı bir ajana benziyorlar. Ben kendi düşüncemi yazıda defalarca yineleyip düzeltebilme avantajına sahibim; ama LLM kullanınca artık 'başka biri' düşünmeyi, yazmayı ve düzenlemeyi benim yerime yapıyor, dolayısıyla benim düşünme miktarım azalıyor. Bisiklet kendi gücümle daha uzağa gitme yöntemi (yazı), araba ise bambaşka bir enerji kaynağı (LLM) ise, fiziksel sağlık için hangisi daha iyi olur? Ve Tolstoy'un tüm kitabı zihninde tutup bir anda yazdığı iddiası ilginç. Gerçek örnekleri ya da kanıtları merak ediyorum. Tolstoy gibi bir aristokrat olsaydı yeterli kaynaklara sahip olması da muhtemel
Birçok kişi LLM'lerin insan yazısını gerçekten ikame etmesinin insan gelişimi için risk oluşturduğunu düşünüyor. Ben daha iyimserim. İyi yazının iyi düşünceye yol açtığı doğruysa, yazma becerimi geliştiren her çaba düşünme becerimi de geliştirir. Bu açıdan LLM'ler, yazma becerimi ve dolayısıyla düşünme yetimi geliştirmede büyük yardımcı olabilir. Arka plan bilgisi ya da ilgili konular hakkında güçlü geri bildirim de sağlayabilirler. Ölçülü kullanılırsa LLM'lerin insanı daha iyi biri yapabileceğine inanıyorum
Gerçekten derin düşünmem gereken her seferde sublime text'i açıp durumu olabildiğince özlü biçimde satır satır yazarım. Bu sırada kendime son derece doğrudan ve temel sorular sorarak özünü, hedefi ve yolu gerçekten kavramaya çalışırım. Sanki bir organize suç patronuna cevap veriyormuşum gibi, mazeret ve süs olmadan yalnızca gerçeği ayıklarım. Bunu yaptığımda genel yapıyı anlarım ve hemen yapılacaklar listesi de belirir
Eski yöneticim (aynı zamanda editörümdü) yazmayı sık sık 'discovery' olarak tanımlardı. Yani özünde düşünmeyle aynı bağlamda görürdü. Buna katılıyorum