Nasıl çalıştığını bilen son nesiliz

• 1990’ların bilgisayar oyunlarını çalıştırmak için kullanıcıların autoexec.bat, önyükleme disketleri, ses kartı kesmeleri gibi makinenin koşullarını bizzat öğrenmesi gerekiyordu
• Modem el sıkışma sesleri, sürücü jumper’ları, yanlış ayarlanmış kesmeler gibi şeylerle bilgisayar kullanıcıyı geri iterdi; bu dirençle karşılaşma süreci, çalışma biçimini anlamanın yoluydu
• AI assistant, ayar dosyaları ya da koşullar istemekten çok, kendini kullanıcının cümlelerine göre yeniden konumlandıran uyumlu bir araç olmaya daha yakın
• Asıl kayıp teknik yetkinlikten çok aşinalığın kaybı; makineyle boğuşup başarısız olduktan sonra yeniden deneyerek kurulan ilişki ortadan kalkıyor
• Gelecekte makinelere her zamankinden daha fazla bağımlı olurken, aynı zamanda o makineleri daha az tanıdığımız bir durumda kalabiliriz

---

Zorluğun bilgi olduğu bilgisayar deneyimi

• 1990’larda bilgisayar oyunu oynamak için önce bilgisayarın nasıl çalıştığını biraz bilmek gerekiyordu
  • autoexec.bat gibi dosyaları açıp okurduk
  • Belirli tek bir oyunu çalıştırmak için özel bir önyükleme disketi bile hazırlardık
  • Makine izin vermezse oyun oynayamazdınız ve kullanıcı makinenin koşullarını öğrenmek zorundaydı
• O dönemin bilgisayarlarında ve çevre birimlerinde, kullanıcının doğrudan karşı koyması gereken bir sürtünme vardı
  • Modem bağlantı müzakeresini sesle duyururdu; tekrar tekrar dinleyince aramanın kopmak üzere olduğunu bile fark edebilirdiniz
  • Sürücülerde küçük jumper’lar tırnakla ayarlanırdı
  • Ses kartının hangi kesmeye yanıt verdiğini bilmek gerekirdi; yanlışsa hiçbir şey çalışmazdı
• “Zorluk, bilginin ta kendisiydi” duygusu, o dönemin bilgisayar deneyiminin tamamına yayılmıştı
  • Kullanıcı, kendisini geri iten nesne üzerinden makineyi tanırdı
  • “Yalnızca kaybedebileceğiniz bir şeyi bilebilirsiniz” cümlesi bu deneyimi özetler

Uyumlu yapay zeka ve kaybolan aşinalık

• Günümüzün AI assistant’ı nihai kolaylık gibi görünür; kullanıcı istediğini söylediğinde sonucun ortaya çıktığı bir şekilde çalışır
  • Ayar dosyalarını okutturmaz
  • Koşullar ileri sürmez
  • Kendini kullanıcının cümlesine göre değiştirir; kullanıcı memnuniyetsizlik gösterirse özür diler ve yeniden dener
• Meydan okumayan bir makineyi tanımak zordur; çoğunlukla kullanım nesnesi haline gelir
  • Asıl mesele yetkinliklerin kaybolması değildir
  • AI modeli, insanların okumadığı kılavuzları bile okumuştur ve makinenin nasıl çalıştığını anlatabilir
  • Yalnızca hesaplama gücü ya da teknik bilgi açısından bakıldığında, bilginin daha güvenli hale geldiği bile söylenebilir
• Kaybolan şey, belirli bir makineyle çarpışa çarpışa oluşan aşinalıktır
  • Bir makineyle boğuşma, başarısız olma, yeniden deneme ve sonunda onu çalıştırma deneyimi azalıyor
  • İnsanlar makinelere eskisinden daha fazla bağımlı hale gelirken, aynı zamanda o makineleri daha az tanıyor
• Sonraki nesil bunu bir kayıp olarak hissetmeyebilir
  • Hiç kurulmamış bir ilişki özlenemez
  • Her şeyi yapan ve hiçbir şey talep etmeyen araçları, bir ışık anahtarı kadar doğal biçimde kullanabilirler
• Bir modem bağlantı sesi kaydının modern bir bilgisayar tarafından anında ve kusursuz biçimde çalınması, bu karşıtlığı gösterir
  • Geçmişin modem sesi zihinde kalmıştır
  • O sesi çalan modern makine aynı şekilde tanınamaz
  • Modern makine, kullanıcının onu bu şekilde tanımasına gerek kalmayacak biçimde tasarlanmıştır; bu da bizim istediğimiz sonuçtur

[GN⁺]

Hacker News görüşleri

• Pangram'ın bu yazıyı AI tarafından yazılmış olarak işaretlemesi üzücü
  https://www.pangram.com/history/c0a9cde2-7a5c-4588-83a3-0269...

  • Yazarın kendisi olarak garanti ederim ki ben gerçek bir insanım ve bu AI değil
    Tamamen AI üretimi yazıların arttığı açık ama içeriği bu şekilde “analiz eden” hizmetlerin yarardan çok zarar getirdiğini düşünüyorum
  • Açıkçası LLM'lerden bile çok bu tür AI dedektörlerine güvenmiyorum
  • İronik biçimde, son derece başarılı Genius AI detector bunun AI olmadığını doğru şekilde tespit ediyor
    https://geniusaidetector.com/
  • LLM'ler ya da sözde “AI” ortaya çıkmadan çok önce yüksek lisansta yazdığım birkaç makaleyi denedim, yaklaşık %70 AI olarak işaretledi
  • Bu tür dedektörler bence düpedüz saçmalığa yakın

• Sorun, bunun nasıl çalıştığını bilmememiz
  Genel olarak doğduğumuzdan beri maruz kaldığımız soyutlama katmanlarını anlarız, onun bir ya da iki katman altını da bir ölçüde kavrayabiliriz, ama daha aşağı indikçe anlayışımız azalır
  Yaş aldıkça bu süreci bizzat gördüm; bir zamanlar nadir bilgi olarak çok talep gören şeyler vardı, ama artık gençlerin sahip olduğu nadir bilgilerin çoğu benim pek önemsemediğim şeyler ve bana, benim için zaten büyük ölçüde soyutlamaya dönüşmüş sorunları çözen rafine beceriler kalıyor

  • Mevcut soyutlama katmanlarındaki büyük sıçramada özellikle farklı olan şeyin determinizmin kaybı olduğunu düşünüyorum
    Bu anlamlı biçimde farklı bir değişim
  • Bunun tam olarak doğru olduğundan emin değilim; biraz fazla genelleme gibi geliyor
    Buradaki insanların çoğu kumun silikona dönüşme sürecini ya da litografi için gelişmiş lenslerin elle parlatılmasına dair uzmanlığı bilmiyor olabilir, ama bunların gerekli olduğunu ve kabaca felsefi çerçevesini biliyor
    Tehlike, düşük seviye altyapı işlerini o kadar bütünüyle otomatikleştirmemizle başlar ki, gelecek nesiller kullandıkları teknolojinin nasıl üretildiğine dair kavramsal bir çerçeveye bile sahip olmaz
  • Katılıyorum, ama soyutlama sistem içindeki bilginin geniş ölçekte uygulanabilmesini sağlar
    AI tarafından üretilmiş sistemlerde bu avantaj pencereden dışarı gidiyor. Aşırı dikkatli olmazsanız yeni kod tabanında tutarlılık kalmıyor ve LLM ile prompt yazan kişinin gözünde “çalıştığı için” yeni paradigmalar oraya buraya sokuluyor
    Aynı desenin 37 kez biraz farklı biçimde tekrarlanması sorun edilmediği için artık bilginin taşınabilirliği azalıyor
    Eskiden koda bakıp “neden?” diye sorduğunuzda genelde geçmiş deneyim ya da deneyler üzerinden “x, y, z'yi denedik ama olmadı” gibi bir cevap olurdu. Ama LLM, istenen işi yaptığı gerekçesiyle karmaşık şeyler ekliyor
    Geçerli bir kaynaktan string'i bayt bayt okuyup \0 görünceye kadar ilerlemek çalışacaktır, ama API dokümantasyonu X diyorsa bunun neden doğru olduğunu yeniden kontrol etmeye neden ihtiyaç duyduğunuzu bir adım geri çekilip düşünmelisiniz
  • Bu tür nostaljileştirmenin çok yardımcı olduğunu sanmıyorum
    Ben de çok yaşlı sayılmam ama C++ ile başladım, manuel bellek yönetimi ve programlama dili tasarımı öğrendim, o zaman bile oldukça zorlayıcı olan assembly dersleri de aldım
    Assembly'de yetkin değilim ve olmayı da düşünmüyorum, ama yüksek seviyeli kodun düşük seviyeli assembly/makine dili komutlarına nasıl derlendiğini anlamak, performansla oynama hissi kazanmak açısından çok değerli. Loop unrolling gibi “aptalca görünen” şeylerin komut sayısını azaltmada ne kadar büyük etkisi olduğunu da görüyorsunuz
    Newton/Chartres'lı Bernard'ın dediği gibi devlerin omuzlarında durup daha uzağı görürüz, ama ayaklarımızın altındaki zeminin ayrıntılarını kaybederiz. Modern insanın transistörlerden bizzat bilgisayar yaparak kazanılan o geniş uzmanlığa sahip olması artık daha zor, ama akademik olarak öğrenip hâlâ önemli olan bilgi parçalarını edinmesi gerekir
    Bu kadar yüksek derecede uzmanlaşmış alanlardaki uzmanlar, başkalarını ayrıntılarla boğmadan ilgili bilgileri paylaşabilecek iletişim becerisine sahip olduklarında inanılmaz derecede faydalı olurlar
  • “Doğduğumuzdan beri maruz kaldığımız soyutlama katmanlarını biliriz” sözü, büyük ölçüde her dönemin işlerinin çoğunun benzer bir soyutlama düzeyinde olması nedeniyle insanların o seviyede kalması anlamında doğru
    Ama ben bunu teknik borçla doğmak olarak görüyorum ve önceki neslin ne inşa ettiğini, benim de hangi yönde çalışmam gerektiğini anlamayı bir mühendislik sorumluluğu sayıyorum

• Bir şeyleri kazanma hızımıza neredeyse eşit hızda başka şeyleri kaybettiğimizi dile getirmek küçümsenecek bir şey değil
  Yazının nostaljik tonunun altında kontrol kaybı ve her gün büyüyen bir kaygı yatıyor
  Çok küçük yaştakilerin yalnızca dokunmatik arayüzleri ve uygulamaları öğrenip bilgisayarı dar anlamda bile kullanamaması şimdiden epey sarsıcı. Küratörlü içeriklerin ve arayüzlerin olduğu, zorlukların pazarın en düşük ortak paydasını karşılamak için binlerce tekrar ile ütülendiği bir ortam bu
  Yine de bugün en çok üretenlerin, iyi olanı, çalışanı ve bakım yapılabilir olanı yapanların; araçları edinmiş ama kullandığımız ortama dair bilgisini kaybetmemiş insanlar olduğunu düşünüyorum

  • Her şeyi finansallaştırma eğilimi pek çok şeyi mahvediyor
    Bilgisayar ve internet alanında bir şeyleri kurcalamanın, PC'yi kendin toplamanın, kötü amaçlı yazılım yüzünden C sürücüsünü formatlamanın ve forumları ya da Myspace sayfalarını süslemek için “snippet” aramanın sıcak bir nostaljisi var
    Ama sonunda paranın teşviki baskın çıkıyor. Eğlence ve bilgi için kurcalamak kârlı değil; paraya ve sermayeye optimize olmuş insanlar tüm para ve sermayeyi yuttuğunda, herkesin paraya ve sermayeye yönelik kişisel tutumu giderek daha az önem taşıyor
    Şu anda olan biten içinde beni en çok kaygılandıran şey servet eşitsizliği, onunla yakından bağlantılı olan “hakikat sonrası” hali de peşinden geliyor. İnsanlar ticari ya da ideolojik amaçlar doğrultusunda inanmak istediklerine seve seve inanıyor ve işleri yolunda gitmediğinde komşularından nefret edip onları suçlamaya daha yatkın hale geliyor
  • Ortalama olarak kontrolü kaybediyor olabiliriz, ama birey kontrolü kaybedip kaybetmemeyi seçebilir
    Programlama dilleri, UNIX ve debugger'lar ortadan kalkmıyor. Hesaplama dünyasında, patronların talep ettiklerinden ve teknik forumlarda moda olan şeylerden çok daha fazlası var
    Hatta indie/handmade sahnesinin, hobi düzeyinde bile olsa, ciddi biçimde büyüyeceğini ya da patlama yaşayacağını düşünüyorum. Makineye yaptırılabilecek bir şeyi insanın alın teriyle bizzat üretmiş olması, daha büyük takdir ve keyif doğurabilir
  • Aynı şekilde “çok küçük yaştakilerin sözde otomobilin mekanik kullanımını öğrenip aracı dar anlamda kullanamaması şok edici” demeyi de sürdürebilirsiniz

• Onlarca yıl boyunca bilgisayar teknolojisinde, hobicilerin maliyet engeline takılmadan deney yapabildiği ve erken dönem bilişimin sınırlarını zorlayabildiği bir tatlı nokta vardı.
  Genetik radyasyon yayılımı gibi çok sayıda niş oluştu ve hızla doldu; şimdi ise bilişim ekosistemi, bir zamanlar tek etkileşim yolu olan düşük seviyeli soyutlamalar yerine, mümkün olan en yüksek soyutlama olan sözde “doğal dil” düzeyinde işleyen bir yapıya evrildi.
  “Zorluk bilgiydi. Direnci tanır gibi makineyi tanıdın. Direncin kendisi ortamın ta kendisiydi. İnsan ancak kaybedebildiğini öğrenir.”
  O dönemden geçen bizler, elle dokunulan mühendislik bilgisini şekillendirdik ve soyutlama katmanlarının en önde nasıl geliştiğini deneyim ve pratik yoluyla öğrendik. Bugün ise kolay cevapların bol olduğu bir dünyaya giren çok kişi var; ama bu cevapların doğru olup olmadığı ayrı mesele ve doğruluğa ne kadar önem vereceğine insanın kendisinin karar vermesi gerekiyor.

  • Bu kesinlikle doğru ve buna benzer bir şeye yeniden ihtiyaç var.
    Çocuklara Python öğretmek için başlangıç noktası olarak The Farmer Was Replaced oyununu kullanıyorum ama düşündükçe, eski Apple //e gibi insanın kendi başına yeterince hata yapabileceği bir donanım paketi gerektiğini hissediyorum.
    O zamanlar böyle sistemlerde assembly bile öğrenmek oldukça kolaydı; saati o noktaya geri sarıp deneyimi ayrıştırmanın ve yeni nesil çocukların neler üreteceğini görmenin değerli olacağını düşünüyorum.

• 2400 baud modem el sıkışma sesinin sırası nöronlarına kazınmış yaşlı tayfadanım.
  Bir süredir sistemlerim arasında bir WireGuard bağlantısı kurmaya çalışıyordum ama iş ve aile nedeniyle meşguldüm, bu yüzden şimdi onu Tailscale’e bıraktım.
  Ağ yolları, güvenlik duvarı kuralları, anahtar çiftleri, systemd birimleri ve benzerleri dahil olmak üzere bunu birden çok hostta elle yapılandırabilirdim; ama “ucuz ve kolay” alternatif oradaydı ve çalışıyordu. Yalnız yeniden kimlik doğrulamayı zorladığı zamanlar hariç.
  Bir LLM ajanıyla mevcut ağı kolayca analiz edip, istediğim işe uygun bir script oluşturabildim. Benim yapmam gereken tek şey güvenlik sorunları gibi noktaları gözden geçirmekti ve ağ topolojim nedeniyle yönlendirme kurallarında gereken 3-4 somut değişikliği görebildim.
  Birkaç kılavuz okuyup bir iki saat kurcalayarak ve scripti tekrar tekrar düzenleyerek de aynı sonuca varabilirdim ama ajanın erişilebilirliği ve etkisi fazla baştan çıkarıcı.
  Bunun benim teknik yetkinliğim açısından ne anlama geldiğini, hatta bunun artık önemli olup olmadığını pek bilmiyorum. Yine de kafam düzgün çalıştığı sürece kılavuzları okuyup bunları kendi başıma çözebileceğimden oldukça eminim. Bu hızla giderse çocuklarımın da aynı beceriye sahip olup olmayacağı belirsiz; bunun ne kadar önemli olacağını da bilmiyorum.
  Her şeye rağmen çocukların LLM’lere aşırı bağımlı olmadan sorunları “eski usul” çözmesine yardımcı olmaya çalışıyorum. AI ne kadar yetkin hale gelirse gelsin, problem çözme becerisi gelişmezse bunun hayatta yalnızca dezavantaj yaratacağı neredeyse kesin.

  • Herkes AI’ın dikkatimizi ve kavrayışımızı elimizden aldığından şikâyet ediyor ama LLM’ler daha derinlemesine anlamak için bir araç olarak da rahatlıkla kullanılabilir.
    Sorun şu ki çoğu varsayılan yol “hey hurdalık, şunu yap” oluyor; “merhaba hurdalık, bunun nasıl çalıştığını anlat” değil.
    İkinci yaklaşımı da biraz denedim ve özellikle kendi kendine öğrenen biri için eğitim aracı olarak şaşırtıcı ölçüde değeri bilinmiyor.
  • 300 baud’dan 2400 baud’a geçmek büyü gibi gelmişti.

• autoexec.bat düzenleyebilen ya da önyükleme disketi takmayı bilen 1990’lar bilgisayar kullanıcısının anlamlı bir düzeyde “bilgisayarın nasıl çalıştığını bildiği” söylenebilir mi, bundan emin değilim.
  Bugün soyutlama yığını daha derin ve muhtemelen daha da derinleşecek ama 1990’larda da soyutlama zaten epey derindi.
  Buradaki yaygın hatanın popülasyon yanılgısı olduğunu düşünüyorum. Bilgisayar meraklıları eğlence olsun diye soyutlamaların altına inmeyi sever ve bu, web tarayıcılarının kernel yazarlarını ortadan kaldıramamış olması gibi, durmayacaktır.
  Hatta düşük seviyeli kod bugün eskisinden daha fazla yazılıyor. Çünkü gerekli bilgiye erişim, geçmişe kıyasla daha az kapı bekçiliğine tabi.

  • Bu daha sık söylenmeli.
    Şu anda HN’de en yüksek sesle konuşan kesim meraklılar değil; daha çok bir yer edinmeye çalışan girişimciler ve dolandırıcılar.
    Bunlar “AI”ın etkisini sürekli abartıyor; şimdi de takipçilerine en nostaljik anlarını hatırlatıp o zaman herkesin kendileri gibi tökezleyip kafası karışık olduğunu varsaydırıyor ve tarihin geri kalanını görmezden geliyorlar.

• “Bilgi tehlikeli değil. Hatta aslında hiç olmadığı kadar güvenli. AI modelleri insanların okumadığı bütün kılavuzları okudu” sözüne katılmıyorum.
  Modele kılavuz istediğinizde eğitim verisindeki kılavuzu aynen kusuyorsa bu aşırı öğrenme demektir. Asıl yapacağı şey, gerçek bir kılavuza benzeyen bir şey ya da kılavuzlarla ilgili sorguya uygun görünen bir şey üretmektir.
  Bir hatayı fark ettiğinizde bazen ona itiraz etmeniz gerekir ama hatayı fark edebilmek için ne arayacağınızı ve ne beklemeniz gerektiğini zaten biliyor olmanız gerekir. Aksi halde çıktıyı görmezden gelip yalnızca linkleri almak gerekir ama o linkler de eski ya da uydurma olabilir. Doğrulamadan bunu bilemezsiniz.
  Bir de bütün bunlar sıkıştırma ve zaman içinde bozulmaya uğrar.
  Kestirme yol yok. Bir şeyi bizzat yapmanın, tökezlemenin ve anlamaya çabalamanın çok büyük ödülü olduğu fikrine katılıyorum. “Her şey hızlı olsun, hem de hemen şimdi” çağında bile bu süreç hâlâ değerli ve ciddi biçimde küçümseniyor.

• “Küçükken anne babamın bilgisayarını tamir ederdim, yaşlanınca da çocukların bilgisayarını tamir ediyorum. Bilgisayarların nasıl çalıştığını bilen tek nesil biz miyiz?”
  https://x.com/ryancbriggs/status/1847391612428517844
  https://xcancel.com/ryancbriggs/status/1847391612428517844

  • Hayır. O sadece kendi ailesinde bilgisayarların nasıl çalıştığını bilen tek kişi
    Hem daha yaşlı hem de daha genç nesillerde bilgisayardan anlayan çok insan var; sadece onun anne babası ya da çocukları değiller. Bugün en etkileyici assembly işlerini yapanlar arasında 20 yaş altı kişiler de var. Sorun yok
  • Başka bir açıdan bakınca, çok eğitim almamış işçi sınıfından babam 80'ler ve 90'larda bilgisayar dergilerine bakıp keyifle biraz programlamayı kendi kendine öğrenmişti ve komut istemini de bir şekilde kullanabiliyordu
    Ben bilgisayar bilimi okudum ve lisans dersleri verdim; daha 10 yıl kadar önce bile, kendilerine önyüklenebilir bir Linux USB verilen bilgisayar bilimi öğrencilerinin sistem kurulumu yapamadığını gördüm
    Sorun sadece bilgi eksikliği değildi; 2 dakika içinde olmazsa “Olmadı, ne yapmam gerekiyor?” diye e-posta atan tam bir çaresizlikti. ChatGPT gibi şeylere bağımlı olmanın en büyük sorunu da bu bence
    Genç nesil daha kötü bir konumda gibi görünüyor. Sadece bilgisayarların nasıl çalıştığını bilmiyorlar değil, bazen anne babamızın neslinde olan temel DIY sorun çözme tavrı da yok

• Jumper'ları elle ayarlama, ses kartı interrupt'larıyla uğraşma ve autoexec.bat ile oynama örneklerinin hepsi çok tanıdık geliyor
  Aynı zamanda LLM'leri ve ajanları da iyi kullanıyorum. Bu yazı neyin kaybedildiğini iyi yakalamış; ayrıca başka alanlarda da çok önceden kaybettiğimiz ya da en başta hiç sahip olmadığımız şeylere—örneğin modern otomobillerle Model T arasındaki fark gibi—benziyor
  Geri dönmek istemiyorum ama kayıp duygusunu yine de hissedebiliyorum. Yazı da güzel

• Modlama toplulukları hâlâ yaşıyor
  Çocuklar hâlâ Minecraft sunucusu barındırıyor ya da bugünlerde popüler olan başka bir şeyle uğraşıyordur. DIY 8 bit bilgisayarlar da ilgi görüyor
  Bir şeyin çok ana akım hâline gelmiş olması, herkes için sulandırıldığı anlamına gelmez bence. Farklı düzeylerde merakı ve tutkusu olan insanlar her zaman vardır

  • İnsanın merakı söndürülemez bence
    Teşvikleri azaltabilirsiniz ama onu yok edemezsiniz. Nerd her zaman nerd'dür