- Büyük dil modelleri ve makine öğrenimi, otomobillerin şehirleri değiştirmesi gibi toplumsal yapıyı yeniden şekillendiriyor ve insan yaşamının tamamını dönüştürüyor
- Yapay zekanın ürettiği yanlış bilgiler ve otomatikleştirilmiş içerikler arama, e-posta, müşteri hizmetleri gibi gündelik alanların derinlerine çoktan sızmış durumda
- Yapay zeka araçlarının kullanımını bırakmak ve insan merkezli düşünceyi yeniden kurmak gerekiyor; insan kendi yazmalı ve insan diliyle düşünmeli
- Bireyler yapay zekaya bağımlılığı reddetmek, sendikalaşmak, siyasi düzenleme talep etmek gibi somut adımlarla teknolojinin yayılma hızını yavaşlatabilir
- Bu tercihler hukuki ve toplumsal yan etkilerin hafifletilmesine ve etik bir iç huzurun sağlanmasına katkı sunabilir; yanlış bir karar olduğu ortaya çıkarsa yeniden başlanabilir
Yapay zeka çağından sonraki seçim
- Büyük dil modellerinin (LLM) ve makine öğreniminin (ML) gelişiminin toplumun geneli üzerindeki etkisi, otomobilin tarihsel dönüşümüyle karşılaştırılıyor
- Otomobilin şehir yapısını, ulaşımı, çevreyi ve toplumsal ilişkileri kökten değiştirmesi gibi, yapay zekanın da insan yaşamını ve endüstriyel yapıyı yeniden şekillendirme potansiyeli olduğu ortaya konuyor
- Odağa teknolojinin hızı ya da rahatlığı değil, şehirlerin biçiminin ve insan yaşamının nasıl değişeceği alınıyor
- Yapay zeka tabanlı yanlış bilgi ve otomatik içerikler şimdiden gündelik hayata derinlemesine nüfuz etmiş durumda
- Arama sonuçları, müşteri hizmetleri, e-postalar ve web sitelerinde LLM'lerin ürettiği hatalı ya da yanlış bilgiler yayılıyor
- Veri merkezlerinin artan elektrik tüketimi nedeniyle ücret artışları ve çevresel yük ortaya çıkıyor
- Kişisel işlerden sanata ve insan ilişkilerine kadar sorumluluğun yapay zekaya devredilmesi yaygınlaşıyor
- Yapay zeka araçlarını kullanmayı bırakma gereği vurgulanıyor
- ML desteği, insanın öğrenme kapasitesini ve kuramsal düşünme gücünü zayıflatıyor; James C. Scott'ın 'metis'ini (ustalaşmış pratik bilgi) aşındırıyor
- Kişinin kendi yazması, sorunları doğrudan çözmesi ve insanlarla konuşarak düşünme yetisini koruması gerektiği söyleniyor
- Yapay zeka üretimi içerik tüketiminin en aza indirilmesi ve insan yapımı içeriklerin özellikle aranıp okunması öneriliyor
- Bireyin ve toplumun atabileceği pratik adımlar sıralanıyor
- Kendi diliyle yazmak ve yapay zeka üretimlerine bel bağlamamak çağrısı yapılıyor
- İş yerinde yapay zeka dayatmasına direnmek, sendika kurmak ve siyasi düzenleme talep etmek öneriliyor
- Yapay zeka şirketlerinin karbon ve dijital emisyon sorumluluğunu artırmak, veri merkezlerine vergi indirimi verilmesine karşı çıkmak, etik nedenlerle istifayı değerlendirmek gibi somut eylemler sunuluyor
- Bu direnişin yapay zeka gelişimini tamamen durdurmasa da yavaşlatabileceği savunuluyor
- Teknolojiye, endüstriye ve devlete uyum için zaman kazandırılabilir; hukuki ve toplumsal yan etkiler hafifletilebilir
- Yapay zeka üretimi çocuk istismarı materyali (CSAM), dolandırıcılık ve güvenlik açıkları gibi sorunlara karşı yanıt üretmek için alan açılabilir
- Etik tercihler yoluyla vicdan huzuru sağlanabileceği, yanlış bir karar verilmişse “sonradan yeniden yapılabileceği” sonucuna varılıyor
Buna rağmen süren cazibe
- Yapay zekaya duyulan nefret ile pratik cazibe aynı anda var olabiliyor
- Örnek olarak, renk değiştiren ışıkları kontrol etmek için LLM ile kod üretiminden yararlanma ihtimali anılıyor
- Güvenlik riskinin düşük olduğu ve sonucun doğrudan doğrulanabildiği sınırlı durumlarda yapay zeka kullanımının faydası kabul ediliyor
- Ancak metin, “Bunda ne zarar olabilir ki?” sorusuyla biterek yapay zeka kullanımının sınırlarını ve iç çelişkisini açığa vuruyor
Yazım süreci
- Bu yazı Vim'de elle yazıldı, Pandoc ile dizildi ve iki tur kâğıt düzeltmeden geçti
- Taslak arkadaşlarla paylaşıldı ve geri bildirim alındı; tüm hataların ve görüşlerin sorumluluğunun yazara ait olduğu açıkça belirtiliyor
- Yazma ve düzenlemenin tüm aşamalarının yapay zekadan yardım alınmadan insan eliyle yapıldığı özellikle vurgulanıyor
1 yorum
Hacker News görüşleri
Bana göre okuma·düşünme·yazma gibi temel beceriler büyük dil modellerinin etki alanına girmeye başladı
İnsanlığın yaşamının büyük bölümünde bu beceriler toplumsal yükseliş sağlayan değerli yeteneklerdi
Ama tarihsel olarak bakınca, 1800 öncesinde bu becerilerin bir çiftçi için pek faydası yoktu
Ancak II. Dünya Savaşı’ndan sonra “zeki insanlar” için işlerin talebi arzı aşmaya başladı ve o dönem toplumsal hareketliliğin altın çağı oldu
Ondan önce fiziksel dayanıklılık ile dürüstlük, soy ve doğum sırası gibi unsurlar daha önemliydi
AI’ın düşünmenin yerini aldığı bir çağ gelirse, belki bu değerler yeniden merkeze dönebilir
Geçmişteki ilk oğula miras düzenini ya da cinsiyetçiliği “temel değerler” olarak geri getirmemiz gerekmiyor
“Zekânın” kıymetli olduğu dönem anormal değildi; tam tersine bu, insanlığın ilerlemesinin sonucuydu
Tarihin tutsağı değiliz; veri merkezleri ya da işletim sistemlerine sahip küçük bir yönetici sınıfın altına geri dönmek zorunda değiliz
Zeki bir çiftçi de bu beceriler sayesinde daha verimli bir çiftlik işletebilirdi
Trilyonlarca parametreye sahip modeller bile sağ ile solu ayıramıyor
İnsan düşüncesi sona ermedi; bu, buhar makinesinin atlar çağını tamamen bitirememesine benziyor, daha gidilecek çok yol var
Tarım başladıktan sonra bile planlama ve kaynak yönetimi yeteneği hep önemliydi
Ama 1800’lerin insanlığın normal hâli olduğu fikri tuhaf
Toplumsal değişimi “zengin nerd”lerin varlığı ya da yokluğuyla açıklamak da fazlasıyla sıçramalı bir yorum
Kyle’ın yazıları mutlaka okunması gereken bir seri
Otomobilin yaygınlaşmasıyla AI’ın yayılmasını karşılaştırması etkileyiciydi
Bir teknolojinin faydalı olması, topluma yalnızca olumlu etki yapacağı anlamına gelmez
Bence LLM’ler yalnızca sınırlı ortamlarda, risklerin kontrol edilebildiği durumlarda kullanılmalı
1920’lerde “arabaya binmeyin” demektense, olumsuz etkileri öngörüp bunları politikalarla hafifletmeye çalışmak gerekirdi
Teknolojinin sınırlarını anlayan uzmanların sorumlulukla devreye girmesi gerekiyor
Bu biraz da okullarda akıllı telefonları yasaklayarak kendiliğinden gelişen insan etkileşimini geri getirme çabasına benziyor
Teknolojiyi engellemek yerine insanları eğitmek gerekiyor
AI’daki ilerleme fizik simülasyonu, protein katlanması gibi alanlara da uygulanabilir
Bu teknolojinin %0,001’lik elit kesime kusursuz biçimde uyacak şekilde tasarlandığını hissediyorum
Onlar için nüfus azalması ve toplumsal kontrol hatta avantaj
Gelecek kuşaklara karşı bir sorumluluğun yoksa sadece kişisel hayatta kalmanı düşünürsün ama sorumluluğun varsa küresel çapta bir devrim gerekir
İnsanların yerini alacağı iddiası abartılı; otomasyon ise tersine yeni işler yaratacak
CEO’ların emek ikamesinden söz etmesi, işten çıkarmaları meşrulaştırmak için bir bahane
Sorun, çok fazla insanın AI’ı sevmesi
İstikrarlı işi olanların önce harekete geçmesi gerekir
Neal Stephenson’ın In the Beginning Was the Command Line kitabının sonu aklıma geliyor
Hayatın bir işletim sistemi gibi varsayılan olarak sunulduğu ve insanların sadece “LIVE” düğmesine bastığı bir dünya
Şikâyet edersen yalnızca “bir sonraki güncellemede düzelecek” cevabını alıyorsun
Sonunda gerçek mühendis şunu söyleyecek — “Hayat doğası gereği karmaşıktır ve seçimleri kendin yapman gerekir”
Bu serinin ana yazılarını derlemişler
HN, tekrarları önleme ilkesi yüzünden genelde seri yazıların ağırlığını düşürür ama bu kez istisna yapılmış
Örneğin antik makinelerin restorasyonu üzerine bir seride her bölüm tamamen farklı bir konuyu ele alabilir
Gelecek hakkında kesin hükümlerle kehanette bulunmak, sadece korkuyu yatıştırma yöntemi
AI’ın nereye gideceğini kimse bilmiyor
Otomobiller gibi mi olacak, yoksa bambaşka bir yola mı girecek, bilmiyoruz
Bu yüzden “Anthropic mühendisleri hemen istifa etmeli” türü iddialar aceleci bir yargı
Üniversite yıllarımı düşününce, deneme yanılmayla kazandığım kas hafızası ve teorik derinlik beni bugün olduğum kişi yaptı
Şimdi üniversite öğrencisi olsaydım LLM’lerin cazibesine direnmenin zor olacağını düşünüyorum
Son teslim tarihleri, sınavlar ve arkadaşlarla geçirilen zaman arasında insan sonunda AI kullanırdı
Kötüleşen iklim, ekonomik eşitsizlik, kurumlara güvensizlik ve AI kaynaklı iş kaygısı üst üste binmiş durumda
Kızım üniversite bölümünü düşünürken ona ne tavsiye etmem gerektiğinden ben de emin olamıyorum
AI devraldığı anda o deneyimsel öğrenme kayboluyor
AI’ın yanıtlarını doğru anlayabilmek için de zorluklara dayanarak biriktirilmiş bağlam gerekiyor
Binlerce saatlik el emeği deneyimi bende sezgisel bir kod hissi oluşturdu
Yeni kuşağın bunu AI ile ikame etmesi kolay değil
Derinlemesine öğrenmek isteyen kişinin rekabette geriye düşmesine yol açan teşvikler oluşuyor
Toplumsal yapının değişeceği açık ama katılmamayı seçmek pratikte zor görünüyor
AI kullanmazsan geride kalırsın ve HR deneyim ister
Kişinin kendi aleyhine olan seçimi kim yapar ki
Tek bir teknolojik atılımla AGI’ye ulaşabiliriz
Örneğin oda sıcaklığında süperiletken bulunursa, THz hızında çipler ve anında şarj olan piller mümkün olabilir
AI şu anda 1980’lerin bilgisayarları gibi patlamanın eşiğindeki bir aşamada
Son 6 ayda ben de tamamen iyimser tarafa geçtim
Teknoloji gelişmeye devam ederse, güvenli tek bir meslek bile kalmayacak
Soğutulan süperiletkenlerle bile böyle çipler yapılabiliyor olsaydı şimdiye kadar çoktan yapılmış olurdu
Yazar LLM kullanmayacağını söylüyor ama bunu söyleyebilmesinin nedeni yetkin olması
Çoğu insan bunu yapamaz
Zaten test kodu bile yazmayan geliştirici çokken, AI onlar için bir hayatta kalma aracı
Temelleri yeniden öğrenmeye zaman yok, bir yandan da LLM trendini takip etmek gerekiyor
Sonunda gerçek mühendislerden çok “büyücülerin” olduğu bir dönem gelecek
Yeni nesil geliştiriciler de rekabette öne geçmek için yüksek performanslı yazılım üretmeyi öğrenecek
AI ile kod yazsınlar ya da yazmasınlar, sonuç iyiyse bu da bir yetkinliktir
İnsanlık hep kıyametçi karamsarlıklar üretti ama sonunda uyum sağlamayı başardı