Rich Hickey'nin "Teşekkürler AI!": Yapay zekanın yarattığı dev çöp kutusu

[Deneme] Rich Hickey'nin "Teşekkürler AI!": Yapay zekanın yarattığı dev çöp kutusu
(Orijinal metin: https://gist.github.com/richhickey/ea94e3741ff0a4e3af55b9fe6287887f)

Clojure'un yaratıcısı Rich Hickey, üretken yapay zeka trendine ve bunu yönlendiren şirketlere sert bir eleştiri yöneltti. Yapay zekadan gelen yağcı bir e-postaya yanıt biçiminde yazılan bu metin, AI teknolojisinin modern toplum ve teknoloji ekosistemi üzerindeki yıkıcı etkisini eleştirel bir gözle inceliyor.

Başlıca noktalar:

• Yaratıcı işlerin yağmalanması: İnsanlığın tarih boyunca ortaya koyduğu yaratıcı üretimlerin izinsiz şekilde eğitime dahil edilmesi (Pirating) ve ardından bunlar üzerinde mülkiyet iddia edilmesi eleştiriliyor.
• Eğitim ve istihdamın tahribi: Eğitim sistemini zayıflatması ve genç geliştiriciler için giriş seviyesi işleri (Entry-level jobs) ortadan kaldırarak geleceğin yetkin insan kaynağını yetiştirme yolunu kapatması.
• Mühendislik kaynaklarının israfı: Faydalı sonuç almak için bir 'BS üreticisi'yle boğuşurken, aslında ekip arkadaşlarıyla ya da stajyerlerle iletişim ve eğitim için harcanması gereken zamanın boşa gitmesi.
• Çevre ve maliyet sorunu: Devasa elektrik tüketimi nedeniyle kamu hizmeti maliyetlerinin artması ve çevresel yıkım.
• İnternetin slop'laşması: Arama sonuçlarının özetlenmiş sahte bilgilerle yer değiştirmesi ve internetin anlamsız verilerle doldurularak insanların gerçek içeriği bulmasının zorlaşması.
• Şirketlerin kısa vadeli tercihleri: Çok küçük maliyet düşüşleri uğruna ürün kalitesini, bütünlüğünü ve müşteri memnuniyetini feda eden CEO'ların tutumu eleştiriliyor.

Çıkarım:
Yazar, yapay zekanın insan iletişim kanallarını sahte bilgilerle doldurarak iletişimdeki güveni çökerttiği uyarısında bulunuyor. Özellikle "Çözdüğünden daha fazla sorun yaratan bir teknolojiye neden başarısızlık demiyoruz?" sorusu, teknolojiye körü körüne inanan bugünün BT sektörüne ağır bir mesaj veriyor.

[rabolution]

https://news.ycombinator.com/item?id=46415945
Hacker News tepkilerine de bakalım.

Söz konusu yazı Clojurians Slack'te de paylaşıldı. Clojurians üyeleri de çoğunlukla Rich Hickey'nin tutumuna katıldıklarını belirtiyordu.

• "the second biggest and most damaging con" diyorsa, birincisi ne acaba?
• Kripto para?
• Nesne yönelimli programlama herhalde!
• OO geçen yüzyılda kaldı.
• Ama biraz daha derin düşününce tamamen anlaşılıyor. Bahsettiğimiz trade-off'lar her zaman tavizsiz bir felsefeye dayanan teknik boyutlarla ilgili ve LLM vibe coding, hammock driven development'ın tam tersi gibi görünüyor
• Aynen öyle! Ek olarak, bu mesele üzerine ciddi ciddi düşünen tek kişi o değil. İnsanların bilgi paylaşmaması, işbirliğine dayalı öğrenmenin engellenmesi, junior geliştiricilerin iş bulmasının zorlaşması ve uzun vadede toplumun çökmesi gibi sonuçlar doğuracaktır. Ama çoğu insan sorunu net biçimde göremiyor gibi.

[rabolution]

Hammock Driven Development denilen şey... Rich Hickey’nin konuşmasından geliyor; kısıtları derinlemesine tanımlayıp bunları bilinçaltına yerleştirerek, tasarlayıp doğrulayarak geliştirme yapma yöntemi. Rich Hickey’nin kendisi de TDD’nin ya da karmaşık tip sistemlerinin tasarımın yerini tutamayacağını söylüyor.

https://secondb.ai/summary/11593/?tab=my

LLM kullanan geliştiriciler arasında da Rich Hickey’nin sadelik (Simple Made Easy) anlatısına dikkat edenler benzer şeyler söylüyor gibi görünüyor. Spec Driven’a benziyor da denebilir ama. LLM’leri daha iyi kullanmak için bile bu farka dikkat etmek iyi olabilir diye düşünüyorum.

https://secondb.ai/summary/11587/?tab=all

[rabolution]

Ben Yeşiller Partisi’nin bilim ve teknoloji komitesine üyeyim. Clojure geliştiricilerinin Yeşiller Partisi üyeleriyle benzer düşündüğünü fark ediyorum. Sonra da tersinden, acaba Clojure geliştiricisi oldukları için mi Yeşiller Partisi’ne katılıyorlar diye düşünüyorum. ;)