Yann LeCun: Asıl kıyamet senaryosu, AI'ın yüzde 1'lik sahiplerinin gücü sonsuza dek ele geçirmesi

• Meta'nın baş yapay zeka bilim insanı Yann LeCun, yapay zeka riskleri konusunda yapay zeka liderlerinin karamsar açıklamalarını eleştirerek bunların daha fazla zarar verebileceğini savundu.
• LeCun, OpenAI'dan Sam Altman, Google DeepMind'dan Demis Hassabis ve Anthropic'ten Dario Amodei gibi yapay zeka öncülerini, kendi çıkarları için "korku yayma" ve "büyük ölçekli kurumsal lobi faaliyetleri" yürütmekle suçladı.
• Ona göre bu çabalar başarılı olursa yapay zekayı az sayıda şirket kontrol edecek ve LeCun bunu bir "felaket" olarak görüyor.
• LeCun'un açıklamaları, fizikçi Max Tegmark'ın LeCun'un yapay zeka kıyametçiliğini yeterince ciddiye almadığını öne süren paylaşımına bir yanıt niteliğinde.
• LeCun, yapay zekanın gerçek ve yakın risklerinin sıkça vurgulanan varsayımsal tehlikeler değil; az sayıdaki aktöre fayda sağlayan emek sömürüsü ve veri hırsızlığı olduğunu savundu.
• Süper zekalı sistemler devreye girer girmez insanlığın yok olacağını öne süren "sert kalkış" fikrini reddetti.
• LeCun, odağın yapay zekanın bugün nasıl geliştirildiğinde olması gerektiğini vurgularken, yapay zeka geliştirme sürecinin kâr odaklı özel şirketler tarafından tekelleştirilmesi riskine dikkat çekti.
• Açık kaynak geliştiricilerini savundu ve özellikle büyük teknoloji şirketlerinin yapay zeka geliştirmedeki şeffaflık eksikliğini eleştirdi.
• Düzenleyicilerin yapay zeka etrafındaki sansasyonel tartışmalardan kolayca etkilenebileceğini, bunun da gerçek geliştirme süreçleri üzerindeki denetimi zayıflatabileceğini dile getirdi.

[GN⁺]

Hacker News görüşleri

• Yann LeCun’un yapay zeka teknolojisinin kötüye kullanımı hakkındaki görüşlerini ele alan makale tartışması
• Güç sahiplerinin, düzenleyici ele geçirme girişimlerinde "X-Risk" ve insanlığın ani yok oluşu iddialarını kullanmasına dair endişelerin dile getirilmesi
• Yapay zekayı lisanslama ve raporlama gereklilikleriyle kapatmaya yönelik girişimlerin eleştirilmesi
• Yapay zeka araştırmalarını kontrol etmeye yönelik önlemlere destek verilmesi ve bu alanda dikkatli olunması gerektiğinin belirtilmesi
• Yeni teknolojilerin geliştirilmesi ve dağıtımı üzerine tartışma; teknolojinin risklerinin, yaygın biçimde dağıtılana kadar gizli kalabileceği iddiası
• Önde gelen yapay zeka araştırmacılarının "AI Godfather" olarak etiketlenmesine yönelik eleştiri; bunun yanıltıcı ve gereksiz olduğu iddiası
• Yapay zekanın kötüye kullanım olasılığı üzerine tartışma; açık kaynak modellerin yasaklanmasının, bu tür kötüye kullanımlara nasıl karşılık verileceğinin bilinmemesine yol açabileceği iddiası
• Yann LeCun’un görüşlerine katılmayan yorumlar; onun yapay zekanın risklerini ciddiyetle ele almadığının öne sürülmesi
• Hisse seçimi ve tahminlerde yapay zekanın kullanılma ihtimali üzerine tartışma; bu tür yapay zekaların, toplumu fiilen sahip olacak kadar büyük serveti emebileceği iddiası
• Büyük dil modellerini tekelleştirmenin artık çok geç olduğunun öne sürülmesi; teknolojinin bilindiğine ve maliyetlerin düştüğüne dikkat çekilmesi
• Bolluk çağında iş dünyasının geleceğine dair spekülasyonlar; daha fazla tekelleşmenin muhtemel olduğu iddiası