OpenAI araştırmacıları, CEO görevden alınmadan önce yönetim kuruluna yapay zeka atılımı hakkında uyarı mektubu gönderdi

• OpenAI araştırmacıları, Sam Altman olayı yaşanmadan 4 gün önce yönetim kuruluna güçlü bir yapay zeka keşfi hakkında uyarı mektubu gönderdi
• Mektubun içeriği doğrulanmadı, ancak araştırmacılar yapay zekanın yeteneklerine ve potansiyel risklerine dikkat çekti

Q* projesindeki ilerleme

• OpenAI, Q* adlı projede yapay genel zeka (AGI) yönünde bir atılım gerçekleştirildiğine şirket içinde inanıyordu
• Q*, ilkokul düzeyindeki matematik problemlerini çözme yeteneği göstererek araştırmacılar arasında büyük beklenti yarattı
• AGI, yalnızca sınırlı hesaplamaları çözen bir hesap makinesinden farklı olarak genelleme, öğrenme ve anlama yeteneklerine sahiptir

SUPERINTELLIGENCE

• Matematik, üretken yapay zekadaki ilerlemenin ön cephesi; günümüz yapay zekası ise bir sonraki kelimeyi istatistiksel olarak tahmin ederek yazma ve dil çevirisinde başarılı oluyor
• Matematik problemi çözme yeteneği, yapay zekanın insan zekasına benzer akıl yürütme becerilerine sahip olabileceğine işaret ediyor
• Bu yetenekler yeni bilimsel araştırmalara uygulanabilir

GN⁺ görüşü

• Bu haberde en önemli nokta, OpenAI araştırmacılarının yönetim kurulunu yapay zekanın potansiyel riskleri konusunda uyarması ve Q* projesindeki ilerlemedir.
• Yapay genel zekaya (AGI) bir adım daha yaklaşıldığını düşündüren bu gelişme, yapay zeka teknolojisinin geleceği ve insanlık üzerindeki etkisi hakkında ilgi çekici tartışmaları tetikleyebilir.
• Yapay zekadaki ilerlemenin getireceği olumlu olasılıkların yanı sıra potansiyel riskler konusunda farkındalığı artırabileceği için insanlar için ilgi çekici bir konu.

[cosine20]

Ama bu zaten bir zaman meselesi değil mi? Ne kadar önce geliştirmiş olursa olsun OpenAI yayını geciktirse ya da iptal etse bile, er ya da geç diğer rakiplerde veya açık kaynak topluluğunda benzer bir şey ortaya çıkacak gibi görünüyor..

[GN⁺]

Hacker News görüşü

• Birkaç gün önce 4chan’de paylaşılan bir teoriyle bağlantılı olarak, eğer bir sürüm resmen AGI (genel yapay zeka) ilan edilirse Microsoft vb. şirketlere ticari kazanç amacıyla lisans verilemeyeceği söyleniyor. Buna göre Altman’ın buna AGI denmesini istemediği, ancak diğer yönetim kurulu üyelerinin istediği öne sürülüyor.
• Q* adlı yeni bir modelin, kendisine verilen geniş hesaplama kaynaklarını kullanarak belirli düzeyde matematik problemlerini çözebildiğinin keşfedildiğinden bahsediliyor. Bu model ilkokul düzeyindeki matematik sorularını çözmede başarılı oldu ve araştırmacılar Q*’ın gelecekteki başarısı konusunda oldukça iyimser.
• Sam Altman’ın yakın zamanda Q* keşfiyle ilgili yaptığı iki yoruma değiniliyor. Biri 18 Kasım’da APEC’te yaptığı açıklama, diğeri ise 22 Eylül’de Twitter’da paylaştığı gönderi. Bunlarda OpenAI’nin ilerlemesi ve keşif anlarından söz ediliyor.
• Bireysel servet ve güce sınır koymanın iyi bir fikir olduğu yönünde bir görüş var. Petrol şirketlerinin kâr uğruna dünyayı tahrip ettiğini, teknoloji şirketlerinin de kâr uğruna mahremiyeti ihlal ettiğini gördük; bu yüzden Sam Altman’ın kâr için ne yapacağı ya da yapmayacağı sorgulanıyor.
• Yaklaşık bir ay önce Sam Altman, yapay zekanın genel zekâdan önce insanüstü ikna kabiliyetine ulaşmasının çok tuhaf sonuçlar doğurabileceğine dair bir yorum yapmıştı. Yönetim kurulu son dönemdeki atılımdan irkilip acil durum düğmesine basmış olabilir; seçim döngüsünden önce “insanüstü ikna” yeteneğinin yanlış ellere geçmesi muazzam sonuçlar doğurabilir.
• Bir gün yapay zekanın işlerin %50’sini yaptığı, önemli kararlar aldığı, insanların yapay zeka tarafından kullanılan araçlara bindiği ve yapay zeka ile romantik ilişkiler kurduğu bir dönem gelecek; ama o zamana kadar bile üretilen şeyin gerçekten AGI olup olmadığı konusunda tartışıyor olacağız. AGI her zaman bir sonraki eşik gibi görülecek ve bir gün aslında o çizgiyi yıllar önce geçtiğimizi fark edeceğiz.
• OpenAI yönetim kurulunun Sam Altman’a neden güvenmediğini ve neden şirketi havaya uçurmanın bu teknolojiyi araştırmaktan daha iyi olduğunu düşündüğünü açıklamaya yardımcı olabilecek bir içerik olduğu belirtiliyor.
• İçerik, yönetim kurulunun Sam Altman’ı görevden almasıyla ilgili mektuba daha iyi uyuyor; önemli bir keşfin rapor edilmemesi ve bunun çalışan mektubu üzerinden öğrenilmesi “dürüst olmamak” olarak görülebilir. Ayrıca, eğer kıyamet senaryosu varsayılırsa, böyle bir sırrın kötü kişilerin eline geçmemesi için ne kadar süre gizli tutulabileceği de sorgulanıyor.
• OpenAI’nin pazarlama stratejisinde öncü bir yaklaşım benimsediği yönünde bir görüş var. “Bu dolabın içinde güçlü bir AGI var ve o kadar güçlü ki onu serbest bırakmak istemiyoruz” tarzı bir mesajla insanlardan para alıp güvenliği koruduklarını iddia ettikleri söyleniyor.
• Bir ebeveyn, 12 yaşındaki oğluyla matematiğin sıkıcı kısımları hakkında konuşmuş ve oğlu mutlak değerin çok kolay ve sıkıcı olduğunu söylemiş. Oğlu, karmaşık sayılar kullanılırsa bunun daha ilginç olabileceğini söyleyince ebeveyn, onun karmaşık düzlemde mutlak değerin gerçek ve sanal kısmın hipotenüsü olduğunu anladığını fark etmiş. Bu anlayış, yalnızca büyük bir eşanlamlılar sözlüğüne sahip olmanın sonucu değil, temel mekanizmalara dair kavrayıştan kaynaklanıyor. Büyük dil modellerinin hangi süreçle buna benzer sonuçlara ulaşabildiği sorusu gündeme geliyor.