Tüm yorumlar: Bu başlıkta 1800'den fazla yorum var; hepsini okumak isterseniz her sayfanın altındaki 'More' düğmesine tıklayabilir veya verilen bağlantıyı kullanabilirsiniz.
OpenAI kâr amacı gütmeyen bir kuruluş olarak kalırsa, Microsoft'un yönetim kurulu temsilcisinin Microsoft'un ticari ihtiyaçlarını değil, hayır kurumunun misyonunu ilerletme yönünde yasal bir yükümlülüğü olur; bu da açık bir çıkar çatışmasına yol açabilir. IRS'in böyle bir yapıyı hoş karşılaması beklenmez.
Sam Altman'ın CEO olarak geri dönmesi, OpenAI yönetim kurulunun işlevini yitirdiğinin kanıtı olabilir. Kurul artık Sam'i görevden alma yetkisini fiilen kullanamaz hale geldi ve Sam artık istediği gibi hareket edebilir. Sam'in davranışları hakkında suçlama veya yanlış anlama içinde değilim, ancak yalan söyleyebileceği ya da uygunsuz davranabileceği yönünde bir endişe var.
Bu durum, sonunda Original Coke'un daha da popüler hale geldiği Coca-Cola ve New Coke olayını hatırlatıyor. Tüketiciler alışık oldukları tadın geri gelmesini güçlü biçimde talep etmişti ve bazı gazeteciler tüm bunların bir halkla ilişkiler stratejisi olduğunu öne sürmüştü.
Bir geliştirici ile bir iş insanı arasındaki mücadelede iş insanı kazandı; yüzlerce geliştirici istifa tehdidinde bulunduğunda yönetim kurulunun geri adım atması, geliştiricilerin gerçekten güce sahip olduğunu gösteren bir örnek oldu.
Ilya yönetim kurulundan ayrıldı ama Adam hâlâ orada. Bu bazı kişilerin kaşlarını kaldırmasına neden olabilir, ancak Sam'in dönüşüyle OpenAI'de önemli değişiklikler olacağı açık; yine de uzun vadede OpenAI'nin Facebook ya da Uber gibi bir dev şirkete dönüşeceğini sanmıyorum. Güvenin kaybedildiğine dair bir algı var.
Rapid Commercialization ekibi ile ilkelere bağlı kalmak isteyen ekip arasında bir çatışma vardı ve bu, GPT-3'ten önceki yazılarda da görülüyordu. Halkın yalnızca küçük bir kısmı yapay zeka güvenliğiyle ilgileniyor; geri kalanlar ChatGPT'nin ödevlerine yardım etmesinden memnun. Yönetim kurulunun cehaletiyle alay edebilirsiniz, ama biri süper zekanın tehdidini ciddiye alıyorsa, davranışlarını anlamaya çalışmak gerekir.
Kişisel olarak yapay zeka güvenliğine yönelik tehdidi çok ciddi almıyorum, ancak anlamaya çalışma çabası gerekli. Helen ekibinin bir gün "Engellemeye çalıştığımız şey tam da buydu" dediğini görmek zorunda kalmamayı umuyorum.
Yapay zeka güvenliğine yönelik özel sektör yaklaşımı için bir umut vardı, ama artık bu imkânsız görünüyor; kamusal yapay zeka Ar-Ge'sine yönelik devlet yatırımlarının yavaşlığı nedeniyle, yapay zeka güvenliğine dair tüm yaklaşımlar da uygulanamaz görünüyor. Oyuncak modeller üzerindeki güvenlik araştırmaları ilerlemeye devam edecek, ancak sektör, son teknoloji modeller üzerinde araştırma yapılmadan güvenlik hakkında öğrenilebileceklerin sınırlı olduğunu düşünüyor.
Altman, OpenAI'nin yönetişim yapısının güvenliği önceliklendiren bir mekanizma olduğunu savunmuştu, ancak içeride güvenlik araştırmalarının ChatGPT operasyonlarını ayakta tutmaya kaydırıldığına dair haberler endişe yaratıyor. Yönetim kurulunun teknik olarak mümkün olsa da çıkar ilişkilerini yönetmek için yeterli güce sahip olmadığının ortaya çıkmasıyla, Anthropic dahil güvenliği önemseyen herhangi bir kuruluşun fon sağlayıcıların hızlandırmacı etkisinden kaçınıp kaçınamayacağı belirsizleşiyor.
Paul Graham, "5 yıl sonra geri dönerseniz Sam o adanın kralı olacak" dedi.
Pek çok kişi VC'ler/Microsoft'un kâr motivasyonu nedeniyle kâr amacı gütmeyen yapının yönetişimini altüst ettiği anlatısını kuruyor, ama bence gerçekte olan bu değil. Kararın bu şekilde çıkmasının nedeni, çalışanların %95'inin bu konuda Sam'in tarafını tutması ve yönetim kurulunun kendi pozisyonunu hiç açıklamamasıydı. Sam, çalışanların %95'i ve tüm yatırımcılar kurula karşıydı; kurulun burada kaybetmesi gerekiyordu. Çünkü kurul yalnızca kendisi için yönetiyordu. Sonuçta adil ve iyi bir sonuç çıktı; AGI sorununu ele almak için yönetişim yapısının hâlâ uygun olduğunu düşünüyorum, ancak bu yönetim kurulu son derece yetersizdi.
1 yorum
Hacker News görüşleri