OpenAI 501(c)(3) hayır kurumu olarak kalmaya devam ederse, yönetim kuruluna giren bir Microsoft çalışanının Microsoft’un ticari ihtiyaçlarını değil, hayır kurumunun misyonunu önceleyen bir mütevelli sorumluluğu olur. Çıkar çatışması o kadar bariz ki IRS’in bu yapıyı pek seveceğini sanmıyorum
Büyük şirketlerin yönetim kurullarında “kâğıt üzerinde” çıkar çatışmaları yaygındır. Gerçek yönetim deneyimi olan kişilerin yönetim kurulunda yer alıp sorumlu davranmasını istiyorsanız bu her sektörde ortaya çıkan bir durumdur; teknoloji sektörüne ya da OpenAI’a özgü özel bir sorun değil
Pratikte işler, yönetim kurulu kuralları ve sağduyu doğrultusunda gerektiğinde çekilmek ve aptalca şeyler yapmamak şeklinde yürür
Kâr amacı gütmeyen bir kuruluşun şimdi olduğu kadar büyük bir incelemeye tabi tutulduğunu sanmam; yeni üyeler de kendilerini korumak için avukatları devreye sokmak isteyecektir. Sam Altman gerçekten görevden alınmayı gerektirecek bir şey yaptığında onların konumunu hayal etmek yeterli
OpenAI’ı kamu yararına çalışan hayır kurumu yapmak büyük bir hataydı ve böyle bir karmaşanın içine girmek çekici değil. İleride özel vakıf statüsüne doğru kayarsa iş daha da ilginç hâle gelir
OpenAI bir hayır kurumu değil. Microsoft’un yatırımı, kâr amacı güden şirket olan OpenAI Global, LLC’ye yapıldı https://openai.com/our-structure adresine göre kâr amaçlı yan kuruluş tamamen OpenAI Nonprofit’in kontrolünde ve yönetim kurulu üyeleri “geniş ölçekte faydalı, güvenli AGI” misyonu için mütevelli sorumluluklarını yerine getirmek zorunda. Yatırımcılar, çalışanlar ve Microsoft’un kâr payı için üst sınırlar var; bu sınırları aşan artık değer insanlığın yararı için kâr amacı gütmeyen kuruluşa geri dönüyor. Ayrıca AGI’ye ulaşılıp ulaşılmadığına yönetim kurulu karar veriyor ve AGI, Microsoft’un fikrî mülkiyet lisansı ile ticari şartlarının dışında tutuluyor
Microsoft tarafından aday gösterilen yöneticinin mutlaka Microsoft çalışanı olduğuna dair bir işaret yok. Elbette öyle de olabilir, ancak büyük kâr amacı gütmeyen kuruluşlarda kâr amaçlı şirketlerden gelen yönetim kurulu üyeleri sık görülür
IRS’in bu tür şeyleri çok önemseyeceğini sanmıyorum. İddia OpenAI’ın, vergi ödeyen kâr amaçlı şirket Microsoft’a fayda aktardığıysa, en kötü niyetli müdahale varsayılsa bile bu IRS’den çok SEC alanına daha yakın görünüyor
Hükümetin bunu sert biçimde düzenleyeceğini sanmıyorum. Yapay zeka hükümet ve ordu için fazla önemli; bu yüzden küçük çıkar çatışmaları nedeniyle rekabet avantajını yavaşlatmak istemezler
Sam’in CEO olarak geri dönmesiyle OpenAI yönetim kurulunun işlevini yitirdiğini kanıtlamış olmadığını merak ediyorum. Yönetim kurulunda kim olursa olsun, CEO’yu görevden alma gibi en temel yetkisini kullanamaz hâle geldi ve Sam’in fiilen kovulamaz biri olduğunu gösterdi
Bununla Sam’in yalan söylediğini ya da ileride söyleyeceğini iddia etmiyorum
Hiç de öyle değil. Yönetim kurulu, sorumluluğunu üstlendiği gruplar arasında olabilecek en beceriksiz şekilde davrandı sadece
Usule uygun hareket etseler, çalışanları ve yatırımcıları bilgilendirseler, CEO’yu neden görevden aldıklarını açıklasalardı, 15 dakikalık bir Google Meet ile işi bitirip sonra tamamen sessizliğe gömülme durumu yaşanmazdı; böyle bir öfke de doğmazdı
Apple yönetim kurulunun, Tim Cook’u sahnede o yılın geliştirici platformu güncellemelerini ve rekor büyüme ile satışları duyurmasının hemen ardından hiçbir uyarı olmadan görevden aldığını; birkaç gün boyunca yatırımcılara gerekçe ya da işe yarar bir iletişim sunmayı reddettiğini; aynı hafta sonunda ilk geçici CEO’yu bambaşka bir sektörden başka bir geçici CEO ile değiştirdiğini hayal edin
Sırf CEO’yu görevden alma gibi temel bir yetkiyi kullandı diye yönetim kuruluna karşı hissedar isyanı çıkmayacağını düşünüyorsanız durumun bir kısmını kaçırıyorsunuz demektir
Bu, insanların düşündüğünden yönetim kurulu için daha iyi, Sam için ise daha kötü bir anlaşma. Sam, Greg ve Ilya’nın hepsi yönetim kurulundan çıktı; D'Angelo ise saçma sapan davranışlarına rağmen kaldı ve yeni üyelerin atanmasında veto hakkı ile güçlü bir söz sahibi oldu
Bundan sonra herkes Sam’e karşı temkinli olacak. Önceki yönetim kurulunda sahip olduğundan çok daha az manivelası olacak. Sonunda cazibesi ve sosyal becerileriyle diğer bağımsız üyeleri ikna edip kazanabilir, ama onları D'Angelo’nun tarafında değil kendi tarafında tutmak için davranışlarını epey kontrol etmesi gerekecek
Doğru, ama tersinden bakınca bu olay OpenAI’ın artık sorunsuz işlemediğini ve muhtemelen bir daha da bunun zor olduğunu gösterdi. Yılanın başını kesip sonra tekrar takarak eskisi gibi sürünmesini bekleyemezsiniz
Sam kalsa bile OpenAI gibi karmaşık bir organizasyonda, CEO doğrudan müdahil olmasa da iyi işlemesi gereken binlerce örtük kural, ilişki ve gizli süreç vardır. Sam’in yeniden işe alınması, bundan sonraki OpenAI’ın eski hâlinin soluk bir gölgesine daha yakın olacağı anlamına geliyor gibi. Gerçekten yeniden yerleşirse tuhaf hissettirecek; ayrılan diğer insanları düşününce bu daha da böyle. Bu, OpenAI ölecek demek değil ama zayıf yanını ortaya koyduğu kesin
Yönetim kurulu, kilit paydaşları önce ikna ederse Sam’i hâlâ görevden alabilir. İyi performans gösteren birini hiçbir gerekçe olmadan görevden almak mantıksızdı; asıl sorun da bu gibi görünüyor
Sonuçta herkes bu kâr amacı gütmeyen yapının göstermelik olduğunu ve iyi çalışmayacağını biliyor
Nedense bana Coke/New Coke fiyaskosunu hatırlattı. Sonuçta Coke Classic’i eskisinden daha ünlü yapan bir olaydı
Tüketiciler, bilip büyüdükleri tadın geri gelmesini isteyerek öfkelendi; eski ürünün geri getirilmesi talebi o kadar büyüktü ki gazeteciler tüm projenin kurgu olup olmadığını bile sordu. Bunun üzerine Coca-Cola başkanı Don Keough, 10 Temmuz 1985’te şöyle yanıt verdi: “Biz ne o kadar aptalız ne de o kadar zekiyiz.” https://en.wikipedia.org/wiki/New_Coke
Stranger Things nedeniyle New Coke yeniden piyasaya çıktığında denemiştim; Coca Cola Classic’ten çok daha iyiydi. Başarısız olmasına üzüldüm
O sahnelemenin, şekerden yüksek fruktozlu mısır şurubuna geçişi gizlemek için yapılmış olabileceğini tahmin etmiştim
Ilya yönetim kurulundan çıktı ama Adam hâlâ duruyor. Kaş kaldırılacak bir durum ama neyse, olan bu
Sam geri döndü diye bu mesele öylece ortadan kalkmayacak. Sam yeri doldurulamaz biri gibi göründüğü için OAI büyük bir değişim geçirecek. Uzun vadede OAI’nin Facebook ya da Uber gibi dev şirketlerden biri olup olmayacağından şüpheliyim; güven kaybetti
Mesele onun yeri doldurulamaz olmasından çok, belirgin bir neden olmadan aniden kapı dışarı edilmesinin sorun yaratması
Tarih, iyi bir ürünün güvenden çok daha önemli olduğunu defalarca gösterdi; Facebook ve Uber bunun kanıtı. Skandalların hemen ardından herkes güvenin kaybolduğunu yüksek sesle söyler ama zamanı gelince sessizce sözleşmesini yeniler
Google, Amazon, Facebook gibi büyük reklam şirketlerinin neredeyse her ay skandalı olsa da reklam gelirleri akmaya devam ediyor. Meltdown büyük bir skandaldı ama Intel çip üretmeye devam ediyor
Facebook sayamayacağımız kadar çok güven kaybetti ama hâlâ bir Megacorp değil mi?
Sam Altman inanılmaz karizmatik bir kurucu CEO; bazıları onu manipülatif görüyor ama birçok çalışan tarafından seviliyor. Yönetim kurulu tarafından kovuldu, sonra yönetim kurulu hatasını fark edince geri döndü
Facebook, Amazon, Microsoft, Google gibi dev başarı şirketlerinin kuruluş anlatılarına birebir uymuyor ama böyle birinin devasa bir şirket kurma ihtimali hâlâ var diye düşünüyorum. Elbette devasa bir şirket kurmaktan daha önemli olan, delicesine iyi bir ürün yapmak
Sonuçta tam olarak ne olduğunu hâlâ bilmiyoruz ve muhtemelen bundan sonra da bilmeyeceğiz. Ancak hızlı ticarileşme tarafındaki Team Sam ile başlangıç ilkelerini koruma tarafındaki Team Helen/Ilya arasında bir çatlak olduğu açık görünüyor
GPT-3’ten önce çıkan makalelerde de şeffaflık, açıklık ve iş birliği gibi kurucu ideallerin sert rekabet ve daha fazla finansman baskısıyla aşındığı söyleniyordu. Team Helen panik halinde hareket etti ama kuruluşun kurucu ilkelerini koruduklarına inandıkları için kazanacaklarını düşünmüş olmalı. Fakat en baştan hiç şansları yoktu. Kamuoyunda AI Safety’yi gerçekten önemseyenler azınlıkta; geri kalanı ChatGPT’nin ödevlere yardım etmesini seviyor. Yönetim kurulunun akıl almaz derecede aptalca davranması alaya alınmayı hak ediyor, ama karşı tarafı da düşünmek gerek: gerçekten insanüstü yapay zekanın yakın olduğuna ve kötü niyetli davranabileceğine inanıyor olsalardı, hızı düşürmeye çalışmazlar mıydı?
Açıkçası bu tehdidi ciddiye almak zor, ama eskisine göre daha derin anlamak istiyorum. Düşündüğüm kadar temelsiz olmayabilir. Umarım bir gün Team Helen’in “engellemeye çalıştığımız şey tam da buydu” diyeceği gün gelmez https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Burada genel kamuoyunun ne düşündüğü önemli değil. Belirleyici unsur çalışan isyanıydı; çalışanlar olmadan organizasyon boş bir kabuktan ibaret
Çalışanlar gerçek dünyada hızlı etki yaratma tarafında durdu; bu, kariyerlerini ve hisse opsiyonlarını da doğrudan etkiliyor. Bunu bir ilke savaşı olarak görmek de safça. Hızlı ticarileşme karşısında ilkeler sloganı, her kampın kendi tarafını toplamak için öne sürdüğü şeydi; gerçekte ise zayıf ve karmaşık bir organizasyon yapısını kullanan açık bir iktidar ele geçirme girişimi olması daha olası. Altman’ı uzaklaştırmanın “doğru” yolu, yönetim kurulunda yetkilerini yavaş yavaş kısıtlayıp onu giderek törensel bir role iterek kendi isteğiyle ayrılmasını sağlamaktı
OpenAI tekilliğe yaklaşıyorsa Google, Meta, Baidu vb. de yaklaşıyordur. Öyleyse NSA’i ya da Beyaz Saray’ı devreye sokmak; Google, Meta, Microsoft’u da dahil ederek hafifletme önlemlerini başlatmak gerekir
Yalnızca OpenAI’ı yavaşlatmak, varsayım yanlışsa şirkete zarar verir; doğruysa da işe yaramaz. Bu, ilkeler ve yön meselesinden çok ego ve güç kavgasına benziyor
Bu anlatı makul ama ilk yayımlanan basın bültenindeki tuhaf ve saldırgan ifadeleri açıklamıyor
Kurucu ilkeleri ya da tüzüğü işaret edip yönetim kurulunun Sam ile bunun yorumu konusunda kapatılamaz görüş ayrılıkları olduğunu söyleseler ve aynı zamanda bugüne kadarki katkıları için derin teşekkür etselerdi durum farklı olabilirdi. Elbette uygun bir halef CEO ve çalışanların PPU’larının likit hâle geleceğine dair güvence çok daha önemli olurdu. İlk başta Sam’in suç falan işlediğini sandıracak kadar kötü bir açıklamaydı
Sorumlu ilerlemeden bahseden bir organizasyonun kendi içindeki teşvik yapısı hizalamasını bile becerememiş olması ironisi alay edilmeyi hak ediyor. Bu, güvenilirlik açısından büyük bir darbe ve dile getirdikleri etik kaygılardan bile şüphe ettiriyor
Tehdidin gerçek olduğunu düşünüyorsan zaten kaybetmiş sayılmaz mıyız? OpenAI bu sorunu araştıran birçok ekipten yalnızca biri ve hepsi büyük halka açık şirketlerin muazzam sermayesi ve yeteneğiyle destekleniyor
OpenAI’nin benzersiz bir katkı yaptığı doğru ama ezici biçimde önde de değil. OpenAI sarsılırsa başka bir yerin liderliği alması muhtemel; bir sonraki büyük inovasyonun nereden çıkacağını da bilemeyiz. Tehdidi gerçekten ciddiye alıyorsan neden OpenAI’nin mutlak lider olduğunu varsaydığını anlamıyorum. Şirketi yavaşlatmanın en olası sonucu liderliği başka bir yere devretmek olur
Yapıyı şöyle görmek gerek: Tek bir geliştirici olan Ilya’ya karşı tek bir iş insanı olan Sam denkleminde Sam kazanır. Yüzlerce geliştirici istifa tehdidinde bulunup yönetim kurulu direnince geliştiriciler kazanır
Dışarıdan bakınca gücün en başından beri geliştiricilerde olduğu gibi görünüyor; doğrusu da bu olmalı
Herhangi bir şirkette %95’in aynı pozisyonu alması görülmemiş bir şey ama bunun birkaç nedeni var
Yeni Microsoft startup’ında benzer pozisyonlar ve ücretler alabilecekleri için işleri tehlikede değildi; Sam zaten her işe alımı baştan onaylamıştı; OpenAI ise daha yüksek ücret verebilecek başka şirketler yerine amacı olan bir kâr amacı gütmeyen kuruluşta çalışmak isteyen insanları işe alıyordu. Her hâlükârda birlikte ayrılacaklarını söyleyerek kenetlenmeleri iyi bir stratejiydi ve işe yaradı. “OpenAI is nothing without its people” kötü bir yönetim kuruluna karşı bir güç denetimiydi
Üç ejderha var: çalışanlar, müşteriler, hükümet. Motive olup hizalandıklarında bu üçünden herhangi biri isterse şirketi bitirebilir
Ejderhayı uyandırmamak gerekir
Paranın kazanmasına daha yakın. Çalışanların çoğunun OpenAI'ın misyonunu pek umursamadığı açık görünüyor. Onları suçlamıyorum; çünkü bu kişiler kâr amaçlı OpenAI şirketi tarafından işe alındı ve bu hedefe uygun şekilde hisseyle ödüllendirildiler.
Bence yönetim kurulunun OpenAI'ın asıl misyonunu korumaya çalışması doğruydu. Artık o misyonun hiçbir anlamı kalmamış olsa da. Google, Meta ve Microsoft'un zaten geliştireceği argümanı kullanışlı bir mantık. Nükleer silah yarışında da “biz yapmazsak başkaları yapar” diye kullanılmıştı; bugün geldiğimiz nokta da bunun sonucu.
Ilya'nın bu işin kaynağı olduğundan emin olabilir miyiz? Başta destekledi ama sonra geri alınmazsa istifa edeceğini belirten imzaya da katıldı.
Bunun arkasında D'Angelo değil de Ilya olduğuna dair kanıtın ne olduğunu merak ediyorum.
Geliştiricilerin birlikteliği şirketin kendisinden daha güçlü görünüyor. Büyük teknoloji yöneticilerinin sendikalardan bu kadar nefret etmesinin nedeni de bu.
Özel sektör öncülüğündeki AI safety yaklaşımından umut vardı ama artık zor görünüyor; kamuya dönük yapay zeka Ar-Ge'sine devlet yatırımlarının yavaş olması nedeniyle tüm yapay zeka güvenliği yaklaşımları belirsiz görünüyor.
Oyuncak modellerde güvenlik araştırmaları ilerlemeye devam edecek, ancak sektörün beklentisi, ortaya çıkan özellikler nedeniyle en ileri modelleri araştırmadan güvenlik hakkında öğrenilebileceklerin üst sınırının düşük olduğu yönünde görünüyor. Altman, OpenAI'ın yönetişim yapısını güvenliği önceliklendiren bir mekanizma olarak tanıtmıştı; ancak güvenlik personelinin ChatGPT yüküne yanıt vermeye kaydırıldığına dair haberler endişe verici. Artık yönetim kurulu, teknik olarak mümkün olsa da bu çıkarları kontrol edecek kadar güçlü olmadığını göstermiş oldu; Anthropic dahil güvenlik odaklı kuruluşların fon sağlayıcıların hızlanmacı etkisinden nasıl kurtulabileceği belirsizleşti.
Ortaya çıkan özellik diye bir şey yok; yalnızca aranabilir bilginin doğrusal olarak artması var.
Plan yapamıyor, aritmetik yapamıyor, akıl yürütemiyor. Doğal dil sorgularıyla bilgiyi kabaca arayabiliyor ve bu tarafı oldukça iyi; verileri doğal dil ve başka biçimlerde kodlayabiliyor. Bunun kendisinden endişe duymuyorum; insanların bu modelin yapabildiklerini ciddi biçimde yanlış anlayıp sonra önemli işlerde kullanmaya kalkmasından endişe ediyorum.
ChatGPT'yi sürekli ve kararlı biçimde çalıştırmak gibi erken ticarileştirme işlerine daha fazla çaba harcanırsa, en ileri yeteneklerin geliştirilmesine daha az çaba gidebilir. Altman zaten başından beri bir AI safety insanı değildi; şahsen Anthropic'in daha iyi liderlikle bu sorundan kaçınmasını umuyorum.
Yeter ki beceriksiz olmasınlar ve kişisel çıkarları için gücü kötüye kullanmasınlar. İnsanlar sanıldığı kadar aptal değil; böyle saçmalıkları görürler ve aptal bir tiranı takip etmektense bırakıp giderler.
“Oyuncak model” olmayan modelin ne olduğunu bilmek isterim.
Gerçekten böyle bir şeyin olacağını hiç düşünmemiştim. Sıradaki soru doğal olarak Ilya'ya ne olacağı. Bu duyuruya göre yönetim kurulundan çıkmış gibi görünüyor; peki hâlâ baş bilim insanı mı? Onun ve Sam'in ilişkilerini onarıp bu kadar yakın çalışabileceklerine inanmak zor.
Adam'ın yönetim kurulunda kalması da ilginç; burada dolaşan, çıkar çatışması nedeniyle asıl kışkırtıcının o olduğuna dair çeşitli teorileri çürütüyor gibi görünüyor.
Ilya açısından pek bir şey değişmiş gibi görünmüyor. Sam, ticarileştirmenin ne kadar hızlı yürütüleceğine dair süregelen görüş ayrılığı nedeniyle bir ay önce onu kenara itti.
Ilya hâlâ kenara itilmiş durumdaysa muhtemelen ayrılır ve ona en fazla kontrolü verecek şirket onu kapar. Kovulsa da aynı şey olur. Anlaşmanın bir parçası olarak yeniden merkeze alınırsa muhtemelen baş bilim insanı olarak kalır. Umarım Sam'in düşmanlığı artık biraz azalır.
Tuhaf biçimde, Ilya'nın bu olaydan oldukça iyi çıktığını düşünüyorum. Kendi değerleri ve yapay zeka güvenliği için en iyisi olduğuna inandığı yargıya göre karar verdi; sonuçları görünce fikrini değiştirdi ve sorumluluk aldı.
İnternette geri adım attığı için alay edileceğini bilmesine rağmen, imza atan çalışanlar için en iyi olduğunu düşündüğü yönde hareket etti. Davranışları eleştirilebilir ama ahlaki karakterinin ortaya çıktığını düşünüyorum. Diğer yönetim kurulu üyeleri daha kişisel nedenlerle karar vermiş gibi görünüyor ve bu, Adam'ın çıkar çatışmasıyla da uyumlu görünüyor. Açıkçası dört kişi içinde yönetim kurulunda tutmak isteyeceğim tek kişi Ilya olurdu. Liderlik pozisyonlarında, yeni bilgiye göre yön değiştirebilen insanlara ihtiyaç var.
Daha iyimser bakılabilir. İkisi birbirini oldukça iyi tanıyor ve birlikte büyük işler başarmayı biliyor. Bazen işler patlayabilir ya da biri hata yapabilir; içten, basit bir özür epey yol aldırır.
Sam, iş ilişkilerinin nasıl yürüdüğünü bildiği için ilişkiyi onarmakta sorun yaşamaz. Üstelik Ilya, tweet'inde görüldüğü gibi zaten yüzüğü öptü.
Yeni yönetim kurulunda Adam D'Angelo yönetim kurulu yanlısı, Brett Taylor Sam yanlısı, Larry Summers ise nötre yakın görünüyor. Brett pazar gününden beri Sam'in dönüşünü savunuyordu; bu yüzden Sam ve OpenAI liderliğinin onu sevdiğini varsayıyorum. Larry yapay zeka alanında çalışmış biri değil ama genel olarak saygı duyulan bir isim; iki taraf uzlaşmadan önce geniş kapsamlı görüşmeler ve itibar kontrolleri yapmış olmalı.
Yönetim kurulunun bundan sonra nasıl değişeceği ilginç olacak. Kabaca iki hizip vardı. Sam'in çok hızlı gittiğini düşünen hizip onu görevden aldı; Sam'in izlediği rotanın iyi olduğunu düşünen hizipte ise Sam ve Greg vardı. Artık yönetim kurulunda bir denge oluştu ve sonraki atamalar ibreyi taraflardan birine çevirebilir. Ne yazık ki bölünmüş bir yönetim kurulu uzun süre dayanamaz ve sonunda büyük ihtimalle bir taraf kazanır. Bence sonunda Sam tarafı kazanacak, ama göreceğiz.
Bu dramın en üzücü sonuçlarından biri Greg'in OpenAI'dan itilmesi oldu. Greg yalnızca olağanüstü biri değil; aynı zamanda OpenAI'a düzenli olarak haftada 80-90 saatini verdi ve hayatının önemli bir bölümünü bu organizasyonu inşa etmeye adadı denebilir. Böyle bir kişinin, OpenAI'ı inşa etmeye 90 saat çalışmak bir yana neredeyse hiç katkısı olmayan bir yönetim kurulu tarafından kenara çekilmek zorunda bırakılması hakaret olur. Ilya bir istisna; kendi eyleminin OpenAI'ı öldürdüğünü görünce tutumunu tersine çevirmesi de dikkate değer.
Buradaki korkutucu seçim Larry Summers. Bankacılık regülasyonlarını gevşetmeye yönelik görüşleri küresel finans krizine yol açtı; ırkçı ve cinsiyetçi tutumlarıyla da çeşitli tartışmalar yaşandı. Ayrıca Epstein'ın uzun süreli arkadaşıydı ve adasına birkaç kez gitti.
Greg'in işinden değil, yalnızca yönetim kurulu koltuğundan ayrılması gerekiyordu.
1 yorum
Hacker News yorumları
Bu başlıkta 1800’den fazla yorum var. Hepsini okumak isterseniz her sayfanın altındaki More’a basabilir ya da aşağıdaki gibi sayfaları doğrudan açabilirsiniz
https://news.ycombinator.com/item?id=38375239&p=2
https://news.ycombinator.com/item?id=38375239&p=3
https://news.ycombinator.com/item?id=38375239&p=4
OpenAI 501(c)(3) hayır kurumu olarak kalmaya devam ederse, yönetim kuruluna giren bir Microsoft çalışanının Microsoft’un ticari ihtiyaçlarını değil, hayır kurumunun misyonunu önceleyen bir mütevelli sorumluluğu olur. Çıkar çatışması o kadar bariz ki IRS’in bu yapıyı pek seveceğini sanmıyorum
Pratikte işler, yönetim kurulu kuralları ve sağduyu doğrultusunda gerektiğinde çekilmek ve aptalca şeyler yapmamak şeklinde yürür
OpenAI’ı kamu yararına çalışan hayır kurumu yapmak büyük bir hataydı ve böyle bir karmaşanın içine girmek çekici değil. İleride özel vakıf statüsüne doğru kayarsa iş daha da ilginç hâle gelir
https://openai.com/our-structure adresine göre kâr amaçlı yan kuruluş tamamen OpenAI Nonprofit’in kontrolünde ve yönetim kurulu üyeleri “geniş ölçekte faydalı, güvenli AGI” misyonu için mütevelli sorumluluklarını yerine getirmek zorunda. Yatırımcılar, çalışanlar ve Microsoft’un kâr payı için üst sınırlar var; bu sınırları aşan artık değer insanlığın yararı için kâr amacı gütmeyen kuruluşa geri dönüyor. Ayrıca AGI’ye ulaşılıp ulaşılmadığına yönetim kurulu karar veriyor ve AGI, Microsoft’un fikrî mülkiyet lisansı ile ticari şartlarının dışında tutuluyor
IRS’in bu tür şeyleri çok önemseyeceğini sanmıyorum. İddia OpenAI’ın, vergi ödeyen kâr amaçlı şirket Microsoft’a fayda aktardığıysa, en kötü niyetli müdahale varsayılsa bile bu IRS’den çok SEC alanına daha yakın görünüyor
Sam’in CEO olarak geri dönmesiyle OpenAI yönetim kurulunun işlevini yitirdiğini kanıtlamış olmadığını merak ediyorum. Yönetim kurulunda kim olursa olsun, CEO’yu görevden alma gibi en temel yetkisini kullanamaz hâle geldi ve Sam’in fiilen kovulamaz biri olduğunu gösterdi
Bununla Sam’in yalan söylediğini ya da ileride söyleyeceğini iddia etmiyorum
Usule uygun hareket etseler, çalışanları ve yatırımcıları bilgilendirseler, CEO’yu neden görevden aldıklarını açıklasalardı, 15 dakikalık bir Google Meet ile işi bitirip sonra tamamen sessizliğe gömülme durumu yaşanmazdı; böyle bir öfke de doğmazdı
Sırf CEO’yu görevden alma gibi temel bir yetkiyi kullandı diye yönetim kuruluna karşı hissedar isyanı çıkmayacağını düşünüyorsanız durumun bir kısmını kaçırıyorsunuz demektir
Bundan sonra herkes Sam’e karşı temkinli olacak. Önceki yönetim kurulunda sahip olduğundan çok daha az manivelası olacak. Sonunda cazibesi ve sosyal becerileriyle diğer bağımsız üyeleri ikna edip kazanabilir, ama onları D'Angelo’nun tarafında değil kendi tarafında tutmak için davranışlarını epey kontrol etmesi gerekecek
Sam kalsa bile OpenAI gibi karmaşık bir organizasyonda, CEO doğrudan müdahil olmasa da iyi işlemesi gereken binlerce örtük kural, ilişki ve gizli süreç vardır. Sam’in yeniden işe alınması, bundan sonraki OpenAI’ın eski hâlinin soluk bir gölgesine daha yakın olacağı anlamına geliyor gibi. Gerçekten yeniden yerleşirse tuhaf hissettirecek; ayrılan diğer insanları düşününce bu daha da böyle. Bu, OpenAI ölecek demek değil ama zayıf yanını ortaya koyduğu kesin
Sonuçta herkes bu kâr amacı gütmeyen yapının göstermelik olduğunu ve iyi çalışmayacağını biliyor
Nedense bana Coke/New Coke fiyaskosunu hatırlattı. Sonuçta Coke Classic’i eskisinden daha ünlü yapan bir olaydı
Tüketiciler, bilip büyüdükleri tadın geri gelmesini isteyerek öfkelendi; eski ürünün geri getirilmesi talebi o kadar büyüktü ki gazeteciler tüm projenin kurgu olup olmadığını bile sordu. Bunun üzerine Coca-Cola başkanı Don Keough, 10 Temmuz 1985’te şöyle yanıt verdi: “Biz ne o kadar aptalız ne de o kadar zekiyiz.”
https://en.wikipedia.org/wiki/New_Coke
Stranger Things nedeniyle New Coke yeniden piyasaya çıktığında denemiştim; Coca Cola Classic’ten çok daha iyiydi. Başarısız olmasına üzüldüm
Ilya yönetim kurulundan çıktı ama Adam hâlâ duruyor. Kaş kaldırılacak bir durum ama neyse, olan bu
Sam geri döndü diye bu mesele öylece ortadan kalkmayacak. Sam yeri doldurulamaz biri gibi göründüğü için OAI büyük bir değişim geçirecek. Uzun vadede OAI’nin Facebook ya da Uber gibi dev şirketlerden biri olup olmayacağından şüpheliyim; güven kaybetti
Google, Amazon, Facebook gibi büyük reklam şirketlerinin neredeyse her ay skandalı olsa da reklam gelirleri akmaya devam ediyor. Meltdown büyük bir skandaldı ama Intel çip üretmeye devam ediyor
Facebook, Amazon, Microsoft, Google gibi dev başarı şirketlerinin kuruluş anlatılarına birebir uymuyor ama böyle birinin devasa bir şirket kurma ihtimali hâlâ var diye düşünüyorum. Elbette devasa bir şirket kurmaktan daha önemli olan, delicesine iyi bir ürün yapmak
Sonuçta tam olarak ne olduğunu hâlâ bilmiyoruz ve muhtemelen bundan sonra da bilmeyeceğiz. Ancak hızlı ticarileşme tarafındaki Team Sam ile başlangıç ilkelerini koruma tarafındaki Team Helen/Ilya arasında bir çatlak olduğu açık görünüyor
GPT-3’ten önce çıkan makalelerde de şeffaflık, açıklık ve iş birliği gibi kurucu ideallerin sert rekabet ve daha fazla finansman baskısıyla aşındığı söyleniyordu. Team Helen panik halinde hareket etti ama kuruluşun kurucu ilkelerini koruduklarına inandıkları için kazanacaklarını düşünmüş olmalı. Fakat en baştan hiç şansları yoktu. Kamuoyunda AI Safety’yi gerçekten önemseyenler azınlıkta; geri kalanı ChatGPT’nin ödevlere yardım etmesini seviyor. Yönetim kurulunun akıl almaz derecede aptalca davranması alaya alınmayı hak ediyor, ama karşı tarafı da düşünmek gerek: gerçekten insanüstü yapay zekanın yakın olduğuna ve kötü niyetli davranabileceğine inanıyor olsalardı, hızı düşürmeye çalışmazlar mıydı?
Açıkçası bu tehdidi ciddiye almak zor, ama eskisine göre daha derin anlamak istiyorum. Düşündüğüm kadar temelsiz olmayabilir. Umarım bir gün Team Helen’in “engellemeye çalıştığımız şey tam da buydu” diyeceği gün gelmez
https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Çalışanlar gerçek dünyada hızlı etki yaratma tarafında durdu; bu, kariyerlerini ve hisse opsiyonlarını da doğrudan etkiliyor. Bunu bir ilke savaşı olarak görmek de safça. Hızlı ticarileşme karşısında ilkeler sloganı, her kampın kendi tarafını toplamak için öne sürdüğü şeydi; gerçekte ise zayıf ve karmaşık bir organizasyon yapısını kullanan açık bir iktidar ele geçirme girişimi olması daha olası. Altman’ı uzaklaştırmanın “doğru” yolu, yönetim kurulunda yetkilerini yavaş yavaş kısıtlayıp onu giderek törensel bir role iterek kendi isteğiyle ayrılmasını sağlamaktı
Yalnızca OpenAI’ı yavaşlatmak, varsayım yanlışsa şirkete zarar verir; doğruysa da işe yaramaz. Bu, ilkeler ve yön meselesinden çok ego ve güç kavgasına benziyor
Kurucu ilkeleri ya da tüzüğü işaret edip yönetim kurulunun Sam ile bunun yorumu konusunda kapatılamaz görüş ayrılıkları olduğunu söyleseler ve aynı zamanda bugüne kadarki katkıları için derin teşekkür etselerdi durum farklı olabilirdi. Elbette uygun bir halef CEO ve çalışanların PPU’larının likit hâle geleceğine dair güvence çok daha önemli olurdu. İlk başta Sam’in suç falan işlediğini sandıracak kadar kötü bir açıklamaydı
OpenAI’nin benzersiz bir katkı yaptığı doğru ama ezici biçimde önde de değil. OpenAI sarsılırsa başka bir yerin liderliği alması muhtemel; bir sonraki büyük inovasyonun nereden çıkacağını da bilemeyiz. Tehdidi gerçekten ciddiye alıyorsan neden OpenAI’nin mutlak lider olduğunu varsaydığını anlamıyorum. Şirketi yavaşlatmanın en olası sonucu liderliği başka bir yere devretmek olur
Yapıyı şöyle görmek gerek: Tek bir geliştirici olan Ilya’ya karşı tek bir iş insanı olan Sam denkleminde Sam kazanır. Yüzlerce geliştirici istifa tehdidinde bulunup yönetim kurulu direnince geliştiriciler kazanır
Dışarıdan bakınca gücün en başından beri geliştiricilerde olduğu gibi görünüyor; doğrusu da bu olmalı
Yeni Microsoft startup’ında benzer pozisyonlar ve ücretler alabilecekleri için işleri tehlikede değildi; Sam zaten her işe alımı baştan onaylamıştı; OpenAI ise daha yüksek ücret verebilecek başka şirketler yerine amacı olan bir kâr amacı gütmeyen kuruluşta çalışmak isteyen insanları işe alıyordu. Her hâlükârda birlikte ayrılacaklarını söyleyerek kenetlenmeleri iyi bir stratejiydi ve işe yaradı. “OpenAI is nothing without its people” kötü bir yönetim kuruluna karşı bir güç denetimiydi
Ejderhayı uyandırmamak gerekir
Paranın kazanmasına daha yakın. Çalışanların çoğunun OpenAI'ın misyonunu pek umursamadığı açık görünüyor. Onları suçlamıyorum; çünkü bu kişiler kâr amaçlı OpenAI şirketi tarafından işe alındı ve bu hedefe uygun şekilde hisseyle ödüllendirildiler.
Bence yönetim kurulunun OpenAI'ın asıl misyonunu korumaya çalışması doğruydu. Artık o misyonun hiçbir anlamı kalmamış olsa da. Google, Meta ve Microsoft'un zaten geliştireceği argümanı kullanışlı bir mantık. Nükleer silah yarışında da “biz yapmazsak başkaları yapar” diye kullanılmıştı; bugün geldiğimiz nokta da bunun sonucu.
Bunun arkasında D'Angelo değil de Ilya olduğuna dair kanıtın ne olduğunu merak ediyorum.
Özel sektör öncülüğündeki AI safety yaklaşımından umut vardı ama artık zor görünüyor; kamuya dönük yapay zeka Ar-Ge'sine devlet yatırımlarının yavaş olması nedeniyle tüm yapay zeka güvenliği yaklaşımları belirsiz görünüyor.
Oyuncak modellerde güvenlik araştırmaları ilerlemeye devam edecek, ancak sektörün beklentisi, ortaya çıkan özellikler nedeniyle en ileri modelleri araştırmadan güvenlik hakkında öğrenilebileceklerin üst sınırının düşük olduğu yönünde görünüyor. Altman, OpenAI'ın yönetişim yapısını güvenliği önceliklendiren bir mekanizma olarak tanıtmıştı; ancak güvenlik personelinin ChatGPT yüküne yanıt vermeye kaydırıldığına dair haberler endişe verici. Artık yönetim kurulu, teknik olarak mümkün olsa da bu çıkarları kontrol edecek kadar güçlü olmadığını göstermiş oldu; Anthropic dahil güvenlik odaklı kuruluşların fon sağlayıcıların hızlanmacı etkisinden nasıl kurtulabileceği belirsizleşti.
Plan yapamıyor, aritmetik yapamıyor, akıl yürütemiyor. Doğal dil sorgularıyla bilgiyi kabaca arayabiliyor ve bu tarafı oldukça iyi; verileri doğal dil ve başka biçimlerde kodlayabiliyor. Bunun kendisinden endişe duymuyorum; insanların bu modelin yapabildiklerini ciddi biçimde yanlış anlayıp sonra önemli işlerde kullanmaya kalkmasından endişe ediyorum.
Gerçekten böyle bir şeyin olacağını hiç düşünmemiştim. Sıradaki soru doğal olarak Ilya'ya ne olacağı. Bu duyuruya göre yönetim kurulundan çıkmış gibi görünüyor; peki hâlâ baş bilim insanı mı? Onun ve Sam'in ilişkilerini onarıp bu kadar yakın çalışabileceklerine inanmak zor.
Adam'ın yönetim kurulunda kalması da ilginç; burada dolaşan, çıkar çatışması nedeniyle asıl kışkırtıcının o olduğuna dair çeşitli teorileri çürütüyor gibi görünüyor.
Ilya hâlâ kenara itilmiş durumdaysa muhtemelen ayrılır ve ona en fazla kontrolü verecek şirket onu kapar. Kovulsa da aynı şey olur. Anlaşmanın bir parçası olarak yeniden merkeze alınırsa muhtemelen baş bilim insanı olarak kalır. Umarım Sam'in düşmanlığı artık biraz azalır.
İnternette geri adım attığı için alay edileceğini bilmesine rağmen, imza atan çalışanlar için en iyi olduğunu düşündüğü yönde hareket etti. Davranışları eleştirilebilir ama ahlaki karakterinin ortaya çıktığını düşünüyorum. Diğer yönetim kurulu üyeleri daha kişisel nedenlerle karar vermiş gibi görünüyor ve bu, Adam'ın çıkar çatışmasıyla da uyumlu görünüyor. Açıkçası dört kişi içinde yönetim kurulunda tutmak isteyeceğim tek kişi Ilya olurdu. Liderlik pozisyonlarında, yeni bilgiye göre yön değiştirebilen insanlara ihtiyaç var.
Yeni yönetim kurulunda Adam D'Angelo yönetim kurulu yanlısı, Brett Taylor Sam yanlısı, Larry Summers ise nötre yakın görünüyor. Brett pazar gününden beri Sam'in dönüşünü savunuyordu; bu yüzden Sam ve OpenAI liderliğinin onu sevdiğini varsayıyorum. Larry yapay zeka alanında çalışmış biri değil ama genel olarak saygı duyulan bir isim; iki taraf uzlaşmadan önce geniş kapsamlı görüşmeler ve itibar kontrolleri yapmış olmalı.
Yönetim kurulunun bundan sonra nasıl değişeceği ilginç olacak. Kabaca iki hizip vardı. Sam'in çok hızlı gittiğini düşünen hizip onu görevden aldı; Sam'in izlediği rotanın iyi olduğunu düşünen hizipte ise Sam ve Greg vardı. Artık yönetim kurulunda bir denge oluştu ve sonraki atamalar ibreyi taraflardan birine çevirebilir. Ne yazık ki bölünmüş bir yönetim kurulu uzun süre dayanamaz ve sonunda büyük ihtimalle bir taraf kazanır. Bence sonunda Sam tarafı kazanacak, ama göreceğiz.
Bu dramın en üzücü sonuçlarından biri Greg'in OpenAI'dan itilmesi oldu. Greg yalnızca olağanüstü biri değil; aynı zamanda OpenAI'a düzenli olarak haftada 80-90 saatini verdi ve hayatının önemli bir bölümünü bu organizasyonu inşa etmeye adadı denebilir. Böyle bir kişinin, OpenAI'ı inşa etmeye 90 saat çalışmak bir yana neredeyse hiç katkısı olmayan bir yönetim kurulu tarafından kenara çekilmek zorunda bırakılması hakaret olur. Ilya bir istisna; kendi eyleminin OpenAI'ı öldürdüğünü görünce tutumunu tersine çevirmesi de dikkate değer.