OpenAI çalışanlarına Sam Altman’ın görevden alınması için sunulan iki gerekçe
(businessinsider.com)- OpenAI’nin bağımsız yönetim kurulu, Sam Altman’ın görevden alınma gerekçesi olarak “yönetim kuruluyla iletişiminde sürekli olarak açık sözlü olmaması” açıklamasını destekleyen iki örneği çalışanlara iletti
- Pazar gecesi Ilya Sutskever, eski Twitch CEO’su Emmett Shear’ı yeni geçici CEO olarak tanıttığında, Altman’ın geri dönmesini bekleyen çalışanlar sert tepki gösterdi
- Kurulun sunduğu örnekler, aynı projenin şirket içinde iki kişiye verilmesi ve belirli bir kişi hakkında iki yönetim kurulu üyesine farklı görüşler söylenmesiydi
- Çalışanlar bu açıklamaları ikna edici bulmadı ve kurulun istifasıyla Altman’ın geri dönmesini talep eden açık mektuba OpenAI çalışanlarının %90’dan fazlası imza attı
- Altman, Microsoft içinde geçici bir göreve sahipken geri dönüş ihtimalini müzakere etmeyi sürdürüyordu; Microsoft ise OpenAI’ye en az 10 milyar dolar yatırmış en büyük yatırımcı konumunda
Yönetim kurulunun çalışanlara sunduğu iki örnek
- OpenAI’nin bağımsız yönetim kurulu, Sam Altman’ın görevden alınmasının gerekçesi olarak “yönetim kuruluyla iletişiminde sürekli olarak açık sözlü olmaması” tutumunu ortaya koydu
- Çalışanlara aktarılan somut örnekler iki taneydi
- Altman’ın OpenAI içinde aynı projeyi iki kişiye vermesi
- Altman’ın belirli bir kişi hakkında iki yönetim kurulu üyesine farklı görüşler söylemesi
- OpenAI sözcüsü, konuyla ilgili yorum talebine yanıt vermedi
Emmett Shear atamasıyla büyüyen iç şok
- Pazar gecesi Ilya Sutskever, San Francisco’daki OpenAI ofislerinden birinde çalışanlara eski Twitch CEO’su Emmett Shear’ı yeni geçici CEO olarak tanıttı
- Shear, cuma günü Altman’ın yerine geçici CEO olan Mira Murati’nin yerine yeniden atandı
- Toplantıya OpenAI çalışanlarının yalnızca küçük bir kısmı katıldı; geri kalan çalışanlar ise fiilen iş bırakma eylemi yaptı
- Çalışanlar o gün Altman’ın CEO olarak geri döneceği haberini duymayı bekliyordu
- Bir kaynağa göre pazar gecesi yaklaşık 30 dakika içinde çalışanlar şirket içinde şu sırayla haberler aldı
- Altman geri dönüyor
- Altman geri dönmüyor
- Shear atanıyor
- Shear’ın atandığı haberi, hafta sonu boyunca zaten gergin olan çalışanlar için yeni bir şok oldu ve çalışanların çoğu bunu “çok kötü” karşıladı
Sutskever etrafındaki güvensizlik
- Sutskever, Altman’ın görevden alınması yönünde oy kullandı ve Google Meet üzerinden fiili işten çıkarma bildirimini yapan kişi oldu
- Shear atamasının duyurulduğu toplantıda Sutskever’in “karamsar” göründüğü aktarıldı
- Çalışanlar, yönetim kurulunun sunduğu iki açıklamayı ikna edici bulmadı
- Şirket içinde bu olayın, yönetim kurulunun gerçekleştirdiği açık bir darbe olduğu yönünde yorumlar yayıldı
- Bir kaynak, kurulun şu anda sunduğu hiçbir gerekçenin çalışanlar nezdinde neredeyse hiç inandırıcılığı olmadığını söyledi
Açık mektup ve toplu istifa baskısı
- Shear atamasına ilişkin toplantıdan birkaç saat sonra OpenAI çalışanları arasında bir açık mektup hazırlandı ve gece boyunca dolaşıma girdi
- Açık mektupta Murati ve Sutskever dahil OpenAI liderliği de imza attı
- Pazartesi öğle itibarıyla son sayımda çalışanların %90’dan fazlası imza vermişti
- Çalışanlar açık mektupta, şu koşullar karşılanmazsa istifa edeceklerini belirtti
- Kalan yönetim kurulu üyelerinin istifa etmesi
- Yeni yönetim kurulu üyelerinin atanması
- Altman’ın şirkete geri dönmesi
- Bir kaynak, “İnsanlar öfkeden kudurmuş durumda ve büyük çaplı istifalar kapıda” dedi
Yönetim kurulunun yapısı ve sonraki ilişkiler
- O sırada OpenAI yönetim kurulu, Quora CEO’su Adam D'Angelo, teknoloji girişimcisi Tasha McCauley, Georgetown Center for Security and Emerging Technology’den Helen Toner ve Ilya Sutskever’dan oluşuyordu
- Sutskever, istifa tehdidi içeren açık mektubu imzaladı ancak teknik olarak hâlâ yönetim kurulu üyesi olarak görülüyordu
- Sam Altman ile OpenAI Başkanı Greg Brockman da daha önce kurulda yer almıştı
- Altman, CEO Satya Nadella’nın koordine ettiği Microsoft içindeki geçici görevini sürdürürken OpenAI’ye geri dönüş ihtimalini müzakere etmeye devam ediyordu
- Microsoft, OpenAI’ye en az 10 milyar dolar yatırmış en büyük yatırımcıydı
- Murati, Altman’ın görevden alınmasının hemen ardından bazı çalışanların öfkesini çekti, ancak sonrasında ortam bir miktar yatıştı
- Murati’nin cuma gününden hemen sonra Sutskever’e sürekli “deferred” ettiği yönünde aktarımlar vardı
- Murati, Altman geri dönmezse şirketten ayrılacağını belirtmişti
- Sutskever, Altman’ın görevden alınmasına katıldığı için kamuoyu önünde “regret” ifade etti, ancak bazıları onun kolay kolay affedilmeyeceğini ve Microsoft’un yeni girişimine katılmak ya da şirkette kalmak için davet almayabileceğini düşünüyor
1 yorum
Hacker News görüşleri
Ödeme duvarı olmayan bağlantı: https://web.archive.org/web/20231120233119/https://www.busin...
Bu işin arkasında daha büyük bir bağlam olması kaçınılmaz görünüyor
Altman, kâr amacı gütmeyen bir kuruluşun başına geçip büyük miktarda bağış çektikten sonra OpenAI'ı dünyanın en hararetli TC tarzı startup'ına dönüştürdü ve ticarileşmede gaza bastı
Geçen hafta, Hinton'ın güçlü yapay zekanın en büyük tehdidinin zengin ve güçlü insanların teknolojiyi toplum üzerindeki hâkimiyetlerini güçlendirmek için kullanması olduğu yönündeki uyarısı ortadayken, Suudi fonlarından milyarlarca dolarla yapay zeka hızlandırıcıları geliştirmeye çalıştı
Buna deneyimsiz yönetim kurulu ve D'Angelo'nun hamleleri de eklenince teknoloji sektörü tarihinin en büyük kargaşalarından biri ortaya çıkıyor
Oylama yapıldı ve bir taraf kazandı; daha büyük ve ilginç bir hikâye olmayabilir
Yazılım şirketlerinde sık görülen bir hikâye bu; mesele yalnızca OpenAI yönetim kurulunun milyarlarca dolarlık marka değeri ve iyi niyeti uçuran bir karar almış olması olabilir
Quora hızla ChatGPT tarafından ikame ediliyor ve OpenAI'ın Dev Day'de GPTs'i duyurmasıyla Quora'nın rakip ürünü olan “Poe içerik üreticisi para kazanma” modeli de doğrudan darbe aldı
https://quorablog.quora.com/Introducing-creator-monetization...
https://techcrunch.com/2023/10/31/quoras-poe-introduces-an-a...
Kâr amacı gütmeyen bir kuruluşun mutlaka yalnızca yoksullara yardım etmesi gerekmiyor; OpenAI araştırmaları için lisans alıp gelir elde eden kâr amaçlı bir iştirak kurmanın nasıl bir politik oyun ya da aldatmaca olduğu belirsiz
Bu tür hukuki yapıların amacı, sahiplerin hissedar değeri yerine misyona odaklanmasını sağlamaktır; bu durumda hedef etik biçimde AGI geliştirmekti
Üstelik bu yapıyı Sam Altman ya da OpenAI icat etmedi
Suudi fonları meselesi de yukarıda sözü edilen hukuki yapıyla bağlantılı, ancak böyle bir denetimin gerçekten mümkün olup olmadığı ya da model performansı ile hesaplama miktarı arasındaki korelasyonun süreceği varsayımına dayanan epey teorik bir argüman
GPT-4'ü eğitmek 100 milyon dolardan fazlaya mal oldu ve bu paranın bir yerden gelmesi gerekiyor
Aksi söylenene kadar, onların açıkladığı gibi kabul edeceğim: a) aynı projeye iki kişiyi atadıkları ve b) aynı çalışan hakkında iki yönetim kurulu üyesine farklı açıklamalar yaptıkları için
İnternetin yönetim kurulu adına kulağa makul gelen yeni nedenler üretmesine gerek yok
Bu iki neden, AGI güvenliği ya da OpenAI'ın kâr amacı gütmeyen statüsü gibi büyük ideallerle ilgili görünmüyor; daha çok personel kararlarını mikro yönetmek gibi duruyor
Ilya Sutskever de görevden alma gerekçelerini kendisinin duyduğu şekilde aktarıyor
İnsanlar bunu AGI konusunda endişeli baş araştırmacının öncülük ettiği bir görevden alma olarak anlayıp yönetim kurulunun tarafını tuttu; ama artık yönetim kurulu, Dev Day sonrasında OpenAI ile daha doğrudan rekabet eder hâle gelen bir yapay zeka sohbet botu şirketine sahip olan D'Angelo tarafıyla temsil ediliyor gibi görünüyor
Occam'ın usturasını uygularsak makul görünüyor
Benim bulunduğum yerde, böyle bir durumda yönetim kurulu hiçbir şey yapmazsa her türlü sert hukuki adımdan kişisel olarak sorumlu tutulabilir
Kâr amacı gütmeyen yapı olduğu için mi farklı, yoksa yönetim kurulunun bunu hâlâ atlatabileceğini neden düşündüğünü bilmiyorum
Quora'da da benzer bir şey yapmamış mıydı diye düşünüyorum
Greg davet edilmediği için Sam tarafının bir oyu eksildi; Sam'den de oylamaya katılmaması istenmiş olabilir, dolayısıyla 3 kişi çoğunluğu ele geçirmiş olabilir
Şu anda “Team Sam”de olan Ilya karşı oy vermiş de olabilir; o anda sıranın kendisine gelebileceğini düşünüp sadece akışa uymuş da olabilir
Greg'e yönetim kurulu toplantısını haber vermeden ve onsuz ilerlemek profesyonelce değildi; bu, Ilya'nın işleri batırdığı nokta gibi görünüyor
Sam de o anda “Bir dakika, Greg buraya gelmeden daha ileri gitmeyeceğim” demeliydi
OpenAI fiilen Microsoft'un AR-GE organizasyonu olmak istememiş olabilir
ChatGPT mobil uygulaması yeterince cilalı değildi ve ürün tasarımı neredeyse yok gibi görünüyordu; özellikle Microsoft için seri özellik üretimi gibi göründüğünde bunun fazla erken özellik basma olduğu eleştirisi makul görünüyor
Sam'in Microsoft'un Truva atı olduğunu hayal edince bunun kabul edilemez gelmiş olabileceğini düşünüyorum
Sam'in bir siyaset ustası olduğu söylenirse, onu iyi tanımasam da buna katılabilirim
OpenAI ekibinin %90'ının desteğini alan Microsoft tarafındaki bir figür ve bu iki şey aynı anda çıkar çatışması yaratıyor
CEO'ya “Hâlâ OpenAI'ın vizyonuna mı inanıyorsun, yoksa artık Microsoft'un vizyonuna mı inanıyorsun?” diye sormak oldukça meşru bir soru
Şirket varoluşsal bir krize girmişken, gece 1’deki tweet’ten beri kamuya açık bir açıklaması yok
Büyük çalkantının ertesi günü, ilk günden her şeyi kontrol altına almış gibi davranmak yerine durumu kavramayı beklemesi muhtemel
Shear hakkında okuduklarım, yapay zeka geliştirmeyi yavaşlatmaya ve Yudkowsky tarzı yapay zeka kıyametçiliğine yakın olduğu yönünde; bu da şirketin yutmaya hazır olduğu bir hap olmayabilir
https://x.com/drtechlash/status/1726507930026139651
“Yavaşlatmadan açıkça yana olduğumu söylüyorum. Duraklatmaya benziyor ama durdurmak değil, hızı düşürmek.”
“Şu an hız 10 ise duraklatma bunu 0’a indirmektir. Bence hedef 1~2 olmalı”
“- Emmett Shear, 16 Eylül 2023”
https://x.com/eshear/status/1703178063306203397
Hızlı hareket etmezlerse HN’de her türlü aşırı spekülasyon ortaya çıkacak; sanki bu kabul edilemezmiş gibi
Daha kötüsü, neredeyse gerçek zamanlı güncellemeler olmazsa insanlar sonunda bu işin o kadar da önemli olmadığını fark edip başka haberlere geçebilir
Elbette API endpoint’inin işaret ettiği URI’nin değişmesi gibi ciddi sonuçlar olabilir; bu yüzden şaka yapmamak gerekir
Tüm senaryoları hesaplasam da bunun onun lehine sonuçlanacağı bir yol görünmüyor
Deneyimli bir Silicon Valley CEO’su bu hesabı yapıp bunu umutsuz bir iş olarak görürdü; kabul etmiş olması, onun özellikle iyi bir lider olmadığına dair bir işaret gibi görünüyor
Aynı projeyi iki kişiye mi vermiş?
Farklı yaklaşımlar elde edip ikisini birleştirerek piyasaya çıkarmak istendiğinde sık yapılan bir şey değil mi bu?
Aynı kişi hakkında farklı görüşler bildirmiş olmak CEO’yu kovmak için sebep mi?
Yönetim kurulunun ya kovmak için bir nedeni yok ya da Sam’i kovmalarının gerçek nedenini söylemek istemiyorlar gibi görünüyor
Batırdılar
Sam, Ilya’yı istikrarsızlaştırıcı bir unsur ve şirketin tekil hata noktası olarak görüp OpenAI’ın Ilya olmadan da devam edebilmesini sağlamaya çalışmış olabilir
[0] https://news.ycombinator.com/reply?id=38357843
Verinin yorumlanması çok karmaşık olduğu için, ek doğrulama amacıyla iki ekip birbirinden izole edilerek veriyi yorumlamaları ve görüntü oluşturmaları istendi
Sonuçlar neredeyse aynıysa, bu doğru olduğuna dair güçlü bir teyit olur
Dolayısıyla bu kesinlikle geçerli bir strateji
Altman, milyarlarca dolarlık şirket CEO’ları standardına göre normal aralığa çok daha yakın görünüyor
Mükemmel olmayabilir ama bu tür ufak tefek kovma gerekçeleri şüpheli kokuyor
Ilya’nın insanların nasıl hareket ettiği konusunda biraz saf olabileceği ve bunun, güvenlik meselesi kılıfına sokulmuş klasik bir güç mücadelesinde kullanılmış olabileceği hissine kapılıyorum
Click wheel’e karşı multitouch’tı ve şaşırtıcı biçimde click wheel iPhone kaybetti
DOS’ta mı kalacağına, OS/2’ye mi geçeceğine, Windows’a mı geçeceğine karar vermesi gerekiyordu; Lotus OS/2’yi seçti ama pazar Windows’a gitti ve Excel’e yenildi
O dönemde Lotus varlıklı bir şirketti; ben olsam üç grup kurup üç seçeneği de yürütürdüm
“Altman’ın OpenAI’daki iki kişiye aynı projeyi verdiği” açıklamasına bakınca, bu insanların başka bir şirkette hiç çalışıp çalışmadığını merak ediyorum
10’dan fazla çalışanı olan bir şirkette neredeyse her yerde böyle şeyler olur
Şaka yapmıyorum
Özellikle birine bu yöntemle, diğerine şu yöntemle denemesini söyleyip sonuçları karşılaştırmak gibi bir durum yoksa; iş bitene kadar birbirlerinin varlığından haberdar edilmedilerse daha da öyle
O sırada sahip oldukları bilgilerle uygun ve doğru hareket ettikleri varsayımını yaparsak, örneğin ikinci proje alignment ile ilgiliyse ve Sam bunun varlığını Ilya’dan sakladıysa ya da onu yanılttıysa ne olur?
Sam bunu, Ilya’nın yapay zekayı aşırı alignment’a sokup işlevselliğini düşürdüğüne inandığı için yaptıysa, bu davranış uygun görülebilir mi?
Yönetim kurulunun şeffaf olmamasını “çok kötü, profesyonel olmayan bir kararı gizlemek” olarak görebiliriz; şu an bu olasılık yüksek görünüyor
Tersine, ilk iletişimlerinde yanlış değerlendirme yapmış olmaları; şirket elek gibi sızdırdığı ve Sam’le çamur güreşine girmek istemedikleri için şu anda her açıklamada aşırı dikkatli davranmaları da mümkün
Hâlâ ortalık fazla karanlık; yargıya varmak zor
Yalnızca bu içerik, Altman’ın kovulmasının gerçek nedeni gibi gelmiyor
Bu yüzden “darbe” deniyor, ama bu da asıl soruya yanıt vermiyor
Altman gerçekten neden kovuldu?
Belli ki söylenemeyen bir neden var gibi
Şirkette nakit sıkıntısı gibi kötü bir şey yaşanıyor olabilir; CEO’yu kovduracak kadar ciddi, ama açıklanamayacak bir durum olabilir
Bir banka yönetim kurulunun, CEO’yu sermayeyi çok düşük seviyede bırakmakla suçlayıp kovduğunu düşünün; toparlanma ihtimalini mahvedebileceği için bunu böyle söyleyemezdi
Altman’ın yönetim kuruluna söylemediği “bir şey” olabilir ve onlar da bunu bize söyleyemiyor olabilir
Gerçekliği yeniden anlamlı hale getirmek için yama yapmak gibi
Bazen şişkin egolara sahip insanlar küçük hakaretler karşısında kırılır ve grup düşüncesi kontrolü ele geçirince, yörünge bombardımanı bir an için iyi bir fikir gibi görünebilir
Ben de şu anda rasyonalize ediyorum
Bir SAT çözücüsü gibi çözülemeyen bir döngüye sıkışınca en az bir kısıtı gevşetmek gerekir
İyi bir neden olmayabilir ya da neden kötü olabilir
Yönetim kurulu olarak Çernobil düzeyinde bir başarısızlık yaşadılar
Ayrıca işlerin bu kadar aceleye getirilmesine bakınca, olayın çok yakın zamanda yaşanmış olabileceği de düşünülebilir
Örneğin APEC’teki bir konuşma ya da anlaşma gibi bir şey olabilir
Ancak Ilya’nın tutumunu tersine çevirmesi bu kaba tahmini bozuyor; sonuçta ben de herkes gibi “????????” durumundayım
Çünkü biri yönetim kurulu başkanıydı, diğeri yönetim kurulu üyesiydi
Ama ikisi de Sam’in yeniden işe alınmasını istiyor
İkisinin de suça ortak olduğu sonucuna varmak da zor; çünkü yönetim kurulu Greg’i şirkette tutmak istedi, Ilya hâlâ yönetim kurulunda ve daha önce onları destekliyordu
Nedeni ne olursa olsun, bunun Sam’le ilgili kişisel-siyasi bir mesele olduğu, ima ettikleri türden büyük bir kriz olmadığı çok açık
Benim anladığım kadarıyla Altman, OpenAI’ı kâr amacı gütmeyen yapıdan kâr amaçlı yapıya, açık kaynak modellerden kapalı modellere çevirirken zaten dürüst olmayan davranışlar sergiledi
Daha kötüsü, insanların bu karakteri tamamen kabullenmiş gibi görünmesi
Tehlikeli olan yapay zekanın kendisi değil, yapay zekanın Altman’lar tarafından yapılıyor olması
Ayrıca belirli bir konu olsaydı Ilya’nın kovulmayı savunmaya devam etmesi daha olasıydı; pişman olması değil
Bu, yönetim kurulu ile çalışanların yönünün ayrıştığı basit bir iktidar mücadelesi gibi görünüyor
Bu son gelişmeyle doğrudan ilgili değil ama DeepMind’dan Geoffrey Irving, Altman’dan çok yönetim kuruluna güveniyor: https://x.com/geoffreyirving/status/1726754270224023971
Bu kadar büyük bir çıkar çatışması varken ve bilinen olgu sayısı 0 iken en iyisi sessiz kalmak
“Saygı duyduğum insanlar, özellikle Helen Toner ve Ilya Sutskever nedeniyle birkaç söz söylemem gerektiğini hissettim” kısmı da var; Toner’ın burada ahlaki bir otoritesi varmış gibi görünmüyor
Ilya’nın ise açıkça böyle bir otoritesi vardı ve OpenAI’ı yakıp yıkmak istiyorsa muhtemelen buna hakkı da olduğunu düşünüyordum
Yine de en azından her şeyi Microsoft’a devretmek daha iyi olurdu
Ama hepimizin bildiği gibi Ilya 180 derece döndü ve bu gerçekten şaşırtıcıydı
“Sutskever, yönetim kurulundan duyduğunu iddia ettiği iki açıklamayı sundu” cümlesinin doğrulanması gerekiyor
Sutskever bu keyifli büyük felaket boyunca oldukça tutarsız açıklamalar yaptı
“Çalışan olmayan Adam D’Angelo, Tasha McCauley, Helen Toner”
Perşembe sabahı yayımlandı:
https://x.com/poe_platform/status/1725194752901988744?s=46
Perdenin arkasındaki adamı görmezden gelebilirsiniz