OpenAI CEO’su Sam Altman’ı görevden alan beklenmedik yönetim kurulu darbesinin perde arkası
(arstechnica.com)- OpenAI yönetim kurulunun cuma günü CEO Sam Altman’ı ani şekilde görevden almasıyla President Greg Brockman ve üç kıdemli araştırmacı şirketten ayrıldı; kilit yatırımcı Microsoft da önceden haberdar edilmediği için şoke oldu
- Çatışmanın merkezinde Chief Scientist Ilya Sutskever vardı; Altman’ın hızlı ticarileşme ve büyüme stratejisi, kâr amacı gütmeyen misyon temelli güvenlik sorumluluğuyla doğrudan çarpıştı
- Kâr amacı gütmeyen bir kuruluşun kâr amaçlı iştiraki sahiplenip kontrol ettiği sıra dışı yönetim yapısı nedeniyle, Altman ve Brockman’ın ayrılmasının ardından yönetim kurulunda yalnızca Sutskever, Adam D’Angelo, Tasha McCauley ve Helen Toner kaldı
- Yönetim kurulu görevden alma gerekçesi olarak “tutarlı biçimde samimi olmayan iletişimi” gösterdi; ancak COO Brad Lightcap’in iç notu, kararın suistimal ya da finans, iş, güvenlik, emniyet veya gizlilik uygulamaları nedeniyle alınmadığını belirtti
- Bu olay, güvenli geliştirme hızı ile gelirleştirme baskısı arasındaki gerilimi ortaya koydu; interim CEO Mira Murati döneminde operasyonel istikrarın sağlanması çalışanlar, iş ortakları, kullanıcılar ve müşteriler için acil gündem haline geldi
Altman’ın görevden alınmasının yarattığı ani kaos
- OpenAI cuma günü CEO Sam Altman’ı ani şekilde görevden aldı; bu karar President Greg Brockman’ın istifasına ve üç kıdemli bilim insanının şirketten ayrılmasına yol açtı
- Kilit yatırımcı ve azınlık hissedarı Microsoft da önceden bilgilendirilmedi; Bloomberg’e göre CEO Satya Nadella öfkelendi
- Altman’ın uzaklaştırılmasına, OpenAI teknolojisinin dağıtımındaki güvenlik ve hız konusundaki endişeler temelinde Chief Scientist Ilya Sutskever öncülük etmiş olabilir
- Sutskever, cuma öğleden sonra yapılan acil tüm çalışanlar toplantısında yönetim kurulunun “OpenAI’nin tüm insanlığa fayda sağlayacak AGI geliştirmesini güvence altına alma” yönündeki kâr amacı gütmeyen misyona ilişkin yükümlülüğünü yerine getirdiğini söyledi
- OpenAI’nin hedeflediği AGI, insanların yapabildiği entelektüel işleri yerine getirebilen varsayımsal bir teknolojiyi ifade ediyor
Ticarileşme hızı ve güvenlik etrafındaki çatlak
- İç gerilim, Altman’ın zorladığı ticarileşme ve şirket büyüme hızı etrafında büyüdü; Sutskever ise hızın yavaşlatılması gerektiği görüşündeydi
- Kara Swisher’a aktarılan kaynak ifadelerine göre, 6 Kasım’daki OpenAI Dev Day, Altman’ın tüketici odaklı ürünleri öne çıkararak “çok ileri, çok hızlı” ittiği bir dönüm noktası olarak görüldü
- Altman ve Brockman, cuma gecesi yayımladıkları ortak açıklamada yönetim kurulunun eylemleri karşısında “şoke olduklarını ve üzüldüklerini” belirtti
- Melek yatırımcı Ron Conway, bu olayı 1985’te Apple yönetim kurulunun Steve Jobs’ı kenara itmesinden bu yana görülmesi zor bir yönetim kurulu darbesi olarak eleştirdi ve bunun Sam ile Greg’e ve OpenAI’nin inşa edenlerine karşı doğru olmadığını söyledi
Kâr amacı gütmeyen yönetim yapısı ve kalan yönetim kurulu
- OpenAI, kâr amacı gütmeyen bir 501(c)(3) kamu yararı hayır kurumunun kâr amaçlı bölümü sahiplenip kontrol ettiği sıra dışı bir yapıya sahip
- Görevden alma öncesinde kâr amacı gütmeyen kuruluşun yönetim kurulunda Altman, Brockman, Ilya Sutskever ve OpenAI çalışanı olmayan üç kişi yer alıyordu
- Adam D’Angelo: Quora CEO’su
- Tasha McCauley: RAND corporation adjunct senior management scientist
- Helen Toner: Georgetown Center for Security and Emerging Technology’nin strategy and foundational research grants director’ı
- Altman’ın görevden alınması ve Brockman’ın yönetim kurulundan çıkarılmasının ardından kurulda yalnızca Sutskever, D’Angelo, McCauley ve Toner kaldı
Görevden alma süreci ve iç bilgilendirme
- Brockman ve Altman’ın ortak açıklamasına göre Altman’ın görevden alınması ikisi için de tam bir sürprizdi
- Altman’dan perşembe gecesi, cuma öğle saatlerinde yapılacak uzaktan yönetim kurulu toplantısına katılması istendi; ertesi gün o toplantıda görevden alındı
- O sırada OpenAI yönetim kurulu başkanı olan Brockman bu toplantıya davet edilmedi
- Yaklaşık 30 dakika sonra Sutskever, Brockman’a yönetim kurulundaki rolünden çıkarılacağını ancak şirkette kalabileceğini bildirdi ve Altman’ın görevden alındığını da aktardı
- Brockman şirkette kalmayı reddetti ve cuma geç saatlerde istifa etti
- Brockman’a göre OpenAI yönetimi kararı ancak hemen sonrasında öğrendi; ancak o dönemde CTO olan ve daha sonra interim CEO’ya geçen Mira Murati perşembe gecesi bilgilendirildi
“Samimi olmayan iletişim” ve suistimal iddialarının reddi
- OpenAI’nin Altman’ın ayrılışını duyuran açıklaması, Altman’ın yönetim kurulu ile iletişiminde “tutarlı biçimde samimi olmadığını” ve bunun kurulun sorumluluklarını yerine getirmesini engellediğini belirtti
- Şirket bu ifadenin somut olarak ne anlama geldiğini henüz açıklamadı
- İçeriden kişiler, bu hamlenin esas olarak Altman ile Sutskever arasındaki iktidar mücadelesi ve kültürel çatlaklardan kaynaklandığını düşünüyor
- Çatışma faktörleri arasında Altman’ın yönetim tarzı ve artan dış tanıtım hamlesi yer alıyor
- Sutskever 29 Eylül’de X’te “Ego is the enemy of growth” yazdı
- Axios’un elde ettiği COO Brad Lightcap iç notu, yönetim kurulu kararının suistimal ya da finans, iş, güvenlik, emniyet ve gizlilik uygulamalarıyla ilgili olmadığını belirtti
- Lightcap olayı “Sam ile yönetim kurulu arasındaki iletişim kopuşu” olarak özetledi
Araştırmacı ayrılıkları ve iç çalkantı
- Altman’a yakın üç AI araştırmacısı da cuma günü gelen habere tepki olarak şirketten ayrıldı
- Jakub Pachocki: GPT-4 lead’i ve OpenAI director of research
- Aleksander Madry: AI risk değerlendirme ekibinin başı
- Szymon Sidor: open source baselines researcher
- Bu istifalar, Altman’ın görevden alınmasının yarattığı iç karışıklığın araştırma organizasyonuna kadar yayıldığını gösterdi
Superalignment, GPT-5 ve hız tartışması
- Sutskever, varsayımsal süper zekâ AI’ı kontrol etmenin yollarını araştıran Superalignment ekibinin ortak lideri
- Bu rol nedeniyle OpenAI içinde yavaş geliştirme ile hızlı geliştirme arasındaki çatlağın yakın dönemdeki iç atılımlarla ilgili olabileceğine dair söylentiler yayıldı
- Altman, perşembe günü APEC CEO Summit’te OpenAI tarihinde “cehalet perdesini geriye çekip keşfin sınırını ileri taşıyan” dört ana tanıklık ettiğini, en yenisinin ise “son birkaç hafta içinde” olduğunu söyledi
- Bu endişeler OpenAI’nin süper zekâ geliştirdiği anlamına gelmiyor; uzmanlar bunun düşük olasılık olduğunu düşünüyor
- Altman’ın sözünü ettiği yeni atılım, kâr amacı gütmeyen kuruluşun güvenli ilerleme talebi ile kâr amaçlı iştirakin gelirleştirme talebi arasındaki baskıyı artırmış olabilir
- Altman kısa süre önce GPT-4’ün güçlü ardılı olduğu tahmin edilen GPT-5’in geliştirilmekte olduğunu söyledi
Çalışan mesajı ve toparlanma görevleri
- OpenAI engineering manager Evan Morikawa, X’te şirketin ürün çıkarmaya devam edeceğini, Sam ve Greg’in mikroyönetici olmadığını söyledi
- Araştırma, ürün, mühendislik ve tasarım alanlarında çok sayıda yetenekli kişinin sonuç ürettiğini; liderler arasında daha büyük misyona yönelik iç uyum olduğunu belirtti
- Lightcap, iç notta çalışanların kafa karışıklığı, üzüntü ve korku hissedebileceğini kabul etti
- Şirketin durumu ele almaya, çözüm ve netlik sağlamaya, işe dönmeye odaklandığını; çalışanlara, iş ortaklarına, kullanıcılara, müşterilere ve daha geniş dünyaya karşı sorumluluğu vurguladı
- Şirketin konumunun hâlâ güçlü olduğunu düşündüğünü belirterek interim CEO Mira Murati’yi destekledi; sürecin ele alınış biçimine dair endişeleri paylaştığını ve durumu çözmek için çalıştığını ekledi
1 yorum
Hacker News yorumları
Sam ve Greg için üzücü ama yönetim kurulunun görevi Sam & Greg’e iyi davranmak değil, OpenAI için doğru kararı vermek
Yönetim 10 bin çalışanı işten çıkardığında yatırımcılar “iş dünyası böyle” diye alkışlarken, kendilerine yakın bir CEO işten çıkarılınca ahlak dersi vermeleri bence yanlış
Elbette çalışanlar üzerindeki etkisi de dikkate alınmalı, ama CEO şirket sonuçları üzerinde büyük sorumluluk ve yetkiye sahip bir komutana daha yakın; sıradan çalışan ise işten çıkarılmayı kaldırması çok daha zor olan bir sivile daha yakın
Satya gibi ortakları arkadan vurdu, şirketi iki kampa böldü ve Sam ile Greg’i öfke içinde karşılık aramaya itti
Sonuçta daha yüksek bir amacı olmayan, kâr amaçlı bir OpenAI’ın pazara hâkim olması riski bile doğdu; bu gidişatın haklı gösterilecek bir yanı yok gibi görünüyor
Alt kârlı tüzel kişilik olan OpenAI Global LLC’nin yatırımcılarına, yatırımlarını bağış gibi görmeleri gerektiği açıkça bildirildi; şirketin amacının yatırımcılara getiri sağlamak değil, kâr amacı gütmeyen tüzel kişiliğin kamu yararı işlevini yerine getirmek olduğu da belirtildi
Anlamlı ve etkili bir şirket kurmak isteyen bir kitlenin önünde bunun nasıl duyulacağının hiç farkında değil gibiydi
Çok parası olması, o kişinin muhakemesinin işe yarar olduğu anlamına gelmez
Kesinlikle kurucu dostu, ancak maliyet kısmayı veya işten çıkarmaları zorlayan acımasız yatırımcı tiplerinden biri gibi görünmedi
Ezici çoğunluk onayladığında mümkün kılınırsa daha adil olabilir; en azından ilginç bir yapı olur
Herkes ortalığı ayağa kaldırıyor ama çeşitli şirketlerde “önemli” CEO’larla çalışmış kişisel deneyimime göre, o CEO ayrılmış olsaydı hiç umursamazdım
CEO, dışarıdan şirket performansının kredisini fazlasıyla toplar; bu da CEO’nun gerçekten o kadar önemli olduğu anlamına gelmez
OpenAI farklı olabilir, ama tamamen istisna olduğunu varsaymam
Ancak kamu yararı misyonu olan bir kâr amacı gütmeyen kuruluş kâr amaçlı bir şirkete sahipse, bu gidişat yanlış yöne kayabilir
Dev Day duyuruları, özellikle marketplace, OpenAI’da tam olarak bunun yaşandığını gösteriyor olabilir
Herkes hızla yapıp bozma yöntemiyle havalı LLM oyuncakları satmak istemeyebilir; görünen o ki onlar, başkaları sorumsuzca davranmadan önce sorumlu AGI’ye öncülük etmek istiyor
Grup o kadar küçük ki biri işi tamamen batırmadığı sürece hemen dâhi muamelesi görüyor
Milyarlarca dolar ve yüzlerce parlak mühendis ile araştırmacı verirseniz, birçok kişi bir şekilde işleri yürütür; ama böyle fırsat verilen kişi az olduğu için bu oluyor
Çoğu zaman gerçek işi yapmayıp övgüyü topluyorlar
Sam ve diğerlerinin aslında yetenekli birer teknoloji evangelisti veya satıcıya daha yakın olduğu ortaya çıkabilir; bu yüzden teknoloji dünyasındaki insanlar şu anda tedirgin görünüyor
Önceki yön, insanların teknolojinin üzerine bir şeyler inşa etmesine oldukça odaklanmıştı
Şimdi erişimin yalnızca “güvenli” olduğuna inanılan araştırmacılarla sınırlandırıldığı bir modele dönüşmesinden endişe ediyorum
Bir üretim sürecine çok hâkim değilseniz, insanlar en görünür olan tarafa ve en yüksek yetkiye sahipmiş gibi görünen kişiye takılıp kalıyor
Yönetmenlerin ya da CEO’ların da çoğu zaman başkalarına hesap vermesi gerekse bile böyle; elbette bireyin etkisi büyük olabilir, ama o büyüklüğün tek başına ortaya çıktığı nadirdir
Kendisini ya da çalışanlarını bile kontrol edemeyen bir yönetim kurulunun yapay zekayı sorumlu biçimde yönetebileceğine inanmak zor; ayrıca AGI’yi herhangi birinin yönetip yönetemeyeceği de şüpheli.
Kâr amacı gütmeyen kuruluşlarda eski bir yönetişim sorunu var ve muğlak hedefler iç siyaseti tetikliyor.
Kâr amaçlı yönetim kurullarının avantajı, hedefin şimdi mi yoksa daha sonra mı büyümek olduğu gibi iyi anlaşılan risk takaslarına daralması ve kurul üyelerinin de bu hedefte gerçek çıkarı olan kişiler arasından seçilmesidir.
Dini örgütlerin ya da ideolojik hükümetlerin güvenilir bulunmasının zor olmasının nedeni de iç siyasete kapılmalarıdır.
AI/AGI’yi tamamen kâr amaçlı bir iş olarak bırakıp, sorumluluk varsayımını tersine çevirerek ürünün yarattığı tüm dışsal maliyetleri geliştiricinin üstlenmesini sağlamak bence daha mantıklı.
Yazılım ve internet, tüketicilerin kendilerine yüklenen maliyetler için fiilen hiçbir telafi alamadığı alanlardı; bu sayede muazzam biçimde büyüdüler ve yıkıcı inovasyon yarattılar.
AI/AGI’yi kontrol etmek istiyorsak onu kâr amaçlı yapıp dışsal maliyet sorumluluğunu geliştiriciye yüklersek, uygulamalar çok daralır ve net toplumsal faydası olan durumlarla sınırlı kalır.
Ekonomik mantığı körü körüne izlemek sorun yaratabilir; Amerikan şirket kültürünün önce iyi ürün yapmaktan hissedar değerini maksimize etmeye kaymasının büyük nedenlerinden biri de bu.
Yine de sadece bu karara bakınca OpenAI yönetim kurulu değişken ve fevri görünüyor.
Bu yüzden kâr amacı gütmeyen kuruluşlarda insani düzeyde siyaset kaçınılmaz olarak daha fazla devreye girer.
Kâr amacı gütmeyenlerin davranış dünyasında yaşamak istiyorsanız bunu kabul etmeniz gerekir.
Siyaset nedeniyle güvenilemez demek, insan işleri devreye girince bilgisayarlardan daha az güvenilir olur demeye benzer.
Etkili siyaseti hayal edemiyorsanız etkili insan işlerini de hayal edemezsiniz; geriye yalnızca kapitalist piyasa gibi basit optimizasyon sistemlerinin mekanik işleri kalır.
Bunların hepsi üç kuruş için oldu.
Sadece mevcut verileri modele gerçek zamanlı yansıtmanın bir yolunu bulmak gerekiyor; OpenAI’de de bunun aktif biçimde ele alındığını tahmin ediyorum: https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
Asıl tehlike çocukların yasa dışı uyuşturucu tarifleri sorması değil; bir hükümetin bu çıktıyı Skynet benzeri bir ulusal savunma sistemine koyması.
LLM’lerin askeri-endüstriyel kompleks uygulamaları konusundaki tuhaf sessizliğe bakınca, bunun OpenAI hikâyesinin bir parçası olabileceğinden şüpheleniyorum.
HN’de çok önemli bir mühendisin bile vazgeçilmez olmadığı, Ilya’nın da yerine birinin geçebileceği söylenip Woz ayrıldıktan sonra Apple’ın büyümesi örnek gösterilmişti; ama bence daha iyi karşılaştırma, Quake’in çıkışından sonra John Carmack’in Romero’yu id Software’den göndermesi
Carmack, Commander Keen’in akıcı yatay kaydırmasından Doom’un sahte 3D’sine, Quake’in tam 3D’sine kadar neredeyse 10 yıl boyunca en uç teknolojiyi zorlayarak grafiklerde devasa bir ilerleme yarattı; 1991-1996 arasında id’nin yeni motorları fiilen yeni türler doğurdu
O dönemde id içinde de bunun farkındaydılar ve bu sayede Carmack, kurucu ortak John Romero’yu kovabilecek kadar güç sahibiydi
Romero, id’nin gösterişli ve her yerde görünen kamuya dönük yüzüydü; ancak kovulduktan sonra büyük para ve muazzam tanıtım desteği almasına rağmen Doom ya da Quake kadar büyük bir şey üretemedi, yeni şirketi de kapandı
Buna karşılık Carmack yönetimindeki id hitler çıkarmaya devam etti
En ileri teknolojiden her seferinde biraz daha fazla performans çıkarıldığında gelirlerin ciddi arttığı bir ortamda mühendislik uzmanlığı gerçekten önemlidir; 90’ların PC grafikleri için geçerli olan bu durum bugün LLM çıktı kalitesinde de geçerli
Bu yüzden Carmack id’nin büyümesinin ana itici gücü olduğu gibi, Ilya’nın da OpenAI’da benzer bir rolde olma ihtimali epey yüksek diye düşünüyorum
Quake 1’den sonra id’nin çıktıları açıkça bir seviye düştü; teknoloji harikaydı ama oyunlar sıkıcı ve ilhamdan yoksundu, olsa olsa “iyi”ydi, “muhteşem” değildi
2016’da Doom çıkana kadar 20 yıl boyunca yeniden ilgi çekici bir şey yapamadılar
Romero sonrası id’nin en büyük başarısı, bir oyun geliştiricisi olarak değil teknoloji lisanslama şirketi olarak Half Life, Medal of Honor, Call of Duty gibi oyunları çalıştırmasıydı
Öte yandan Romero’nun Ion Storm’u sonunda başarısız oldu ama Deus Ex ve Anachronox gibi ilginç oyunlar çıktı; hatta Daikatana’nın bile Quake 2 veya Quake III’ten daha ilginç olduğunu düşünüyorum
Gelir, yatırımcılar ve ortaklar üzerinden sürekli sermaye çekebilen, GPU’lara ve özel veri kümelerine erişimi mümkün kılan biri şart
Carmack tek bir bilgisayar ve kendi kafasıyla grafiklerde ilerleme yaratabiliyordu; ama Ilya’nın OpenAI’ı ileri taşımaya devam etmesi için bundan çok daha fazlası gerekiyor
Devasa bir beyin tek başına yeterli değil
Onun kullanmasından 10 yıldan daha uzun süre önce var olan bir numaraydı; Carmack’in “icat etmesinden” çok önce IEEE dergisindeki Jim Blinn köşesinde buna benzer kirli numaralar okuduğumu hatırlıyorum
https://en.wikipedia.org/wiki/Fast_inverse_square_root
Bu durumda Ilya, Carmack gibi değil; GPT-[n] üretmekten çok güvenlik ve hizalama araştırmasına odaklandı
Çeşitli açıklamalara göre son birkaç yılda, bu hamleden bıkıp istifa eden Greg Brockman ve dün ayrılan kıdemli araştırmacılar Ilya’dan daha büyük etki yarattı
id’yi de küçümsememek gerek. Ion Storm gibi gösterişli biçimde patlamadı ama id’nin varlığı giderek azaldı; grafikleri önde olsa da ilk Carmack+Romero dönemindeki inovasyon zirvesinde değildi ve sonunda Zenimax’e satıldı
Carmack tek başına Romero’nun tek başına olduğundan çok daha iyiydi ama ikisi birlikteyken olduğu kadar iyi değildi sanki
Sam Altman da John Romero gibi değil. Romero’nun Ion Storm’daki sorunu mükemmeli kovalayıp durarak çıkış yapamamasıydı; Ilya’nın Altman’la yaşadığı sorun ise fazla hızlı çıkış yapmak yönündeydi
Sam ve Greg’in yeni bir temel yapay zeka şirketi kurmasını umuyorum; böyle olursa Ilya ve Helen’ın istediği anlaşılan hizalama ve regülasyon odaklı OpenAI’dan çok daha heyecan verici olur
Sonraki liste https://en.wikipedia.org/wiki/List_of_id_Software_games adresinde görüldüğü gibi Quake 2, Quake 3, Doom 3 civarında kalıyor; bunun dışında değeri ya da kültürel etkisi olan pek bir şey yok
Teknik başarı çoktu ama akılda kalan oyunlar için ilginç teknolojiden fazlası gerekiyordu
Bugün bu oyunlarla tanışan biri için Quake sadece Quake’tir; 1, 2, 3 diye ayırarak hatırlamaz
id’nin başarılı bir yazılım şirketi olduğu doğru; ancak Romero sonrası çıktılarıyla tek başına sektör devi olup video oyunlarının geleceğini şekillendirecek gibi görünmüyor
Carmack’in tek başına Romero’dan daha çok şey başardığı söylenebilir; ama video oyunları alanında gerçek büyüklüğe ulaşmak için ikisinin birbirine ihtiyacı vardı
Tarihin Altman ve Sutskever hakkında ne diyeceğini ise henüz göreceğiz
Bu işten çıkarma oldukça kişisel bir işten çıkarma gibi görünüyor
Gerçekten ciddi bir eylem daha ortaya çıkmadıkça, sorumlu bir yönetim kurulu, iç iktidar mücadelesiyle bağlantılı kişisel bir husumet olmadan şirketin itibarına ve iş ortaklarına bu kadar duyarsızca zarar vererek CEO’yu görevden almaz
İlgili herkes için utanç verici bir durum ve sama’nın gerçekten şikâyet etmeye değer gerekçeleri var
Hukuki artçı sarsıntılar da mümkün görünüyor
Elbette gerçekten AGI icat edilmişse ve sama bunu paraya çevirmeye çalıştıysa, AGI kıyametçisi bir yönetim kurulu dikkatsizce hareket etmiş olabilir
Yine de böyle bir durumda bile bunun kapalı kapılar ardında çözülmesi gereken bir tartışma olması gerekirdi
Herkes Jobs’ı hatırlayacaktır, ama 80’lerde TSR’dan Gary Gygax da başka bir örnek olabilir
Bu sırada TSR muazzam zarar ediyordu; 80’lerin başında yıllık 30 milyon dolar ciroyu zar zor yaparken 1,5 milyar dolar borcu vardı
Üstelik Gygax’ın düşüşü kendi darbesinin sonucuydu
Kevin Blume’u uzaklaştırıp Lorraine Williams’ı getirdi; Williams, Blume’un tüm hisselerini satın aldıktan yaklaşık bir yıl sonra Gygax’ın şirket üzerindeki kontrolünü ortadan kaldırdı ve projelerin çoğunu iptal etti; Gygax da bir yıl sonra istifa etti
Şu anda ahlaki üstünlük onda ve yönetim kurulu küçük hesapçı ve olgunlaşmamış görünüyor; bu tabloyu tersine çevirecek bir hamle aptalca olur
Önümüzdeki birkaç hafta içinde yeni bir girişim duyurması büyük olasılık; bunun AI olup olmaması, bu alanın geleceğini gerçekte nasıl gördüğünü gösterecek
Brockman ve diğerleri muhtemelen AI alanında yeni bir işe girişecektir
Zorba ve başa çıkması güç bir kişiliği vardı; Macintosh o sırada satışta başarısız olmuştu ve Lisa’ya karşı Mac örneğinde olduğu gibi iç ekipleri ve şirket siyasetini kullanarak ekipleri birbirine düşürüyor, bütünleşmeyi ve başarıyı baltalıyordu
Geri döndükten sonra da karakteri hâlâ zordu, ama diğer sorunlar artık yaşanmadı
Dönüşünden sonra Apple, tek bir işbirlikçi vizyonu hayata geçirmekte çok başarılı bir şirket oldu
Arneson’a telif ödememek için AD&D’yi yaratmasından başlayarak durum böyle
Kelimenin tam anlamıyla biçimlendirici bir deneyimdi
Kâr amaçlı büyüme yanlıları ile kâr amacı gütmeyen büyüme yanlıları arasında gerilim olduğu açık; ancak Dev Day’in son darbe olarak anılmasını anlamıyorum
Bu bir ürün lansmanı etkinliğiydi
Ilya ve yönetim kurulu o gün nelerin duyurulacağını aylar öncesinden biliyor olmalıydı; en azından planlardan haberdar olmuş, hatta belki de onaylamış olmaları muhtemel
Sınır çekilecek zaman lansmandan önceydi; yoksa duyurudan sonra aynaya bakıp birden akılları başlarına mı geldi diye düşünüyor insan
Açıklama metni en baştan Sam’in bir şekilde dürüst olmadığını söylüyordu ve Greg de bundan etkilendi
Ilya, günlük işi gereği doğal olarak haberdar olabilecek tek yönetim kurulu üyesi olabilir; ancak Temmuz civarından beri süper hizalama alanında çalıştığı için farklı bir bölümde de olabilir
Yönetim kurulu projeyi üçüncü bir taraf ya da Ilya üzerinden öğrenmiş, Sam’e bunun çok hızlı olduğunu söylemiş, buna rağmen Sam onları görmezden gelip lansmanı yapmış olabilir
Gerçekte kimse bilmiyor
Aksine, bu yönetim kurulu açıklamasındaki Sam’in dürüst olmadığı kısmıyla örtüşebilir
Bu OpenAI için kötü, ancak OpenAI’ın yerini almak isteyen çok sayıda aç rakip olduğundan, alanın tamamı açısından büyük uzun vadeli sonuçlar doğuracağını sanmıyorum
Yatırımcıların ya da bağışçıların ne tür denetim hakları ve telafi yolları olduğunu merak ediyorum
Bugün hatırı sayılır para koymuş pek çok kişi epey öfkelenmiş olmalı
Bu, pekâlâ bir aynaya bakma anı olmuş olabilir
Ilya Sutskever, LLM’lerin AGI olduğuna dair samimi bir inanca sahip biri ve bu noktada Toronto Üniversitesi’ndeki danışmanı Geoff Hinton ile örtüşüyor
Hinton, “Bir sonraki kelimeyi gerçekten iyi tahmin edecek şekilde eğitirseniz, onu fiilen anlamaya zorluyorsunuz. Evet, bu otomatik tamamlama; ama gerçekten iyi otomatik tamamlamanın ne anlama geldiğini düşünmemiş oluyorsunuz” demişti[1]
Buna karşılık Altman, LLM’lerin o yol olmadığına karar vermişti[2]
Bu yüzden Altman LLM’leri kâr amaçlı bir ürüne dönüştürüp değer çıkarmaya çalışmış, Sutskever tarafı ise bunu AGI olarak görüp kâr amacı gütmeyen yapıda tutmaya çalışmış gibi görünüyor
Ayrıca AGI’nin varoluşsal bir risk olup olmadığı ya da mevcut AI risklerinin algoritmik önyargı, sosyoekonomik eşitsizlik, yanlış bilgi ve dezenformasyon ile teknoloji çözümcülüğü tarafında mı olduğu konusunda da bir ayrışma var
Başka bir varsayım daha var
Görevden almanın, OpenAI teknolojisinin dağıtımındaki güvenlik ve hız konusundaki kaygılar nedeniyle baş bilim insanı Ilya Sutskever tarafından yönlendirilmiş olma ihtimalinin yüksek olduğu söyleniyor; ancak GPT/ajan marketplace’ini ilk çıkaran OpenAI değil, Quora’nın Poe’suydu
Üstelik OpenAI’ın kâr amacı gütmeyen yönetim kurulunda Quora CEO’su oturuyor
En azından Altman ve Greg’e karşı oy verirken çıkarlarının nerede olduğunu anlayabiliyoruz
ChatGPT, şirket tarihindeki en büyük ürün ve tüketici pazarına yönelik en büyük hamleydi
Bu yüzden durumu basitçe “Sam gelir istiyordu, Ilya/yönetim kurulu saf araştırma istiyordu” diye çizgi çekilecek bir mesele olarak görmek zor
Yönetim kurulunda yer aldığı kâr amacı gütmeyen kuruluş, kendi yönettiği şirketin ürünüyle rekabet eden bir ürün çıkarırsa, bu çıkar çatışması nasıl yönetilecek?
Görünüşe göre çekilmesi gerekirdi
Bu bir darbe değil
Darbe, iktidar zorla elinden alındığında kullanılan bir sözcük; üyeler artık sizin kendi çıkarlarını iyi temsil etmediğinize karar verdiğinde değil
Bir siyasetçinin seçimde kaybetmesine darbe demek gibi
Darbe denirse, OpenAI’ın bir anlamda Sam Altman’ın mülkü olduğu yönünde yanlış bir ima doğuyor
Asıl darbeye yakın olan, kurucunun şirketi kurup hisselerini sattıktan sonra bile hâlâ kendi malıymış gibi sahip olduğunu düşünme fikri
Bu, gerçek sahiplerden kontrolü alıp şirketin kamuya dönük yüzü olan yöneticiye vermek demek
Kelimenin gerçek anlamıyla darbe, ordunun desteğiyle bir devletin zorla ele geçirilmesidir, doğru; ama iş dünyasında ve daha geniş bağlamda darbe mecazi olarak gizlice planlanıp ani biçimde yürütülen bir iktidar ele geçirme anlamına gelir
Bir şirket “savaş ilan ediyor” dediğinde bunun füze fırlatıp insan öldüreceği anlamına gelmemesi; kaynaklarını tek bir amaca odaklayıp rekabet edeceği anlamına gelmesi gibi
Bu olay kesinlikle bir darbedir
Yönetim kurulunun bir kısmı bunu gizlice planladı; başkan dâhil iki kişinin yer almadığı gizli bir yönetim kurulu toplantısında uyguladı ve kâr amaçlı yapıya %49 yatırım yapmış Microsoft’un bile hiçbir bilgisi ya da söz hakkı yoktu
Doğru ya da yanlış demiyorum; bu, tarih kitaplarına geçecek yönetim kurulu darbelerinden biri
Sadece HN’de değil, NYT ve WSJ’nin birinci sayfa düzeyinde haber olmasının bir nedeni var
Fransız Devrimi’nde Robespierre’in düşüşü, Direktuvar yönetiminin seçimleri geçersiz sayması gibi olaylar da sık sık darbe olarak betimlenir
Sonuncusu hatta bir ölçüde kansızdı
OpenAI’ın anayasal düzenini savunmaya daha yakın
Şirket, Mozilla gibi kâr amacı gütmeyen bir kuruluş merkezli; kâr amaçlı bölüm de o misyonu yerine getirecek sermayeyi sağlamak için var olacak şekilde bilinçli tasarlanmıştı
Yapı hakkında kendi yazdıklarına bakmak gerekiyor: https://openai.com/our-structure
Özellikle şu kısım: https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
OpenAI markasının ticari tarafı yok olmuş gibi
Kâr amacı gütmeyen yönetim kurulu geliştirmeyi yavaşlatıp daha kötü bir ürün sunarak müşterilerin çıkarlarına aykırı davranırken müşteriler OpenAI’a nasıl güvenip bağımlı olabilir?
Buna karşılık OpenAI’ın AGI tarafı iyi olacaktır
Ilya Sutskever’ın liderliğinde sorumlu AGI geliştirme devam edecek ve başarılı olmasını umuyorum
Microsoft muhtemelen birkaç dava açacak ve şirket içinde OpenAI’ın önünü kesecek
Neredeyse 3 trilyon dolarlık bir şirket ve bir avukat ordusu var; özellikle Silikon Vadisi VC çevresinde OpenAI’a çok sempati duyulmuyorsa ciddi zarar verebilir
İflas edebilirdi, davalarla çökebilirdi, Microsoft tarafından satın alınabilirdi
CEO’nun kovulmuş olması tek başına başarının GPT sayesinde mi yoksa CEO sayesinde mi olduğuna bakmayı gerektirir
İlki hâlâ yerinde ve daha kötü hale gelmiş de değil
Büyümenin yavaşlaması küçülme anlamına gelmez
O alanda rakipler hızla yetişiyor
Eğer gerçekten Dev Day gibi şeyler yüzündense bir ölçüde mantıklı olabilir; ama insanlara yardımcı olan kullanışlı yapay zeka uygunsuz bir şey gibi görülüyorsa, OpenAI giderek daha kapalı bir tarikata mı dönüşüyor diye düşünüyorum
Para verseniz bile kullanamayacağınız ClosedAI’a dönüşmüş oluyor
fast.ai’den Jeremy Howard’ın yazısı: https://x.com/jeremyphoward/status/1725712220955586899
Tam olarak içeriden biri değil, ama Ilya ve araştırmacı kanadına genel olarak yakın ya da onlarla empati kuruyor gibi; bağlantıları da var gibi görünüyor
O tweet ve bakış açısı, içerideki bölünme hissinin nasıl olabileceğini anlamak için yararlı bir vekil göstergeydi
Ben de dâhil geliştiriciler Dev Day’i sevmişti