Ilya Sutskever, Altman’ın görevden alınmasının "merkezinde" mi?

• OpenAI içindeki krizle ilgili olarak, chief scientist Ilya Sutskever’ın kilit figür olduğu yönünde kaynaklara dayanan bilgiler ortaya çıktı
• Çatışmanın ekseni, Sam Altman·Greg Brockman ile Sutskever arasındaki rol ve etki alanı meselesiydi; yönetim kurulunun da Sutskever tarafında durduğu belirtiliyor
• Developer Day ve mağazanın devreye alınma biçimi, Altman’ın fazla hızlı ve fazla ileri gittiği algısında bir kırılma noktası olarak anılıyor
• Bu içerik, Kara Swisher’ın kaynaklara dayandırdığı kısa bir gönderiye dayanıyor; somut iç prosedürler veya yönetim kurulunun karar sürecine ilişkin ayrıntılar yer almıyor
• Swisher, kişisel tahmini olarak Altman’ın Pazartesiye kadar yeni bir şirket kurmuş olacağını ekliyor

---

Sutskever etrafındaki iç çatışma

• OpenAI chief scientist Ilya Sutskever’ın bu olayların merkezinde yer aldığına dair kaynak temelli bilgiler paylaşıldı
• Çatışmanın, Sutskever ile Sam Altman ve Greg Brockman arasında rol ve nüfuz üzerine büyüdüğü aktarılıyor
• Bu süreçte Sutskever’ın yönetim kurulunu kendi tarafına çektiği yönündeki iddia da yer alıyor

Developer Day sonrası baskı

• Developer Day ve mağazanın devreye alınma biçimi, Altman’ın “fazla ileri, fazla hızlı” hareket ettiğinin düşünüldüğü dönüm noktası olarak anılıyor
• Kara Swisher, kişisel öngörüsü olarak Altman’ın Pazartesiye kadar yeni bir şirket kuracağını düşünüyor

[GN⁺]

Hacker News yorumları

• Benim tercih ettiğim varsayım eski bir hikâyeye benziyor. Sam Altman, İkarus gibi Microsoft’un dev para kaynağına fazla yaklaştı ve şirketin kurucu misyonundan saparak, başta dizginlemeye çalıştıkları cini şişeden çıkardı
  Meğer OpenAI içinde özgün vizyona gerçekten inanan insanlar varmış gibi görünüyor

  • Ya da Altman’ın Nvidia ile rekabet edecek bir AI çip girişimi için fon toplamaya çalışması ya da Jony Ive ile birlikte AI odaklı donanım üretecek yeni bir şirkete SoftBank’tan milyarlarca dolarlık yatırım çekmeye çalışması nedeniyle de olabilir
    Mevcut dış faaliyetlerinin önemli bir kısmı yönetim kurulunu tedirgin edebilir; geleceğe dönük planlarını açıkça paylaşmadıysa görevden alınmayı hak etmiş sayılır
  • Bu doğruysa, insanlığa olan inancım şu ankinden biraz daha artabilir
  • Özgün vizyon oldukça netti ve devasa ticarileştirme kazançları olsa bile yoldan sapmamak için ikna edici bir gerekçe sunuyordu
    Neyse ki M$ yönetim kurulunu ele geçiremedi
  • Bence PR hamlesi çoktan başladı. OpenAI’nin yeni bir kişilik/kimlik edinmesi üzerinden düzenleyici ele geçirme meşrulaştırılacak gibi; ben inanmıyorum
    Dağları yerinden oynatan şey ahlaki üstünlük değil, para ve çıkardır. Bu iyimser yoruma hiç inanmak zor
    Gerçekten ahlaki bir duruşla böyle davrandılarsa, başka bir motivasyon olmadan bu kadar uzun süre sessiz kalmazlardı
  • Bu açıdan bakınca, VC’lerin ya da tech bro’ların bunu darbe diye paketlemesinin aksine her şey mantıklı geliyor

• Sam’in bu güç mücadelesini kaybedeceğini bilip, yönetim kurulundan gizli biçimde kendisine sadık kişilerle bir kaçış planı yapmaya başlamış olabileceğini merak ediyorum
  Yönetim kurulu bunu fark edip, şirket kaynaklarıyla bir rakip kuramasın diye onu mümkün olduğunca çabuk dışarı atmış olabilir

  • Sam’in bir rakip için fon toplayıp yetenekleri yanına çekmesini sağlayacak itibar sermayesinin olmaması mümkün değil. Yönetim kurulu fiilen o kararı onun yerine vermiş oldu
    Ben olsam yatırım yapacak sıradan biriyim; başka bir ilgim yok
    [1] https://news.ycombinator.com/item?id=35306929
  • Bu varsayım, doğru olup olmamasından bağımsız olarak, şu anda bilinen gerçeklerle epey iyi örtüşüyor
  • O zaman, sonunda Sam’in başarılı olacağı açık olan fon toplamayı zayıflatmak için CEO’ya neredeyse en kötü suçlamaları yükleyip onu yakmaya mı çalışıyorlar?

• sama ve gdb’yi basit bir strateji farkı gibi önemsiz nedenlerle dışarı atmak tamamen profesyonellik dışı. sama’ya ciddi bir suistimal isnat edilmiş sayılır
  OpenAI teknolojisini ticarileştirmede fazla agresif davranmış olsa bile, bu sirki meşrulaştıracak düzeyde değil

  • 501(c)(3) hayır kuruluşunun tüzüğünde yazan temel misyonun pratikte ne anlama geldiği konusunda kökten anlaşamamak, basit bir strateji farkı değildir
    Ayrıca hedefler etrafında hizip çatışması olması, o bağlamda ciddi ve somut bir eylem olmadığı anlamına da gelmez
  • Strateji farkı, yöneticileri işten çıkarmak için temel bir neden olabilir
  • Henüz hikâyenin tamamını bilmiyor olma ihtimalimiz daha yüksek değil mi?
  • Bu önemsiz bir mesele değil; şirketin ana misyonu, kuruluş nedeni, yatırımcıların dahil olma nedeni ve dünya çapındaki bilim insanlarının orada çalışma nedeni
    Sonuçta en başta kâr amacı gütmeyen bir yapı olarak başlamıştı

• Hinton’ın eski öğrencisi Sutskever üzerinde ne kadar etkisi olduğunu merak ediyorum. Sutskever muhtemelen Hinton’a neredeyse herkesten çok saygı duyuyordur ve Hinton’ın güçlü itirazlarını ciddiye almış olmalı
  Şahsen üzücü buluyorum. Bu akış artık tamamen kaçınılmaz görünüyor; böyle bilinçli şekilde frene basıp ABD’nin lider konumunu kaybetmesine yol açarsa, en iyi yapay zeka teknolojisinin Çin’in kontrolünde olduğu bir dünyanın daha güvenli olacağını hiç düşünmüyorum

  • Neden tek bir şirketin ABD’nin yapay zekada Çin’i yenip yenmeyeceğini belirlediğini düşündüğünüzü anlamıyorum
    Okuduğum yapay zeka makalelerinin yazarlarının yaklaşık %75’i Çinli; gerçekten Çin’in öne geçmesinden korkuyorsanız bu çok daha büyük bir uyarı işareti
  • İnsanlığın uzun vadeli çıkarları açısından kötü mü iyi mi bilmiyorum ama şu an bir Klaus Fuchs anı gibi hissettiriyor
  • Hinton’ın sözlerini olduğu gibi kabul ediyorsunuz. Belki de Google’da dışlanmasının nedeni, yarım yıl değil 5 yıl boyunca büyük dil modeli teknolojisiyle hiçbir şey başaramamış olmasıdır

• Birkaç hafta önce Bloomberg’de Altman ile OpenAI’nin programlama tarafındaki bir kişinin birlikte yer aldığı bir röportaj dinledim; aralarındaki görüş ayrılığı belirgindi ve sunucu bunu şakaya bile vurdu
  Belki de Altman’ın kaderi bir sonraki SBF olmaktı. Halka, insanların duymak istediği şeyleri söyleyerek fazlasıyla çarpıtmalar yaptığı hissi veriyor

  • O röportajı hatırlayıp bağlantısını paylaşabilir misin? Görmek isterim
  • Ne tür bir görüş ayrılığıydı?

• Sutskever: “Buna darbe diyebilirsiniz ve neden böyle bir kelime seçtiğinizi de anlıyorum, ama buna katılmıyorum. Bu, yönetim kurulunun OpenAI’ın tüm insanlığa fayda sağlayacak AGI geliştirmesini güvence altına alma yönündeki kâr amacı gütmeyen misyonu için görevini yerine getirmesiydi.”
  Scoop: theinformation.com
  https://twitter.com/GaryMarcus/status/1725707548106580255

  • Gerçekçi bakarsak bu iş Sutskever için daha kötü görünebilir. Kimse arkadan vuran biriyle çalışmak istemez
    “Görüş ayrılığı yaşadık ve yollarımızı ayırmaya karar verdik” deseler neyse, ama yönetim kurulu Altman’ın yalan söylediğini iddia etti. Görevden alma nedeninin stratejik yön ayrılığı olduğu ortaya çıkarsa Sutskever ile yeniden çalışmak isteyecek kimse kalmaz. Ben de kesinlikle istemezdim
    Profesyonel görüş ayrılığı dışında yanlış bir şey yapmamış biri hakkında inanılmaz derecede itibar zedeleyici bir açıklama
  • Aslında fiilen doğrulanmış gibi; yalnızca bunu tanımlamak için kullanılan kelime seçimi konusunda küçük bir görüş ayrılığı var
  • Buna uyuyor gibi görünen içeriden bazı ayrıntılar var
    https://www.reddit.com/user/Anxious_Bandicoot126/
  • Böyle bir görüş ayrılığını ele alma biçimi son derece profesyonellikten uzak
  • Komik olan şu ki OpenAI şimdiye kadar gerçek anlamda AGI inşa etmeye doğru kanıtlanabilir hiçbir ilerleme göstermedi
    ChatGPT büyük bir teknik başarı ve pek çok açıdan faydalı, ancak bu yaklaşımı büyütmenin AGI’ye götüreceğine dair kanıt yok. Muhtemelen birkaç büyük atılıma daha ihtiyaç olacak

• Böyle bir izlenimi dile getirmek için uygun yer olmayabilir, ama ilkeli ve seçkin bir bilim insanının kendi yarattığı şeyin, en azından şimdilik, ortaklaşa ele geçirilmesini engelleyebilmiş olması şaşırtıcı
  No Priors’ın Sutskever röportajını dinlerseniz onunla Altman arasındaki tezat bundan daha açık olamaz; ayrıca ilkinin ikincisini yendiği durumlar oldukça nadirdir

• George Senior’ın sesiyle söyleyecek olursak: İşte bu yüzden dünya çapında önemli işleri kâr amacı gütmeyen yapılarla yürütmemek gerekir. Kâr amacı gütmeyen yapılarda siyaset her zaman gerçek değeri yener

  • Gerçek değerden ne anladığınıza bağlı
    Gerçek değer parasal değerse bu doğru olabilir. Ama gerçek değer bilimsel ya da toplumsal değerse, parasal kazanç peşinde koşmakla illa örtüşmez
    Bu arada ben şu anda kâr amacı gütmeyen bir araştırma kurumunda çalışıyorum ve hissedarları daha zengin etmekle hiç ilgilenmiyorum. Söylentiler doğruysa OpenAI’ın kâr amacı gütmeyen değerlerine dönmesi ve adındaki Openı hatırlaması iyi bir değişim olur

• Ilya Sutskever’ın nasıl biri olduğu ve ne düşündüğü hakkında pek fikrim olmadığından yakın tarihli röportajlarına baktım. 2 hafta önce No Priors podcast’inde bir röportajı var
  https://www.youtube.com/watch?v=Ft0gTO2K85A
  En azından bana göre bugünkü kargaşaya dair belirgin bir ipucu yoktu, ama yine de ilginç bir dinleme

  • Bu röportaja bakılırsa daha fazla açıklık beklemek zor görünüyor. Ilya, modellerin fazla güçlü olabileceği gerekçesiyle modellerin açık kaynak yapılmasına karşı gibi
    Neyse ki kimse ondan tekerleği icat etmesini istememiş. Sonuçta insanlar kendi güvenliklerini tehlikeye atacak kadar hızlı hareket edebilirler

• Bu hipotez, çok düşüncesizce yapılmış bir iş gibi göründüğünden inanması zor. Sam Altman sorumsuz davranmış ve risk almış olabilir, ama ellerinde akıl almaz derecede iyi bir durum vardı
  İyi günlerin Sam Altman sayesinde olduğunu söylemiyorum, ama gruptaki en görünür kişilerden birini birdenbire kovar, insanların bireysel sadakatlerinin nerede olduğunu ortaya döker ve hiçbir uyarı olmadan Microsoft hisselerini sarsıp onları kızdırırsanız, o iyi durumun sona ermesi oldukça muhtemel
  Tüm bunlar muazzam sermaye ve dünya çapında yetenekler olmadan mümkün değildi; muhtemelen ikisini de elde etmeyi çok daha zor hâle getirdiler
  Ama ben ne bilirim ki? Akıl almaz derecede büyük büyük dil modelleri yaparken kendinizi gerçekten AGI geliştirdiğinize ikna edebiliyorsanız, başka aptalca fikirlere de kendinizi rahatlıkla ikna edebilirsiniz

  • Zeki insanlar da bazen aptalca kararlar verir. Gerçekten bu kadar basit
    Birdenbire çok zenginleşen, belki güç de kazanan ve ulusal televizyonda yeryüzündeki en güçlü hükümetle konuşan genç bir adam var. Böyle birinin biraz havaya girip işinin ne olduğunu unutmuş, OpenAI’ın orada çalışan herkes değil de kendisi olduğunu düşünmeye başlamış olmasına şaşırıyor musunuz? Sonra da gerçekliği zor yoldan öğreniyor
    Bunda şaşılacak ne var? Son derece tipik biçimde insani ve hiç de şaşırtıcı olmayan bir şey; sürekli yaşanıyor
    Buradaki birçok kişi, zeki insanların özünde özel olmadığı ve zeki olmanın hata yapma ya da kötü davranma ihtimalini sihirli şekilde ortadan kaldırmadığı fikriyle zorlanıyor
  • Satır aralarını okursak, Sam bu “akıl almaz derecede iyi durumu” büyük para kazanma yönüne sürüklüyor olabilir, kâr amacı gütmeyen yönetim kurulu ise başka hedefleri daha öncelikli görmüş olabilir
  • CEO’nun çok hızlı hareket edip birçok şeyi bozma arzusundan ziyade çalışanların tarafını tutuyormuş gibi görünmesi, aksine dünya çapında yetenekleri çekmeye yardımcı olabilir
    CEO’nun Cybernet’i yarın dağıtıma almak istemeyip gelecek haftaya ertelemesi sayesinde gece eve gidebileceğinizi hissetmek daha cazip olurdu
  • Açıkçası bu, Ilya’nın kendini Tony Stark gibi gördüğü ve hâlâ etkileyici olan bir dil modelini Iron Man zırhı gibi bir şeyle karıştırdığı izlenimini veriyor
    Cehalete yakın bir kibir bu; gerçeklik o kadar romantik değil
    Umarım bu iş OpenAI’ın çok modlu modellerin bekçiliğine soyunduğu bir yöne ya da tersine herkesin OpenAI’ı toz gibi geride bıraktığı bir yöne gitmez
  • Microsoft hisseleri ne zaman çakıldı?
    https://finance.yahoo.com/quote/MSFT/