OpenAI Üzerine Düşünceler

• Yazar, Mayıs 2024'te işe başladıktan sonra 1 yılı biraz aşkın süre OpenAI'de çalışıp ayrıldığını ve şirket içi kültür ile gerçek çalışma atmosferini dürüstçe anlattığını belirtiyor
• Aşırı hızlı büyüme (1.000 kişi → 3.000 kişi) sırasında iç süreçler, organizasyon, kültür ve çalışma biçimi hızla değişiyor
• Bottom-up/liyakat odaklı kültür, kendine özgü Slack merkezli işbirliği, yüksek uygulama hızı, liderliğin görünürlüğü ve hızlı yön değişimleri ile 'kodu belirleyici unsur' sayan yaklaşım organizasyonun her yerine işlemiş durumda
• Ekiplere göre değişen kültür, iş temposu ve organizasyonel esneklik güçlü; araştırmacıların birer 'mini yönetici' gibi özerkliği var ve yinelenen projeler ile şirket içi fikir deneyleri sık görülüyor
• OpenAI, dış bakış ve medyanın yoğun gözetimi, güçlü güvenlik/gizlilik anlayışı ve aynı anda AGI ile tüketici hizmetlerine yönelik misyon duygusu ve gerilimi taşıyan, iddialı ve ciddi bir organizasyon olarak tanımlanıyor

---

Giriş ve kişisel arka plan

• Yazar, Mayıs 2024'te katıldı ve yakın zamanda OpenAI'den ayrıldı
• Bu yazıyla OpenAI'de hissettiği gerçek kültürü ve kişisel bakışını paylaşmak istiyor
• İçerideki gizli bilgilere yer vermiyor; tarihsel olarak ilginç bir organizasyonun bugünkü görünümünü ve bir çalışanın küçük penceresinden edinilen deneyimi aktarıyor
• Ayrılma kararında kişisel bir iç çatışma vardı; ancak startup kurucusundan büyük ölçekli bir organizasyon çalışanına geçişte farklılık arayışının da etkisi oldu
• AGI inşasına katılmış olmak ve Codex lansmanına doğrudan katkı vermiş olmak son derece anlamlıydı

Organizasyon kültürü

• Katıldığı sırada 1.000 kişi olan şirketin 1 yıl içinde 3.000'i aşması gibi olağan dışı derecede hızlı büyüme yaşandı
• Bu hızlı genişleme nedeniyle iletişim, raporlama yapısı, ürün lansmanları ve organizasyon yönetimi gibi alanlarda çeşitli sorunlar ortaya çıkıyor
• Tüm iletişim ve iş akışı Slack merkezli, e-posta neredeyse hiç kullanılmıyor
• Her ekibin kültürü ve temposu farklı; araştırma, uygulama, GTM (Go-To-Market) gibi alanların zaman akışı da birbirinden ayrılıyor
• Gerçek anlamda bottom-up ve liyakat odaklı bir yapı baskın; araştırmacılar ve geliştiriciler deneyleri ve kararları bireysel olarak güçlü biçimde yönlendiriyor
• Sonuç odaklı ve yetkinliği önceleyen organizasyon kültüründe, politik beceriden çok uygulama gücü ve fikirler önem taşıyor
• Resmî bir yol haritası olmadan, iyi fikirlerin etrafında ekiplerin doğal biçimde toplanması ve hızla yön değiştirmesi eğilimi var
• Liderlik, uygulama gücüne (doing the right thing) ve değişime çevikliğe önem veriyor
• İçeride yinelenen geliştirmeler ve paralel deneyler çok; pek çok prototip kendiliğinden ortaya çıkıyor ve burası gerçekten 'kodun hareket ettirdiği bir organizasyon'
• Liderler, politik yetenekten çok fikirleri fiilen hayata geçirebilme becerisine ağırlık veriyor
• Araştırmacılar, "mini yönetim" üyeleri gibi kendi inisiyatifleriyle problemlere yoğunlaşıyor
• Yetenekli araştırma yöneticileri ve PM'lerin etkisi çok büyük
• ChatGPT EM'leri son derece güvenilir; iyi insanları işe alıp onlara özerklik veriyorlar
• Yön değişiminin hızı çok yüksek; karar alındıktan sonra hemen uygulamaya geçiliyor

Çalışma biçimi ve atmosfer

• Slack kanal ve yetki yapısı karmaşık, tüm iletişim Slack üzerinden dönüyor
• Araştırma ekipleri / PM / EM (mühendislik yöneticisi) gibi rollerin çalışma tarzları farklı; ekipler arası geçiş ve işbirliği esnekliği çok yüksek
• Dış güvenlik ve medya görünürlüğüne karşı son derece hassaslar; performans ve gelir gibi iç bilgiler sıkı biçimde yönetiliyor
• Gerçek ekip üyeleri doğru olanı yapma motivasyonuna güçlü biçimde sahip; dışarıdan düşünüldüğü kadar sinik değiller
• OpenAI, farklı alt kültürlerin iç içe geçtiği bir 'Los Alamos (nükleer araştırma laboratuvarı) + dev tüketici hizmeti' hibrit organizasyonu olarak tasvir ediliyor
• Yapay zeka faydasının geniş biçimde dağıtılmasına önem veriliyor; en ileri modeller bile yalnızca enterprise müşterilere kapatılmayıp herkesin API/ChatGPT üzerinden kullanabileceği şekilde sunuluyor

Güvenlik ve iç politikalar

• Yapay zeka güvenliği meselelerine içeride gerçekten çok sayıda insan ve kaynak ayrılıyor
• Pratikte ise daha çok nefret söylemi, kötüye kullanım, politik önyargı, prompt injection, kendine zarar verme gibi somut risklerle ilgileniliyor
• Kuramsal riskler (kontrolden çıkan zeka, power-seeking) bazı kişilerce özel olarak ele alınıyor ama ana akım değil
• Güvenlikle ilgili araştırma ve sistemlerin önemli bir bölümü dışarıya açıklanmıyor

Geliştirme ortamı ve teknoloji

• Dev bir mono-repo ve Python ağırlıklı bir yapı var; Rust/Golang kısmen kullanılıyor, stil rehberi zorlaması ise neredeyse yok
  • Google geçmişine sahip kıdemlilerin tasarladığı büyük ölçekli sistemlerle, yeni doktora mezunlarının yazdığı Jupyter notebook'lar yan yana bulunuyor
  • FastAPI merkezli API yapısı ve Pydantic ile veri doğrulama özellikle dikkat çekiyor
• Tüm altyapı Azure üzerinde çalışıyor
  • Gerçekten güvenilir sayılan servisler Azure Kubernetes Service, CosmosDB ve BlobStore ile sınırlı
  • IAM seviyesi ve bazı servisler AWS'ye göre yetersiz; bu yüzden şirket içi kendi sistemlerini geliştirme eğilimi var
• Meta (eski Facebook) çıkışlı çok sayıda mühendis katılmış durumda
  • Altyapı hissiyatı ve kod tabanı, Meta/Instagram'ın ilk dönemlerine benziyor
  • Örneğin TAO'nun yeniden uygulanması, kimlik doğrulama sistemlerinin birleştirilmesi gibi kendi iç sistemlerini geliştirme sık görülüyor
• Yinelenen kod, araç/kuyruk yönetimi kütüphaneleri, büyük backend monolith yapısını yönetme gibi hızlı büyüyen organizasyonların kronik sorunları net biçimde hissediliyor; CI hız ve kararlılık sorunları da mevcut
• Chat mesajları ve konuşma yapısı kodun birçok yerine derinlemesine gömülü, ürünler arasında tekrar tekrar kullanılıyor
• 'Code wins': Merkezi bir planlama komitesi olmadan, gerçekten işi yapan ekibin yazdığı kod standart haline geliyor
  • Karar yetkisi işi doğrudan yapan ekipte; kod üzerinden yetkinlik ve uygulama üstünlüğünün belirleyici olduğu bir yapı var

Tüketici markası ve iş perspektifi

• Consumer markasının büyüklüğü: Temel metrikler ekip bazında değil, bireysel kullanıcı abonelikleri temelinde yönetiliyor
  • Ürün büyümesi ve trafik, 'Pro abone sayısı' gibi tüketici odaklı metriklerle ölçülüyor; bu durum B2B kökenli yazar için çarpıcı bir deneyim olmuş
• Model eğitimi ve deneyler küçük ölçekte başlayıp, başarılı olursa büyük dağıtık sistem mühendisliğine ölçeklenen bir yapıya sahip
• GPU maliyeti ezici paya sahip; küçük bir özellik bile çok büyük GPU kaynağı gerektirebiliyor
  • GPU kullanım hesabı ve benchmarking, gerekli gecikme süresi / token sayısı gibi kullanıcı deneyimi kriterlerinden geriye doğru hesaplanıyor
• Büyük ölçekli Python kod tabanını işletme bilgisi: Geliştirici sayısı arttıkça temel çalışırlık, test ve yanlış kullanımı önleme gibi çeşitli guardrail'lere ihtiyaç duyuluyor

Ekip işleyişi ve liderlik

• Liderlik çok görünür ve doğrudan işin içinde; tüm yöneticiler Slack'te sık sık tartışmalara katılıyor
• Ekipler arası geçiş ve işbirliği çok hızlı; başka bir ekibin talebine de bekleme ya da prosedür olmadan hemen destek veriliyor
• Şirket içi swag bile nadir ve yalnızca sınırlı iç satış biçiminde sunuluyor

Codex lansmanı deneyimi

• Son 3 ayda Codex lansmanı, yazarın kariyerindeki en önemli anlardan biri oldu
• Kasım 2024'te 2025 içinde bir coding agent çıkarma hedefi belirlendi; Şubat 2025 civarında iç araç tamamlandı ve piyasadaki rekabet temposunun baskısı hissedildi
• Codex'i piyasaya sürmek için ekipler birleşti ve 7 haftada tamamlanmış bir ürün (coding agent) geliştirip yayımladılar; kısa geliştirme süresinde etkili bir ürün çok hızlı hayata geçirildi
  • Gerçekte gece çalışmaları, hafta sonu mesaileri ve yeni doğan bebek bakımı aynı anda yürütülerek YC günlerindeki his yeniden yaşandı
  • Container runtime, repo optimizasyonu, özel model fine-tuning, git entegrasyonu, internet erişimi gibi çeşitli özellikler hızla geliştirildi
  • Ekip; 8 kıdemli mühendis, 4 araştırmacı, 2 tasarımcı, 2 GTM, 1 PM gibi kıdem ağırlıklı küçük ve seçkin bir kadrodan oluşuyordu
• Lansmandan bir gün önce, doğrudan dağıtım dahil son hazırlıklara odaklanıldı
• Lansman gününde trafik patladı; yalnızca ChatGPT kenar çubuğunda görünmesi bile anında büyük ölçekli kullanıcı akışı yarattı
• Codex, asenkron agent yaklaşımını benimsiyor (kullanıcı-agent mesajı → çalışma → PR sonucu dönüşü)
  • Kullanıcı isteklerini bağımsız bir çalışma ortamında işleyip bir iş arkadaşı gibi PR sonucu döndüren bir yapısı var
  • Model performansına duyulan güven ile sınırlamalar hâlâ iç içe geçmiş durumda
  • Çoklu görev yürütme ve büyük kod tabanlarını anlama becerisi gibi alanlarda Codex'in farklılaştığı noktalar bulunuyor
• Lansmandan sadece 53 gün sonra 630.000 PR üretildi; mühendis başına 78.000'den fazla PR ile ezici bir etki yaratıldı

Kapanış ve çıkarımlar

• Büyük bir organizasyonda çalışma konusunda korkuları vardı ama geriye baktığında bunun en iyi kararlarından biri olduğunu; önemli öğrenme ve gelişim fırsatları sunduğunu söylüyor
• Hedeflediği model eğitimi sezgisi kazanma, çok iyi çalışma arkadaşlarıyla işbirliği yapma ve etkili ürünler çıkarma hedeflerinin hepsine ulaştı
• Büyük ölçekli Python kod tabanı yönetimi bilgisi edindi; gerçek dünyada GPU benchmarking ve kapasite hesaplama deneyimi kazandı
• Eğer bir startup kurucusuysanız ya da kariyerinizi düşünüyorsanız, daha cesur adımlar atmak veya büyük bir araştırma laboratuvarına katılmayı değerlendirmek için uygun bir dönem olabilir
• AGI yarışında üç at var: OpenAI, Anthropic ve Google; her biri farklı bir yaklaşım izliyor ve bunlardan birinde çalışma deneyimi ufku genişletebilir
• Yazar, OpenAI deneyimini girişimci ve mühendis olarak yaptığı en iyi seçimlerden biri olarak değerlendiriyor

[brainer]

https://tr.news.hada.io/topic?id=21081 Bu yazı aklımda kalmış.

[GN⁺]

Hacker News görüşü

• İşten ayrılan birinin kendi çalışma deneyimini olumlu anlatması pek sık görülen bir şey değil; bu, OpenAI’ın özel olmasından çok, çoğu “neden şirketten ayrıldım” yazısının aslında kişinin kuruma uymamasını kurumun suçu gibi göstermeye çalışma eğiliminde olmasını yansıtıyor. Bu yazıdaki “inanılmaz derecede bottom-up bir yapı” ifadesinin arkasında, net bir yol haritasının olmaması ve herkesin sahip olduğu belirgin projeler bulunmadığı için yönünü kaybeden insanların olabilmesi yatıyor olabilir. Ayrıca “aksiyon odaklılık” ve “anında yön değiştirme” de kaotik bir ortam ve tutarsız yönetici liderliği anlamına gelebilir. Bir de “OpenAI’da gerçekten iyi niyetli çok insan var” sözü, genelde ahlaki açıdan karmaşık kararlar alan çoğu şirket için geçerlidir; herkes kendini iyi biri olarak görür ve büyük hedefler ile meşruiyet anlatılarıyla bunu rasyonalize eder

  • Ben asla kamusal alanda işverenim hakkında eleştiri yazmam; bunun kariyerime zarar vermemesi mümkün değil. Özellikle Altman’ın kinci olabildiğine dair söylentiler de varken, OpenAI söz konusuysa iki kat dikkatli olmak gerekir. Hatta bu yazıda OpenAI’ın sosyal medyayı da izlediği söyleniyor. Bu eski çalışanın, sadece 14 aylık kısa kariyerini olumlu bir çerçeveye oturtarak itibarını yönetmeye çalıştığı da anlaşılıyor; üstelik bu tavır gelecekteki işverenlere de çekici geliyor gibi duruyor
  • “Şirkette kötü adam yoktur. Sadece iyi insanlar kendilerini rasyonalize eder” diye bir söz vardı; ben geçmişte casino yazılımı yapan bir şirkette çalıştım ve orada yöneticiler gerçekten düpedüz kötü adam gibiydi
  • OpenAI’da işten ayrıldıktan sonra olumsuz konuşursanız, daha önce verilmiş tüm hissenizi kaybedebildiğiniz için, olumlu deneyim anlatılarının çok daha yaygın olması yapısal bir durum
  • Bence Altman bir yandan kamuoyunu AGI’nin yakında geleceğine ikna etmeye odaklanırken, diğer yandan OpenAI’ı güçlü bir ürün şirketine dönüştürmek için çok emek harcadı ve bunu da gerçekten başarmış görünüyor. Şirket içindeki büyük gurur ve rekabet ortamında, ayrılan kişi çeşitli politik mücadelelerde kısmen kaybetmiş ya da kendi Codex prototipinin benimsenmemesi gibi şeylerden dolayı incinmiş olabilir. Ya da zaten yeterince para ve hayat deneyimi biriktirdiği için genç yeteneklerle rekabet etmeye devam edecek motivasyonunu kaybetmiş olabilir
  • İşten ayrılanların deneyimlerini yalnızca olumsuz anlatması değil, tam tersine aşırı olumlu paketlemesi de gerçekten çok yaygın. Benim çalıştığım bir şirkette de otoriter bir CEO altında ortam son derece toksik hale gelmişti; pek çok kişi zorlanmasına rağmen gelecekte iş bulabilmek için bloglarda ya da LinkedIn’de övgü yazıları yazıyordu. HN’de gündem olan yazılar ise daha çok şirkete bağlılık duymuş çalışanların, şirketin ya da ekiplerinin çöküşünü üzüntüyle anlattığı metinler gibi geliyor

• Bu yazıda etkileyici olan noktalar şunlardı

  • İlerleme iteratif; bottom-up ve liyakat odaklı bir kültür var. Yönetimin bir “master plan”ı olduğu için değil, kimin fikri olursa olsun gerçeğe dönüşebildiği için ilerleme oluyor; liderler de somut icra kabiliyeti ve fikirleri sayesinde yükseliyor
  • Ekip üyeleri izin almadan bile projeleri inisiyatifle başlatabiliyor; böylece doğal olarak birden fazla paralel proje ortaya çıkıyor ve kaynaklar başarı ihtimali yüksek olanlara yöneliyor
  • OpenAI çalışanlarında iyi niyetle çalıştıklarına dair güçlü bir bilinç var ve dışarıdaki eleştirilere rağmen ciddi bir sorumluluk duygusuyla doğru olanı yapmaya çalışıyorlar
  • Şirketin ürünleri kamu duyarlılığından ciddi biçimde etkileniyor; gerçekten de şirketin “Twitter havası”na göre hareket ettiği hissi var
  • GPU maliyetleri ezici derecede yüksek; diğer altyapı giderleri neredeyse önemsiz kalıyor. Hesaplama gücünü güvence altına almak, finansal ve teknik açıdan en öncelikli konu
  • AGI’ye giden yolun OpenAI (tüketici ürün DNA’sı), Anthropic (kurumsal DNA), Google (altyapı/veri DNA’sı) arasında üçlü bir yarış olarak tarif edilmesi ilginçti
  • Meta da tüketici odaklı DNA’sı olan önemli bir rakip; tüketiciyi gerçekten bir “ürün”e dönüştürme konusunda bunun en tipik örneklerinden biri oldu

• Codex geliştirme maratonunun son 10 yılın en zor işi olduğuna dair bölüm dikkat çekiciydi. Çoğu gün gece 11–12’ye kadar çalışıyor, sabah 5:30’da yeni doğan bebeğiyle ilgileniyor ve 7’de ofise gidiyordu. Haftalar ya da birkaç ay içinde devasa projelerin tamamlandığı bu sıkışık sektör temposunda, bu çalışma tarzının çalışanlar için uzun vadede sürdürülebilir olup olmadığı soru işareti

  • Biri bana böyle bir tempoda çalışmamı dayatsa asla kabul etmem; ama gerçekten ilginç ve önemli bulduğum bir projeyse, birkaç hafta ya da birkaç ay tamamen gömülmek hoşuma gidebilir. Böyle projelerden sonra bütün enerjimin çekileceğini bildiğim için planımı da önceden yaparım. Benzer kültüre sahip topluluklar sayesinde de sürekli motivasyon bulabiliyorum
  • Zaten maddi olarak rahat olan birinin, yeni doğan bebeğiyle ilgilenmek yerine haftanın 7 günü 16–17 saat çalışmayı seçmesi gerçekten dikkat çekici. Eşine “çocuk bakımını üstlendiğin için teşekkür ederim” diye not düşmesi de her şeyi anlatıyor
  • Bu tarz çalışma kesinlikle sürdürülebilir değil; ama kariyer boyunca birkaç kez yaşanacak bir şeyse, denemeye değer olabilir. Hatta bu sayede enerji kazandığını söyleyen tanıdıklarım da var
  • Eşin üzerine çocuk bakım yükünü tamamen bırakmayı hayal bile edemiyorum. OP’nin eşi gerçekten etkileyici; bunu yazının sonunda anması güzel ama dürüst olmak gerekirse şaşırtıcı
  • Yazarın 14 ay sonra OpenAI’dan ayrılmış görünmesine bakılırsa, bu çalışma düzeni muhtemelen tükenmişliğe yol açtı

• Asıl merak ettiğim şey, OpenAI ya da diğer yapay zeka laboratuvarlarının günlük iç operasyonlarında LLM’leri gerçekten temel yapı taşı olarak ne kadar aktif kullandığıydı. Kod geliştirme, iç model özelleştirmesi, güncel bilgi derleme gibi pratik işler için gerçekten bütçe ve yetkinlik ayırıp ayırmadıklarını öğrenmek isterdim; ama yazıda buna değinilmemesi hayal kırıklığı yarattı

• Mühendislerin “tanrı” yarattıkları fikrine kapılmasını sağlamak, en üst düzey pazarlama stratejisi. Ben bunun doğru olduğuna gerçekten inanmıyorum ama bu fikir eleştiriye neredeyse kapalı bir yapı kuruyor. “Ya gerçekten öyleyse?” sorusuyla her itiraz savuşturulabiliyor ve potansiyel kazanç sonsuz kabul edildiği için, küçük bir olasılık bile göz ardı edilemiyor. Olasılık %0.00001 bile olsa, sonsuz ödülle çarpılınca beklenen değer sonsuz oluyor mantığı. Birinci sınıf pazarlama

  • “Ama ya gerçekse?” sorusu, LLM geliştiricilerinin anlatısının bir parçası olarak gizemli bir katman ekliyor

• En çok öğrenmek istediğim şey, OpenAI içinde LLM’lerin gerçek ürün geliştirme süreçlerinde ne ölçüde ve nasıl kullanıldığıydı

  • 53 günde mühendis başına 78.000 public pull request olduğuna dair ifade, neredeyse %99,99’unun LLM tarafından yazıldığına dair bir şaka gibi geliyor. Yazıda iş akışı hakkında bu kadar çok bilgi paylaşılması beni şaşırttı; böyle şeylerin normalde gizli tutulması gerekmez mi diye düşündüm. Bu arada, 78.000 PR istatistiği Codex mühendisleri için değil, tüm kullanıcı tabanı için geçerli

• Bu kadar hızlı büyümüş bir şirkette bile, OpenAI’daki teknik yazar eksikliği hâlâ şaşırtıcı. Sadece belgelerin geliştirilebileceği söyleniyor ama Anthropic’in dokümantasyon seviyesiyle karşılaştırınca, OpenAI’da meslektaş teknik yazar bulmak zor görünüyor. İyi geliştirici araçları üretmek için güçlü dokümantasyon şarttır ve buna odaklanıp sürekli iyileştiren özel bir ekip gerekir

  • Sorun, yönetimin dokümantasyonun değerini yeterince görmemesi. Eskiden DigitalOcean’da sektörün en iyi teknik dokümantasyon ekiplerinden biri vardı ama işten çıkarmalarda ilk gidenler onlar oldu. Pek çok yerde bunun sadece bir maliyet kalemi olarak görüldüğü hissi var

• Bu yazıda benim için tamamen yeni olan çok sayıda ilginç bilgi vardı; zaman ayırıp okumaya kesinlikle değer

• Yazarın “güvenliğe sanıldığından daha fazla önem veriliyor” görüşü hakkında ise, OpenAI’daki çeşitli güvenlik ekip liderlerinin istifa etmiş ya da işten çıkarılmış olması, Superalignment projesinin başarısız olması ve başka çalışanların güvenlik meselelerine destek eksikliğinden söz etmesi düşünüldüğünde, bu ifade gerçeklikle uyumsuz ya da bilinçli biçimde yanıltıcı gibi duruyor

• “Araştırmaların çoğu, araştırmacının belirli bir probleme takıntı geliştirmesiyle başlar” cümlesi ilginçti; eğer bu tespit doğruysa, bunun şirketin Aşil topuğu olabileceğini düşünüyorum

  • Ama bu belirli bir şirkete özgü bir sorun değil; insan doğasının kendisiyle ilgili bir mesele. En üst düzey araştırmacılar, gerçekten sevdikleri alana adeta saplantılı biçimde bağlanıp inanılmaz miktarda zamanı gönüllü olarak harcama eğilimindedir