OpenAI’dan ayrılanlar: Eski çalışanlar neden konuşamıyor

• ChatGPT konuşabiliyor, ancak OpenAI çalışanları konuşamıyor
  • Eleştiri yasağı içeren sözleşmeler imzaladılar ve sözleşmeyi ihlal ederlerse hisselerinden vazgeçmek zorunda kalabiliyorlar

OpenAI’nin yeni ChatGPT 4o lansmanı

• OpenAI, yeni ChatGPT 4o’yu piyasaya sürdü
• 2013 yapımı Spike Jonze filmi "Her"de Scarlett Johansson’ın seslendirdiği yapay zeka asistana benzer bir sesi var
• OpenAI CEO’su Sam Altman, bu filme atıfta bulunan bir tweet paylaştı

OpenAI’de önemli isimlerin istifası

• ChatGPT 4o lansmanı haberi, OpenAI kurucu ortaklarından ve baş bilim insanı Ilya Sutskever ile Superalignment ekibini yöneten Jan Leike’ın istifa haberlerinin gölgesinde kaldı
• Geçen yıl Future Perfect 50 listesinde yer alan Jan Leike da birlikte ayrıldı
• İstifalar aslında o kadar da şaşırtıcı değil
  • Sutskever, geçen yıl CEO Sam Altman’ın geçici olarak görevden alınmasına yol açan yönetim kurulu isyanına karışmıştı
  • Altman hızla CEO koltuğuna döndükten sonra Sutskever, davranışından kamuoyu önünde pişmanlık duyduğunu açıkladı ve Altman’ın dönüşünü destekledi
  • Ancak o zamandan beri OpenAI’nin politika, hizalama ve güvenlik ekiplerindeki başka üyeler ayrılırken Sutskever şirkette büyük ölçüde ortalıkta görünmedi

Eski çalışanların sessizliği üzerine spekülasyonlar

• Eski çalışanların sessizliği çeşitli spekülasyonlara yol açıyor
• Sutskever sıradan bir istifa mesajı bıraktı
  • "OpenAI’nin güvenli ve faydalı AGI üreteceğine eminim. Önümüzdeki dönem için heyecanlıyım" dedi
• Leike ise sadece "istifa ettim" dedi
  • Birkaç gün sonra, OpenAI’nin güvenlik odaklı kültürden uzaklaştığına dair endişeleri nedeniyle ayrıldığını açıkladı
• Eski çalışanların neden sessiz kaldığına dair çeşitli tahminler var
  • Zorla mı itildiler, geçen sonbaharda Altman’ın kısa süreli görevden alınmasının artçı etkileri mi söz konusu, yoksa gizli ve tehlikeli yeni bir projeyi protesto ederek mi ayrıldılar gibi

Eski çalışanların sessizliğinin nedeni

• Eski çalışanların sessiz kalmasının açık bir nedeni var
  • Son derece kısıtlayıcı ayrılık sözleşmelerinde, eski işverenlerini ömür boyu eleştirmemeyi şart koşan maddeler yer alıyor
  • NDA’nin varlığını kabul etmek bile ihlal sayılıyor
• Ayrılan çalışan bu belgelere imza atmazsa ya da ihlal ederse, şirkette çalıştığı süre boyunca kazandığı tüm hisseleri kaybedebiliyor
  • Bunun değeri büyük olasılıkla milyonlarca dolar
• Eski çalışan Daniel Kokotajlo, NDA’yi imzalamadan ve buna bağlı büyük miktardaki hisselerinden vazgeçerek ayrıldığını kamuoyu önünde doğruladı
  • Bunun nedeninin, "AGI çağında OpenAI’nin sorumlu davranacağına dair güvenini kaybetmesi" olduğunu söyledi

Yoğun rekabet altındaki Silikon Vadisi’nde NDA uygulamaları

• Sert rekabetin yaşandığı Silikon Vadisi’nde NDA’nin kendisi sıra dışı değil
• Ancak zaten kazanılmış hisseleri reddetme ya da ihlal durumunda riske atma uygulaması sıra dışı
  • OpenAI gibi girişimlerde çalışanlar için hisseler, maaştan çok daha büyük ve kritik bir ödeme unsuru
  • Hayatı değiştirebilecek bu potansiyel parayı tehdit etmek, eski çalışanları susturmanın son derece etkili bir yolu

OpenAI’nin açıklık ve şeffaflık söylemindeki çelişki

• OpenAI başlangıçta güçlü sistemleri şeffaf ve hesap verebilir biçimde geliştirmeye adanmış olarak kendini tanıttı
  • Ancak artık güvenlik gerekçesiyle modelleri açık kaynak yapma fikrinden vazgeçti
• Güvenlik ekibinin en deneyimli ve en saygın üyelerini gönderdi
  • Bu da güvenliğin gerçekten OpenAI’nin kapalı hale gelmesinin nedeni olup olmadığı konusunda soru işaretleri yaratıyor
• OpenAI sözcüsü, "Mevcut ya da eski hiçbir çalışanın hisselerini iptal etmedik ve ayrılırken imzalamamış olsalar bile bunu yapmayacağız" dedi
  • Bunun, daha önce anlaşılan politikada bir değişikliğe işaret ettiği belirtildi

Teknoloji ve politika dünyasında OpenAI’nin sıra dışı konumu

• OpenAI uzun süredir teknoloji ve politika çevrelerinde sıra dışı bir konuma sahip
  • DALL-E’den ChatGPT’ye kadar piyasaya sürdükleri etkileyici olsa da, tek başına dini bir coşku yaratmaları zor
• OpenAI’yi özel kılan şey, yapay genel zeka (AGI) geliştirip bunu insanlığın yararına sunma yönündeki büyük hedefi
  • Çalışanların birçoğu, yaklaşık 10 yıl (veya daha azı) ile trilyonlarca doların bu hedefe ulaşmak için yeterli olacağına inanıyor
• OpenAI’nin uzun süredir söylediği gibi, bu heyecan verici ama aynı zamanda tehlikeli olabilir

Sorumlu bir aktör olarak OpenAI

• OpenAI tarihsel olarak, ticari teşviklerin ötesine geçip AGI’yi herkesin yararına getirmeyi amaçlayan sorumlu bir aktör olarak kendini konumlandırdı
  • Bunun için geliştirme hızını yavaşlatmak, gelir fırsatlarını kaçırmak ya da dış denetime izin vermek gerekse bile bunu yapmaya istekli olduğunu söylüyordu
• OpenAI’nin benzersiz şirket yapısı (nihai kontrolün bir kâr amacı gütmeyen kuruluşa ait olduğu capped-profit şirketi), hesap verebilirliği artırmak için tasarlanmıştı
• Sutskever ve Leike gibi kişilerin görünür rollerde olması, OpenAI misyonuna bağlılığın bundan daha güçlü bir işareti değildi
  • Onlar, güvenliğe uzun süredir bağlı teknik kişilerdi ve gerekirse OpenAI’den yön değiştirmesini istemeye hazır görünüyorlardı

OpenAI’nin güvenlik çalışmalarına ilgisindeki değişim

• Onların ayrılığı, OpenAI’nin yapay genel zeka inşa etme hedefinden vazgeçtiği anlamına gelmiyor
  • Bu hâlâ temel hedef olmaya devam ediyor
• Ancak bu, neredeyse kesin olarak OpenAI’nin güvenlik çalışmalarına verdiği önemin değiştiğine işaret ediyor
  • Şirket, Superalignment ekibine kimin liderlik edeceğini açıklamadı
• OpenAI’nin dış denetim ve şeffaflığa ilişkin kaygılarının o kadar da derin olmadığı giderek netleşiyor
  • Dış denetim ve dünyanın yaptığınız işte söz sahibi olmasını istiyorsanız, eski çalışanlara aşırı kısıtlayıcı NDA’ler imzalatmak tam olarak bununla uyumlu değil

OpenAI’ye yönelik hayal kırıklığı

• OpenAI’nin, yapay zekanın insanlık için gerçekten iyi ve faydalı olmasını önemseyen kişiler açısından neden temelde hayal kırıklığı yarattığı burada ortaya çıkıyor
  • Şirket yönetimi dünyayı değiştirmek istediğini, bunu yaparken sorumluluk almak istediğini ve dünyanın bunu adil ve akıllıca nasıl yapacağına dair görüşlerini memnuniyetle karşılayacağını söylüyor
• Ancak gerçek para işin içine girdiğinde (ve yapay zeka hakimiyeti yarışında ortada muazzam bir para var), dünyanın o kadar da fazla söz sahibi olmasını aslında istemedikleri anlaşılıyor
  • Süreçleri, OpenAI içinde neler yaşandığını en iyi bilen eski çalışanların dünyaya konuşmasını engelliyor
• Web sitesinde yüce idealler bulunabilir, ama işten ayrılık sözleşmeleri acımasız hukuk diliyle dolu
  • Eski çalışanların sadece "istifa ettim" demekle sınırlı olduğu bir şirketten hesap sormak zor

ChatGPT’nin yeni sevimli sesi çekici olabilir, ama ben özellikle büyülenmiş değilim.

[GN⁺]

Hacker News görüşleri

Hacker News yorum derlemesi özeti

• Gizlilik sözleşmesini aşmanın bir yolu

  • Gizlilik sözleşmesini aşmak için, ilgili çalışanlar bir araya gelip söylemek istedikleri her şeyi yazabilir, bunu bir LLM'ye (büyük dil modeli) öğrettikten sonra yayımlayabilir. Bu, mevcut hukuki mantıkta sorumluluğun model kullanıcısına yüklenmesinden yararlanma fikri.

• OpenAI'nin gizlilik sözleşmesi

  • OpenAI'nin eski çalışanları, çok katı gizlilik ve karalamama maddeleri içeren sözleşmeler imzalamak zorunda. Bunu ihlal ederlerse milyonlarca dolarlık hisselerini kaybedebilirler.

• Durumun ciddiyeti

  • Durum çok ciddi ve bazı kişiler bunu suç teşkil eden bir eylem olarak görüyor. OpenAI'nin yaptıklarının Enron vakasına benzediğini söyleyenler de var.

• Hukuki tavsiye ihtiyacı

  • California SB 331 (Silence No More Act) ile ilgili hukuki tavsiyeye ihtiyaç var. Bu yasa yalnızca cinsel taciz için değil, başka tür haksız sözleşmeler için de uygulanabilir.

• Makul olmayan sözleşme

  • Çalışanlara ömür boyu karalamama sözleşmesi dayatmak haksızlık. Bu hukuken sorunlu olabilir ve bunun çözülmesi için cesur birinin dava açması gerekebilir.

• Yapay zekanın sınırları

  • Yapay zekanın tüm insan emeğinin yerini alamayacağı görüşü var. Örneğin ev boyama ya da kombi tamiri gibi işleri yapamayacağı düşünülüyor.

• Startup'larda hisse bazlı ücretlendirme

  • Startup'larda hisse önemli bir ücretlendirme aracı. OpenAI çalışanları yüksek maaş ve hisse alırken NDA imzalamaları isteniyor. Apple'da da benzer örnekler olduğu belirtiliyor.

• Jan Leike'e duyulan saygı

  • Jan Leike'e ilave saygı ifade ediliyor.

• Sözleşmenin geçerliliği

  • Bir sözleşmenin geçerli olabilmesi için yeni bir hisse ödülü sunulması gerekir. Mevcut ödülü kullanarak yeni bir sözleşmeyi dayatmak haksızlık olarak görülüyor.

• Sözleşmenin özel niteliği

  • Sözleşme taraflar arasındaki bir mesele ve hukuki bir sorun varsa bunun mahkemede çözülmesi gerektiği savunuluyor. Her sorunun kamuoyu önünde ele alınmasından kaçınılması gerektiği de söyleniyor.