OpenAI, önemli belgeleri kamuya açıklama vaadini sessizce rafa kaldırdı

• OpenAI, kuruluşundan bu yana yönetişim belgelerini yayımlayacağına söz vermişti; ancak WIRED yakın zamanda bunları talep ettiğinde paylaşmayı reddetti
• OpenAI, toplumun ve kamuoyunun güçlü yapay zeka geliştirme sürecine katılabilmesi için kurulmuştu; ancak artık iç belgeleri açıklamayan yeni bir politika benimsiyor
• OpenAI'nin şeffaflık vaadinden geri adım atması, şirketin zayıf noktalarını ve yapay zekanın geleceği üzerinde önemli etkisi olan bu şirketin son krizini anlamayı zorlaştırıyor

OpenAI'nin krizi ve yönetişimi

• OpenAI yönetim kurulu CEO Sam Altman'ı görevden aldı; ancak çalışanlar ve yatırımcıların tepkisi sonrası Altman geri döndü ve yönetim kurulunun üyelerinin çoğu değiştirildi
• Altman'ın kişisel yatırımları ile görevi arasındaki iç içe geçme, yönetim kurulunun güvensizliğinin nedenlerinden biri olmuş olabilir
• OpenAI'nin yönetişim belgelerini açıklaması, yönetim kurulunun Altman ve onun dış faaliyetleri üzerinde hangi yetkilere sahip olduğunu ortaya koyabilir

OpenAI'nin kurumsal yapısı ve Microsoft

• OpenAI'nin kuruluş tüzüğü, yönetim kurulunun bir bölümünün kontrolü ele geçirip Altman'ı görevden uzaklaştırabilmesinin yolunu gösteriyor
• Microsoft CEO'su Satya Nadella, Altman'ın görevden alınması karşısında kamuoyu önünde şaşkın olduğunu söyledi
• OpenAI, yönetim kurulu yapısını istikrara kavuşturmak ve Microsoft gibi destekçileri yatıştırmak için yönetişim belgelerini değiştirmiş olabilir

OpenAI'de azalan şeffaflık

• OpenAI geçmişte yapay zeka buluşlarına ilişkin ayrıntılı bilgileri açıklıyordu; ancak son dönemde ChatGPT gibi araçların teknik ayrıntılarını ve verilerini koruyor
• 2019'da, yapay zeka geliştirmelerinin çoğunu yürüten kâr amaçlı bağlı ortaklığını kâr amacı gütmeyen yapı altında kurmasından sonra şeffaflık azaldı
• OpenAI'nin kâr amacı gütmeyen kuruluşu, nihai olarak OpenAI'nin faaliyetlerini ve teknolojisini kontrol ediyor

OpenAI'nin kâr amacı gütmeyen yapısı ve IRS bildirimleri

• ABD'deki kâr amacı gütmeyen kuruluşlar yıllık IRS bildirimlerini kamuya açıklar ve ek belgelerin paylaşılıp paylaşılamayacağını bildirmek zorundadır
• OpenAI, 2022'ye kadar yıllık IRS bildirimlerinde ek dosyaları "talep üzerine" sağlayacağını belirtmişti; ancak fiiliyatta bunları paylaşmadı
• Kâr amacı gütmeyen kuruluşların iç belgeleri açıklaması nadirdir ve bunlara erişmek zordur

OpenAI'nin finansal durumu

• OpenAI'nin açıkladığı mali tablolar, kâr amaçlı bölümün sonuçlarını hariç tutuyor ve 2022 için 44.000 dolar gelir ile 1,3 milyon dolar gider bildiriyor
• OpenAI'nin geneli yüz milyonlarca dolar gelir elde etti; ancak bu kamuya açıklanmadı
• OpenAI'nin kâr amacı gütmeyen bölümü kamu desteğine neredeyse hiç dayanmadığı için şeffaflığı artırma yönünde yeterli teşvike sahip değil

GN⁺ görüşü

• OpenAI'nin şeffaflık vaadini geri çekmesi, yapay zeka teknolojisinin geleceği üzerinde önemli etkisi olan bir şirketin nasıl işlediğini anlamayı zorlaştırıyor
• Bu değişim, yapay zeka araştırma ve geliştirme süreçlerine yönelik kamusal katılımı ve güveni zayıflatabilir
• OpenAI'nin politika değişikliği, yapay zeka sektöründe şeffaflık ve etik işleyiş tartışmalarını tetikleyebilecek önemli bir örnek

[GN⁺]

Hacker News görüşleri

• Hayal kırıklığı yaratan ama şaşırtıcı olmayan bir haber. Bu olaydan çıkarılacak derslere bakalım.

  • Yapay zeka alanında altruizm (özgecilik) ve açıklığı savunmak popüler; OpenAI, Anthropic ve Musk'ın yeni xAI'ı gibi şirketler de kamu yararı için alışılmadık yönetişim yapıları benimsiyor. Sorun şu ki, bu şirketlerden biri yeterince ilgi görüp milyarlarca dolar kâr elde etme ihtimali belirmeye başladığında durum değişiyor.
  • Bu sorun yalnızca yapay zeka şirketlerine özgü değil ve yeni de değil. Bu, insan doğasının bir parçası ve her zaman var olacak.
  • Yapay zekanın faydalarının birkaç şirket yerine halka gitmesini sağlamak için gerçekten açık yapay zeka modellerine (açık eğitim verisi, eğitim kaynak kodu ve hiperparametreler, model kaynak kodu, ağırlıklar) daha fazla vurgu ve dikkat göstermeliyiz.

• OpenAI'nin ChatGPT'nin lansmanından sonra hiçbir şey paylaşmadan milyarlarca dolarlık yatırım aldığını biliyoruz; dolayısıyla OpenAI'nin kapalı olmasına şaşırmaya gerek yok.

• OpenAI verdikleri tüm sözleri bozdu.

• Yönetim kurulu bunun nasıl olmasına izin verdi!

  • Daha ciddi düşününce, bu hem bariz bir sonuç hem de biraz uğursuz hissettiriyor.
  • OpenAI'nin çok fazla fon ve sermayeye ihtiyaç duyduğu doğru; bu yüzden de finansman ve ortaklıklar gerektiği de doğru.
  • Ama onların en başta var olabilmesinin tek nedeni, kendilerini 'açık', neredeyse kamusal bir varlık gibi konumlandırmaları ve bu temelde bağış almalarıydı.

• Bu teknolojinin toplum üzerinde yaratabileceği zararlı kullanımlara dair duyduklarımız ışığında, bunun neler olup bittiğini anlamak için bir tür soruşturma gerektirecek kadar ciddi bir durum olup olmadığını merak ediyorum.

  • Bu durum, bu tür bir çalışmanın özelleştirilmesini görmezden gelemeyeceğimiz kadar ciddi.
  • 'Bu normal' iddiasına ilgi göstermeye gerek yok. Bu sadece insanları bu davranışı normalleştirmeye itme çabası.
  • Kamu yararı için hareket eden bir yapay zeka güvenlik merkezi olup olmadığını ve bu konunun onların radarında bulunup bulunmadığını bilen var mı?

• Musk'ı savunmak istemem ama onun yerinde olsam, makalenin 'zengin teknoloji girişimcileri şeffaflık sözü verdi ama artık vermiyorlar' diye başlayıp, adı geçen tek kurucunun yıllar önce dışarı itildiği, şimdi ise rakip konumunda olup buna 'maksimum kâr için aşırı kapalı kaynaklı yapay zeka' dediği durumu ancak 8 paragraf sonra belirtmesine biraz kızardım sanırım.

  • Medya suçlama bağımlısı; suçlama ile manşet arasına giren her türlü nüans makalenin en altına konuyor ve ödeme duvarının arkasına saklanıyor. Muhtemelen birkaç yıl sonra aynı taktikler Altman'a da uygulanacaktır.
  • Durum o kadar kötü ki, ikiyüzlülük ima eden bir manşet okuduğumda aslında tersine daha çok inanma eğilimim oluyor; bu da bunun doğru olduğunu varsaymak kadar korkunç bir zihinsel arıza!

• Bu organizasyonun başlangıcından itibaren, bunun olmasını engelleyecek kurallar olmalıydı. Olayların gidişatı, onların yönetişim biçiminin etkili olmadığını gösteriyor.

• Şirket adını 'Microsoft AI' olarak değiştirmelerine çok kalmadı.

• OpenAI'yi kamu yararına çalışan kâr amacı gütmeyen bir şirket gibi göstermeye çalışıyorlar, ama gerçekte ona diğer özel teknoloji şirketleri gibi bakmak en doğrusu.