1 puan yazan GN⁺ 2024-03-02 | 1 yorum | WhatsApp'ta paylaş
  • Elon Musk, Sam Altman, Greg Brockman ve OpenAI ile bağlantılı tüzel kişiliklere karşı sözleşme ihlali dahil 5 talepte bulundu ve jürili yargılama istedi
  • Davanın özü, OpenAI’nin 2015’te kâr amacı gütmeyen bir AGI araştırma enstitüsü olarak yola çıkarken teknolojiyi “insanlığın yararı” için kamuya açmayı öngören bir Founding Agreement yaptığı iddiası
  • Musk tarafı, GPT-4’ün iç tasarımı ve eğitim bilgileri açıklanmayan kapalı bir teknoloji haline geldiğini, fiilen Microsoft’a bağlandığını ve OpenAI’nin ilk misyonundan saptığını savunuyor
  • Microsoft araştırmacılarının GPT-4’ün erken AGI olabileceğine dair kamuya açık açıklamalarını dayanak göstererek, 2020 tarihli Microsoft münhasır lisansının yalnızca pre-AGI teknoloji için geçerli olduğunu iddia ediyor
  • Dava, 2023 Kasım’ındaki yönetim kurulu krizinden sonra yeni kurulun Altman ve Microsoft’a yakınlaştığı ve AGI konusunda bağımsız karar vermesinin zorlaştığı gerekçesiyle, OpenAI’yi Founding Agreement’a uymaya zorlamayı amaçlıyor

Davanın tarafları ve taleplerin kapsamı

  • Elon Musk, San Francisco County’deki California Superior Court’ta Sam Altman, Greg Brockman, OpenAI, Inc. ve çeşitli OpenAI bağlantılı tüzel kişiliklere karşı dava açtı
  • Talep nedenleri şu 5 başlıktan oluşuyor
    • Sözleşme ihlali

      • promissory estoppel
      • fiduciary duty ihlali
      • Cal. Bus. & Prof. Code §§ 17200 ve devamı kapsamında haksız rekabet
      • muhasebe incelemesi
      • Davalılar arasında OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC ve Does 1 through 100 yer alıyor
      • Dava metninde OpenAI, Inc. kâr amacı gütmeyen kurum veya kâr amacı gütmeyen bölüm olarak, “OpenAI” ise ilgili tüm OpenAI tüzel kişiliklerini ifade eden bir terim olarak ayrıştırılıyor

AGI risk algısı ve OpenAI’nin kuruluş arka planı

  • AGI, insanlar gibi farklı görevlerde zekâ gösterebilen genel yapay zeka sistemi olarak ele alınıyor
  • Musk’ın, AGI’nin insanlık için ciddi bir varoluşsal tehdit oluşturabileceğini uzun süredir gördüğü ve bunun Stephen Hawking ile Bill Joy’un kaygılarıyla aynı çizgide olduğu öne sürülüyor
  • 2014’te Google’ın DeepMind’ı satın almasıyla AGI yarışında öne geçtiği, Musk’ın ise kapalı ve kâr odaklı bir şirket olan Google’ın AGI’yi kontrol etmesini özellikle tehlikeli gördüğü savunuluyor
  • Google/DeepMind açıklamalarına da atıf yapılıyor
    • AlphaZero’nun reinforcement learning ile satranç, shogi ve go oyunlarında 24 saat içinde insanüstü seviyeye ulaştığı
    • Her alandaki dünya şampiyonu programları yendiğinin tanıtıldığı belirtiliyor

Founding Agreement ve ilk OpenAI dönemi

  • Musk tarafına göre Altman, 2015’te Musk’a Google’ın tam tersi yapıda bir kâr amacı gütmeyen yapay zeka araştırma enstitüsü kurmayı önerdi
  • Musk, Altman ve Brockman’ın yeni enstitünün şu şartlara sahip olması konusunda anlaştığı ileri sürülüyor
    • AGI’nin, kâr amaçlı bir şirketin hissedar çıkarları için değil, insanlığın yararı için geliştirilmesi
    • Güvenlik nedeniyle aksi gerekmedikçe teknolojinin kamuya açılması ve münhasır ticari gerekçelerle kapatılıp gizlenmemesi
  • OpenAI, Inc.’in 8 Aralık 2015 tarihli kuruluş belgesinde, ortaya çıkan teknolojinin kamuya fayda sağlayacağı, uygulanabildiği durumlarda kamu yararı için açık kaynak yapılacağı ve kuruluşun herhangi bir kişinin özel çıkarı için örgütlenmediği yönünde ifadeler bulunduğu aktarılıyor
  • Musk, Founding Agreement’a güvenerek ilk yıllarda OpenAI finansmanının yarısından fazlasını sağladığını, araştırma yönüne ilişkin tavsiyelerde bulunduğunu ve Ilya Sutskever dahil bilim insanları ile mühendislerin işe alınmasında kilit rol oynadığını iddia ediyor
  • İlk OpenAI araştırmalarının, tasarım, model ve koda ücretsiz açık erişim sağlayacak şekilde yürütüldüğü; Transformer tabanlı doğal dil modellerinin yayımlanmasının ardından açık kaynak ve ticari topluluğun genişlediği anlatılıyor

Microsoft lisansı ve GPT-4 tartışması

  • Altman, 2019’da OpenAI, Inc.’in CEO’su oldu ve OpenAI, 22 Eylül 2020’de Microsoft ile GPT-3 için münhasır lisans anlaşması imzaladı
  • Musk tarafı, GPT-3 için iç yapı ve eğitim verisini açıklayan ayrıntılı bir makalenin yayımlandığını, bu sayede topluluğun benzer modeller geliştirebildiğini savunuyor
  • Davadaki temel yorum, Microsoft lisansının yalnızca OpenAI’nin pre-AGI teknolojisi için geçerli olduğu ve Microsoft’un AGI üzerinde hak elde etmediği yönünde
  • Mart 2023’te duyurulan GPT-4 için şu performanslar sıralanıyor
    • Uniform Bar Exam’de yüzde 90’lık dilim
    • GRE Verbal Assessment’ta yüzde 99’luk dilim
    • Advanced Sommelier sınavında %77
  • Musk tarafı, GPT-4’ün iç tasarımının OpenAI ve bilgi ve inanca göre Microsoft dışında tamamen gizli tutulduğunu iddia ediyor
    • GPT-4 tasarımını açıklayan bilimsel bir makale bulunmadığı, yalnızca performansı öne çıkaran basın metinleri olduğu eleştirisi de yer alıyor
  • GPT-4’ün OpenAI ve Microsoft’un münhasır ticari çıkarları için kapatıldığı, fiilen Microsoft’un proprietary algoritmasına dönüştüğü ve Office yazılım ürün ailesine entegre edildiği öne sürülüyor

2023 yönetim kurulu krizi ve davanın amacı

  • Musk tarafı, GPT-4’ün bir AGI algoritması olduğunu ve Microsoft’un 2020 tarihli münhasır lisans kapsamının dışında kaldığını savunuyor
  • Microsoft araştırmacılarının, GPT-4’ün yeteneklerinin kapsamı ve derinliği dikkate alındığında bunun “erken ama henüz tamamlanmamış bir AGI sistemi” olarak makul biçimde görülebileceğini kamuya açık şekilde söylediği aktarılıyor
  • OpenAI’nin Q* ya da Q star olarak bilinen bir model geliştirdiği ve bunun AGI olduğu iddiasını daha güçlü destekleyen unsurlar bulunduğu da metinde yer alıyor
  • 17 Kasım 2023’te OpenAI, Inc. yönetim kurulu, Altman’ı “kurula karşı sürekli olarak açık sözlü olmaması” gerekçesiyle görevden aldı
  • Musk tarafına göre takip eden günlerde Altman ve Brockman, Microsoft ile birlikte Microsoft’un OpenAI üzerindeki etkisini kullanarak yönetim kurulundaki çoğunluğun istifasını zorladı
  • Altman, 21 Kasım 2023’te OpenAI, Inc. CEO’su olarak geri döndü
    • Yeni yönetim kurulu üyelerinin Altman tarafından seçildiği ve Microsoft tarafından onaylandığı, ayrıca AGI’ye ulaşılıp ulaşılmadığını bağımsız biçimde değerlendirecek yapay zeka uzmanlığından yoksun oldukları iddia ediliyor
  • Musk tarafı, OpenAI, Inc.’in Microsoft adlı dünyanın en büyük teknoloji şirketlerinden birinin kapalı fiili yan kuruluşuna dönüştüğünü ve yeni kurul altında Microsoft’un çıkarlarını azamiye çıkarmak için AGI geliştirip iyileştirdiğini düşünüyor
  • Davanın amacı, OpenAI’yi Founding Agreement’a uymaya ve AGI’yi bireysel davalılar ile Microsoft’un çıkarları için değil, insanlığın yararı için geliştirme misyonuna geri dönmeye zorlamak

1 yorum

 
GN⁺ 2024-03-02
Hacker News yorumları
  • OpenAI kâr amacı gütmeyen bir yapıya geçerken tüzüğüne “ortaya çıkan teknoloji kamu yararına katkı sağlar, uygun olduğunda kamu yararı için açık kaynak hâline getirmeyi hedefler ve herhangi bir kişinin özel çıkarı için örgütlenmez” yazdıysa, şu an yaptıklarının başlangıçta yapacağını söylediği şeyden çok farklı olduğunu göstermek zor görünmüyor

    • Burada kâr amacı gütmeme meselesinden çok asıl noktanın açık kaynak olduğunu düşünüyorum
      Açık kaynak bir şirkete yatırım yaptınız ama şirket kaynağı açmadı; herkesin faydalanabileceği teknoloji yerine her şeyi kapalı tutup tekelci erişim hakkı sattı. OpenAI’ın bu davranışı savunması zor olacak gibi ve yetişmek için yatırımcıların harcadığı para için büyük bir tazminat talebi mümkün görünüyor
    • Tüzükte “Bu kurumun özel amacı, yapay zeka ile ilgili teknolojilerin araştırılması, geliştirilmesi ve dağıtımı için finansman sağlamaktır. Ortaya çıkan teknoloji kamu yararına katkı sağlar ve uygun olduğunda kamu yararı için açık kaynak hâline getirmeyi hedefler” deniyor
      Sadece bu ifadeye bakınca OpenAI’ın başlangıçta söylediğinden tamamen farklı bir şey yaptığı sonucuna varmak çok zor. Belirtilen amaç, AI teknolojilerinin Ar-Ge’sini finanse etmek; teknolojinin kamuya “ait” olduğu değil “kamu yararına katkı sağladığı” yazıyor, yayımlama da “uygun olduğunda” diye sınırlandırılmış
      Kâr amacı gütmeyen bir yapının kâr amaçlı iştirak kurup gelir elde etmesi de yasa dışı değil. Pek çok kâr amacı gütmeyen kuruluş yıllık gelirinin önemli bir bölümünü ticari faaliyetlerden elde eder; bu kâr amaçlı iştirak veya faaliyetler gelir vergisine tabidir. Gelir kâr amacı gütmeyen ana kuruluşa gidip kâr amacı gütmeyen amaçlar için kullanılıyorsa sorun yoktur; şu anda da öyle görünüyor. Özel çıkar sorunu ancak yöneticiler veya çalışanlar piyasa standardını aşan maaş, yan hak vb. aşırı menfaatler elde ettiğinde ortaya çıkar
    • OpenAI nihai sonucun önemli olduğunu söylüyor ama arada henüz tamamlanmamış AI’ı Microsoft’a lisanslayabileceği gibi bir tutum içinde
    • Tazminatın kanıtlanmasının ne kadar zor olacağını bilmiyorum
      Karışıklık olmasın diye söylüyorum, 127. maddeyi değil 126, 132 ve 135. maddeleri kastediyorum. Dilekçede, davalıların ihlali nedeniyle davacının şu an tutarını bilmediği ancak mahkemenin asgari yargı sınırı olan 35.000 doları ciddi ölçüde aşan zarara uğradığı ve gerekirse bunu yargılamada kanıtlayacağı yazıyor
      Bu dava reddedilmese bile nihai sonuç, OpenAI’ın davacılara davacıların yatırım tutarı kadar ödeme yapıp uzlaşması seviyesinde kalabilir. Bu dilekçeye göre hepimiz kuruluş anlaşmasının üçüncü kişi lehtarlarıymışız; ama gerçek uzlaşmada bizim tazminat alacağımıza inanmak zor. Davacılar açıkça paralarını geri istiyor ve iade almak için “kamu”yu üçüncü kişi lehtar olarak öne sürmekten çekinmiyor gibi görünüyor. Gerçekte “kamu”ya duydukları ilgi şüpheli
      Altman’ın yatırımcılara yaptığı yanlış beyanlara ilişkin bir SEC soruşturması sonucu varsa bu davacılara yardımcı olabilir
    • Bunu kanıtlamak kolay. O eylemi yapan tüzel kişiliğin kendisi; kâr peşinde koşan taraf ise ayrı bir tüzel kişilik
  • Sebebi ne olursa olsun, gemiden çok erken inip fırsatı kaçırmasına duyduğu hınç da olsa insanlık adına hareket etme isteği de olsa, içinde kamuoyunun önünde ele alınması gereken konular var ve mahkeme bunları ele almak için en uygun yer gibi görünüyor
    Microsoft, iş birliğini yalnızca diğer şirketlerin fikrî mülkiyete erişmesini engellemek için kötüye kullanıyor gibi hissettiriyor. Zaten ihtiyaç duyduğu her şeyi elde ettiğini ve iş birliğine ihtiyacı olmadığını da söylediğine göre, iş birliğini sürdürmek için de bir neden yok gibi
    Microsoft iş birliğini bu şekilde kötüye kullanıyorsa Mistral’in yeni iş birliği de iyi görünmüyor. Sınırsız bilgi işlem kaynağı elde edip modelleri açık kaynak yapma özgürlüğü kalsa bile böyle
    Artık Mistral Large’ın açık kaynak bir model olmaması da buruk hissettiriyor. Bu davanın onun Windows 11’i incelemesinin nedeni olup olmadığını da merak ediyorum

    • Bunun çok erken ayrılmaya duyulan hınç olduğunu sanmıyorum. Kuruluşla artık uyumlu olmadığı için açıkça ayrıldı
      AI hakkındaki kamuya açık açıklamalarına bakınca bu uzun zamandır gelmekte olan bir şey gibi. OpenAI’a yatırım yapma amacı AI geliştirmeyi yakından izlemekti; kamuya açık açıklamalarına inanıp inanmamak ayrı ama Elon’ın AI açıklamalarında belli ölçüde samimiyet olduğunu hissediyorum
    • Şirketin satacak bir ürüne ihtiyacı var. Her şeyi ücretsiz açarsanız satacak bir şey kalmaz. Bunun en başından beri plan olması oldukça muhtemel
      Modeli açıp API satabilirsiniz ama Google/Microsoft/Amazon gibi bulut birim ekonomilerinde, GPU fiyatlarında ve özel çıkarım çiplerinde avantajlı şirketler kadar ucuza hizmet vermek zor
      Modelin kendisini satmak istiyorsanız onu bedava sunamazsınız. Açık kaynak kodun aksine, şimdilik destek gibi ek satış pazarları oluşmuş görünmüyor
    • Elon, kâr amaçlı yapı ve yatırımcı görüşmeleri başladıktan sonra da kâr amacı gütmeyen yapıyı finanse etmeye devam etti; sanırım ek olarak yaklaşık 3 milyon dolar daha verdi
      Her hâlükârda kâr amaçlı bölümün para basan bir makineye dönüşeceğini düşünmemiştir
    • Dilekçede sebep, sosyopat CEO Sam Altman tarafından acımasızca kandırılmasıymış gibi yazıyor
      Dilekçenin özü şu: Musk’ın Altman ve Brockman ile birlikte OpenAI, Inc.’i kurup finanse etmesi, AGI’nin kâr amaçlı şirketlere değil insanlığa fayda sağlayacağına dair kuruluş anlaşmasına güvenmesine dayanıyordu; fakat 2023’e gelindiğinde katkıları davalıların ve dünyanın en büyük şirketinin çıkarına hizmet edecek şekilde çarpıtıldı
      Benzetme de güçlü. Amazon yağmur ormanlarını koruduğunu söyleyen bir kâr amacı gütmeyen kuruluşa bağış yapıyorsunuz; sonra o kuruluş, bağışın ürünü olarak kâr amaçlı bir tomruk şirketi kurup ormanı kesiyor — iddia bu. Ayrıca OpenAI’ın kamu yararı için güvenli, açık kaynak AGI üretmeye geri dönülmez biçimde bağlı kalması şartıyla on milyonlarca doların yanı sıra zaman ve kaynak sağladığı; sonrasında ise bu “geri dönülmez” kâr amacı gütmeyen misyonu terk edip kamuya bilgi sağlamayı durdurduğu ve AGI algoritmasını dünyanın en büyük kâr amaçlı şirketine münhasır olarak sağladığı/lisansladığı iddia ediliyor
  • OpenAI’nin benzersiz kurumsal yönetişim yapısını ve organizasyonunu araştırırken ilginç materyaller gördüm
    OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
    Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
    AI is Testing the Limits of Corporate Governance araştırma makalesi - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
    OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...

    • OpenAI’nin 990 formu da görülebiliyor: https://projects.propublica.org/nonprofits/organizations/810...
      OpenAI’nin temel meselesi, yapısal olarak veri toplama ve model eğitimi maliyetlerinin muazzam olması; öyle ki önceki neslin yazılım + fiziksel iş modelleri olan Uber veya Airbnb bile karşılaştırıldığında operasyon maliyetleri ucuz görünüyor. Bu yüzden OAI, hesaplama için bulut sağlayıcılarına daha bağımlı hâle geliyor
      Ayrıca savunma hendeği ve ağ etkileri de kullanıcı üretimi içerik gibi daha dolaylı bir arza bağlı. Yukarıdaki yazıların bazılarının savunduğu gibi, kâr amacı gütmeyen statünün fikri mülkiyeti eğitimde kullanma açısından avantajları olabilir
  • Bu dava “kuruluş anlaşması”nın ihlal edildiğini ileri sürüyor, ancak ortada gerçek bir Founding Agreement belgesi yok; yalnızca bunun parçası olduğu iddia edilen e-postalar var
    Hukuk uzmanı değilim ama tüzük varken bu e-postaların şu anda ne kadar anlam taşıyacağından şüpheliyim. Dava dilekçesinde tüzük de geçiyor, ancak e-postalarla ima edilen “kuruluş anlaşması”ndan daha çok söz ediliyor
    Ayrıca GPT-4’ün AGI olduğunu söyleyen kısım biraz abartılı görünüyor. Elon, bağış toplama e-postasında belirli bir amaç ortaya koyup bunun sonradan değiştiği gerekçesiyle bağışları geri alma kapsamı içinde kazanabilir gibi görünüyor
    Ancak bu davanın hedefi açıkça “OpenAI”deki “Open”ı yeniden canlandırıp GPT-4 ve sonraki modeller hakkında daha fazla bilgi paylaşılmasını sağlamak ve Microsoft’un münhasır lisansını ortadan kaldırmak. Böyle bir davayla bunun mümkün olup olmayacağı nihayetinde tüzüğün yorumuna bağlı gibi duruyor

    • Davanın 37. sayfasında şirket kuruluş belgesi var ve Musk’ın iddia ettiği şey aynen yazıyor. Onun bahsettiği kuruluş belgesi tam olarak bu
    • Büyük olasılıkla yargı alanında neyin geçerli bir sözleşme sayıldığına bağlı. Bazı eyaletler “tokalaşma anlaşması”nı bile hukuken bağlayıcı sözleşme olarak kabul eder ve bu anlaşmayı bozarsanız dava edilebilirsiniz
      E-postada bir şekilde yanıt verip sonra bunun tersine davrandığı için hukuki bağlamda sorumluluğun kabul edildiği durumlar da mutlaka olmuştur
      Tüzük temel hukuki belge olacaktır, ancak kuruluş anlaşması tarafların asıl niyetini ve motivasyonunu göstermek açısından önemli. Ancak böylece Altman’ın şirketi başka bir yöne çevirmesine yol açan bir şey olduğu yönündeki olay zemini kurulabilir
      Altman’ın şirketi manipüle ettiğini söylemenin haksız olduğunu düşünmüyorum. Altman’ın görevden alınması, Microsoft karşıtı eğilimdeki yönetim kurulu üyelerini ortaya çıkarmaya yönelik bir stratejiydi ve onlar tespit edilince Altman’ın dönüşünden sonra kolayca uzaklaştırılmış gibi görünüyor. Altman manipüle etmemiş olsaydı, görevden alındıktan sonra yeniden işe alınması için bir neden olmazdı
    • Bu kişiler bugün konuyu bir avukat çağırıp ele aldı; oldukça ilginçti ve aslında vaade dayalı estoppel üzerine tartışıyorlar gibi görünüyor: https://content.next.westlaw.com/practical-law/document/I77e...
      [1] https://www.youtube.com/watch?v=0hWZJg_nda4
    • Dilekçenin tamamı amatörce okunuyor. Haksızlığa uğradığını söyleyip sızlanan bir ergen gibi; Hans Niemann’ın satranç davasını hatırlatıyor
  • Dilekçede GPT-4’ün yalnızca akıl yürütme yeteneğine sahip olduğu değil, ortalama bir insandan daha iyi akıl yürüttüğü; avukatlık Uniform Bar Exam’de 90. yüzdelik dilimde, GRE sözel bölümünde 99. yüzdelik dilimde yer aldığı ve Advanced Sommelier sınavından %77 aldığı belirtiliyor.
    Ancak bu sınavların ortak noktasının hafızayı test etmeleri olduğu söylenebilir; GPT-4’ün ortalamanın üzerindeki performansının mutlaka akıl yürütmenin kanıtı olmadığı ileri sürülebilir. Yani GPT-4 “anlama” değil, muazzam bir okuma hızı ve saklama kapasitesi, başka deyişle hafıza sahibi olabilir.
    Bu sınavlara hazırlık büyük ölçüde ezbere dayanırken, başka sınavlar akıl yürütme ve anlamayı daha fazla öne çıkarabilir. GPT-4’ün kalacağı sınavlar da mutlaka vardır; ancak GPT-4’ün sınav performansı yalnızca olumlu sonuçlarla raporlanıyor.
    https://freeman.vc/notes/reasoning-vs-memorization-in-llms

    • Varsayılan sonuç sınavdan kalmaktır. “Bunlar geçebildiği tek sınavların kısa listesi” diye açık açık söyleseler bile hayranlığın azalacağını sanmıyorum.
      Birkaç yıl önce bir makinenin bu sınavlardan çift haneli puan bile alması saçma görünürdü. Bir makinenin bu sınavlardan herhangi birini geçebilmesi başlı başına şaşırtıcı.
      Bazı mesleklere giriş sınavlarında geçer not alması artık sıradan bir durum hâline geldiyse, açıkçası bu biraz hayal kırıklığı. GRE sözelde 99. yüzdelik dilim 2010’daki bir doğal dil işleme araştırmacısı için şok edici olurdu; şimdi buna “akıl yürütme değil” diyorsak, akıl yürütmenin çıtasını sürekli kaydırıyoruz demektir.
    • OpenAI tarafının bu argümanı kullanacağını sanmıyorum. Öyle derlerse, güvenlik sorunları nedeniyle modeli açık kaynak yapmadıkları yönündeki beklenen savunma hattını ciddi biçimde zayıflatırlar.
    • Bu sınavların hiçbiri tek başına mesleki yeterlilik dayanağı değildir. Sadece geçmekle belirli bir mesleki yetki kazandıran sınavlar değiller.
      Advanced Sommelier sınavı, başka sınav ve süreçleri de içeren bir prosedürün parçasıdır; GRE sözel bölümü genellikle diğer GRE bölümleriyle birlikte program kabulünde kullanılır ve sonrasında yıllarca ek eğitim gerekebilir. UBE de genellikle onaylı bir programda yıllarca eğitim aldıktan sonra girilen bir sınavdır.
      Davacıların GPT-4’ün AGI olduğunu savunması gerekiyor. Çünkü OpenAI’ı kurduğu söylenen tartışmalı mutabakat, yalnızca büyük dil modelleri geliştirmek ve iyileştirmek değil, AGI etrafında şekillenmişti. OpenAI henüz AGI’ye ulaşmadıysa, o mutabakatın şu anda yaptığı işe uygulanmadığı da düşünülebilir.
    • GPT-4’ün kalacağı sınavlar “birkaç tane” demek hafif kalır; temel matematikte gülünç derecede kötü.
      Ama özgüveni fazlasıyla yerinde.
  • OpenAI’ın kuruluşta amaçlanan şeyden farklı bir varlığa dönüştüğü açık. Bu değişim iyi nedenlerle gerçekleşmiş olabilir, ama değişimin gerçekten yaşandığından şüphe etmek zor.

    • “Niyet” sözcüğü ilginç. Kuruculardan kaçının sessizce büyük para kazanmayı umduğunu merak ediyorum.
      Adil olmak gerekirse, böyle bir beklenti de bir tür AGI geliştirme şeklindeki açık hedefe ulaşma beklentisiyle bağlantılı olmalıydı.
    • Elon Musk gerçek bir milyarder, Sam Altman ise servetinin çoğu OpenAI’a bağlı sahte bir milyarderse, bu tek tarafa eğilen bir mücadele olur.
    • Genel olarak bir şirketin yaptığı işi değiştirmesine sadece pivot denir. Elon’un bu davada neden dava ehliyeti olduğu ya da şirketin yön değiştirmesinin neden dava konusu olduğu açık değil.
      Google’ın misyonundan “Don’t be evil” ifadesini çıkardığı için dava açmaya benziyor.
  • Hâlâ Musk’ın iddia ettiğinden daha önemsiz nedenlerle öfkelendiğini düşünüyorum; yine de bu davayı açmış olmasına gerçekten memnunum.
    OpenAI’ın yeryüzündeki en tehlikeli ve sorumsuz şirketlerden birine büyük ölçüde satıldığı açık; organizasyonun ölçeği düşünüldüğünde, hesap sorulabilirlik ihtimali yaratmak için bu kadar parası olan birinin dava açması gerekiyordu.

    • Herkes kullanışlı aptal olabilir; Elon Musk neden olmasın?
      Ancak onun büyük olasılıkla önemsiz nedenlerle bu işe atıldığı değerlendirmesine katılıyorum.
  • Yetkin bir avukat Musk’ı tanık kürsüsüne çıkarıp yapay zekanın tehlikeleri konusundaki görüşlerini yeniden dile getirtirdi.
    Teknoloji gerçekten tehlikeliyse, daha kapalı tutulmasının kamu yararına olduğu savunulabilir; OpenAI da daha önce bu gerekçeyi öne sürmüştü.
    Kapalı kaynağın kamu yararı olduğuna katılmıyorum, ancak kötü niyetli aktörlerin yetişme hızını artırmanın olumlu olmadığı argümanı gayet kurulabilir.

    • Öyle değil. Gizliliğe dayalı güvenlik gibi, sadece yavaşlatır.
      Gerçek riski bilmek ve buna karşı en iyi bilgiyi edinmek için açık olması gerekir. Aksi hâlde aynı işi kapalı biçimde yapan biri bunu kötüye kullandığında daha avantajlı hâle gelir.
    • Tanık kürsüsüne çağırmaya bile gerek yok. Bu bir ters köşe sorusu değil; dilekçenin kendisinde yazıyor. “AGI insanlık için ciddi bir tehdit, hatta bugün karşı karşıya olduğumuz en büyük varoluşsal tehdit olabilir” deniyor.
      Ancak mahkemenin açık mı kapalı mı olmasının daha güvenli olduğuna karar verme ihtimali çok düşük. Kuruluş mutabakatında güvenlik için açık olma niyeti oldukça net. Mahkeme sözleşmenin ihlal edilip edilmediğine bakar; ihlalin felsefi olarak iyi bir şey olup olmadığına değil.
    • Bu doğruysa, en başta bu şekilde başlamamaları gerekirdi. İkisini birden elde edemezsiniz.
      Ya adının da ima ettiği gibi açık hedefi izlersiniz ya da baştaki yapının kendisi zaten uygunsuzdu.
    • O hâlde OpenAI performansına yaklaşmakta olan tüm açık modeller ne olacak?
    • “AI”ın Altman, Brockman ve benzerlerinin elinde olmasının daha iyi olduğuna inanmak için hiçbir neden yok; halkın çoğu da muhtemelen benzer hissediyordur.
  • New York Times haberine göre Musk, OpenAI'ın kâr amacı güden bir şirkete dönüştüğünü defalarca eleştirmiş olsa da 2017'de Altman ve diğer kuruculardan yapay zeka laboratuvarının kontrolünü alıp Tesla gibi kendi diğer şirketleriyle iş birliği yapan ve giderek güçlenen süper bilgisayarlardan yararlanan ticari bir operasyona dönüştürmeyi planlamış
    Açıklamaya göre bu kontrolü ele geçirme girişimi başarısız olunca OpenAI yönetim kurulundan ayrılmış; bu içerikle OpenAI avukatları bu davayı çok uzun süre sürüncemede bırakabilir gibi görünüyor

    • İlginç şekilde, belgelere göre Eylül 2020'ye kadar OpenAI'a bağış yapmaya devam etmiş
    • Bunun davayı neden uzun süre sürüncemede bırakacağını anlamıyorum
    • Son OpenAI darbe girişiminin arkasında da o olabilir mi
    • Musk'ın yapay zekanın tehlikeleri konusunda uyarıp sonra kendisinin de bir tane çıkarması da aynı şekilde
    • Bunun davada neden sorun olduğunu anlamıyorum. Aksine OpenAI'ın teknolojiyi kamuya açmadığını, bu kamuya Elon Musk'ın da dahil olduğunu gösteriyor
      Kâr amacı gütmeyen kuruluş yapması gerekeni doğru düzgün yapsaydı onun kontrolü ele geçirmeye çalışmasına da gerek kalmazdı
  • Bu tür davalarda zararı kanıtlamak gerekmez mi? OpenAI gerçekten sözleşmeyi ihlal ettiyse Musk'ın şahsen uğradığı zarar ne

    • Kâr amacı gütmeyen kuruluş onun parasını aldıktan sonra kâr amaçlıya dönüşüp onun şirketlerinin yapay zeka çabalarıyla rekabet etmeye başlamış olmadı mı
    • Ne kadar karşılaştırılabilir bilmiyorum ama bir üniversiteye 44 milyon dolar bağış yapıp bunun belirli bir şekilde kullanılacağı konusunda anlaşsaydım; örneğin belirli bir bina inşa etmek ya da belirli bir programı desteklemek için, üniversite parayı başka bir şekilde harcasaydı dava açma hakkım olması gerektiğini düşünürdüm
      Elbette bu, sözleşmede yazan yatırım ayrıntılarına ve ilgili hukuka bağlı; ikisine de pek hâkim değilim
    • Dava sebeplerinde zarar iddiaları dolu. Musk'ın, davacıların belirli beyanlarına dayanarak 44 milyon dolar bağışladığı; ofis kirası ve başka katkılar da yaptığı ileri sürülüyor
    • OpenAI, GPT-4 kaynak kodunu ve verilerini münhasır tutmaya karar verdiği için onun bunlara erişimi yok
    • Asıl şikâyet dilekçesini okumaya değer. Oldukça okunabilir
      https://www.courthousenews.com/wp-content/uploads/2024/02/mu...