San Francisco’daki dairesinde ölü bulunan OpenAI ihbarcısı vakası

 (mercurynews.com)
3 puan yazan GN⁺ 2024-12-14 | 1 yorum | WhatsApp'ta paylaş
  • OpenAI telif hakkı davasında potansiyel tanık ve belge sahibi olarak anılan eski araştırmacı Suchir Balaji, 26 Kasım’da San Francisco’daki evinde ölü bulundu; yetkililer ölüm şeklini intihar olarak değerlendirdi
  • Balaji, ölümünden önce OpenAI’nin ChatGPT’yi eğitme sürecinde ABD telif hakkı yasasını ihlal ettiğini ve eğitim verisi kullanımının adil kullanım kapsamına girmediğini açıkça eleştirmişti
  • New York Times tarafı, 18 Kasım’da federal mahkemeye sunduğu belgelerde Balaji’yi davaya yardımcı olabilecek “unique and relevant documents” sahibi olarak gösterdi
  • ChatGPT’nin yayımlanmasının ardından yazarlar, programcılar ve medya kuruluşları, OpenAI’nin telifli materyalleri eğitimde yasa dışı şekilde kullandığını öne sürerek dava açtı; Mercury News ve 7 kardeş yayın ile New York Times da buna katıldı
  • OpenAI, çalışmalarının adil kullanım kapsamında yasal olduğunu savunuyor ve ChatGPT gibi AI araçlarının yayıncı-okur ilişkisini ve haber deneyimini güçlendirebileceğini düşünüyor

Suchir Balaji’nin ölümü ve yetkililerin değerlendirmesi

  • Eski OpenAI araştırmacısı Suchir Balaji, 26 yaşındayken 26 Kasım’da San Francisco’daki Buchanan Street dairesinde ölü bulundu
  • Polis o gün saat 13.00 civarında Lower Haight’taki konuta gitti
    • İhbar, onun iyi olup olmadığının kontrol edilmesi talebiydi
  • San Francisco polisi ve baş adli tabiplik ofisi bu hafta ölüm haberini doğruladı
  • Adli tabiplik ofisi ölüm şeklini intihar olarak değerlendirdi
  • Polis, şu anda suç şüphesine dair kanıt bulunmadığını açıkladı
  • Balaji’nin annesi, oğlunun yasını tutarken mahremiyetlerine saygı gösterilmesini istedi

OpenAI telif hakkı davasındaki konumu

  • Balaji’nin sahip olduğu bilgilerin, San Francisco merkezli OpenAI’ye karşı açılan davada önemli rol oynaması bekleniyordu
  • New York Times tarafının avukatları, 18 Kasım’da federal mahkemeye sundukları belgelerde Balaji’yi OpenAI’ye karşı davaya yardımcı olabilecek “unique and relevant documents” sahibi olarak gösterdi
  • İfade süreci öncesinde, mahkeme belgelerinde bu dava için yararlı materyallere sahip olduğu belirtilen en az 12 kişiden biriydi
    • Bu kişilerin önemli bir kısmı eski veya mevcut OpenAI çalışanlarıydı

ChatGPT eğitim verilerine yönelik itirazlar

  • Balaji’nin ölümü, onun OpenAI’nin ChatGPT’yi geliştirirken ABD telif hakkı yasasını ihlal ettiğini kamuoyu önünde eleştirmesinden 3 ay sonra gerçekleşti
  • ChatGPT, dünya çapında yüz milyonlarca kişinin kullandığı ve 2022 sonunda yayımlanan üretken yapay zeka programı
  • 23 Ekim’de yayımlanan New York Times röportajında, OpenAI’nin ChatGPT eğitiminde kullanılan verilerin asıl sahipleri olan şirketlere ve kuruculara zarar verdiğini savundu
  • Balaji, “İnandığım şeylere inanıyorsam şirketten ayrılmak zorundayım” dedi ve “İnternet ekosisteminin geneli için sürdürülebilir bir model değil” ifadesini kullandı
  • Ekim sonunda kişisel web sitesinde bir analiz yazısı yayımlayarak ChatGPT eğitim verilerinin kullanımının adil kullanım kapsamına girmediği tezini ortaya koydu
    • ChatGPT’nin eğitim verisi kullanımının adil kullanım lehine işleyen bir unsurunu bulmanın zor olduğunu yazdı
    • Ancak bu argümanların yalnızca ChatGPT ile sınırlı olmadığını, farklı alanlardaki üretken yapay zeka ürünlerine de benzer şekilde uygulanabileceğini ekledi

OpenAI’de çalışması ve bakış açısındaki değişim

  • Balaji, Cupertino’da büyüdü ve UC Berkeley’de bilgisayar bilimi okudu
  • O dönemde yapay zekanın topluma sağlayabileceği potansiyel faydalara inanıyor; hastalıkların tedavisi ve yaşlanmanın önlenmesi gibi olasılıklardan da umut duyuyordu
  • 2020’de OpenAI’ye araştırmacı olarak katıldı
  • 2022’den itibaren bakış açısı olumsuza dönmeye başladı
  • Özellikle GPT-4 programı için internetten veri toplama işi konusunda kaygı duydu
    • Söz konusu programın, yapay zeka eğitimi için neredeyse tüm internetin metinlerini analiz ettiği bildiriliyor
  • Balaji, bu uygulamanın mevcut yayınların kullanımını düzenleyen ABD’deki adil kullanım yasasıyla çeliştiğini düşünüyordu

OpenAI ve medya kuruluşlarının davaları

  • ChatGPT’nin 2022 sonunda yayımlanmasının ardından OpenAI’ye karşı peş peşe davalar açıldı
    • Yazarlar, bilgisayar programcıları ve gazeteciler, OpenAI’nin telifli materyalleri yasa dışı biçimde alıp programlarını eğitmek için kullandığını ve şirket değerini 150 milyar doların üzerine taşıdığını ileri sürdü
  • Mercury News ve 7 kardeş haber kuruluşu, New York Times dahil birçok gazeteyle birlikte geçtiğimiz yıl içinde OpenAI’ye dava açtı
  • Medya kuruluşları, OpenAI ve Microsoft’un makaleleri intihal edip çalarak haber iş modelini zayıflattığını savundu
  • Dava belgelerinde, Microsoft ve OpenAI’nin yerel toplulukların güvendiği haberleri üreten muhabirlerin, köşe yazarlarının ve editörlerin çalışmalarını yasal hakları dikkate almadan aldığı iddiası yer alıyor
  • Microsoft’un OpenAI ile ticari ilişkisi bulunuyor ve Mercury News’in davasında da davalılar arasında yer alıyor

OpenAI’nin yanıtı ve üretken yapay zekanın yayılması

  • OpenAI ilgili iddiaları güçlü biçimde reddediyor
  • Şirket, tüm çalışmalarının adil kullanım yasası kapsamında yasal olduğunu vurguluyor
  • OpenAI, davalar açıldığı sırada ChatGPT gibi AI araçlarının yayıncılar ile okurlar arasındaki ilişkiyi derinleştirme ve haber deneyimini iyileştirme potansiyelinin yüksek olduğunu belirtti
  • Üretken yapay zeka programları, internetten gelen devasa verileri analiz ettikten sonra kullanıcı istemlerine yanıt vererek ya da metin, görsel ve video üreterek çalışır
  • ChatGPT’nin yayımlanması; deneme yazma, sanat üretme ve kod oluşturma alanlarında çalışan şirketlerin sektörünü hızla büyüttü
  • Dünyanın en değerli şirketlerinin birçoğu AI alanında çalışıyor veya bu programları çalıştırmak için gerekli bilgisayar çiplerini üretiyor
  • OpenAI’nin şirket değeri son bir yılda neredeyse iki katına çıktı

Kriz destek bilgisi

  • Depresyon ya da intihar düşünceleriyle mücadele eden kişiler 988 Suicide & Crisis Lifeline üzerinden ücretsiz, 24 saat destek, bilgi ve yardım kaynaklarına erişebilir
  • 988’e telefonla veya kısa mesajla ulaşılabilir; 988lifeline.org web sitesinden sohbet de edilebilir

İlgili okumalar

1 yorum

 
GN⁺ 2024-12-14
Hacker News yorumları

  • Berkeley’deki CS dersinde (işletim sistemleri) Suchir’le proje ortağıydım; gerçekten zeki, alçakgönüllü ve iyi bir insandı.
    İleride harika işler başaracağı çok belli oluyordu; bu çok korkunç bir olay.

  • Bu başlıkta epey soğuk yorumlar görüyorum.
    Suchir yalnızca 26 yaşındaydı ve Berkeley’den mezun olalı sadece 3 yıl olmuştu. Kişisel sitesi https://suchir.net/
    Mezuniyetinin üzerinden yalnızca birkaç yıl geçmiş birinin, dünyanın en büyük şirketlerinden birinin yaptığı düşünülen haksızlığa karşı çıkması bence oldukça cesurca. Aynı durumda kaç kişinin bunu yapacağını bilmiyorum.
    Ailesi için içim acıyor. Belli ki yetenekli bir mühendisti; LinkedIn’deki rekabetçi programlama ödülleri de etkileyici. Muhtemelen bir HN hesabı da vardı.
    İhbarcının tanımı ya da suikast teorileri üzerine yazmadan önce, kendiniz ya da bir arkadaşınız aynı durumda olsaydı böyle yazıların çıkmasını ister miydiniz, bir an düşünmenizi isterim.

    • Mahkemede ifade vermeme birkaç ay kala benim “intihar ettiğim” kabul edilseydi, insanların intihar açıklamasını fazla sorgulamadan kabul etmek yerine ölümün koşullarını irdelemesini isterdim sanırım.
      Sessizce kendi hayatıma son vermiş olsaydım bunun sessizce geçmesini isterdim; ama yalnızca habere bakınca bu kişinin yaklaşan davada ne kadar kritik olduğu net değil.
      “Sahip olduğu bilgilerin, San Francisco merkezli şirkete karşı açılan davalarda kilit rol oynaması bekleniyordu” diyen bir cümle var.
    • Ben ihbarcılık yaparken ölürsem, herkesin bu gerçeği görmezden gelmek zorunda olmadığını şimdiden burada kabul ediyorum.
    • Ben ölmüş bir ihbarcı olursam, tam olarak ne olduğunu mutlaka öğrenmeye çalışılmalı.
    • Bu onun kamusal kimliği idiyse neden olmasın, anlamıyorum. Bununla tanımlanmaktan korksaydı sessiz kalma ya da tanıklık etmeme seçeneği de vardı.
      Bunun onun kamuya açık mirası hâline gelmiş olması gerçekten çok üzücü. Belli ki olağanüstü bir insandı ve birkaç on yıl daha yaşasaydı dünyayı daha iyi bir yere dönüştürmeye büyük katkı sağlayabilirdi.
      Ancak suikast teorisi kelimenin tam anlamıyla sadece bir teori; hatta sıkı anlamda “teori” demek bile fazla güçlü bir ifade. Fiilen kulaktan dolma düzeyinde ve çekiştirilecek bir ipucu olmadığı için o yönde ilerlemek pek verimli görünmüyor.
    • Çoğu kişi, olağanüstü yeteneğe ve nadir görülen ilke ve cesarete sahip birini kaybetmiş olmaktan duyduğu üzüntüyü ve taziyelerini dile getiriyor gibi.
      Her internet forumunda birkaç zevksiz söz mutlaka olur ama onlar zaten aşağıya itilmiş durumda.
      Huzur içinde yatsın.

  • Burada “ihbarcı” ifadesi biraz kafa karıştırıcı. Gerçekten daha önce kamuya açıklanmamış bir şeyi mi açıkladı?
    “Adil kullanım” olup olmadığı konusunda aynı fikirde değildi ve şirket içinden biri olduğu için dikkat çekmiş gibi görünüyor. Olguların kendisi zaten biliniyordu; OpenAI’ın kamuya açık telifli metin verileriyle eğitim yaptığı da biliniyordu. Ona muhalif ya da içeriden eleştirmen demek daha doğru olabilir.

    • Asıl mesele, bunun mahkemede kanıtlanması gerektiği. Bu kişi web scraping geliştirmesinde doğrudan görev aldı ve telif hakkı bulunma olasılığı yüksek kaynaklardan veri alınması işine dahil oldu.
      Kendi işinin yasallığını ele alan şirket içi iletişimlere de büyük olasılıkla sahipti ve bu konuyu yöneticilerine açıkça soruyordu.
    • Haberde bir ipucu var: “Sahip olduğu bilgilerin, San Francisco merkezli şirkete karşı açılan davalarda kilit rol oynaması bekleniyordu.”

  • http://suchir.net/fair_use.html
    Suchir Balaji’nin yazısı: Üretken yapay zeka ne zaman adil kullanım kapsamına girer?

    • İlk tweet’i de okunmaya değer: https://x.com/suchirbalaji/status/1849192575758139733
      NYT makalesinde adil kullanım ve üretken yapay zekayı ele aldığını; birçok üretken yapay zeka ürününde “adil kullanım” savunmasının neden ikna edici olmakta zorlanacağını düşündüğünü blog yazısında (https://suchir.net/fair_use.html) ayrıntılı biçimde yazdığını açıklıyor.
      OpenAI’da neredeyse 4 yıl çalıştığını, bunun son 1,5 yılında ChatGPT’de yer aldığını; başlangıçta telif hakkı ve adil kullanım hakkında pek bir şey bilmediğini, ancak üretken yapay zeka şirketlerine karşı açılan davaları gördükçe ilgisinin arttığını söylüyor. Daha fazla inceledikten sonra, eğitim verileriyle rekabet eden ikameler üretebilme temel nedeni yüzünden birçok üretken yapay zeka ürününde adil kullanım savunmasının oldukça zor olduğu sonucuna vardığını söylüyor.
      Hukukçu değil, ancak hukukçu olmayanların da yasa metinlerini ve bu yasaların neden var olduğunu anlamasının önemli olduğunu düşündüğünü; bunun yalnızca ChatGPT ya da OpenAI eleştirisi olarak okunmasını istemediğini de söylüyor. Makine öğrenimi araştırmacılarının telif hakkını daha fazla öğrenmesi gerektiğini ve Google Books gibi sık atıf yapılan içtihatların göründüğü kadar lehe olmayabileceğini vurguluyor.
    • Çıktı tarafı da var. Belki de üretken yapay zekanın çıktıları telif hakkı korumasına tabi olmamalı.
    • Yapay zeka ve telif hakkı davalarını araştırırken bu kişinin yazısının bir kısmını gördüğümü şimdi fark ettim. Daha önce bu yazıyı HN’ye de koymuşum.
      Hukukçu olmayan biri için çok içgörülü görünüyordu. Huzur içinde yatsın.
    • “Benzer lisans anlaşmaları olmadan telifli verilerle eğitim yapmak da telif hakkı sahiplerinin gelir kaynağını elinden aldığı için bir tür piyasa zararıdır” iddiasına şöyle yanıt vermek isterim:
      Birincisi, yazarlar gerçekte telif ücretlerinden gelir elde etmiyor; sonunda reklam gelirine bağımlı hâle geliyorlar ve bu da hizmet kalitesinin düşmesine yol açıyor. Sanatçılar, metin yazarları ve müzisyenler yalnızca telif ücretleriyle yaşamaya çalışsa açlıktan ölürlerdi.
      İkincisi, telif hakları giderek az sayıda şirketin elinde yoğunlaşıyor ve gerçek yazarlara ya da okurlara büyük fayda sağlamıyor.
      Üçüncüsü, yeni yaratımların rakibi aslında yapay zeka değil, son 25 yılda web’de birikmiş eski yaratımlar.
      Bence gereken şey daha kısıtlayıcı telif hakkı değil. İnsanlar zaten pasif tüketimden etkileşime geçti; TV, basın ve radyoya kıyasla oyunları, sosyal ağları ve arama motorlarını daha çok tercih ediyorlar. Bu internetin yarattığı bir akım ve geri döndürülemez.
      Bugün Wikipedia, GitHub, Linux, açık kaynak, kamu malı, açık bilimsel yayıncılık ve paylaşım ile yorumlar için kısıtlayıcı olmayan bir ortam var.
      Telif hakkı korumasını en uç noktaya götürürseniz, yalnızca ifadeyi değil soyut fikirleri de korumak gerektiği sonucuna varırsınız; çünkü üretken yapay zeka ifadeyi kolayca dolanabilir. Ama soyutlamaların yeniden kullanımını engellemek yaratıcılık için felaket olur. Telif hakkının artık fiilen ölmekte olan bir kurum olduğunu düşünüyorum.

  • Polis artık olayın intihar olarak sonuçlandırıldığını söylüyor
    https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
    https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
    https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...

    • ABD giderek Rusya’ya benziyor. Tanıklık etmek üzere olan insanların sihirli bir şekilde pencereden düştüğü bir ülkeye dönüşüyor
    • Okullarda ihbarcılık için güvenlik hazırlığı gerektiği öğretilmeli. Bunu “uyanık” bir konu haline getirsinler ya da ne yaparlarsa yapsınlar; birçok insanın olaydan sonra bile neredeyse hiç düşünmediği bir mesele

  • Suchir ilkeli bir insandı ve bu duruşu yüzünden OpenAI opsiyonlarından vazgeçmek zorunda kalmış olması çok muhtemel. OpenAI’ın işten ayrılma sözleşmelerinin çok kısıtlayıcı olduğuna dair haberler var [1]
    “Ayrılanların eski işverenlerini ömür boyu eleştirmesini engelliyor. NDA’nın var olduğunu kabul etmek bile ihlal sayılıyor
    Ayrılan bir çalışan belgeyi imzalamayı reddederse veya ihlal ederse, şirkette çalışırken elde ettiği, halihazırda hak edilmiş tüm hisseleri kaybedebilir; bunların değeri muhtemelen milyonlarca dolar olabilir”
    [1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...

    • Böyle şeyler OpenAI’ın ne kadar “open” olduğunu iyi gösteriyor. Çalışanlara sahip olmak, bir anlamda onları kendine tabi kılmak istiyor gibi
      Sanki bir ihbarcının ölüm nedeninin bile açıklanmasını bulaşıcı bir şey olarak görüyorlar diye düşündürüyor
      OpenAI’ın eleştiriden bu kadar korkması gerçekten gülünç. İşler istediği gibi gitmeyince şımarıklık yapan bir çocuk gibi davranıyor; ama yaşlarına bakınca, her şeye rağmen bu işi yapanların yetişkinler olduğunu sürekli hatırlamak gerekiyor
    • Artık öyle değil. OpenAI, Mayıs 2024’te bu tür hükümleri uygulamayacağını doğruladı
      Çalışan bir ayrılık anlaşması veya kötülememe anlaşması imzalamış olsun ya da olmasın, halihazırda hak edilmiş hisseleri iptal etmeyecek
      Eski çalışanlar kötülememe yükümlülüğünden serbest bırakıldı
      OpenAI, hem eski hem mevcut çalışanlara “halihazırda hak edilmiş birimleri hiç iptal etmediğini ve bundan sonra da etmeyeceğini” bildirdi
      https://www.theregister.com/2024/05/24/openai_contract_staff...
      https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
    • Bir hukuk uzmanı, “eski işvereni ömür boyu eleştirmeyi yasaklayan ve NDA’nın varlığını kabul etmeyi bile ihlal sayan” bir hükmün mahkemede ayakta kalma olasılığının ne kadar olduğunu değerlendirebilir mi?
    • Böyle bir şeyin mümkün olması şaşırtıcı. Fransa’da bu o kadar yasadışı olurdu ki komik denecek düzeyde
      “Komik” dememin nedeni, şirketlerin küçük maddeleri dayatıp sonra özür dilediği durumlar olsa da, ömür boyu bağlı olduğunuzu söylemenin komedi seviyesinde olması

  • Ailesine başsağlığı diliyorum. Çok düşünceli ve ilkeli bir insan gibi görünüyor

  • Gerçekten üzücü. Suchir benim lisemden mezundu ve ikimiz de Berkeley’e gittik. Kesinlikle çok zekiydi; büyük başarılar elde edeceğinden veya ilginç işler yapacağından her zaman emindim
    Bunu okurken zorlanıyorsanız, yalnız olmadığınızı söylemek isterim. Şu anda öyle hissettirmese bile dünya gerçekten sizin mutlu olmanızı istiyor
    Yol açık: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
    [0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
    [1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
    [2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...

  • Ebeveynleri intihar sonucundan şüphe duyuyor ve ikinci bir bağımsız otopsi talep ediyor: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...

  • Gerçekten çok üzücü; Suchir’in ailesi ve arkadaşları için içim acıyor
    10 yılı aşkın süredir teknoloji sektöründe çalışmış ve intihar düşünceleriyle mücadele etmiş biri olarak, Bay Area teknoloji sektörünün çılgın kültürünün bunda payı olup olmadığını merak ediyorum
    Sadece aşırı hustle kültürü değil, insanı delirtebilecek kadar saf bir teknoloji iyimserliği de var. Yasaları çiğnemenin sorun olmadığını düşünen; ucuz teknik destek için gelişmekte olan ülkelerdeki işçileri sömürürken, akıllı mutfak cihazları satarak dünyayı değiştirdiğine inanan insanlarla çevrilisiniz. Üstelik bunu, kendi kondolarının dışındaki aşırı doz kurbanlarının yanından geçip giderken yapıyorlar
    Bu düşünce biçimi o kadar yaygın ki, empati ya da adalet duygusu taşıyan ben mi tuhafım diye şüphe etmeye başlıyorum
    Özel olarak bildiğim bir şey yok ama Berkeley’de açıkça parlak bir öğrenciyken OpenAI gibi acımasız bir startup’a geçmenin sarsıcı olmuş olabileceğini düşünüyorum. Hayatın boyunca uğraşıp ulaştığın hedefe varıyorsun; sonra yaptığın işin kendi ahlakından ve değerlerinden tamamen koptuğunu fark ediyorsun

    • Son derece uzmanlaşmış bir alanda bir muhbirin yaşayacağı stres daha da büyük olur. Çünkü o alanı kamuoyu önünde eleştirdiğiniz anda, fiilen o alanda istihdam edilemez hale gelirsiniz
      Sorunu yaratan işveren aktif biçimde misilleme yapmasa bile böyle; bir de aynı sektördeki İK departmanlarının kara liste paylaşması gibi misillemeler varsa, tablo daha da karanlık olur
    • Bay Area teknoloji sektöründeki ruh sağlığı sorunu çeşitli nedenlerle gerçek. Gittiğim yerler arasında iş-yaşam dengesini ve ruh sağlığı bakımını Silicon Valley kadar güçlü biçimde teşvik eden başka bir yer yoktu; ama aynı zamanda ciddi sorunları olan insanların da en çok olduğu yer orasıydı
      Her kariyer ve yetenek seviyesindeki mühendislerde imposter sendromu yüksek. Mühendisliğin kendi baskısı var; buna insanların stres ya da baskı hissetmesine yol açan başka nedenler ve Bay Area’ya özgü büyütücü etkenler ekleniyor
      Ne kadar çok parlak ve yetkin insanın çöktüğünü bilseniz şaşırırsınız. Kendini yalnız hisseden biri varsa, böyle hissetmemesini isterim. Etrafınızdaki herkes mutlu ve kendinden emin görünse bile, düşündüğünüzden çok daha fazla insanın zorlandığını garanti ederim
    • İyi ifade etmişsin. Çalıştığım SF startup’larının neredeyse tamamının, sonunda herhangi bir kuralı çiğnemeye hazır sosyopatlar tarafından yönetildiğini gördüm
      Bunlardan biri şu anda FTC tarafından büyük çaplı ihlal iddialarıyla dava ediliyor. Çalışanların konforundan müşterilere karşı apaçık yasa dışı eylemlere kadar her şeyi feda ederek kazanmaya çalışan o ahlaksız zihniyetten gerçekten nefret ettim