OpenAI’nin New York Times’ın kullanıcı gizliliği ihlaline karşı mücadelesi

• OpenAI, 800 milyondan fazla kişinin kullandığı ChatGPT’nin kişisel konuşma verilerini korumayı en yüksek öncelik olarak görüyor
• The New York Times, mahkemeden 20 milyon özel ChatGPT konuşma kaydının teslim edilmesini talep etti; bunun kullanıcı gizliliğini ihlal eden bir adım olduğu belirtiliyor
• OpenAI daha önce de 1,4 milyar konuşma kaydı talebini reddetmişti; bu kez de hukuki süreç üzerinden kullanıcı verilerini korumayı sürdürdüğünü söylüyor
• Şirket, client-side encryption dahil daha güçlü güvenlik özellikleri geliştiriyor ve hassas verilere erişimi en aza indiren otomatik sistemler kuruyor
• Bu gelişme, yapay zeka çağında kişisel verilerin korunması standartları açısından önemli bir dönüm noktası olarak değerlendiriliyor

---

The New York Times’ın veri talebi ve OpenAI’nin tutumu

• The New York Times, OpenAI’ye karşı açtığı dava sürecinde 20 milyon ChatGPT kullanıcı konuşma kaydının teslim edilmesini talep etti
  • Gerekçe olarak, “kullanıcıların ChatGPT’yi kullanarak The New York Times’ın paywall sistemini aşıp aşmadığını doğrulamak” istendiği öne sürülüyor
• OpenAI, bu talebin uzun süredir sürdürülen gizlilik ilkelerini ve güvenlik uygulamalarını ihlal ettiğini belirtiyor
• Şirket, “Bunun içinde bu davayla ilgisi olmayan on milyonlarca kişisel konuşma var” diyerek mahkemeden söz konusu talebin reddedilmesini istediğini söylüyor

Geçmişteki benzer talepler ve verilen yanıtlar

• The New York Times daha önce de kullanıcıların konuşma silme özelliğini sınırlamaya çalıştı, ancak OpenAI bunu engelleyip silme yetkisini geri getirdi
• Ardından 1,4 milyar konuşma kaydının teslim edilmesi yönünde bir talep geldi, ancak OpenAI bunu reddetti
• OpenAI, “Kullanıcıların kişisel konuşmaları kullanıcılara aittir ve çevrimiçi içerik erişimi anlaşmazlıklarının kurbanı olmamalıdır” ifadesini kullanıyor

OpenAI’nin güvenlik ve gizlilik güçlendirme adımları

• OpenAI, dünyada en çok saldırıya uğrayan kurumlardan biri olduğunu ve verileri organize suç ile devlet destekli siber saldırı girişimlerinden korumak için büyük yatırımlar yaptığını belirtiyor
• Gelecek yol haritasında client-side encryption özelliği yer alıyor; bununla OpenAI’nin bile kullanıcı mesajlarına erişememesi hedefleniyor
• Otomatik güvenlik tespit sistemleri kurularak, yalnızca hayatı tehdit eden durumlar, başkalarına zarar verme riski veya siber güvenlik tehlikeleri gibi ciddi kötüye kullanım vakalarının sınırlı biçimde insan inceleme ekiplerine iletilmesi planlanıyor

Veri talebine ilişkin ayrıntılar (SSS özeti)

• Talep edilen veri kapsamı: Aralık 2022 ile Kasım 2024 arasında rastgele seçilmiş 20 milyon tüketici tipi ChatGPT konuşması
• Kapsam dışı kalanlar: ChatGPT Enterprise, ChatGPT Edu, ChatGPT Business (eski adıyla Team) ve API müşterileri bu kapsama girmiyor
• Kişisel veri koruma önlemleri: Tüm konuşmalar için kişisel olarak tanımlanabilir bilgiler (PII) ile parola gibi hassas bilgilerin kaldırılması süreci uygulanıyor
• Veriye erişim yetkisi: Yalnızca OpenAI’nin hukuk ve güvenlik ekiplerinden sınırlı sayıda kişi ile The New York Times tarafındaki dış avukatlar ve teknik danışmanlar erişebiliyor
• Saklama yöntemi: Yasal yükümlülükleri yerine getirmek amacıyla ayrı bir güvenli sistem içinde izole biçimde depolanıyor, genel erişime kapalı tutuluyor

Hukuki ve uluslararası değerlendirmeler

• OpenAI, GDPR dahil uluslararası gizlilik düzenlemelerine uyum için gerekli adımları attığını, ancak The New York Times’ın talebinin kendi gizlilik standartlarıyla uyumlu olmadığını belirtiyor
• Şirket, hukuki süreç içinde bu talebe itiraz etmeyi sürdürdüğünü ve her aşamada kullanıcı gizliliğini en yüksek öncelik olarak koruyacağını vurguluyor
• OpenAI, ileride mahkeme kararları ve veri işleme değişiklikleriyle ilgili şeffaf güncellemeler paylaşma sözü veriyor

Gelecek planları ve vizyon

• OpenAI, yapay zeka insanların yaşamına ne kadar derin entegre olursa güvenlik ve gizlilik korumasının da o kadar güçlenmesi gerektiğini vurguluyor
• Hedef, kullanıcıların en kişisel yapay zeka konuşmalarının güvenli ve gizli kaldığı bir gelecek
• Kısa vadede güvenlik güçlendirmeleri ve geçici azaltım önlemlerini hızla duyurmayı planlıyor
• Uzun vadede ise güvenilir bir yapay zeka ortamı kurmak için teknik ve hukuki koruma çerçeveleri oluşturmayı sürdürüyor

[GN⁺]

Hacker News görüşleri

• New York Times'ın OpenAI'den 20 milyon ChatGPT konuşma kaydını teslim etmesini istediğini duydum
  Davacı olarak bunun doğal olarak yapabileceği bir talep, ancak bu tür davalar yalnızca telif hakkı meselesiyle sınırlı olmayabilir
  Asıl sorun, OpenAI'nin neden bu kadar çok özel konuşma verisini toplayıp sakladığı
  NYT'nin talebi yalnızca hukuki süreç içinde kullanılıyor, gizli bilgiler maskelenerek sunuluyor ve dava bitince imha ediliyor
  Buna karşılık OpenAI verileri ticari çıkar için süresiz saklıyor
  Asıl olarak hangi iş modeli için bu verileri biriktirdiği de belirsiz. Bunun düşüncesiz bir veri toplama davranışı olduğunu düşünüyorum
  • Aslında mahkemenin emrettiği şey verilerin "toplanması" değil, zaten elde tutulan verilerin korunması (preserve)
    İlgili belgeler: mahkeme emri 1, mahkeme emri 2
  • Ancak başka biri bunun fiilen veri toplamayı zorunlu kılan bir mahkeme emri olduğunu savunuyor
    Ars Technica makalesine bakılabilir
  • OpenAI'nin konuşmaları saklama nedeni açık. ChatGPT arayüzünde konuşma geçmişi özelliği sunuyor
    Sorun, kullanıcı sil düğmesine bassa bile mahkeme emri nedeniyle verilerin tutulmak zorunda olması
  • Google Photos fotoğrafları nasıl saklıyorsa, ChatGPT de konuşma kayıtlarını saklamak zorunda. Bu ürünün temel özelliği
  • ChatGPT'yi kullandıysanız sol panelde konuşma geçmişinin göründüğünü bilirsiniz
• OpenAI NYT'nin verilerini izinsiz kullanmasaydı bunlar olmazdı
  Sonuçta temel nedenin telif hakkı ihlali olduğunu düşünüyorum. NYT'nin mücadele etmesi iyi bir şey
  • Ancak başka biri iki yargıcın zaten AI eğitiminin adil kullanım (fair use) olduğuna hükmettiğini söyleyerek karşı çıkıyor
    İlgili karar özeti
  • Verilerin kamusal bir kaynak gibi ele alınması gerektiğini düşünenler de var. Sorunun, belirli şirketlerin veri mülkiyeti iddia etmesi olduğu söyleniyor
  • NYT'nin interneti kapalı bir paywall ile kirlettiği eleştirisi de var
    Açık kültüre katkı sunmadan sadece ilgi toplamasının ikiyüzlülük olduğu düşünülüyor
  • Sam Altman ve OpenAI yönetiminin korku, belirsizlik ve şüphe (FUD) yayarak yalnızca yatırım topladığı eleştiriliyor
    AGI vaatlerinin yalan olduğu, insanları sadece kaygılandırdığı öfkeyle dile getiriliyor
• OpenAI'nin "iyi taraf" olduğunu düşünmüyorum
  Ama insanların özel olarak yaptığı konuşmaların NYT avukatlarının eline geçmesi rahatsız edici
  NYT açık bir zararı kanıtlayamadığı için bunun bir balık avı niteliğinde delil arama girişimi (fishing expedition) gibi göründüğünü düşünüyorum
  • Ancak başka biri NYT'nin gerçekten içerik hırsızlığına dair kanıt sunduğunu ve bunu doğrulamak için tüm logların gerektiğini açıklıyor
    Bunu korsan kitapçıdaki satış kayıtlarını istemeye benzetiyor
    Kullanıcıların hukuken gizlilik hakkı ileri sürmesinin zor olduğunu söylüyor
  • Bir başkası da NYT'nin kanunen tanımlı tazminat (statutorily defined damages) talep ettiğini, bu yüzden fiili zararın kanıtlanmasının gerekmediğini açıklıyor
    Asıl meselenin yapay zeka eğitiminin telif hakkı ihlali sayılıp sayılmadığı ve adil kullanım olup olmadığı olduğunu söylüyor
    OpenAI'nin dava sürecinde iyi niyetli davranmaması da eleştiriliyor
  • "NYT zararı kanıtlayamadı" iddiasına karşı çıkılarak gerçek dava dilekçesinin (complaint) okunması söyleniyor
    NYT dava dilekçesi PDF
  • Birine göre bu kavga sonunda Çin ve açık kaynak modellerin işine yarayacak
    Telif hakkını görmezden gelebilen taraf rekabet avantajı elde edecek
  • Aslında çoğu hizmet şartında, mahkeme emri gelirse logların teslim edilebileceği yazar
    Sadece kimse bunu okumamıştır
• Bu aralar şirketlerin kamuoyu savaşı vermek için müşterilere açık mektup yazması moda gibi görünüyor
  ESPN vs YouTube, şimdi de OpenAI vs NYT
  İkisine de pek destek vermek istemiyorum. Yine de OpenAI gerçekten NYT cümlelerini birebir üretmiyorsa, doğrulamadan korkması için bir neden olmamalı diye düşünüyorum
  Tarafsız üçüncü taraf doğrulaması öneriliyor — üçüncü tarafın NYT yazılarıyla ChatGPT loglarını karşılaştırdığı ve iki tarafın da orijinalleri doğrudan görmediği bir yöntem
  • Ama pratikte tamamen tarafsız bir kurum bulmak imkansız
    Sonunda herkes kendi uzmanını çıkarıp mahkemede güvenilirlik yarışı yapmak zorunda kalacak
  • Biri de iki kurumun da otoriter liderlik altında olduğunu söyleyip bırakın kavga etsinler diye alaycı bir tepki veriyor
• OpenAI'nin kâr amacı gütmeyen bir yapıdan çıkıp şimdi tamamen bozulmuş bir PR kampanyası (spin) yürüttüğü düşünülüyor
• Google gizlilikten söz ettiğinde nasıl samimiyetsiz geliyorsa, OpenAI'nin iddiaları da hiç samimi gelmiyor
  Yine de bu olayın insanlara kişisel veriyi fazla paylaşmanın risklerini fark ettirmesi umuluyor
  • "Veriniz size aittir" sloganı propaganda gibi geliyor
    Gerçekte şartlara göre verilerin sahibi ve kullanıcısı OpenAI
    NYT'nin niyetini çarpıtan türden bir iletişime de güvenmek zor
  • OpenAI'nin dünya çapındaki verileri ayrım gözetmeden kazımasının sonucu olarak bu durum ortaya çıktı
    Bunu kendi elleriyle hazırladı diye düşünülüyor
  • İronik biçimde Google geçmişte konum geçmişi (Local Timeline) sorununu fark edip yerel depolama modeline geçmişti
    OpenAI'de böyle bir sorumluluk duygusu hiç yok
  • Hatta biri doğrudan OpenAI'nin iflas etmesinin dünya için daha iyi olacağını söylüyor
• OpenAI'nin mahkemede "kullanıcı verileriyle ilgilenmiyoruz" demesini anlamıyorum
  Öyleyse neden şimdi gizliliği kalkan olarak öne sürdüğü soruluyor
• "Bu dava temelsiz" demeye başladığı andan itibaren güven azalıyor
  Böyle sözler genelde savunmacı bir tutumun işareti
• İronik olarak OpenAI en başından beri kişisel verileri toplayıp kazıyarak model eğiten bir şirketti
  Şimdi çıkıp gizlilikten kaygı duyması çelişkili
• OpenAI konuşmaları saklarken neden şifreleme (encryption) kullanmadığını merak ediyorum
  Teknik olarak mümkün görünüyor, ama muhtemelen iç analiz için düz metin saklamayı seçti
  Çalışanlar erişebiliyorsa bu, NYT avukatlarının görmesinden daha da rahatsız edici
  Bence bu, bir soruşturmacının mahkeme emriyle mektupları açıp okumasından farklı değil
  • Ancak gerçekte her istekte tüm konuşmayı yeniden modele vermek yerine, muhtemelen K-V önbellek sistemi kullanarak verimli şekilde devam ettiriyorlardır
  • Ayrıca şifreleme olsa bile anahtar OpenAI'nin elindeyse mahkeme emrinden kaçınılamaz