- Mahkeme kararı nedeniyle OpenAI, silinmiş konuşmalar dahil tüm ChatGPT kullanıcı günlüklerini saklamak zorunda kalırken, OpenAI bu adımın ciddi bir gizlilik ihlali olduğunu savunuyor
- OpenAI, söz konusu emrin telif hakkı davası sırasında delillerin korunmasını talep eden haber kuruluşlarının iddiaları doğrultusunda yeterli dayanak olmadan derhal verildiğini öne sürüyor
- OpenAI, bu emir nedeniyle yüz milyonlarca kullanıcının kişisel verileri ile şirketlerin gizli verilerini de saklamak zorunda kalacağını, bunun da küresel gizlilik düzenlemelerini ihlal etme riski ve mühendislik yükü doğurduğunu söylüyor
- Emrin yürürlüğe girmesinin ardından kullanıcıların sildiği konuşmalar ve geçici sohbetler bile zorla kalıcı olarak saklanırken, buna dair yoğun kaygı ve endişe sosyal medyada yayılıyor
- OpenAI, kullanıcıların veri kontrol hakkı ve gizliliğin korunması için emrin geri çekilmesini yeniden talep ederken, hukuki mücadeleyi sürdüreceğini belirtiyor
“Son derece kişisel” verilerin saklanması emrine OpenAI’dan tepki
Mahkeme kararının arka planı ve temel tartışmalar
- OpenAI, milyonlarca ChatGPT kullanıcısının gizliliğini korumak için mahkemeye itiraz ederek, tüm kullanıcı günlüklerinin (silinmiş konuşmalar ve API konuşmaları dahil) saklanması emrine sert şekilde karşı çıkıyor
- Söz konusu emir, telif hakkı ihlali davası sürecinde haber kuruluşlarının OpenAI’nin delilleri yok ettiğini öne sürmesi üzerine verildi; OpenAI ise kararın yeterli olgu incelemesi ya da açıklama olmadan aceleyle alındığını söylüyor
- Davacı taraf, ChatGPT ile ücretli haber içeriklerine dolaylı erişim sağlandığında kullanıcıların izlerini silmek için konuşmaları sileceğini iddia etti, ancak bu savı destekleyen herhangi bir kanıt sunulmadı
- Mahkeme, bu varsayıma dayanarak OpenAI’ye bundan sonra tüm konuşma günlüklerini (silinenler dahil) ayrı şekilde saklama emri verdi; OpenAI ise bunun kullanıcıların veri kontrol hakkını ihlal ettiğini ve küresel gizlilik yasalarını ihlal etme riskini artırdığını belirtiyor
OpenAI’nin iddiaları ve hukuki yanıtı
- OpenAI, bu kez verilen alışılmadık derecede geniş kapsamlı saklama emrinin kullanıcıların gizlilik haklarını ihlal ettiğini ve kullanıcıların verilerinin ne zaman, nasıl saklanacağına kendilerinin karar verebilmesi gerektiğini vurguluyor
- Mahkeme kararı verilene kadar OpenAI’de kullanıcı konuşmayı doğrudan sildiğinde ya da geçici sohbet özelliğini kullandığında, ilgili konuşma sistemden 30 gün içinde tamamen siliniyordu
- Ancak bu emirle birlikte tüm silme talepleri ve geçici sohbetler bile zorunlu olarak saklanmak durumunda kaldı; böylece yüz milyonlarca kullanıcının kişisel verileri ile şirket API verileri (gizli bilgiler dahil) uzun süreli olarak tutulacak
- OpenAI, gizlilik endişelerine ek olarak, emrin uygulanması için mühendislik kaynakları ve çok büyük maliyetler gerektiğini, haber kuruluşlarının varsayımsal faydasına kıyasla OpenAI ve kullanıcıların uğrayacağı zararın çok daha büyük olduğunu savunuyor
- OpenAI, mahkemeden sözlü duruşma talep ederken emrin geri çekilmesini (derhal iptalini) istiyor
Kullanıcıların ve sektörün tepkisi
- Emrin uygulandığının ortaya çıkmasının ardından çok sayıda kullanıcı ve kurumsal müşteri, sosyal medyada (LinkedIn, X vb.) kaygılarını dile getirdi
- Bazı uzmanlar, bu emrin tüm OpenAI kurumsal müşterileri açısından ciddi bir sözleşme ihlali anlamına gelebileceğini, API üzerinden gizli verilerle çalışan şirketlerin daha büyük güvenlik risklerine maruz kalacağını söylüyor
- Sosyal medyada “OpenAI üzerinden sunulan tüm yapay zeka hizmetleri artık gizlilik tehdidi altında”, “alternatif hizmetlere (Mistral AI, Google Gemini vb.) geçilmeli” gibi görüşler yayılıyor
- Bir güvenlik uzmanı, “Böyle bir emir kabul edilemez bir güvenlik riski” değerlendirmesinde bulundu
- “Yargıç Wang, NYT’nin telif hakkı mantığının OpenAI’nin tüm kullanıcılarının gizliliğinden daha önemli olduğunu düşünüyor — bu delilik” şeklinde eleştiriler de ortaya çıktı
OpenAI’nin politikası ve geleceğe bakış
- OpenAI, daha önce kullanıcı verisi saklama politikasına sıkı şekilde uyuyor ve hesap silindiğinde tüm konuşma geçmişini 30 gün içinde siliyordu
- Mahkeme kararıyla birlikte mevcut veri yönetimi ve silme süreçleri bir anda etkisiz hale geldi ve kullanıcıların verilerinin gerçekten güvenli biçimde silindiğine güvenmesi artık zorlaştı
- OpenAI, hukuki mücadelesini sürdürmeyi ve emrin haksızlığını ile yol açtığı gerçek zararı aktif biçimde anlatmayı planlıyor
1 yorum
Hacker News görüşleri
GPT modellerini API üzerinden kullanırken de aynı riskin geçerli olduğuna dikkat çekiliyor
Bunun yakında tüm yapay zeka şirketlerinin yaşayacağı bir sorun olacağı düşünülüyor
Herkesin modeli doğrudan kendi barındırdığı bir ortama geçilmediği sürece, SaaS benzeri iş modellerinde kârlılık kaygısı nedeniyle kullanıcı mahremiyetinin gerçekte çok öncelikli olmadığı ifade ediliyor
Açıkçası çoğu insan internette mahremiyet diye bir şey kalmadığı gerçeğine zaten alışmış durumda
Ancak kapalı kaynak kodu ya da güvenlik ile ilgili verileri güven ilişkisine dayanarak teslim eden şirketler veya kişiler ciddi biçimde etkilenebilir
Ama zaten bu tür işleri en baştan hiçbir sağlayıcıya dış kaynak olarak vermemek gerektiği görüşü savunuluyor
Yerleşik şirketlerin bu olay nedeniyle mevcut sözleşmelerini, politikalarını ve risk toleranslarını yeniden gözden geçirmesi gerektiği belirtiliyor
ChatGPT tabanlı hizmetler sunan wrapper girişimlerinin de gizlilik politikalarını tekrar değerlendirmesi ve kullanıcıların fiilen mahremiyetten vazgeçtiğini açıkça belirtmesi gerektiği söyleniyor
Devreye alınan tüm GPT entegrasyonlarının Azure hizmeti üzerinden yapılma nedeninin, verilerle eğitim yapılmayacağına dair sözleşmesel yükümlülük olduğu söyleniyor
Anlaşıldığı kadarıyla Azure hizmetleri, yani Microsoft, bu karardan etkilenmiyor
Eğer özel mülkiyetli kodla çalışılıyorsa, baştan beri bulut tabanlı LLM kullanılmaması gerektiği ve bu olayın bunu daha da netleştirdiği ifade ediliyor
Bunun işe nasıl zarar vereceği sorusuna karşılık, bunun eğitim amacıyla değil, hukuki risklere karşı veri saklama önlemi olduğu vurgulanıyor
Diğer şirketlerle yapılan sözleşmelerde de verilerin eğitim için kullanılmayacağının açıkça yazılabileceği düşünülüyor
Daha ayrıntılı arka plan yazısına buradan ulaşılabilir
Bu bağlantının asıl kaynak olduğu belirtiliyor
Bağlantının bu yazıyla güncellenmesi öneriliyor
Yazının altındaki yorumların gerçekten komik bir havası olduğu söyleniyor
Telif hakkı savunucularını yapay zeka karşıtı cephe gibi resmeden alaycı bir ton taşıdığı belirtiliyor
Kişisel olarak OpenAI’ın başkalarının içeriğine karşı kibirli tavrı pek sevilmese de, telif hakkı sahiplerinin aşırı güçlü taleplerine de sempati duymanın zor olduğu söyleniyor
Üretken yapay zeka ve eğitim meselesinin, mevcut fikri mülkiyet hukukunun çağ dışı yönlerini çok net biçimde ortaya koyduğu düşünülüyor
İleride değişim gerekeceği, ancak bu değişimin sadece büyük şirketlerin ya da zenginlerin lehine değil, sıradan insanlara da fayda sağlaması gerektiği ifade ediliyor
LLM’lerin telif ihlaline genel olarak eleştirel bakılsa da, bu kararın gerekçelendirilme biçimi biraz tuhaf bulunuyor
Hakimin varsayımsal olarak bir kullanıcının ChatGPT üzerinden paywall’ı aşıp New York Times içeriği çıkardığını ve daha sonra bunu öğrendikten sonra tüm kayıtlarının silinmesini istediğini söyleyerek, bunun kararın amacını boşa çıkarıp çıkarmayacağını sorguladığı aktarılıyor
Aslında böyle bir kararın çıktığını duyan kullanıcıların o süre boyunca daha dikkatli davranmayacağı da sorgulanıyor
OpenAI’ın artık kullanıcı konuşma geçmişini silse bile ya da Temporary Chat ile geçici sohbet yapsa bile, hukuki emir nedeniyle log tutmak zorunda kalmasının normal bir web tarayıcısı geçmişinden ne farkı olduğu eleştiriliyor
Safari’nin kullanıcının sildiği geçmişi zorunlu olarak saklaması gibi bir yükümlülüğü yokken neden yalnızca OpenAI’ın özel olarak buna zorlandığı sorgulanıyor
Başlık altında daha iyi bir haber bağlantısı paylaşılmış
Ars Technica orijinal haberi bağlantısı veriliyor
Sadece bir Mastodon gönderisi değil, gerçek bilgi içeren bir haberin referans alınması gerektiği ekleniyor
Son dönemde Hacker News’te LLM’lerin artılarını ya da eksilerini anlatan çok sayıda kişisel yazı paylaşılıyor ama mahremiyet konusu neredeyse hiç anılmıyor
LLM kullanmamanın ya da kaynak kodunu Prompt penceresine yapıştırmamanın temel nedeni olarak mahremiyet gösteriliyor
Şirketin NDA ve ITAR gibi devlet düzenlemeleri nedeniyle kodun sunucu dışına çıkmasının doğrudan ihlal sayıldığı belirtiliyor
Bu olayın, mahremiyetin LLM’lerin Aşil topuğu olduğunu gösterdiği söyleniyor
LLM’ler on-premise biçimde yerleşene kadar bu sorundan kurtulmanın mümkün olmadığı ifade ediliyor
Doğrudan kendi LLM’ini kurmanın oldukça kolay ve basit olduğu söyleniyor
OpenAI’ın verileri sunucuda saklamak zorunda kalması, davadaki şirketlerin hukuk ekiplerinin Discovery sürecinde kullanıcı ile ChatGPT arasındaki konuşmaları görebilmesine yol açabilir
Örneğin NYT avukatlarının mahkemede bir tarafın özel konuşmalarını delil olarak okuyabileceği söyleniyor
Çözüm olarak konuşma kayıtlarının anonimleştirilerek saklanması öneriliyor
OpenAI’ın bunu teknik olarak yapabileceği ve bunun en iyi çözüm gibi göründüğü ifade ediliyor
Bu verilerin Spectra TFinity ExaScale kütüphanesi gibi tape storage tabanlı çözümlere ya da AWS Glacier benzeri derin arşiv sistemlerine yedeklenebileceği belirtiliyor
Veriyi geri getirmenin saatler ya da günler sürdüğü bu yapının hem mahkeme emrine uyumu sağlayabileceği hem maliyeti düşük tutabileceği, ayrıca büyük bir sızıntı durumunda veriyi çalmanın uzun zaman ve emek gerektirmesi sayesinde tespit ve savunma açısından avantaj sunabileceği söyleniyor
Artık ABD’deki tüm bulut tabanlı yapay zeka sistemleriyle yapılan sohbetlerin ve API çağrılarının hukuki incelemeye konu olabileceği varsayımıyla hareket edilmesi gerektiği belirtiliyor
Bu risk kabul edilemezse yerel LLM’lere geçişin ciddi biçimde değerlendirilmesi gerektiği söyleniyor
Times gibi bir medya kuruluşunun kullanıcı verilerini görme hakkını nasıl elde edebildiği sorgulanıyor
Sonuçta bu karar yüzünden gazete tarafının kullanıcı verilerini inceleyebileceği bir durum ortaya çıktığı belirtiliyor
Bu mahkeme emrinin birden fazla yargı alanında gizlilik yasalarını ihlal etme ihtimali bulunduğu ve OpenAI’ın mevcut müşterileriyle yaptığı sözleşmeleri de ihlal etmesine yol açabileceği söyleniyor
Mevcut sözleşmelerin mahkemenin emir vermesini engelleyemeyeceği açıklanıyor
Hukuki emrin her şeyin üzerinde olduğu belirtiliyor
Bu emrin kendi başına yeni bir gizlilik ihlali yaratmadığı söyleniyor
Zaten veriyi saklamak ve üçüncü taraflara vermek başlı başına ihlal sayılıyor
Bu emrin fiilen 13 Mayıs’a kadar geriye dönük uygulandığı belirtiliyor
OpenAI’ın şimdiye kadar bunu kullanıcılara e-posta gibi yollarla bildirmemiş olmasının nedeni olarak ticari etkiler gösteriliyor gibi göründüğü söyleniyor
Ancak bunun kullanıcı güvenine açık bir ihanet gibi hissettirdiği ifade ediliyor
ChatGPT API üzerinden hassas veri alışverişi yapan şirketlerin, giriş ve çıkış verilerinin saklanmadığı açıklamasına güvenmiş olacağı düşünülüyor
Oysa OpenAI’ın sadece ayarı değiştirerek bu verileri saklayabileceği bir durum bulunduğu belirtiliyor
Bununla ilgili ayrı bir bildirim yapılıp yapılmadığı ya da herkesin bunu ancak haberlerden mi öğrendiği merak ediliyor
Asıl gönderi bağlantısına trafik aşırı yükü nedeniyle erişilemediği, ancak Wayback Machine üzerinden okunabildiği söyleniyor
Bunun kişisel bir Mastodon instance’ı olduğu için ziyaretçi patlamasında aşırı yük yaşamasının anlaşılır olduğu belirtiliyor