- ABD'de bir mahkeme, OpenAI'ye tüm ChatGPT kayıtlarını (silinmiş sohbetler dahil) süresiz saklama emri verdikten sonra, iki kullanıcı 'kitlesel gözetim' iddiasıyla davaya müdahil olmaya çalıştı ancak bu girişim reddedildi
- Kullanıcılardan biri, hassas kişisel bilgiler ve ticari bilgiler girdiği deneyimlere dayanarak bu emrin ABD çapında bir kitlesel gözetim programı anlamına geldiğini savundu
- Yargıç, basit bir delil koruma emrinin bir gözetim programı olmadığını ve yargının bir soruşturma makamı olmadığını açıkça belirtti
- Dijital haklar örgütü (EFF) de kullanıcı mahremiyeti riskleri ve gelecekteki kötüye kullanım olasılığı konusunda endişe dile getirdi
- Kullanıcılar, OpenAI'nin güçlü savunma iradesi ile gelecekte veri paylaşımı veya şeffaflık sağlanmasına ilişkin kaygı taşıyor
Arka plan ve mahkeme emri
- Mahkeme kısa süre önce OpenAI'ye ChatGPT'nin tüm kayıtlarını, silinmiş sohbetler dahil, süresiz olarak saklama emri verdi
- Bu adım, haber medya şirketlerinin açtığı telif hakkı davasında delil güvenceye almak amacıyla atıldı
- Bazı kullanıcılar, bu emrin silinmiş ve anonim sohbetleri de kapsadığını ve kullanıcılara bildirim yapılmadan uygulandığını belirterek endişelerini dile getirdi
Kullanıcıların müdahale girişimi ve mahremiyet tartışması
- Bir kullanıcı, kendisinin hassas kişisel ve ticari bilgiler girdiğini belirterek, bu emrin ülke çapında kitlesel gözetime yol açtığını savunup davaya müdahil olmayı talep etti
- Önceden bildirim yapılmadan silinmiş ve anonim sohbetlerin saklanmasını sorun etti ve sağlık, finans, hukuk gibi hassas konulardaki sohbetler için istisna uygulanmasını istedi
- Mahkeme, "belge koruma emri gözetimle ilgili değildir ve mahkeme bir soruşturma kurumu değildir" diyerek ret gerekçesini açık biçimde ortaya koydu
Dijital haklar örgütünün bakışı
- Electronic Frontier Foundation(EFF) hukuk direktörü Corynne McSherry, "Bu emrin kullanıcı mahremiyeti açısından gerçek risk yarattığı ve benzer davaları olumsuz etkileyebileceği" yönünde kaygı dile getirdi
- Bunun ileride kolluk kuvvetleri veya davanın tarafları için OpenAI'den kullanıcı kayıtlarının teslimini talep etmeye yönelik bir emsal oluşturabileceğine dikkat çekti
- Özellikle kullanıcı kayıtları üzerindeki denetim ve bildirim yükümlülüğü yetersiz kaldığında, AI sohbet botlarının yeni bir gözetim vektörüne dönüşebileceğini vurguladı
Mahkemenin karar mantığı
- Yargıç, "Belge koruma emri, belirli bir davada delillerin korunmasına yönelik bir tedbirdir" diyerek, anayasal hak ihlali gibi iddiaların bu davanın esasına ilişkin olmadığını değerlendirdi
- Müdahale girişiminin olayların açıklığa kavuşturulması veya davadaki uyuşmazlık noktalarıyla ilgili olmadığını, sadece yargılamayı geciktireceğini belirterek bu hakkı tanımadı
- Şu an için haber şirketlerine fiilen veri aktarılmış bir örnek bulunmadığından, ileride veri paylaşımı olursa ek tartışmaların mümkün olabileceğine işaret etti
Kullanıcı kaygıları ve bundan sonraki başlıklar
- Kullanıcılar, "OpenAI'nin mahremiyet koruması yerine dava masrafları, itibar yönetimi gibi başka çıkarları önceleyebileceği" endişesini taşıyor
- EFF ve benzeri kuruluşlar, AI sohbet uygulaması sağlayıcılarının silme talebi geldiğinde kayıtları gerçekten silmesi ve veri talepleri konusunda şeffaf bildirim yapması gerektiğini vurguladı
- Sonuç olarak kullanıcı verilerinin saklanması ve açıklanması süreçlerinde şeffaflık, bildirim prosedürleri ve sonradan başvurulabilecek telafi yolları önümüzdeki dönemin başlıca gündem maddeleri olarak öne çıkıyor
1 yorum
Hacker News yorumu
Makalede alıntılanan yargıcın sözlerine bakınca, yargıcın itirazın özünü tam olarak anlamadığı hissine kapılıyorum; aynı zamanda karar gerekçesi de tuhaf görünüyor
Mantık şu gibi duruyor: "Eğer bu tür soruları ele alırsak, aslında çözmemiz gereken hukuki meseleleri uygunsuz biçimde geciktirmekten başka bir sonuç doğurmaz"
Telif hakkıyla ilgili bir dava olduğu için anayasal meseleler görmezden gelinebilir mi diye düşündürüyor
Ayrıca, talebi sırf bir avukat tarafından hazırlanmadığı için hemen reddetmek de bir yargıç olarak rolüyle bağdaşmayan bir davranış gibi geliyor
Avukatsız da dava açılabileceği noktasını gözden kaçırmış gibi görünüyor
Makaleye eklenen kararın tamamını(burada) okuyunca durum daha netleşiyor
İtirazı yapan taraf belirli bir türde "intervene talebi" sunmuş ve bunun sıkı şartları var
Bu şartları karşılayamamış
Avukatsız sunulduğu için reddedildiği kısmı da karar metni açıklıyor
Gerçek kişiler kendilerini bizzat temsil edebilir, ancak tüzel kişiler(şirketler) mutlaka avukat tutmak zorundadır
Başvuru ilk olarak şirket adına yapıldığı için, yargıç hukuka uygun şekilde işlem yapmış görünüyor
Ben de benzer düşünüyorum; ayrıca bu tür mahremiyet sorunlarından etkilenebilecek çok sayıda benzer hizmet olması daha da endişe verici
Böyle aşırı mahkeme emirlerini engelleyecek güçlü gizlilik yasalarına ihtiyacımız var ama henüz yok
Örneğin, bir flört hizmetinde kullanıcıların birbirine gönderdiği tüm mesajların saklanmasını emreden bir mahkeme kararı, telekom şirketlerinin tüm SMS'leri saklaması, milyarlarca üretilen Google Docs belgesinin saklanması gibi örnekler mümkün
Hükümetin neden hâlâ Signal gibi hizmetlere arka kapı eklenmesini ve tüm metin mesajlarının saklanmasını talep etmediğini merak ediyorum
Bunu gerçekten yaptırabilmek için oldukça güçlü bir gerekçe gerektiğini düşünüyorum
ABD hükümetinin zaten sıradan ticari hizmetlerde bile bu kadar geniş çaplı gözetim yürütmüş olabileceğini sorguluyorum
Geçmişte Edward Snowden ifşalarında Google iletişiminin de dinlendiği ortaya çıkmıştı
Yargıçlar genelde avukat kökenlidir veya hukuki deneyime sahiptir
İlgili yargıcın da avukatlık geçmişi var, ayrıca zooloji alanında neredeyse tamamlanmış bir doktora geçmişi gibi sıra dışı bir özgeçmişe sahip
Toplumda korunan sınıfların korunmayan sınıflara eşit davranmak istememesi son derece doğal bir durum
Bu meselede anayasal bir sorun olduğunu düşünmek de zor, olsa bile bunu değerlendirecek makam burası değil
Avukatsız sunulduğu için görmezden gelindiğine yönelik eleştiri %100 yanlış anlama
Pro Se(kendi adına dava açma) için kurallar gayet açık
Taraf olmayan başka bir tüzel kişiyi temsilen dava açıyorsanız mutlaka avukat gerekir
Mesele "davanın konusu telif hakkı olduğu için anayasal sorunları görmezden gelebiliriz"den çok, yargıcın anayasal iddianın büyük olasılıkla geçerli olmayacağını ve bunun sadece zaman kaybına yol açacağını düşünmesi gibi görünüyor
"Telif hakkı davası olduğu için anayasal sorunlar görmezden gelinebilir mi?" kısmına gelince
Burada hangi anayasal sorun görüldüğünü merak ediyorum
"Avukatsız da mümkün" iddiası da hukuken şirketlerin mutlaka avukatla temsil edilmesi gerektiği için doğru değil
Eğer bir kişi kendi adına başvursaydı bir miktar esneklik olabilirdi, ama şirketler için bu geçerli değil
Böyle temel bir noktada mantık sarsılıyorsa, diğer argümanlara güvenmek de zorlaşıyor
Bu olayın o kadar büyük bir haber değeri olduğunu sanmıyorum
OpenAI veri saklama emrini doğrudan durdurmaya çalışmak için yakında sözlü savunma yapacak ve sıradan ChatGPT kullanıcılarının önleyici olarak yaptığı iki başvuru sonucu belirleyecek türden olaylar değildi
Yargıç, şirkete verilen "tüm verileri koru" emrinin pratikte ne anlama geldiğini gerçekten anlamıyor gibi görünüyor ve bunu hızla yeniden değerlendirmeye de istekli görünmüyor
İlk kararın etkisinin zaten başlı başına haber değeri taşıdığı savunuluyor
Bugünlerde fazla bariz sonuçlar bile çok büyük haber değeri taşıyor diye düşünüyorum
Kullanıcıların doğrudan sürece katılma hakkı olduğunu böylece görmüş olduk
Davacıların yaptığı gibi kişi kendi davasını da açabilir
Sonucun ne olacağı ayrı konu ama bu başlı başına bir hak
Yargıç bu meseleyle ilgilenmiyor gibi göründüğü için ikna etmeye çalışmanın anlamsız olduğu sonucuna varıyorum
OpenAI ve kullanıcılar için ne gibi alternatifler veya seçenekler var, merak ediyorum
Doğrudan bir yanıt değil ama yerel LLM kullanmanın gelecekte en gerçekçi alternatif olacağını düşünüyorum
Ben de son zamanlarda kendim çalıştırıyorum; bağlamı koruma ve yüksek performans açısından hâlâ sınırlar var ama 1-2 yıl içinde gerçekten pratik yerel LLM'lerin ortaya çıkması bence hayal değil
Benim için gizlilikten çok çevrimdışı kullanılabilmesi daha cazip
ABD hukuku açısından seçenek yok
Bu tipik bir 'third-party doctrine' durumu
Kendi veriniz bile olsa bunu gönüllü olarak üçüncü bir tarafa(OpenAI) verdiğiniz anda, o veri artık size ait sayılmaz ve gizlilik beklentisi de hukuken ortadan kalkar
İstisnalar ancak özel olarak çıkarılmış yeni yasalarla tanınabilir; mevcut hukukta OpenAI için böyle bir durum yok
Karar da ABD hukukunun bu çerçevesi içinde verilmiş; yani OpenAI'ye gönderilen konuşma verilerine dair gizlilik mevcut standartlara göre korunmuyor
Üçüncü taraflardan gizlilik beklemeyi artık bırakmak iyi olur
Banka bilgileri bile soruşturma emriyle açıklanabiliyor
Bu gerçeği bilmeyip sadece güncel tartışma başlıklarına kapılan çok sayıda programcı var
Bundan sonra karar nasıl çıkarsa çıksın, temyiz bir seçenek olabilir
"OpenAI ve kullanıcılar için seçenekler neler?" sorusuna
Verilerini ABD'ye vermeyen bir ülkedeki hizmetleri aramak bir yöntem olabilir
Eğer hâlâ OpenAI'nin sohbetlere veya API girdilerine yazılan her şeyi saklamadığını düşünen biri varsa, OpenAI yönetim kurulunda kimlerin olduğuna bakmasını öneririm
OpenAI ve diğer LLM sağlayıcılarının yasal olarak veri saklaması zorunlu olarak yasaklansa bile, onların bu politikaya gerçekten uyacağına güvenmek zor
Hassas verilerin mutlaka doğrudan yerel LLM'lere girilmesini öneriyorum
Bu çifte olumsuzluğu fark etmek lazım
Artık tüm dünyanın gündelik hayatın her yönünü izleyebilecek teknik kapasiteye sahip olmasıyla asıl mesele bunu nasıl yöneteceğimiz
Gelecekte bu devasa veri sayesinde tıp, epidemiyoloji, büyük ölçekli psikoloji(ben buna Massive open online psychology, moop diyorum) gibi yeni alanlar doğabilir ve hükümetler gerçek zamanlı büyük veriyle dışlanmış vatandaşlara daha iyi hizmet verebilir
Ama böyle bir gelecek için mutlaka güvenilir bir hukuki çerçeve gerekir; bunun tek tek yargı kararlarıyla parçalı biçimde kurulması zor
Bana göre, insanın bizzat fiili olmadan üretilemeyecek veriler koşulsuz biçimde o insana ait olmalı ve ancak o insanın yararına kullanılacağı durumlarda emanet edilmesine izin verilmeli
"Kullanıcının/vatandaşın yararı" gibi yüksek bir standart getirilirse veri şirketlerinin düşünme biçimi de tamamen değişir
Başkalarının bu konuda ne düşündüğünü merak ediyorum
Hâlâ HN gibi yerlerde tabu sayılan bir yönelim ama verinin kullanıcı merkezli biçimde kilitlenmesi ve merkezi silo yapıları yerine dağıtılması, hem gizliliği hem de büyük verinin faydalarını birlikte kovalamak için gerekli görünüyor
Bu davadaki yargıç aslında görev süresinin bitmesine yaklaşık bir yıl kalmış bir magistrate judge
Geçmişte de bu tür zayıf kararlar veren magistrate judge'ların yeniden atanmadığı olmuştu; bunda da öyle olmasını umuyorum
Yeniden atama duyuru bağlantısı
Yargıç unvanını neden tırnak içine alma gereği duyulduğunu anlamıyorum
Magistrate judge da sonuçta yargıçtır
Bkz: ABD federal mahkeme yargıç türleri
Sıradan bir Third Party Doctrine uygulaması yüzünden bir magistrate judge'ın görev süresinin veya itibarının zedelenmesi gerektiğini düşünmüyorum
Aynı konuya dair geçmiş tartışma OpenAI, tüm ChatGPT günlüklerini ve silinmiş sohbetleri bile saklamasını isteyen mahkeme emrine itiraz ediyor
10 yılı aşkın süredir devam eden büyük ölçekli gözetim programını hiçbir yargıç durduramaz
Artık bu bir şakaya ve anlamsız bir tartışmaya dönüştü
OpenAI de diğer şirketler gibi mümkün olan tüm bilgileri topluyor ve profilimizi çıkarıyor
Birçok insanın bu duruma şaşırması ya da öfkelenmesi bana garip geliyor
Çoğu kişi, günlük hayatta kullandığı çevrimiçi hizmetlerin de aynı şekilde verileri sakladığını ya bilmiyor ya da gözden kaçırıyor gibi
Pratikte Signal gibi E2EE olmayan her yerde; Gmail, telekom operatörleri, Reddit, Xitter ve diğer büyük hizmetlerin tamamı veri ve metaveri saklıyor
Bunun doğru mu yanlış mı olduğu bir yana, bugünün çevrimiçi hizmetlerinde bu fiili gerçeklik
İnsanların öfkelenmesinin nedeni, bunun kabul edilemez bir seviyeye ulaşmış gibi hissettirmesi
Kullanım şartları ya da politikalar bir yana, OpenAI kullanıcı lehine silmeye çalıştığı verileri bile zorla saklamak zorunda kalıyor
Açıkçası insanların aktif biçimde tepki göstermesine hiç şaşırmıyorum
Bence insanların çoğu bunun farkında bile değil
Teknik olmayan arkadaşlarınıza ya da sokakta rastgele birine sorsanız, çoğu bu gerçeğin farkında olmayacaktır