Yapay Zeka Güven Krizi
(simonwillison.net)- Dropbox’ın yeni yapay zeka özelliği etrafındaki tartışma, emanet edilen kişisel dosyaların OpenAI eğitiminde kullanılabileceği endişesiyle büyüdü; Dropbox bunu güçlü biçimde reddetti
- Özellik, isteğe bağlı özetleme ve arama destekli üretim (RAG) tabanlı “verilerle sohbet” işlevlerinden oluşuyor; ancak yapay zeka gizliliğinde kabaca açıklamalarla güven kazanmak zor
- Varsayılan olarak açık gibi görünen yapay zeka anahtarı ile “izin olmadan eğitimde kullanılmaz” ilkesinin ifadeleri birleşince, kullanıcıların onay kapsamını karıştırmasına yol açabilecek bir durum oluştu
- OpenAI “API’ye gönderilen veriler eğitimde kullanılmaz” dese bile buna inanmayan çok sayıda kullanıcı var; bu da Facebook’un mikrofon dinleyerek reklam gösterdiği inancına benzer bir güvensizlik yapısı yaratıyor
- Yapay zeka şirketleri, eğitim verileri ve işleme yöntemleri hakkında şeffaf açıklamalarla güveni yeniden kazanmalı; yerel modeller ise gizlilik endişeleri içinde daha cazip bir alternatif haline geliyor
Dropbox’ın yapay zeka özelliği tartışmasının özü
- Dropbox yeni bir yapay zeka özelliği ekledikten sonra, kişisel dosyaların OpenAI’ye aktarılıp model eğitiminde kullanılabileceğine yönelik eleştiriler büyüdü
- Temel endişe, Dropbox’ta saklanan özel dosyaların OpenAI’nin eğitim verisi olarak kullanılıp kullanılmadığıydı; Dropbox bunu güçlü biçimde reddetti
- Özellik, isteğe bağlı özetleme ve “verilerle sohbet” gibi arama destekli üretim (RAG) yöntemlerinden oluşuyor
- Çok miktarda kişisel veri barındıran hizmetlerde, yapay zeka gizliliği açıklamaları azıcık belirsiz olsa bile güveni kaybetmek kolaydır
Onay ve ayar ifadelerinin yarattığı kafa karışıklığı
- Dropbox’ın AI principles sayfasında, müşteri güveni ve veri gizliliğini temel aldığını ve müşteri verilerini izin olmadan yapay zeka modeli eğitiminde kullanmadığını belirten bir ifade var
- Hesap ayarlarında yapay zeka ile ilgili bir anahtar vardı ve bunu bizzat açmamış hesaplarda bile açık durumda görünüyordu
- Yazı yayımlandıktan sonraki yaklaşık 4 saat içinde ilgili ayar bağlantısı çalışmaz hale geldi
- Bu anahtarın model eğitimi için onay olarak yorumlanıp yorumlanamayacağı net değil
- “Onay” kelimesi, kullanım şartlarını okumadan kabul etme gerçeğiyle birleştiğinde çok belirsiz hale geliyor
- Birçok kullanıcı, Dropbox’a koruması için emanet ettiği kişisel verilerin OpenAI’nin eğitim sürecine aktığını düşündü
OpenAI’ye güvenmeyen kullanıcılar
- Dropbox ayar metni, üçüncü taraf iş ortağı OpenAI hakkında “veriler hiçbir zaman iç modellerin eğitiminde kullanılmaz ve üçüncü taraf sunucularından 30 gün içinde silinir” bilgisini veriyor
- Ancak birçok kullanıcı, OpenAI’nin verileri eğitimde kullanmadığı sözüne inanmıyor
- Tartışma, Dropbox ayarları sorununu aşarak yapay zekanın genelinde bir güven krizine dönüşüyor
- “OpenAI gördüğü tüm verileri eğitimde kullanır” algısı, “Facebook telefon mikrofonuyla konuşmaları dinleyip reklam gösteriyor” inancına benzer bir konumda duruyor
Facebook’un mikrofonla dinleme komplo teorisiyle karşılaştırma
- Facebook’un telefon mikrofonuyla kullanıcıların konuşmalarını dinleyip reklam gösterdiği teorisi uzun süredir var
- Teknik olarak buna karşı birçok kanıt var
- Mobil işletim sistemleri, uygulamaların görünmez şekilde mikrofona erişmesine izin vermez
- Gizlilik araştırmacıları, cihaz ile Facebook arasındaki iletişimi denetleyerek gerçekte nasıl çalıştığını doğrulayabilir
- Büyük ölçekli, yüksek kaliteli konuşma tanımayı sürekli çalıştırmak çok pahalıdır
- Teknik olmayan karşı argümanlar da var
- Facebook bunu reddediyor; yalan söylediği ortaya çıkarsa itibar riski çok büyük olur
- Çok fazla insanın dahil olması gerekeceğinden, içeriden ihbar olmadan sürdürülmesi zordur
- Facebook, mikrofonla dinleme olmadan da çok daha ucuz ve etkili reklam hedefleme yöntemlerine zaten sahip
- Binlerce reklam gördükçe, az önce söylenen şeyle tesadüfen örtüşen örnekler ortaya çıkabilir
- Kullanıcı gerçekten bir şeyi söyledikten hemen sonra ilgili reklamı gördüğünü hissederse, bu karşı argümanlar ikna ediciliğini kaybeder
- Reply All’ın Kasım 2017 tarihli “109 Is Facebook Spying on You?” bölümü, Facebook’un mikrofonla dinleme yapmadığı sonucuna varmıştı; ancak buna zaten inanan insanları ikna etmek zordur
Yapay zekada kara kutu güvensizliği büyütüyor
- Facebook örneğinde kullanıcılar, kişisel deneyimlerini dayanak göstererek ne olup bittiğini bildiklerine inanıyor
- Yapay zekada ise durum neredeyse tersidir
- Modeller kara kutuya yakındır ve gizlilik içinde inşa edilir
- Hangi eğitim verilerinin kullanıldığını bilmek zordur
- Eğitim verilerinin modeli nasıl etkilediğini anlamak da zordur
- Kullanıcılar kanıttan çok atmosfere ve hislerine dayanmak zorunda kalıyor; yapay zeka etrafındaki mevcut atmosfer ise iyi değil
Güven krizi neden önemli
- Şirketlerin gizlilik süreçleri hakkında yalan söylediğine dair şüpheler son derece ciddidir
- Büyük şirketlerin veri işleme biçimleri hakkında açıkça yalan söyleyip hiçbir sonuçla karşılaşmadığı bir toplum sağlıklı değildir
- Devletin önemli rollerinden biri, bu tür şeylerin yaşanmasını engellemektir
- OpenAI, eğitimde kullanmayacağını söylediği verilerle eğitim yaptıysa düzenleyicilerin karşısına çıkmalı veya davalarla karşılaşmalıdır
- Facebook telefon mikrofonuyla gözetleme yaptıysa aynı şekilde düzenleme ve dava konusu olmalıdır
- Dayanaksız komplo teorilerine gerçekmiş gibi inanmak, şirketlerin gerçek hukuka aykırı davranışlarına yönelik toplumsal hoşgörüsüzlüğü de zayıflatabilir
- Gizlilik önemlidir ama kolayca yanlış anlaşılır
- İnsanlar şirketlerin ne yaptığını ve neleri yapabileceğini bazen abartır, bazen küçümser
- Yapay zeka teknolojisi mümkün olanın sınırlarını hızla değiştirdiği için, bu alanı iyi bilen kişiler için bile anlaşılması zordur
OpenAI ve yapay zeka laboratuvarları ne yapabilir
- Büyük yapay zeka laboratuvarları eğitim yöntemlerini daha net şekilde açıklayabilir
- Temel soru, OpenAI’nin neyi eğitim verisi olarak kullandığıdır
- Mevcut yanıt bilinmiyor; tüm süreç son derece opak
- Böyle bir durumda OpenAI “API üzerinden gönderilen veriler eğitimde kullanılmaz” dese bile insanların buna inanması zor
- ChatGPT’nin kendisi daha karmaşık
- OpenAI, ChatGPT etkileşimlerini modeli iyileştirmek için kullanıyor
- Ücretli müşteriler de istisna değil; istisna “iletişime dayalı fiyatlandırma” sunan ChatGPT Enterprise
- Bir kullanıcı gizli bir belgeyi ChatGPT’ye yapıştırıp özet istediğinde, bir sonraki model güncellemesinden sonra o belgenin bir bölümünün başka bir kullanıcıya gösterilip gösterilmeyeceğine karar verebilmek için ChatGPT verilerinin model iyileştirmede nasıl kullanıldığına dair daha fazla açıklama gerekir
- Büyük platform şirketlerinin kesintilerden sonra kamuya açık postmortem yayımlaması gibi, yapay zeka şirketleri de şeffaf açıklamalarla güveni yeniden kazanabilir
- Dan Luu ilgili postmortem örnekleri listesini derlemiş durumda
Yerel modeller için fırsat
- Bu tartışmada tekrar tekrar görülen eğilim, kullanıcıların verilerini bulutta barındırılan modellere kıyasla kendi cihazlarında çalışan yerel modellere emanet etmekte daha rahat hissetmesi
- Yerel modellerin kalitesi düzenli olarak artıyor, boyutları da küçülüyor
- Mixtral-8x7b-Instruct dizüstü bilgisayarda çalıştırılabiliyordu ve ilk kez ChatGPT 3.5 ile kalitesi benzer görünen yerel model olarak değerlendirildi
- Microsoft’un Phi-2 modeli 2,7 milyar parametreli bir model
- Kullanışlı birçok yerel model 7 milyar parametreden başlıyor
- Phi-2, daha büyük bazı modellerle karşılaştırıldığında en ileri düzey performans iddia ediyor
- Eğitim maliyetinin yaklaşık 35.000 dolar olduğu görülüyor
- Yerel modellerin potansiyeli büyük; ancak yanlış gizlilik endişeleri yüzünden daha büyük ve kullanışlı barındırılan modellerin avantajlarını kaybettiğimiz bir durumdan kaçınmak gerekir
Yapay zeka ve gizlilik tartışmasının koşulları
- Yapay zeka ile gizliliğin kesişimi önemli bir konu
- Yüksek kaliteli bir tartışma için, gerçekte ne olup bittiğine dair mümkün olan en yüksek şeffaflık ve anlayış gerekir
- Şirketlerin sözlerine doğrudan güvenilmeyen bir ortamda bu tartışma daha da zorlaşır
- Şirketler kullanıcı güvenini kazanmalı ve kullanıcıların bunun nedenini anlayabilmesini sağlamalıdır
1 yorum
Hacker News görüşleri
Web sitesi gizliliğinde rızanın ne olduğuna dair uygulanabilir ve hukuken net bir tanıma ihtiyaç var
Kullanıcı, veri toplama, işleme ve üçüncü taraflara aktarma için aktif olarak rıza veriyormuş gibi gösterilmemeli; gerçekte bunlar zaten gizlice yapılıp sonradan rıza varmış gibi süslenmesi dışarıda bırakılmalı
Birini kandırıp sözleşme imzalattıysanız bu dolandırıcılıktır; bir şeyi yapmadan önce izin alacağınızı söyleyip sonra önceki bir sözleşmede izni zaten aldığınızı sessizce iddia ediyorsanız bu da dolandırıcılıktır
Yargı sisteminin ne zaman bu kadar güçsüzleştiğini bilmiyorum ama bunun suçu korunmayan vatandaşlara yüklenemez
Gereken şey, hukuku tekelleri parçalama ve New Deal dönemi çizgisine geri döndürmek; kötü nüfuzu ezip sonra yeniden inşa edebilme kapasitesi
Destek ekibine WTF temalı bir e-posta gönderdim ama muhtemelen hesabımı kapatacağım. Bunun bana kabul edilebilir hissettirecek bir yanıtı nasıl olabilir, hayal edemiyorum
Büyük şirketlerin çok fazla gücü ve etkisi var
Yazı genel olarak iyi ama “telefonum beni dinliyor” ile “OpenAI verilerimi nasıl kullandığı konusunda yalan söyleyebilir” arasında kurulan benzetme biraz sorunlu görünüyor
iPhone’un mikrofonuna üçüncü taraf uygulamaların erişmesi konusunda güçlü denetim mekanizmaları var; ama verilerim düz metin olarak üçüncü taraflara geçtiğinde buna denk bir mekanizma yok. Sıradan kullanıcı açısından ikisi aynı görünebilir, ancak ilk durumda hâlâ korunuyorsunuz
Bu fark üzerinde durmak önemsiz gibi görünebilir, fakat kullanıcı verisi gizliliği ve egemenliği mücadelesi zaten kaybedilmiş gibi davranmak son derece ters etki yaratıyor. Teknik bilgisi belli bir seviyede olan sinik insanların, şirketlerin her yeni suistimalini gördüğünde “zaten bildiğimiz şeyler” diye tepki verdiğini sıkça görüyorum; sanki 10 yıldan uzun süredir Tails Linux kullanmıyorsanız ana dizininizi sıkıştırıp şüpheli teknoloji şirketlerine ve veri simsarlarına komple göndermekle aynı şeymiş gibi davranıyorlar
Bu tür öğrenilmiş çaresizlik yalnızca güveni zedelemekle kalmıyor, daha iyi bir dünyanın imkânsız olduğu izlenimini de veriyor. Dropbox olayı, bu düşünce biçiminin geri dönmüş bir örneği gibi görünüyor. Kullanıcıların özel dosyalarını sormadan üçüncü taraflara gönderdikleri imasını verseler bile umursamazlar, diye düşünmek tam bir delilik
Not olarak, verilerimin çoğunu zaten Dropbox’tan çıkarıp kendi barındırdığım çözümlere taşımıştım; ama dün hesabımı tamamen kapatmama neden olan son damla oldu. Teşekkürler, Dropbox
Facebook örneğinde insanlar kendi kişisel kanıtlarına dayanarak neler olduğunu anladıklarına inanırken, AI tarafında durum neredeyse tam tersi. AI modelleri tuhaf bir kara kutu; gizlice oluşturuluyorlar ve eğitim verisinin ne olduğunu ya da bunun modeli nasıl etkilediğini anlamanın bir yolu yok
Şu anda en büyük tehdidin rehavet olduğu konusunda tamamen katılıyorum. İnsanlar yanlış zihinsel modeller kurup “zaten böyledir” diyerek omuz silktiğinde, gerçek sorunları iyileştirmek zorlaşıyor
Verilerimizi ve gizliliğimizi emanet edeceğimiz yerler konusunda daha iyi ve daha kötü seçenekler elbette vardır; ama bunların kim olduğunu, geniş anlamda “güvenilir” bir yerin var olup olmadığını bile bilmediğimiz için, kimseye güvenilemeyeceği varsayımıyla hareket ediyoruz
Daha az sinik olmak isterdim ama son 10–20 yıla bakınca sinizm tamamen haklı görünüyor. Bu tutum yanlışsa nasıl düzeltebiliriz?
Mikrofon uygulama erişimini işletim sistemi kontrol eder ve hangi uygulamanın ne zaman mikrofonu kullanabileceğini kullanıcının görebileceği, işletim sistemi tarafından sağlanan araçlar vardır
Buna karşılık bulut verilerine erişim tamamen “bana güven” yaklaşımıdır ve birçok şirketin bu güveni kötüye kullandığı zaten ortaya çıktı
Dropbox kullanıyorum ama Dropbox’a koyduğum her şey ya şifreli ya da açık internete sızsa da sorun olmayacak şeyler. Kendi barındırdığım çözümlerle uğraşmaya çok zaman harcadım; ama bir noktadan sonra pratik kazancının çok büyük olmadığına karar verdim ve zamanımı, enerjimi başka yerlere harcamanın daha iyi olduğunu düşündüm
Bu yazı bana biraz saf ve “iyi niyet varsayalım” havası ağır basıyor gibi geldi
Yapay zekânın dışında son 10 yılda neler olduğuna bakınca, herkes takıntılı bir koleksiyoncu gibi veriyi silip süpürüyor. Yalnızca veriyi ana ürünlerinde kullanan Google ya da Facebook değil, neredeyse herkes böyle. Bugün bile Noel’de kullandığım İsveç geleneksel tarifleri mini sitesinin otomatik oynatılan video, karanlık desenli çerez onay banner’ı gibi şeyler eklediğini gördüm
Neredeyse her yeni uygulama ve site bu ekonomik eksen etrafında dönüyor; büyük dil modelleri güçlenmeye başlamışken üçüncü taraf API’ler birdenbire ve eşzamanlı olarak kapatıldı
Bugünkü nesil yapay zekâ, diğer oyuncuların veriyi gizlice gece atıştırmalığı gibi yemesi düzeyinde değil; kana ve beyne aç, hızlı bir zombi gibi. Bunun bir nedeni verinin üründe çok daha doğrudan bir rol oynaması; bir nedeni de onlarca yılın paradigma değişimi ihtimaliyle teknoloji girişim sermayesinin kızışmış rekabet psikolojisinin uykudan uyanması
Tüm işaretler zombi kıyameti ve altına hücuma, sonradan af dileme yaklaşımına gidildiğini gösteriyor. Bu yüzden herkesin, kaçınılmaz itibar krizinden önce güvenlik ve sorumluluk söylemini güçlendirdiğine kuvvetle inanıyorum. Önceden ortalığı bulandıracak cephane biriktiriyorlar
Ama teknoloji insanları, son 10 yılı derinden yaşamamış gibi gevşemiş durumda; bu kez yapay zekânın kökleri akademide olduğu için, parıltılı yeni şirketler olduğu için, güvenlik söylemi olduğu için, “gerçekçi” kurucuların keskin Twitter paylaşımları olduğu için bunun farklı olacağını düşünüyorlar
Perde arkasında tam olarak ne olduğunu biliyormuş gibi yapmayacağım, ama insanların nasıl işlediğini bilecek kadar uzun süredir buralardayım. Ve insanlar daha iyiye gitmedi
Hukuken gerçek bu olabilir, ama bunu yapmak yine de teknoloji sektörünün kötü insanı gibi görünmenize yol açıyor
Yazı, verilerimle eğitim yapılmasının dışında gizlilik kaygıları olduğunu fazlasıyla hafife alıyor
Profesyonel olarak çalışan biriyim ve müşteriler, bilginin nereye gittiği konusunda gizlilik sözleşmeleri ve düzenlemelere tabi. Veri sızıntısı noktalarının giderek artmasındansa, verinin sadece sunucuda kaldığı bir hizmet kullanmak isterim
En başta verilerimin neden her zaman tamamen şifreli olup yalnızca benim görebileceğim şekilde tutulmadığını pek anlayamıyorum. Ama benim rızam ya da ilgim olmadan başka bir şirket tarafından yenip işlenmek üzere internetin ötesine aktif olarak gönderildiği fikri korkunç
Seçip açtığımda yapay zekâ özelliklerini sık kullanıyorum, ama şirketin kişisel dosyalarımı iznim olmadan internetin dört bir yanına göndermesi delilik
Açıkçası OneDrive’da bir geçiş aracı vardı; bu yüzden Dropbox Business deneme sürümünü alıp dün gece dosyalarımın tamamını otomatik olarak taşıttım. Masaüstü arayüzüne ıvır zıvır ve pop-up’lar koymaları, sürekli istediğim uçtan uca şifrelemeyi sunmamaları gibi davranışlarda bu bardağı taşıran son damlaydı
Dropbox Business’tan Office 365 OneDrive hesabına birkaç tıklamayla taşımak istiyorsanız burada: https://learn.microsoft.com/en-us/sharepointmigration/mm-dro...
Homomorfik şifreleme dağıtık bilişim için bir çözüm olabilir, ama gerçeğe dönüşmesi için daha birkaç yıl var. O zamana kadar buluttan çıkış, on-premise’a dönüş, güven grupları içinde hibrit özel bulut kooperatifleri gibi yöntemlere gitmek gerekiyor
Bir başka neden de bireylerden ve küçük şirketlerden büyük veri tarafına akan devasa servet transferini engellemek
Her şeye kadir yapay zekânın dünyayı ele geçireceği fantezisinin azalması ve daha sıradan gerçekliğin daha iyi anlaşılması sevindirici. Yapay zekâ, zaten var olan absürt güç dengesizliklerini yalnızca hızlandırıyor. Özel olan özel kalmalı
Bulut sağlayıcınızın sizin çıkarınızı her şeyin üstünde tuttuğuna inanıyorsanız bol şans. Burası Hacker News ve güvenin varsayılan olarak verilmediğini, kazanılması gerektiğini düşünüyorum
Uçtan uca şifreleme değil, ama şirketin şifreli veriyi eğitim derlemi olarak kullanmasını engelleyebilir. İş arkadaşlarının ya da ailenin oluşturduğu paylaşımlı klasörler ve dosyalar, şifrelemeyi bilecek kadar teknik bilgili olmayabilir mi?
Müşterilerle gizlilik sözleşmeniz varsa uçtan uca şifreleme olmayan Dropbox’ı kullanmamalısınız; OneDrive için de aynısı geçerli
Esas mesele yalnızca Dropbox’taki kişisel dosyaların OpenAI model eğitim verilerine geçip geçmediğinden endişe etmek değil
Hangi amaçla kullanılırsa kullanılsın, ben izin vermedikçe verilerimin hiçbir yere gönderilmesini istemiyorum
Bu durumda yalnızca OpenAI’ın dosyalarımızla eğitim yapıp yapmadığına değil, onların dosyalarımızı güvenli biçimde işleyebileceğine de güvenmemiz gerekiyor. Eğitim yapmayacakları sözünün doğru olduğundan şüphe etmek için bir neden yok, ama sorun yine de ortada duruyor
Ama aynı zamanda model çıktıları üzerinde bir tür izleme yapıyor da olabilirler; özellikle de kişisel dosyalarda arama artırımlı üretim (RAG) kullanılıyorsa açık bir kişisel veri sızıntısı ortaya çıkabilir
İnsanların ayrıntılı şartları tamamen anladığına inanmamak oldukça makul. Muhtemelen gerçekten anlamayacaklar; ayrıca yapay zeka şirketlerinin açıkça gösterdiği bir şey varsa, o da içerik üreticilerinin izni olup olmadığına bakmadan istedikleri materyali istedikleri şekilde kullanabileceklerini düşünmeleri
Üçüncü tarafların ya da ikinci tarafların verileri okuyamamasını istiyorsanız, istemci tarafında uçtan uca şifreleme olduğundan emin olmanız gerekir
Bu da Dropbox yerine Syncthing kullanmanız, Slack ya da Discord yerine Signal kullanmanız gerektiği anlamına gelir
Özellikle geçmişte belgelenmiş birkaç güvenlik sorunu vardı
Yazıdaki mikrofon güveni hikâyesi, daha net ortaya konabilecek asıl noktadan dikkati uzaklaştıran bir konuyu saptırma gibi görünüyor
Facebook kelimenin tam anlamıyla uygulamalardan ve internetten veri alıyor, internetteki davranışları takip ediyor ve bu verileri sizinle ilgili modellere koyuyor. Bu modeller o kadar isabetli ki bazen ne düşündüğünüzü neredeyse tahmin edebiliyor. Bu yüzden sıradan insanlar mikrofonla dinlendiği sonucuna varıyor
OpenAI gibi büyük dil modeli şirketleri ve onların iş ortakları da neredeyse tamamen aynı modelleri kullanıyor. Her türlü kaynaktan veri kazıyıp modellerini iyileştiriyor ve sizi istedikleri yerlere tıklatmaya devam etme olasılığını artırarak bunu paraya çeviriyorlar
Mekanizma konusunda teknik olarak yanılıyorlar, ama mahremiyete aşırı müdahale edildiği noktasında tamamen haklılar. Bu müdahalenin mikrofon değil de isabetli modeller biçiminde gelmesi yalnızca teknik bir ayrıntı; nihai etki aynı
Büyük bir üniversitenin yakınında yaşadığım için muhtemelen IP’den tahmin ediyorlar. Arada Lexus ya da Jaguar reklamları da çıkıyor gerçi; onlar fena değil
Facebook’un gizlice telefon mikrofonuyla birilerini dinlediğine inanmıyorum, ama “yalanları ortaya çıkarsa itibar riski astronomik olur” argümanı hiç ikna edici değil
Tanıdığım ABD’li, teknik olmayan sıradan insanlar arasında Facebook’un itibarı zaten berbat. İnsanlar Facebook’un 6 Ocak 2021’deki ayaklanmayı kışkırtmaya katkıda bulunduğunu ve sonrasında hiçbir sorumluluk almadan hiçbir şeyi düzeltmediğini gördü
Zaten birçok kişinin muhtemelen yaptığını düşündüğü bir şeyi gerçekten yaptığı ortaya çıksa, bunun yaratacağı itibar kaybı bundan çok daha küçük olur
OpenAI olsun başka bir büyük şirket olsun, yaptıklarını, yapacaklarını ya da yaptıklarını söyledikleri şeyi “güvenilir” bulmuyorum
Yine de OpenAI’ın kullanıcı onayı olmadan Dropbox verilerini model eğitiminde kullandığına inanmıyorum
Ama buradaki mesele bu değil. Mesele aktarım hâlindeki veri. Gerçekten okuyabilecek üçüncü taraflara gönderilen veri; Dropbox’ın kontrol edemeyeceği kötü niyetli çalışanların olabileceği yerlere, kayıtlara geçebileceği ya da başka politikalara tabi olabileceği yerlere giden veri sorun
Dropbox’a özel verilerimi gönderiyorsam, Dropbox bunları “ürün iyileştirme” dâhil hiçbir gerekçeyle, açık ve yeterince bilgilendirilmiş onayım olmadan kimseye göndermemeli. Bunun neden tartışma konusu olduğunu anlamıyorum
Dropbox modeli doğrudan kendisi barındırıp onay veren kullanıcılara arama destekli üretimsel arama sunuyorsa bu ayrı bir konu
Dropbox kimseye önceden haber vermeden tüm kullanıcıların verilerini üçüncü tarafa gönderiyorsa bu bambaşka ve korkunç bir şey
Eğitim ya adil kullanımdır ya da değildir. Üstelik yüksek büyümeli Silicon Valley şirketleri yasanın ruhuna uymalarıyla pek ünlü değil
Hatta politika, istedikleri zaman güncelleyebileceklerini de söylüyor
Gizlilik politikası yasal olarak bağlayıcı bile değil. ABD’deyseniz ve Dropbox ile bir sözleşmeniz yoksa neredeyse hiç hakkınız yok; olduğunu düşündüğünüz hakları ileri sürmek için mahkemeye gitmeniz gerekir, mahkeme de pratikte parayla kazanılan bir sistem ve karşınızda milyarlarca dolarlık varlığa sahip bir şirket var
Dropbox kendisine duyduğunuz güveni açıkça ihlal ederse bu gerçekten berbat olur ve kimsenin bir daha Dropbox’a veri emanet etmemesine yol açacak korkunç bir iş kararı olabilir. Ama bir gün tamamen kötüye dönüp verileri para ödeyen herkese vermeye başlarsa, yapabileceğiniz pek bir şey olmayacak gibi görünüyor
Önemsediğiniz verileri yerel yedek ve şifreleme olmadan buluta koymamalısınız. Böylece bulut sağlayıcısının ne yaptığı ya da verileri kime verdiği konusunda endişelenmenize gerek kalmaz
Aksine, bu tür özellikleri sunamayacak şekilde verilerimi şifrelemelerini isterdim. Veri kurtarma istiyorum; ama bu yapay zeka “özelliğini” sunabiliyor olmaları bile, kötü niyetli bir iç çalışanın ya da üçüncü tarafın verilerime erişmesini engellemek için pek az çaba gösterdikleri anlamına geliyor gibi görünüyor
Mali cezalar ifşa başına ve ilgili çalışan başına çok yüksektir; belgeleri doğrudan ifşa eden/paylaşan çalışan bireysel olarak da sorumlu olur
Bu yüzden, bildirim yapmadan açıklanmamış bir üçüncü tarafla belge paylaşmış olsalar bile bunun “hepsi” olmayacağından eminim. Kurumsal veriler muhtemelen güvendedir. Bu tür sözleşmeler imzalanmadan önce sıkı şekilde incelenir
Yapay zekada güven krizi mi?
Bir şirketin yönetim kurulunun ve CEO’sunun, yalan ya da manipülasyon iddiaları yüzünden görevden alınmış/değiştirilmiş gibi göründüğü ama kimsenin bunun ne olduğunu net bilmediği bir olaya tanık olduktan sonra daha da öyle değil mi?
Dropbox kullanıcı verilerini tarayıp türev veriler oluşturursa, bu “türev” veri artık “kullanıcı verisi” değil Dropbox verisi olur ve paylaşılabilir. Sadece istatistiksel nitelikte olabilir ve tekil kullanıcıyla doğrudan ilişkili olmayabilir; ama bu tam olarak eğitim verisi değil mi? Zaten böyle çalışmıyor mu? O hâlde yapay zeka modeli eğitimi için paylaşılabilir değil mi?
Bu yalan değil, kelime oyunu. Hayır, bu etik dışı davranış ve büyük teknoloji şirketlerinin standardı hâline geldi
Bu kavgada bir çıkarım yok. Ne Altman’ın ne de OpenAI’ın tarafındayım. Ayrıca bu cesur yeni dünyanın bizi nereye götürdüğü konusunda ciddi kaygılarım var. Varış noktası ne kadar cazip görünmese de bu atlıkarıncadan inmek için güvenilir bir seçeneğimiz olup olmadığını da bilmiyorum
Burada anlatılan Dropbox davranışı, teknoloji şirketlerinin güveni kırdığı çok uzun dizinin yalnızca bir halkası
Yazarın verdiği örnekte Dropbox, verileri yalnızca kullanıcı belge özeti gibi yapay zeka ile ilgili bir özelliğin açıkça çalıştırılmasını istediğinde OpenAI’a gönderiyor. Oysa tepki, kanıt olmadan insanların belgelerinin toplu hâlde taranıp yüklendiğini varsayıyor gibi
Yapay zeka şirketlerinde etik dışı davranış elbette var. Kişisel olarak bunun oranının genel nüfustaki etik dışı davranış taban oranından yüksek mi düşük mü olduğu konusunda hükmümü askıya alıyorum. Her hâlükârda kötü davranıştan söz edilecekse korku tellallığı değil, alıntılanabilir kanıtı olan somut örnekler kullanılmalı
Yapay zeka şirketlerine güvenmeyen insanların, sektör fark etmeksizin birçok şirket, kâr amacı gütmeyen kuruluş ve hatta devlet kurumları hakkında da benzer duygular taşıması muhtemel
Kime sorduğunuza bağlı ama yapay zeka tabanlı şirketlerin kapsamını çok aşan daha büyük bir güven sorunu var gibi görünüyor. Bu yüzden yalnızca bu belirli alandan kendilerine yönelen güvensizlikle mücadele etmesini istemek, her yerden gelen güvensizlikle uğraşmaları anlamına geliyor; bu da bu şirketlerin kapsamını aşan imkânsız bir görev gibi görünüyor
Bu sorunun cevabının ne olduğunu, gerçekten bir sorun olup olmadığını, bu dört bir yana yayılan sinizm her şeye ve herkese sirayet ederse nereye gideceğimizi de pek bilmiyorum. Belki de sadece ilginç zamanlarda yaşamaya lanetlenmişizdir
Sektörümüzün tamamı güveni inanılmaz ölçüde kötüye kullanıyor ve bunun yakın zamanda değişeceğine dair bir işaret görünmüyor