Yapay zeka güven krizi

Dropbox'ın yeni AI özelliklerine yönelik güvensizlik

• Dropbox yeni AI özellikleri ekledi.
• Bu özelliklerin verileri OpenAI'ye gönderdiği yönünde eleştirilerle karşı karşıya kaldı.
• Dropbox, kişisel dosyaların model eğitim verisi olarak kullanılmadığını reddediyor.

Önemli ayrıntılar

• Dropbox'ta, müşterinin onayı olmadan müşteri verilerinin AI model eğitimi için kullanılmayacağı ilkesini içeren bir belge bulunuyor.
• Ayarlarda gizlenmiş bir onay kutusu var ve bunun kullanıcının rızasını gerçekten yansıtıp yansıtmadığı belirsiz.

OpenAI'ye güvenmeyen insanlar

• Dropbox'ın üçüncü taraf ortağı OpenAI, verileri dahili model eğitimi için kullanmadığını ve 30 gün içinde sildiğini söylüyor.
• İnsanlar OpenAI'nin bu açıklamalarına inanmıyor ve yapay zekaya yönelik bir güven krizi yaşıyor.

Facebook mikrofonunuz üzerinden sizi dinlemiyor

• Facebook'un kullanıcının mikrofonunu dinleyip buna göre reklam gösterdiği teorisi, teknik ve teknik olmayan nedenlerle kolayca çürütülebilir.
• Ancak insanlar, kendi deneyimlerine dayanarak bu tür iddialara inanmamazlık etmiyor.

Bu gerçekten önemli

• Güven önemlidir ve bir şirketin kişisel verileri nasıl işlediği konusunda yalan söylemesi çok ciddi bir iddiadır.
• Hükümetin rolü, böyle şeylerin yaşanmamasını sağlamaktır.

Yapabileceklerimiz

• Büyük AI araştırma laboratuvarları, eğitim verileri hakkında bilgi paylaşarak güveni artırabilir.
• ChatGPT ile yapılan etkileşimlerin modeli geliştirmek için kullanıldığı belirtiliyor, ancak bunun nasıl yapıldığına dair ayrıntılar yetersiz.

Yerel modeller için fırsat

• İnsanlar, bulut yerine kendi cihazlarında çalışan yerel modellere daha fazla güveniyor.
• Yerel modellerin kalitesi artıyor ve boyutları küçülüyor.

GN⁺ görüşü

• Yapay zeka ile gizliliğin kesişimi önemli bir konu ve bu konuda şeffaf bir diyaloğa ihtiyaç var.
• Dropbox ve OpenAI'nin açıklamalarına duyulan güvensizlik, teknolojiye dair anlayış eksikliği ve güven yoksunluğundan kaynaklanıyor.
• Bu yazı, AI teknolojisinin hızlı gelişimini ve buna eşlik eden gizlilik önemini vurgularken; anlayış ve güvene dayalı şeffaf iletişimin neden gerekli olduğunu anlatarak ilgi çekiyor.

[GN⁺]

Hacker News görüşleri

• Ekran görüntüsü doğrudan benim hesabımdan alındı. 'Açık' olarak ayarlanmış, ancak bunu ben kendim açmadım.

  • Web sitesi gizliliği açısından 'rıza' konusunda da bir kriz var. Hukuken uygulanabilir bir rıza tanımına ihtiyacımız var ve bu, kullanıcının verilerinin üçüncü taraflara gönderilmesine açıkça onay vermesi gerektiği anlamına gelmeli. İyi bir yazı, ancak 'telefonum beni dinliyor' ile 'OpenAI verilerimi nasıl kullandığı konusunda yalan söylüyor olabilir' benzetmesi biraz kusurlu. Çünkü iPhone mikrofonuna erişen üçüncü taraf uygulamalara yönelik güçlü denetim, verilerin üçüncü taraflara iletilmesiyle aynı şey değil. Sıradan insanlara aynı görünebilir, ama gerçekte ilkine karşı korunuyoruz. Kullanıcı verilerinin mahremiyeti ve egemenliği için verilen mücadelenin zaten kaybedildiği varsayımıyla hareket etmek çok verimsiz. Teknolojiden biraz anlayan insanların, şirketlerin yeni suistimallerine 'eski haber' tavrıyla yaklaştığını çok görüyorum. Bu insanlar daha iyi bir örnek olmalı. Bu tür bir çaresizlik güveni zedeliyor ve daha iyi bir dünyanın mümkün olduğu hissini vermiyor. Dropbox'ın hatası, bu düşünce biçiminin geri tepmesi gibi görünüyor: Kullanıcıların, onlara sormadan özel dosyalarını üçüncü taraflara göndermemizi umursamayacağını düşündüler. Verilerimin çoğunu zaten Dropbox'tan çıkardım ve dün Dropbox'ı tamamen iptal etmem gerektiğini hissettim. Teşekkürler, Dropbox!

• Bu yazı biraz saf ve 'iyi niyet varsayımı' havası veriyor. Son 10 yılda AI dışında neler olduğuna bakın: herkes veriyi kompulsif bir koleksiyoncu gibi tüketiyor. Sadece Google ve Facebook değil, herkes böyle yapıyor. Bugün İsveç geleneksel yemekleriyle ilgili küçük bir sitenin otomatik oynayan videolar, dark pattern cookie consent banner'ları vb. eklediğini fark ettim. Neredeyse her yeni uygulama/site bu ekonomik eksen etrafında kuruluyor. Ve tam da LLM'ler güçlenmeye başlarken üçüncü taraf API'lere yönelik koordineli bir kapatma başladı. Şimdi ChatGPT/OpenAI ve rakipleri var. Diğer oyuncular veriyi gizlice gece atıştırması gibi tüketiyorsa, mevcut nesil AI daha çok kana ve beyne susamış hızlı, çevik zombilere benziyor. Bunun nedeni verinin üründe daha doğrudan bir rol oynaması, ama aynı zamanda teknoloji VC'lerinin tipik hype train rekabet psikolojisinin de onlarca yıl sonra ilk kez yeniden canlanması. Her şey zombi kıyameti / altına hücum / sonra af dile yaklaşımını işaret ediyor. Bu yüzden hepsinin güvenlik/sorumluluk söylemine daha çok sarıldığını güçlü biçimde düşünüyorum. Kaçınılmaz PR itibar krizleri gelmeden önce suyu bulandıracak mühimmatı önceden topluyorlar. Bu arada biz teknoloji insanları, sanki son 10 yılı derinden yaşamamışız gibi oyalanıyoruz ve bu kez AI'ın akademik bir temeli olduğu için, havalı yeni şirketler yüzünden, güvenlik söylemi yüzünden, 'ayağı yere basan' kurucuların keskin Twitter çıkışları yüzünden durumun farklı olacağını sanıyoruz. Tam olarak ne olduğunu bilmiyor olabilirim, ama insanların nasıl çalıştığını bilecek kadar uzun zamandır buradayım. Ve daha iyiye gitmediler.

• Bence yazınız, verilerim üzerinde eğitim yapılmasının ötesindeki gizlilik sorunlarını gözden kaçırıyor.

  • Bir profesyonel olarak, bilgilerimin nereye gittiğine ilişkin gizlilik sözleşmelerine ve düzenlemelere uymak zorunda olan müşterilerim var. Verilerimin sunucuda kaldığı hizmetleri tercih ediyorum. Verilerimin neden her zaman tamamen şifreli olmadığını ve yalnızca benim görebileceğim şekilde tutulmadığını anlamıyorum, ama benim onayım ya da ilgim olmadan internet üzerinden başka bir şirkete gönderilip işlenmesi korkunç. AI özelliklerini kullanırken buna onay veriyorum, ama özel dosyalarımın benim onayım olmadan internetin ötesine gönderilmesi delilik. Dürüst olmak gerekirse, OneDrive'ın bir migration tool'u var ve dün gece Dropbox Business için bir deneme hesabı alıp tüm dosyalarımı otomatik olarak taşıdım. Bu, şirketin ben istemediğim şeyleri yapmaya devam etmesi ve sürekli istediğim özelliği sunmaması konusunda son damlaydı... end-to-end encryption. Dropbox Business'tan Office 365 OneDrive hesabına birkaç tıklamayla geçiş yapmak isterseniz, burada: [migration tool link]

• Buradaki temel sorun, insanların Dropbox'taki özel dosyaların model eğitimi için OpenAI tarafından kullanıldığından endişe etmesi.

  • Bu sorunun sadece bir kısmı. Ben onaylamadıkça verilerimin hiçbir yere gönderilmesini istemiyorum. Bu olayda, OpenAI'nin dosyalarımızı eğitimde kullanmayacağı yönündeki beyanlarından şüphe etmek için bir nedenimiz yok, ama dosyalarımızı güvenli biçimde ele alacaklarına güvenmek zorundayız.

• Facebook bunu yapmadığını söylüyor. Yalan söylerken yakalanırlarsa itibarları için risk muazzam olur.

  • Facebook'un birinin telefon mikrofonu üzerinden gizlice dinleme yaptığına inanmıyorum, ama bu spesifik iddia hiç ikna edici değil. Facebook'un itibarı, en azından tanıdığım teknik olmayan sıradan insanlar arasında zaten dibe vurmuş durumda. ABD'de yaşıyorum ve insanlar Facebook'un 6 Ocak 2021 olaylarının kışkırtılmasına yardım ettiğini, ardından da hiçbir şeyi düzeltmeden tüm sorumluluktan kaçtığını biliyor. Birçok insan zaten bunu muhtemelen yaptıklarını düşünüyor; bu yüzden buradan doğacak itibar zararı, onların emebileceği diğer zararla kıyaslanamaz.

• Yazıdaki mikrofon güveni boyutu, asıl noktayı daha net ortaya koyabilecek şeyden dikkati dağıtan bir red herring gibi görünüyor.

  • Facebook, verilerinizi uygulamasından ve internetten alıp internetteki davranışınızı takip ediyor ve bu verileri sizin <i>modelinize</i> besliyor. Bu modeller bazen sizin ne düşüneceğinizi neredeyse tahmin edecek kadar isabetli oluyor. Bu yüzden sıradan insanlar onların mikrofon üzerinden dinleme yapıyor olması gerektiği sonucuna varıyor. OpenAI gibi LLM şirketleri ve ortakları da neredeyse tam olarak aynı modelleri kullanıyor. Veriyi bulabildikleri her yerden alıp modeli iyileştiriyorlar; sizi tıklamanızı istedikleri yerlere tıklatmaya devam ettirmek ve sizden para kazanmak için.

• OpenAI'ye ya da başka bir büyük şirkete, yaptıklarını söyledikleri, yapacaklarını söyledikleri ya da yapmakta oldukları şeyler konusunda 'güvenmiyorum'.

  • Ama OpenAI'nin, kullanıcının izni olmadan Dropbox'taki verileri <i>eğitim</i> için kullanmadığına inanıyorum. Fakat buradaki mesele bu değil. Sorun, veriler hareket halindeyken ortaya çıkıyor; gerçekten verileri okuyabilen üçüncü bir tarafa veri gönderiyorsunuz ve Dropbox'ın kontrol edemeyeceği kötü niyetli çalışanlar olabilir, veriler log'larda görünebilir ya da farklı politikalara göre işlenebilir. Dropbox'a kişisel veri gönderiyorsam, açık ve bilgilendirilmiş onayım olmadan bunu herhangi bir nedenle üçüncü bir tarafa gönderemezler. Bunun nasıl tartışmalı olabildiğini anlayamıyorum. Dropbox modeli kendi içinde tutup onay veren kullanıcılara RAG araması sunmak istiyorsa bu bir mesele. Dropbox tüm kullanıcıların tüm verilerini, önceden kimseye haber vermeden üçüncü bir tarafa gönderiyorsa bu bambaşka bir mesele. Berbat bir şey.

• AI için güven krizi mi?

  • Bir şirketin yönetim kurulu/CEO'sunun yalan ya da manipülasyon suçlamaları nedeniyle görevden alındığını/değiştirildiğini duyduktan sonra ne beklenir ki? Dropbox kullanıcı verilerinden türetilmiş verileri tarayarak bir şeyler elde ediyorsa, o 'türetilmiş' veri artık 'kullanıcı verisi' değil, Dropbox verisi olur ve paylaşılabilir. Bu, tek tek kullanıcılarla doğrudan ilişkili olmayan istatistiksel bir nitelik taşıyabilir, ama eğitim verisi tam olarak bu değil mi? Çalışma biçimi bu değil mi? Bu yalan değil, kelime oyunu. Hayır, bu etik dışı davranış ve büyük şirketlerde standart haline geldi.

• AI şirketlerine güvenmeyen insanların, çeşitli sektörlerdeki şirketlere, kâr amacı gütmeyen kuruluşlara, hatta devlet kurumlarına karşı da benzer hisler taşıdığını düşünüyorum.

  • Bana kalırsa mesele, AI odaklı şirketlerin çok ötesine uzanan çok daha büyük bir güven sorunu. Bu yüzden bu alanın her yönden gelen böylesi bir güvensizlikle mücadele etmeye çalışması, bu şirketlerin kapsamını aşan imkânsız bir görev gibi görünüyor. Bunun cevabının ne olduğunu, ortada gerçekten çözülmesi gereken bir sorun olup olmadığını ya da bu yaygın sinizmin her şeye ve herkese yayılması halinde bizi nereye götüreceğini bilmiyorum. Belki de sadece ilginç zamanlarda yaşamaya mahkûmuz.