Tepkilerin ardından Zoom, müşteri verilerini yapay zeka modeli eğitiminde kullanmayacağını açıkladı
(darkreading.com)- Üretken yapay zeka özelliklerinin devreye alınmasının ardından veri kullanım yetkisinin aşırı geniş olduğuna yönelik tepkiler büyüyünce, Zoom müşteri içeriklerini yapay zeka modeli eğitiminde kullanmayacak şekilde şartlarını ve ürünlerini güncelledi
- Kapsam dışı bırakılanlar arasında ses, video, sohbet, ekran paylaşımı, ekler ile anket sonuçları, beyaz tahta ve tepkiler gibi iletişim niteliğindeki içerikler de yer alıyor
- Tartışmanın çıkış noktası, Zoom IQ Meeting Summary ve Zoom IQ Team Chat Compose gibi özellikler için bazı müşteri verilerinin eğitimde kullanılmasına izin veren önceki politikaydı
- Müşteri tepkisinin ardından Zoom önce opt-out seçeneği ekledi, ardından 11 Ağustos'ta hizmet şartlarındaki yapay zeka kullanımıyla ilgili ifadelerin büyük bölümünü kaldıracak şekilde yeniden düzenleme yaptı
- Yeni şartlar da telemetri, ürün kullanımı ve tanılama verileri gibi hizmet tarafından üretilen veriler üzerindeki hakları koruyor; bu da yapay zeka özellikleri ile kullanıcı güveni arasındaki gerilimin sürdüğünü gösteriyor
Müşteri içeriğini yapay zeka eğitiminden çıkaracak şekilde değişen Zoom şartları
- Zoom, müşteri geri bildirimlerinin ardından Terms of Service metnini güncelleyerek müşteri içeriklerini Zoom'un veya üçüncü tarafların yapay zeka modeli eğitimi için kullanmayacağını açık biçimde belirtti
- Yapay zeka eğitiminin dışında tutulan içerikler şunlar:
- ses
- video
- sohbet
- ekran paylaşımı
- ekler
- anket sonuçları, beyaz tahta ve tepkiler gibi iletişim niteliğindeki müşteri içerikleri
- Tartışmanın arka planında Zoom'un üretken yapay zeka özellikleri bulunuyor
- Zoom IQ Meeting Summary: yapay zeka tabanlı otomatik toplantı özeti özelliği
- Zoom IQ Team Chat Compose: yapay zeka tabanlı sohbet yazma özelliği
- Önceki politika, bu özelliklerin arkasında bazı müşteri verilerini yapay zeka modeli eğitiminde kullanma hakkını Zoom'a veriyordu ve bunun müşteri onayı olmadan da mümkün olması tepkiye yol açtı
Geniş veri kullanım hakları ve büyüyen güven yükü
- Önceki şartlar, müşteri verilerinin kullanımı konusunda Zoom'a çok geniş haklar tanıyordu
- “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable” haklar
- makine öğrenimi, yapay zeka, eğitim ve test dahil çok geniş amaçlar
- veriler üzerinde “redistribute, publish, import, access, use, store, transmit, disclose” gibi işlemler
- Müşteri tepkisi sosyal medyada yayılınca Zoom önce “müşteri onayı olmadan ses, video ve sohbet müşteri içeriklerini yapay zeka modeli eğitiminde kullanmayacağız” yönünde politika değişikliğine gitti
- Ardından 11 Ağustos'ta şartları yeniden güncelleyerek yapay zeka kullanımı ile ilgili ifadelerin fiilen büyük kısmını kaldırdı
- Ancak yeni şartlar da hizmet tarafından üretilen veriler üzerindeki Zoom haklarını koruyor
- telemetri verileri
- ürün kullanım verileri
- tanılama verileri
- iterate.ai'de makine öğrenimi sorumlusu Shomron Jacob, teknoloji şirketlerinin kullanıcı deneyimini iyileştirmek ve yeni özellikler sunmak için uzun zamandır müşteri verilerinden yararlandığını düşünüyor
- Burada bağlam, Google, Facebook ve Amazon'un kullanıcı verileriyle hizmetlerini kişiselleştirmesi ve yapay zeka algoritmalarını geliştirmesi
- Yapay zekanın gizlilik, güvenlik ve etik sorunlarına yönelik denetim arttıkça şeffaflık ve kullanıcı onayı beklentisi de yükseliyor
- GDPR ve California'daki CCPA gibi düzenleyici çerçeveler veri toplama ve kullanım standartlarını belirlerken, teknoloji şirketleri yapay zekayı geliştirmek için veriden yararlanma ile düzenlemelere uyum ve kullanıcı güvenini koruma gerekliliklerini birlikte ele almak zorunda kalıyor
1 yorum
Hacker News görüşleri
Veri, şirketin serbestçe okuyup erişebildiği bir veritabanında saklanıyorsa, yani uçtan uca şifreleme yoksa, sonunda şirket kullanım şartlarını değiştirip bu veriyi yapay zeka eğitimi için kullanmaya çalışacaktır.
Teşvik o kadar güçlü ki buna direnmenin zor olduğunu düşünüyorum.
Ücretli müşteriler, kendi izinleri olmadan verilerinin yapay zeka modellerini eğitmek için kullanılmasından gerçekten hoşlanmıyor; son Zoom örneği de bunun en yeni örneği.
Bunu denemeye kalkan şirketlerin canı çok yanar; Zoom’un da şimdiden canı ciddi biçimde yandı. Kişisel olarak Zoom’un bunu gerçekten yapmaya niyetli olduğunu değil, yapmayacağını yeterince net anlatamadığı için bir PR felaketi yaşandığını düşünüyorum.
Ücretli müşteriler bundan hoşlanmıyorsa, şirket açısından teşvik tam tersine yapmama yönünde çok daha güçlüdür.
Şirketler açısından her veri parçasının hangi şartlar sürümü altında saklandığını takip etmek baş ağrısı olurdu; ama veriyi aslında olması gerektiği gibi bir borç/yükümlülük olarak ele almaları için işin bu kadar zahmetli hale gelmesi gerekebilir.
Bağlam yok, kalite kontrol yok. Kalabalığın bilgeliğiyle ortalamada doğru cevaba yaklaşıldığını varsaysak bile, sonuçta yapay zekayı sıradan cevaplar vermeye eğitmiş olursunuz.
Büyük veri furyası döneminde birçok şirket verinin değerli olduğunu söyleyerek her şeyi sakladı, ama çoğu sabit disk maliyeti kadar bile değerli değildi. Değer oluşması için onu kullanma maliyetini ödeyecek bir alıcı olması gerekir.
Dünyada çok veri var, ama gerçekten değerli olan enformasyon ve bilgidir.
Zoom, kullanım şartlarındaki değişikliğin yayılmasından hayal kırıklığına uğramıştır; yine de bunun tartışma yaratacak kadar itibarlarının gizlilik dostu görülmesine de hayal kırıklığı yaşamış olmalılar.
Teams’in şartlarında zaten böyle bir madde yoksa benzer bir tepkiyle karşılaşıp karşılaşmayacağını merak ediyorum.
Farklı hissedenler olabilir, ama benim tanıdığım herkes zaten Teams’ten nefret ediyor ve yalnızca şirketleri zorunlu tuttuğunda kullanıyor.
Eskiden bir Microsoft yöneticisiyle konuşmuştum; Hotmail’e Gmail’deki gibi bağlamsal reklam koyma fikrinin bir ara gündeme geldiğini, ama sert biçimde reddedildiğini söylemişti.
Müşteri verilerini, hatta ücretsiz kullanıcı verilerini bile bu şekilde kullanma fikrinin tabu olduğunu söylemişti. Microsoft parasını dev kurumsal sözleşmelerden kazanıyor ve müşteri verileri herhangi bir şekilde rakiplerin yararına kullanılacak olursa bu sözleşmeler tehdit altına girebilir.
İlgili yazılar:
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - Ağustos 2023 (35 yorum)
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - Ağustos 2023 (177 yorum)
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - Ağustos 2023 (16 yorum)
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - Ağustos 2023 (194 yorum)
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - Ağustos 2023 (510 yorum)
Zoom’un kesinlikle birden fazla yapay zeka modeli var; Teams ve Google Chat vb. için de aynı şey geçerli.
Toplantılarda otomatik altyazı ve transkripsiyon için bu modellere ihtiyaç var; otomatik arka plan bulanıklaştırma ve arka plan ayırma için de modellere ihtiyaç var. Muhtemelen bir “toplantı özeti” ürünü üzerinde de çalışıyorlardır.
Bunlar insanların sevdiği ve sürekli kullandığı özellikler. Zoom’un platformun gerçek kullanıcı verilerini toplamadan bu özellikleri nasıl iyileştirmesinin beklendiğini merak ediyorum.
Çok geç. Kendi barındırdığım Jitsi instance’ını ayağa kaldırmam bir saat sürdü ve geri dönmek için hiçbir neden yok.
Jitsi’nin performansına ve kararlılığına şaşırdım.
Ben dahil tanıdığım birkaç kişi yakında bu yola girmeyi düşünüyor.
Kullanıcı verileriyle eğitim yapan yapay zeka şirketlerinin bir listesini hazırlıyorum: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Zoom maddesini güncelleyeceğim, ama hâlâ şüpheli buluyorum
Geçen hafta müşteri verilerinin bir kısmıyla bir regresyon modeli uydurdum; bu durumda müşteri verileriyle yapay zeka eğitmiş mi oldum? Bu bir niyet meselesi mi, herkese açık kullanıcıya yönelik olup olmaması mı, yoksa üretken model olup olmaması mı?
Bu yüzden o ölçütün uygulandığını düşünmüyorum
Zoom aramaların video veya ses verilerini saklıyor mu? Asıl kilit soru bu
Herhangi bir şey saklanıyorsa güvenilemez
Ayrıca HLS veya MPEG-DASH gibi video akış protokolleri kullanılırsa akış video parçaları olarak saklanır ve daha sonra silinir
Büyük şirketlerin bu tür politikaları göze çarpmadan dayatmaya çalışması yine hayal kırıklığı yaratıyor
Kim bunun sorun olmadığını düşünüyor? Sadece parayı kapmaya çalışan bir yönetici mi? Daha iyisini yapmalıyız
“Tepkilerin ardından Zoom, müşteri verilerini yapay zeka modellerini eğitmek için kullanmayacağını söyledi”
Şimdilik
Zaten her şey uçtan uca şifreliyse nasıl eğitim yapabilirler?
Hangisinin daha olası olduğu herkes için oldukça açık görünüyor; ama tuhaf şekilde hangisinin mantıksız olduğu konusunda fikirler ayrılacak gibi
Zoom; Meet, Teams, WebEx ve bildiğim birçok hizmet gibi “şifreli”, ancak genel anlamdaki “uçtan uca şifreleme” varsayılan değil. Bazılarında E2EE seçeneği var, fakat servis ayarlarının derinliklerine gömülü ve açması kolay değil
Bu yüzden tasarım gereği sunucu ses ve videoyu görebilir ve fiilen görür. Altyapı ele geçirilirse saldırgan da görebilir. Varsayılan moddaki şifreleme sadece ISP’nin arama içeriğini görmesini engeller
Buna karşılık Signal aramaları E2EE’dir. Signal sunucuları üzerinden aktarılan aramalarda bile Signal şifresi çözülmüş video veya sesi göremez. Ancak bu durumda bile arama katılımcılarını bilebilir, ne söylendiğini bilmez
Bir parantez olarak, Booth.video’yu bu yüzden yaptık. Bunun temel bir ödünleşim olmadığını; tarayıcıda bile E2EE ve meta veri güvenli görüntülü konferansın mümkün olduğunu göstermek için