Google Gemini AI, Google Drive PDF’lerini izinsiz taradığı iddiasıyla tartışma yarattı
(tomshardware.com)- Kevin Bankston, Google Drive/Docs’ta kişisel belgelerini açtığında Gemini’nin kendisinden talep gelmeden özet çıkardığını iddia etti; bu da Workspace AI özelliklerinin varsayılan davranışı ve kullanıcı onayının kapsamı hakkında tartışma başlattı
- Olay Bankston’ın vergi beyannamesi PDF’i örneğiyle başladı; daha sonra sorunun odağı Google Docs’un kendisinden çok Google Drive’da açılan dosyaların davranışına daraldı
- İlgili ayarlar kontrol edildiğinde bile Gmail, Drive ve Docs için Gemini özetleri anahtarı zaten kapalıydı; Gemini’nin yönlendirdiği ayar konumu da gerçek konumla uyuşmadığından kullanıcıların kontrol durumunu anlaması zorlaştı
- Bankston, Drive’da bir belgede Gemini düğmesine bastıktan sonra aynı dosya biçimindeki belgeler açıldığında Gemini’nin otomatik çalıştığına benzer bir kalıp gözlemledi
- Google, Workspace verilerinin eğitim için kullanılmadığını ve saklanmadığını belirterek karşı çıktı; ancak Drive’daki Gemini yan panelinin durumu ile özet ayarları arasındaki ilişki, kullanıcıların bizzat kontrol etmesi gereken bir mesele olarak kaldı
Kişisel belgelerle başlayan Gemini otomatik özet tartışması
- Kevin Bankston, Google Docs’ta kendi vergi beyannamesini açtığında Gemini’nin talep etmeden özet çıkardığını X’te paylaştı
- Gemini’nin Google Docs’ta açılan kişisel belgeleri otomatik olarak işleyip işlemediğini gündeme getirdi ve kullanıcıların farkında olmadığı bir ayarı bulup kapatmak zorunda kalmasından endişe etti
- Daha sonra bağlamın Google Docs’un kendisinden çok Google Drive içinde açılan belgelerle ilgili olduğu netleşti
- Belge türü PDF idi
- Bunun Docs için de geçerli olabileceği ihtimali ise devam ediyor
Kapalı olan özet anahtarı ve çelişkili ayar yönlendirmesi
- Bankston, Gemini’nin yönlendirdiği gizlilik ayarlarını bulmaya çalıştı ancak gerçek konumda ilgili ayarı bulamadığını söyledi
- Daha sonra ilgili anahtarları kontrol ettiğinde Gmail, Drive ve Docs’ta Gemini özetleri zaten devre dışıydı
- Ayarın konumu da Gemini botunun ilk başta gösterdiği iki web sayfasından farklıydı
- Bu deneyim, hassas kişisel bilgiler üzerinde kullanıcı kontrolünün yetersizliği konusundaki endişeleri artırdı
Drive’da gözlemlenen dosya biçimine göre otomatik çalıştırma kalıbı
- Bankston’ın yaşadığı sorun Google Drive ile sınırlı görünüyor
- En az bir belgede Gemini düğmesine bastıktan sonra aynı dosya biçimindeki belgeler açıldığında Gemini’nin otomatik olarak çalıştığı gözlemlendi
- Örnekteki dosya biçimi PDF idi
- Sonrasında Google Drive’da açılan aynı biçimdeki dosyalar otomatik tetikleme kapsamına girdi
- Bankston, 2023’te açtığı Google Workspace Labs’in amaçlanan Gemini AI ayarını geçersiz kılmış olabileceğini de öne sürdü
Google’ın yanıtı ve veri koruma açıklaması
- Bir Google sözcüsü, üretken yapay zeka özelliklerinin kullanıcı seçimi ve veri kontrolü sağlayacak şekilde tasarlandığını açıkladı
- Google’ın tutumuna göre Google Workspace’te Gemini kullanımının kullanıcı tarafından önceden etkinleştirilmesi gerekiyor
- Kullanıcı etkinleştirdiğinde içerik, istemlere faydalı yanıtlar üretmek için gizliliği koruyan bir şekilde kullanılıyor ve izin olmadan ayrıca saklanmıyor
- Google, Workspace veri korumasıyla ilgili blog yazısında Workspace verilerinin toplanmadığını veya eğitim için kullanılmadığını açıklıyor
- Özellik açıksa açılan belgenin içeriğini özetleyebileceğini, ancak bu içeriğin saklanmadığını da ekledi
Yan panel çözümü ve kullanıcıya kalan kontrol yükü
- Google, Bankston’ın Drive’daki Gemini yan panelini kullanmış olabileceğini ve panel kapatılırsa sorunun çözülebileceğini öne sürdü
- Bankston’ın deneyiminde ilgili özet ayarı zaten kapalı olduğundan, kullanıcının beklediği devre dışı durum ile gerçek davranış arasında fark varlığını sürdürüyor
- Google Drive’da saklanan hassas belgeler açılırken Gemini özelliğinin etkinlik durumu, yan panelin durumu ve dosya biçimine göre davranışın kullanıcı tarafından doğrudan kontrol edilmesi gereken bir durum söz konusu
1 yorum
Hacker News görüşleri
Bir bulut sağlayıcısına yüklenen verilerin eninde sonunda benim malımmış gibi kontrol edilemediğini bir kez daha gösteriyor.
Bu kez ortada açık bir sinyal vardı, ama Google sistemlerinin çok uzun zamandır özel belgelerin içindeki verileri okuduğunu ve toplulaştırdığını düşünüyorum.
Bu endişe 20 yıl önce Gmail başladığından beri vardı; o zamanlar insanlar “Google reklam göstermek için e-postaları okuyor” fikrine şaşırmıştı, ama 1 GB gelen kutusu ve yeni arayüz oldukça ikna ediciydi.
Sonrasında Google Drive gibi ürünlerde bunu daha az korkutucu ya da daha az açık görünecek şekilde yapmayı öğrendiler; kurumsal müşteri parasını istemeleri de muhtemelen bir nedendi.
Aksi halde belge aramayı nasıl sunacaklar ki?
Çünkü hem aktarım sırasında hem de depoda şifreleniyor.
Apple da artık verilerin çoğunu aktarım sırasında ve depoda şifreliyor, hangi verilerin korunduğunu da belgeliyor.
Yine de gelecekteki Apple’ın açık modelleri eğitmek için verilerimi kullanmak isteyip istemeyeceğinden emin değilim.
Apple’ın ön-eğitimli çekirdek büyük dil modeline, yerel eğitim tabanlı değiştirilebilir bir ince ayar katmanı ekleme tasarımı gizlilik açısından iyi görünüyor, ama gerçekte pek emin değilim.
Google Drive’a daha az güveniyorum; çünkü Colab Pro’ya ve bazı üçüncü taraflara Drive erişim izni verdim. Bu yazı doğruysa güvenim daha da azalır.
İlk Gmail benzetmesi yerinde.
Gmail herkese açılmadan 3 yıl önce Peter Norvig’den özel davet alıp kullanmıştım ve o dönemde Gmail’in yanındaki alakalı reklamları beğenmiştim.
Ayrıca Workplace gibi ortamlara entegre büyük dil modellerinin yararlılığını denemek istediğim için Google AI Plus mı her neyse, aylık 20 dolarlık hizmete de tüm Google varlıklarıma erişim izni verdim.
Sonuçta Google hizmetlerindeki gizliliğimden gönüllü olarak vazgeçmiş oldum.
Ama bununla herkesin özel verilerinin kazınıp büyük dil modellerine girdiğini ima ediyorsanız, bu açıkça komplo teorisi.
Google’ın on binlerce mühendisi herkesin özel verilerini kötüye kullanan dev bir komployu sessizce gizlemeye ikna ettiğine inanılması şaşırtıcı.
Sonrasında Android’i bıraktım, ama Gmail’den kopmak daha zor.
Tüm yapay zeka için hem eğitim hem de tarama açık rızaya tabi olmalı.
Kullanıcı “Yapay zeka özelliklerini kullanmak istiyorum” onay kutusunu bizzat seçmeli ve bunun ne anlama geldiğini açıklayan metin de çok net olmalı.
Bu zorunlu kılınmalı ve uygulanmalı; uymayan şirketlere ağır para cezaları verilmelidir.
Kelimenin tam anlamıyla verilerim üzerinde bir algoritma çalıştırıp sonucu bana göstermesinden ibaret.
Temelde yazım denetiminden ya da başlık stillerinden otomatik içindekiler tablosu oluşturmaktan farklı değil.
Sonuç yalnızca bana özel tutuluyorsa —ki bu durumda da öyle— neyin endişe verici olduğunu anlamıyorum.
Algoritmanın büyük dil modeli tabanlı olması gizlilik ya da güvenlikle ilgili değil.
Kullanıcı müşteri değil, ürün.
Sosyal medya şirketlerine reklam satışı için veri üretmek yerine, artık yapay zeka eğitimi için veri üretiyor ve karşılığında hizmeti ücretsiz kullanıyoruz.
Eğitim amacıyla değil de belgeyi geçici olarak okuyup özet sunmayı kastediyor gibi; bunun neden düzenleme konusu olması gerektiğini anlamıyorum.
ai.txt diye erken bir girişim olduğunu hatırlıyorum, ama henüz kimin uyduğunu pek bilmiyorum.
Bu yazının açıkça yanlış anlaşılmaya yol açacak şekilde yazılmış olmasını bir kenara bırakarak, yazıda bahsedilen tweet zincirinde paylaşılan bağlantıları derliyorum.
Gemini etkinlik yönetimi: https://myactivity.google.com/product/gemini
Google Workspace ve çeşitli Google uygulamalarında opt-out ile ilgili yanıtların çoğunun bulunduğu sayfa: https://support.google.com/docs/answer/13447104#:~:text=Turn...
Başlık bu konuyu biraz belirsizleştiriyor.
Gemini’den bir belgeyi özetlemesini isterseniz özetlemesi şaşırtıcı değil.
Burada “tarama” ifadesi gereğinden fazla rol oynuyor ve başlık Google’ın Gemini’yi özel belgelerle eğittiğini ima ediyor.
Asıl mesele, kullanıcının açıkça kapattığını sandığı bir durumda Gemini’nin özel belgeyi girdi olarak kullanıp çalıştırılarak özetlemiş olması.
Buna rağmen ayarın uygulanmamış olması Google altyapısında anlamlı bir hata; yeni nesil yapay zeka kullanımına tamamen karşı olan biriyseniz kaçış stratejinizi gözden geçirmenize neden olabilir.
Ama bir kez tek bir PDF’i özetlemesini istediniz diye Gemini Drive’daki tüm PDF’leri özetliyorsa, bu şaşırtıcıdır.
Başlığın yanıltıcı olduğunu düşünüyorum.
Eğitim ya da test için taradığına dair bir şey sanmıştım, ama kullanıcının baktığı metni özetleyen bir özellikmiş.
Bu yüzden “caught” ifadesi dürüst değil.
Yaptığını söylediği işi gerçekten yapmakta olan birini “yakalamış” olmazsınız.
Başlık doğru.
Birinin Google modelinden değerli bir şeyler çekip çıkarması an meselesi.
Banka şifresi ya da kripto para anahtarı gibi bir şey olabilir.
Yapışkanlı pizza olayı, bunların işleri gelişi güzel zorladığını gösteriyor.
COVID döneminde sağlık verileri üzerinden yaşanan kapışmaya benziyor
Çeşitli gruplar krizi kullanarak verileri bir kez tüpten dışarı sıkıp çıkarmaya çalıştı; bazıları da başarılı oldu
Çünkü azarlanmanın maliyeti düşük, veriyi ele geçirmenin değeri büyük
Özünde bu bürokratik bir oldubitti
Gizlilik alanında çalışmış biri için hayal kırıklığı yaratıcı ama öngörülebilir; çoğu kişi de şaşırmış gibi yapıp geçecek
Çünkü kariyerleri, saçma “iyi niyet” anlatısını sürdürme becerisine bağlı
Sırada büyük olasılıkla AT&T’den hacklenen SMS mesajları var; cep telefonu tuş vuruşları sızsa ya da ticari bir platformun OS güncellemesiyle model eğitimi için toplama ajanı eklense bile herkes aynı şekilde şaşıracak
Elbette bunun üzerine kullanıcı memnuniyeti için gizliliği artırma ambalajı da yapıştırılacak
Bu işi ortaya çıkaran ürün yöneticileri ve mühendisler ibretlik hale getirilmezse, bir dahaki sefere daha kötü ve daha büyük ölçekte tekrarlanacak
Orijinal tweet ve bu yazı, terimleri kasıtlı olarak yanlış anlaşılacak şekilde birbirine karıştırıyor
Büyük dil modelinin bir şekilde belgeyle temas etmesi ile o belgenin modelin eğitim veri kümesine dahil edilmesini aynı şeymiş gibi göstermeye çalışıyor
Yazının ve orijinal tweet'in yem noktası bu; ancak tweet zinciri sonunda farkı kabul ettikten sonra AI özelliğinin varlığına öfkelenme yönüne dönüyor
Bu hikâyede, AI açılır penceresine kızan bir Twitter kullanıcısının öfke tetikleyen bir zincir yazıp olayı çok daha sinsi bir şeymiş gibi paketlemesi dışında kayda değer bir içerik yok
Özellikle HN’de bile bu kadar çok kişinin gerçekte ne olduğu konusunda başarıyla yanıltılması şaşırtıcı
Yazıyı okuduktan sonra paylaşım yapan hâlâ var mı diye merak ediyor insan
Google’ın gizlilik ve veri erişimi konusunda yeterince ileri gitmemiş olması şaşırtıcı mı emin değilim
Bunu söylerler, ama kendi hizmetlerinin veriye erişemeyeceği noktaya asla gitmezler
Uzaktan saklanan tüm veriler, sunucunun şifresini çözemeyeceği ve yalnızca bizim cihazlarımızda çözülebileceği noktaya gelmeli
Aksi halde şirketin veriyi istediği kadar madenciliğe tabi tutmasına izin vermiş oluyoruz ve onların ne yaptığını bilmemizin hiçbir yolu yok
Elbette gerçekten şifreyi çözemeyeceklerine inanmamız gerektiği sorunu kalıyor; bunun da iyi bir çözümü yok
Kişisel verilere AI erişimi cihaz içinde işlenmeli; sunucu işlemesi gerekiyorsa bunun kısa vadeli bir sorun olmasını umarken, verinin cihaz dışına gönderildiğine dair açık bir bildirim olmalı
Şu anda model eğitiminde kullanılmıyor olsa bile, Gemini’den ya da herhangi bir uzak sunucudan geçen verinin log olarak tutulup daha sonra ek eğitimde kullanılabileceğini, düz metin loglarda durabileceğini ya da test kullanıcıları tarafından görülebileceğini düşünmek mantıksız değil
En sonunda şirketin “bize güvenin” dediği bir yapıya dönüşüyor ve şirketlerin bu tür işleri emanet etmek için güvenilir olmadığı son derece açık