- Kevin Bankster’ın tweet’ine göre Google’ın Gemini yapay zeka hizmeti, kullanıcı izni olmadan özel Drive belgelerini okuyor
- Bu durum Google’ın itibarına yakışmıyor ve hassas kişisel bilgiler üzerinde hiçbir kontrol bırakmıyor
- Yapay zekanın zorla devreye alınmasının gelecekte doğuracağı gizlilik sorunları açısından da iyiye işaret değil
Tam olarak ne oluyor?
- Ne Google destek ekibi ne de Gemini yapay zekası durumu tam olarak biliyor, ancak Kevin Bankster birkaç teori öne sürüyor
- Bunun teknik olarak bir Google Dokümanlar sorunu değil, Google Drive genelinde yaşandığı görülüyor
Bu sorunun nedeni ne?
- Gemini yapay zekasına göre, Gemini’nin bilmesi gereken gizlilik ayarlarının herkese açık biçimde erişilebilir olması gerekiyor, ancak durum böyle değil
- Görünüşe göre yapay zeka "halüsinasyon görüyor (yalan söylüyor)" ya da Google sunucularındaki bazı dahili sistemlerde bir arıza var
- Bu özel veriler Gemini yapay zekasının eğitimi için kullanılmıyor olsa bile yine de kötü görünüyor
Bankster’ın bulduğu ayar anahtarındaki sorunlar
- Gemini özetleme özelliği zaten devre dışı bırakılmış durumdaydı
- Gemini botunun başlangıçta işaret ettiği web sayfası, tamamen başka bir yerdeydi
Bankster’ın durumunda sorun Google Drive ile sınırlı görünüyor
- En azından yalnızca tek bir belgede Gemini düğmesine bastıktan sonra ortaya çıkıyor
- Eşleşen belge türü (bu durumda PDF), Google Drive içinde açılan aynı türdeki tüm dosyalar için gelecekte otomatik olarak Google Gemini’yi tetikliyor
- 2023’te Google Workspace Labs’i etkinleştirmiş olmak bunun nedeni olabilir. Bu, amaçlanan Gemini yapay zeka ayarlarını göz ardı edebilir
Bu sorun yalnızca Google Workspace Labs kullanıcılarıyla sınırlı olsa bile ciddi bir kusur
- En yeni teknolojileri test etmeye yardım etmenin karşılığında ödenen bedel
- Potansiyel olarak hassas bilgiler söz konusu olduğunda, ayrıntılı düzeyde kullanıcı onayı hâlâ önem taşıyor
- Google bu ilkeye uymayarak, en azından kullanıcı tabanının bir kısmı açısından tamamen başarısız oluyor
GN⁺ görüşü
- Kullanıcı onayı olmadan kişisel bilgilerin toplanıp analiz edilmesi ciddi bir gizlilik ihlalidir. Özellikle vergi iadesi gibi hassas bilgiler söz konusu olduğunda bu daha da ciddidir
- Yapay zeka teknolojisi geliştikçe bu tür sorunlar daha da ağırlaşabilir. Şirketler, kullanıcı gizliliğini korumayı en yüksek öncelik olarak ele almalıdır
- Google Workspace Labs gibi beta test programlarına katılan kullanıcılar için daha iyi koruma önlemleri ve daha fazla şeffaflık gerekiyor
- Yapay zeka teknolojisi devreye alınırken kullanıcı onayına ve seçim hakkına saygı göstermek önemlidir. Zorlayıcı yöntemler kullanıcı güvenini kaybettirir
- Google bu olaydan ders çıkararak Gemini yapay zekası da dahil olmak üzere hizmetlerinin gizlilik politikalarını gözden geçirmeli ve kullanıcılarla iletişimini güçlendirmelidir
Henüz yorum yok.