- O dönem, Şubat 2021'de hafta sonuydu ve pandemi sürüyordu; acil muayene için hemşire, video/fotoğraf çekip gönderilirse doktorun önceden inceleyebileceğini söyledi
- Bebeğin ağrıyan yeri "özel bölge" olduğu için net görünecek şekilde fotoğraf çekip gönderdi; doktor inceledikten sonra hızla antibiyotik yazdı ve sorun kısa sürede çözüldü
- Ancak bu fotoğraflar nedeniyle Google'ın algoritması tarafından CSAM (çocuk cinsel istismarı materyali) paylaşan biri olarak işaretlendi ve Google hesabı askıya alındı
- 10 yıldan uzun süredir kullandığı Gmail, Google Calendar, Google Cloud'a yedeklenmiş fotoğraf ve videoları, ayrıca Google Fi hattı vardı
- Üstelik olayın merkezindeki Mark, bir teknoloji şirketinde kullanıcıların işaretlediği video içeriklerini silen otomasyon aracını geliştiren bir yazılım mühendisiydi
- Bu yüzden bu tür olayların arkasında bilgisayarın hata yapmamasını sağlayan insanlar bulunduğundan, bir insan bakarsa sorunun çözüleceğini düşündü
- Açıklama içeren bir e-posta gönderdi, ancak Google ek açıklama yapmadan hesabı geri yüklemeyeceğini bildirdi
- Tüm e-posta geçmişi, fotoğrafları ve kişileri kayboldu; telefon numarasını da değiştirmek zorunda kaldı
- Mark bilmiyordu ama Google'ın inceleme ekibi onun gönderdiği görüntüleri zaten ihbar etmiş ve San Francisco polisi soruşturma başlatmıştı
- Benzer bir olay Teksas'ta Cassio adlı bir kişinin de başına geldi
- 2021'de Google'a yapılan CSAM ihbarı 600 bini aştı ve 270 bin hesap devre dışı bırakıldı
- 2009'da Microsoft PhotoDNA teknolojisini geliştirdi, 2018'de ise Google CSAM görsellerini tanıyabilen bir yapay zeka aracı geliştirdi
- Facebook dahil birçok şirket bu teknolojiyi kullanıyor
- Aralık 2021'de Mark, San Francisco polisinden posta yoluyla bir mektup aldı
- İçeriğinde soruşturma geçirdiğine dair bilgi ve Google'a iletilen arama emrinin bir kopyası vardı
- Mark'ın Google hesabındaki her şey (internet aramaları, konum geçmişi, mesajlar, belgeler, fotoğraflar, videolar vb.) incelenmişti
- Bu arama, Şubat ayında fotoğrafları çekmesinden yalnızca bir hafta sonra yapılmıştı
- Mark soruşturmacıyla iletişime geçtiğinde, dosyanın zaten suç unsuru bulunmadan kapatıldığı söylendi
- Soruşturmacı Mark'a ulaşmak istemişti ama ne telefonla ne e-postayla erişebilmişti (çünkü ikisi de durdurulmuştu)
- Soruşturmacıya Google hesabının geri yüklenip yüklenemeyeceğini sorduğunda, "Google ile konuşmanız gerekir" yanıtını aldı
- Bu polis raporunu Google'a sundu ama işe yaramadı
- Cassio'nun durumu da aynı şekilde çözüldü, ancak Google hesabı geri getirilemedi
- Yapay zeka, tıbbi görüntüler ile istismar görüntülerini gerçekten ayırt edebilir mi?
8 yorum
Sonunda yerel haberlerde de New York Times alıntılanarak yer buldu.
"Google, muayene için bebek oğlunun cinsel organını fotoğraflayan babayı cinsel suçlu ilan etti"
70 yıl önce bilim insanları nükleer bombayı gördükten sonra bilime yönelik öz denetimi başlattıysa, geliştiricilerin de büyük teknoloji şirketlerine yönelik öz denetime ihtiyaç duyduğu bir dönemde olabiliriz diye düşünüyorum.
Bu artık dava açmalık değil mi..?
Arşivlenmiş haberin aslına göre Mark da Google'a dava açıp açamayacağını öğrenmek için bir avukatla görüştü, ancak bunun yaklaşık 7 bin dolara mal olacağını öğrenince vazgeçmiş gibi görünüyor.
Sanırım burada secdeye kapansa bile yetmeyecek bir durum var....
Vay canına, bu durumda tam tersine verilen zarar için tazminat almaları gerekiyor gibi görünüyor; acaba bunu örtbas etmeye çalıştıkları için mi böyle davranıyorlar?
Google'ın tepkisi ve süreci gerçekten çok düşük seviyede..
Apple, çocukları korumaya yönelik yeni güvenlik özelliklerini kullanıma sundu
Apple, "iPhone taraması" tartışmasından dolayı üzüntüsünü dile getirdi