Waterloo Üniversitesi otomatındaki yüz tanıma hata mesajı gizlilik endişelerini artırdı

• University of Waterloo kampüsündeki akıllı otomatlarda yüz tanıma uygulamasına ait bir hata görünmesi üzerine öğrenciler, kendilerine haber verilmeden biyometrik ve demografik algılama yapılmış olabileceğinden endişe etti
• Söz konusu cihazlar M&M tasarımlı çikolata ve şeker otomatlarıydı; Modern Languages binası ve Hagey Hall dahil kampüsün çeşitli noktalarına yerleştirilmişti
• Hata fotoğrafı internette yayıldıktan sonra öğrenciler küçük bir deliği kamera veya sensör olarak görüp sticky tack, sakız ve post-it gibi şeylerle kapatmaya başladı
• Tedarik hizmeti sağlayıcısı Adaria, cihazların sahibi veya üreticisi olduğunu ve verilere erişimi bulunduğunu reddetti; üretici Invenda ise yazılımın yalnızca yerel işleme yaptığını, görüntü veya kişisel olarak tanımlanabilir bilgi saklamadığını ya da iletmediğini söyledi
• University of Waterloo, söz konusu otomatların mümkün olan en kısa sürede kaldırılmasını ve o zamana kadar ilgili yazılımın devre dışı bırakılmasını istedi

---

Hata mesajıyla ortaya çıkan kampüs otomatı tartışması

• University of Waterloo’daki akıllı otomatlar, öğrencilerin gizlilik endişelerinin ardından kampüsten kaldırılacak
• Bu otomatların üzerinde M&M görselleri bulunuyor ve çikolata ile diğer şekerleri satıyor
  • Kurulum yerleri arasında Modern Languages binası ve Hagey Hall yer alıyor
• Şubat başında bir öğrenci, Modern Languages binasındaki otomatta bir hata mesajı fark etti
  • Mesaj, yüz tanıma uygulamasıyla ilgili bir soruna işaret ediyor gibi görünüyordu
  • Dördüncü sınıf öğrencisi River Stanley, bu hata olmasaydı öğrencilerin bunu bilmeyeceğini ve alanda herhangi bir uyarı bulunmadığını söyledi

Öğrenci tepkisi ve çevrim içi yayılım

• Hata mesajının fotoğrafı internete yüklendikten sonra öğrenciler arasında hızla paylaşıldı
• Birçok öğrenci otomatın üzerindeki küçük deliği kameranın yeri olarak görüp kapatmaya çalıştı
  • Kullanılan nesneler arasında sticky tack, sakız ve post-it’ler vardı
• Öğrenci Dilpreet Sandhu, bir otomatta yüz tanımaya ihtiyaç olduğunu düşünmediğini ve şaşırdığını söyledi
• Sandhu, bunu öğrendikten sonra benzer teknolojilerin başka yerlerde de kullanılıyor olabileceğini sorgulamaya başladığını ekledi
  • Bir University campus’ün tipik kullanıcılarının da ergenliğin sonlarındaki ve 20’li yaşlarının başındaki genç yetişkinler olduğunu söyledi

Adaria, MARS ve Invenda’nın açıklamaları

• Otomat sağlayıcısı Adaria Vending Services Limited, bir e-postada kendilerinin fulfillment service provider olduğunu belirtti
  • Cihazların sahibi ya da üreticisi değil
  • Cihazlardan gelen bu tür verilere erişimleri yok
• Otomatların sahibi MARS, üreticisi ise Invenda
• MARS, CTV’nin yorum talebine yanıt vermedi
• Invenda da CTV’nin yorum talebine yanıt vermedi; ancak Stanley’e gönderdiği e-postada otomat içindeki demografik algılama yazılımının tamamen yerel olarak çalıştığını söyledi
  • Görüntü veya kişisel olarak tanımlanabilir bilgi saklamıyor
  • Görüntü veya kişisel olarak tanımlanabilir bilgiyi haberleşme yoluyla göndermiyor ya da iletmiyor

Invenda web sitesindeki algılama özelliği açıklaması

• Invenda web sitesine göre Smart Vending Machines, bir kişinin varlığını, tahmini yaşını ve cinsiyetini algılayabiliyor
• Web sitesi, yazılımın USB optik sensörden gelen dijital görüntü haritasını gerçek zamanlı olarak yerelde işlediğini belirtiyor
  • Bu veri kalıcı depolama ortamına kaydedilmiyor
  • İnternet üzerinden buluta gönderilmiyor
• Invenda, Stanley’e söz konusu yazılımın Avrupa Birliği gizlilik yasası GDPR ile uyumlu olduğunu söyledi
• Stanley, bu teknolojinin Kanada’da yasal olup olmadığını sorguladı

Kanada’daki gizlilik örneği ve okulun adımı

• Kanada federal Gizlilik Komiserliği’nin 2020’deki soruşturmasında, Cadillac Fairview’in dijital bilgi kiosklarındaki yerleşik kameraların alışveriş merkezi müşterilerinin bilgisi veya rızası olmadan 5 milyondan fazla görüntü kaydettiği tespit edildi
  • Bu kiosklar yüz tanıma teknolojisi kullanıyordu
• Stanley, açık ve anlamlı rıza olmadan bunun gizlilik mevzuatının ihlali olabileceğini gösteren örneklerin öğrencilere anlatılması gerektiğini düşünüyor
• University of Waterloo, durumu ele aldığını açıkladı
  • Okul, söz konusu otomatların kampüsten mümkün olan en kısa sürede kaldırılmasını istedi
  • Bu süre içinde yazılımın devre dışı bırakılmasını talep etti
• Stanley, okul otomatların kaldırılmasını uygulamazsa Ontario Bilgi ve Gizlilik Komiserliği’ne şikâyette bulunacağını söyledi

[GN⁺]

Hacker News yorumları

• Satıcı firmanın broşürüne bakınca, otomatın bu bilgileri ne için kullandığı oldukça açıkça yazıyor.
  Kimin ne satın aldığına dair demografik bilgileri cinsiyet, yaş vb. olarak topluyor ve bunları reklam hedeflemede kullanıyor. “İş ortağı medya aracıları” ile de birlikte kullandığı belirtilmiş.
  Uygulamayı kurarsanız “oyunlaştırma” ile satışları artırdığını da övünerek anlatıyor: https://a.storyblok.com/f/184550/x/e7435c019e/brochure-svm_g...

  • Büyük bir ekranla kaplanmış otomatlar, modern teknolojide nefret ettiğim her şeyi simgeliyor.
    Alıcı açısından hiçbir şey daha iyi değil. Tüm stoku tek bakışta göremiyorsunuz, kalan miktarı bilemiyorsunuz; makine de bunu güvenilir şekilde bilmiyor. Her etkileşim yavaş ve karşılığında reklamlar ile mini oyunlar alıyorsunuz.
    Gece geç saatte açsınız, tren 2 dakika sonra kalkacak ve sadece bir Snickers almak istiyorsunuz. Bu şirketler neredeyse zarardan ibaret.
  • Broşür harika. En sevdiğim satış argümanı, makinenin içinde fiilen bulunmayan ürünleri de ekranda gösterip satabilmesi ve müşteriye içecek yerine dijital bir IOU verebilmesi.

    "Customizable UI design - Product selection can be extended to include products not physically in the machine. Consumers can store them in Invenda Wallet [a mobile app] and redeem them somewhere else."
    Kolaylığa dayalı anlık satın almayı, daha sonra tekrar gidip halletmeniz gereken ek bir angaryaya dönüştürüyor.
    Sonuçta anlamadığım bir iş modeli açısı vardır herhalde. Yoksa böyle bir özelliğin gerçekten satışları artırması mümkün değil. Dijital ürün mü satmaya çalışıyorlar, yoksa hedeflenmiş dijital kuponlarla yakınlardaki mağazalara ziyaret mi yönlendirmek istiyorlar merak ediyorum. Bunu gerçekten gören biri var mı, onu da merak ediyorum.

  • 21. yüzyıl Amerikan üniversite kampüsünde yüz tanımayla cinsiyet tespit etmek... Medyada büyük bir patlama çıkması için ne ters gidebilir ki?
  • Japonya’da 2010’dan beri yüz tanımalı otomatlar ürün önerisi ve istatistik toplama için kullanılıyor: https://www.youtube.com/watch?v=S2hwnGrn3go
  • Bir Mars bar almak için bile dünya bana hedefli reklam göndermeye çalışıyor.

• Gerçek olduğunu düşünüyorum ama eğlencesine birinin şaka yaptığı bir durumu da hayal etmeden edemiyorum. İletişim kutusu başlığı olsun, uygulama adı olsun, sanki bilerek öyle yapılmış gibi görünüyor.
  2000’lerin sonlarında çalıştığım şirket otomatik pisuvarları olan bir ofise taşınmıştı; o zamanlar epey ilginç şeylerdi. Mat siyah plastik bir cihaz, üzerinde sifon kolu ve koyu renkli kızılötesi geçirgen plastikten parlak bir pencere vardı.
  Kesinlikle otomatik sifon için bir yakınlık sensörüydü, ama biri resmi uyarı gibi “Kameraya dokunmayın” yazısı asıp birkaç kişiyi bayağı huzursuz etmişti.

• Web sitesindeki “USB optical sensor’dan türetilen dijital görüntü haritasını gerçek zamanlı olarak yerelde işler” ifadesine bakınca, USB optical sensor denen şeyin aslında gizli bir kamera, “digital image maps”in de o kameranın görüntüleri olduğu anlamına gelip gelmediğinden şüpheleniyorum.
  Öyleyse “bu verileri kalıcı depolama ortamına kaydetmez veya internet üzerinden buluta aktarmaz” şeklindeki cümlenin geri kalanı da kaçış payı bırakan bir ifade olabilir.

  • Muhtemelen Apple’ın Face ID sensörü gibi bir şey olabilir. Katı anlamda “kamera”dır ama görüntü çekmekten ziyade derinlik haritası yakalayan bir cihazdır.
    Görüntüleri veya ham derinlik haritasını internet üzerinden göndermedikleri sözüne inanabilirim. Veri miktarı da fazla, böyle ham veriyi nerede kullanacaklarını da pek düşünemiyorum.
    Ama demografik bilgileri, hatta belki tekil kullanıcıları belirli satın alma kalıplarıyla ilişkilendirmeye çalıştıkları neredeyse kesin görünüyor.

• 2018’de Renesas “Facial Expression Kit Giveaway” yarışması düzenlemişti ve onlardan birini almıştım. “RZ Omron Facial Expression Kit giveaway” idi; RZ de o dönemde nispeten yeni mikrodenetleyici serilerinden biriydi.
  Ürünü almak için bir beyanname imzalamak gerekiyordu ve gerçekten imzaladım; ama sonunda kullanmadım, daha sonra yerel Hamfest’e gitti. Örnek kod otomat içindi.
  Bugün bulabildiğim ilgili materyal bu kadar: “OMRON Develops Real-Time Facial Expression Estimation Technology” https://www.omron.com/media/press/2012/10/e1023.html

• Çalıştığım yerdeki otomat SSN’in son dört hanesini girmemi istiyordu. Gerçekten nefret etmiştim.

  • Beş yaşındaki birine anlatır gibi, lütfen.

• ABD’de yüz tanıma hâlâ yaygınlaşmadı mı?
  Birleşik Krallık’ta zaten her yerde kullanılıyor. Çoğu mağazada ve ödeme sisteminde var, ülke çapındaki CCTV’de de kullanılıyor; polis protestocuları teşhis etmek için kullanıyor. Yaşadığım bölgedeki okullar çocukların telefonlarına casus yazılım bile kurup çocukları ve ailelerini izliyor.
  Burada bir otomatın beni tanıdığını umursayacak biri olur mu, hayal etmekte zorlanıyorum. Tehlike ne?

  • Bu, yoldan geçenlere ne satın aldığını bağıran sinir bozucu bir yetişkin değil.
    Dünya çapına yayılabilecek bilgileri toplayan, reklamları daha iyi satmak için kullanılan bir toplayıcı.
    Her cuma 05:00’te gazlı içecek alıp almadığın gibi sınıflandırmalar oluşturulabilir. “Parti düşkünü” gibi. Ya da belki değildir; ama sırf para kaybetmek istedikleri için yazılıma ve kameralara ek maliyet üstlendiklerini düşünmek zor.
  • Birleşik Krallık’ın gözetim devleti saçmalığıyla hızla kötüleştiğini biliyordum, ama şimdiden bu noktaya mı geldi?
    Kamu yararı için hayatını riske atıp devlet gözetim kameralarına zarar veren ve onları söken insanlara daha da çok saygı duyuyorum.
  • Tehlike, bu teknolojilerin topladığı sayısız küçük bilgi parçasının bir sonraki soykırımcı diktatörün eline geçmesi. Hangi göstergelere göre tasfiye yapacaklarını merak ediyorum.
  • AB birkaç yıl önce GDPR’ı kabul etti; Birleşik Krallık’ın nasıl bu durumda olduğunu anlamıyorum.

• Böyle şeyler insanı gerçekten çıldırtıyor ama haberin sonu sanıldığı kadar umutsuz değil. Öğrencilerin tabandan karşı çıkması, üniversitenin muhtemelen adım atması ve insanların hukuk çerçevesinde bir şeyler yapabileceklerini hissetmesi güzel
  Bu tür olayların giderek daha az normalleşmesi için baskıyı sürdürmek gerekiyor; cezalar da giderek daha ağır olmalı. Böylece insanlar daha fazla güç bulup karşı çıkabilir
  Bu tür cihazları “tahrip etme” hakkının da yasada açıkça belirtilmesi gerekir. Kişisel olarak, böyle şeyleri beyzbol sopasıyla parçalamanın en azından mahkemede savunulabilir olması gerektiğini düşünüyorum

• İnsanların hangi tür takibi “sorun değil”, hangisini “olmaz” diye gördüğü sınırın nerede olduğunu merak ediyorum
  Burada öğrencilerin yüz tanımadan neredeyse evrensel olarak hoşlanmadığı anlaşılıyor. Buna karşılık çevrimiçi takip konusunda umursamadığını söyleyen çok kişi gördüm
  Sanırım takip gerçek dünyaya taşınıp daha “gerçek” hissettirdiğinde insanlar daha hassaslaşıyor

  • Örtük rıza diye bir şey var. Bir Gmail hesabı açtığımda Google’ın tüm e-postalarıma erişebileceğini biliyorum. Gmail kullanırsam Google’ın reklam profilimi oluşturduğunu da bir ölçüde biliyorum ve buna örtük olarak rıza göstermiş sayılıyorum
    Ama doktorun gönderdiği kan testi PDF’lerini toplayıp sigorta şirketlerine sattığını öğrenirsem, bu nesnel olarak makul rıza kapsamının dışına çıkar
    Söz konusu olan M&M satmaksa, uygun gördüğüm veri toplama toleransı çok düşüktür
  • Çevrimiçi hedeflemeyi pek umursamıyorum. “Açai berry smoothie” reklamının “plaj tatili” reklamına dönüşmesi gibi bir şeyse, ilgilenmediğim bir şeyden ilgilendiğim bir şeye geçilmiş olur ve deneyim iyileşir. Google Maps veya Facebook gibi ücretsiz ürünleri kullanırken bu takasın şartlarını da anlıyorum
    Ama bu durumda otomat şirketi ya da dağıtım ağının bir yerindeki biri, otomat müşterilerine demografiye dayalı reklam göstermek için kullanıyor. Ürünün parasını yine ben ödemek zorundayım ve mevcut hedeflenmemiş reklamların hedefli reklamlara dönüşmesi de söz konusu değil. Zaten başta reklam yoktu
    Reklam gelirinin bir kısmını bana geri vermeleri de mümkün değil; çevredeki otomatların büyük olasılıkla aynı şirkete ait olması nedeniyle rekabet de yok. Sonuçta bu yalnızca şirket için ek bir gelir kaynağı, kullanıcıya hiçbir faydası yok

• Böyle zamanlarda ihtiyaç duyulan vandallar nerede kaldı?

• Biraz hızlı yapıştırıcıyla çözülecek iş