Avrupa'nın CSAM tarama planının demokratik haklar için bir dönüm noktası olduğu uyarısı
(techcrunch.com)- AB'nin CSAM tarama yasa tasarısı, mesajlaşma hizmetlerini kullanıcı iletişimlerini otomatik olarak incelemeye zorlayabilir; bu da çocukları koruma önlemlerinin ötesine geçerek demokratik toplumlarda temel hakların sınırlarını değiştiren bir meseleye dönüşüyor
- Bilinen ve bilinmeyen CSAM ile gerçek zamanlı grooming tespiti dahi talep edilebilir; eleştirmenler, bunun tüm kullanıcıların özel iletişimlerini hedef gözetmeyen bir gözetim ağına sokacağından endişe ediyor
- Hukuki tartışma yalnızca orantılılıkla sınırlı değil; temel hakların özüne müdahale edilip edilmediği sorusuna uzanıyor. Frederik Borgesius, iletişim içeriklerine büyük ölçekte erişimin mahremiyet hakkının özünü zedeleyebileceğini düşünüyor
- Yapay zeka tespiti ve istemci tarafı tarama, büyük ölçekli dağıtım için yeterince hazır değil; yanlış pozitifler, atlatma ve manipülasyon olasılığı nedeniyle hem çocuklar hem de yetişkinler için istenmeyen zararlar doğurabilir
- Uçtan uca şifrelemenin korunması, hedefli soruşturmalar, açık web materyallerinin taranması ve önleme, mağdur desteği ile kolluk iş birliğinin güçlendirilmesi alternatifler arasında sayılıyor; AB yasa yapıcıları ise tespit emri hükümlerini kökten yeniden yazmak zorunda kalabilir
AB CSAM tarama teklifindeki temel tartışma başlıkları
- Avrupa'da tartışılan CSAM tarama yasa tasarısı, mesajlaşma hizmetlerinden kullanıcı iletişimlerinin içeriğini incelemesini isteyebilir
- Kapsam, bilinen CSAM, bilinmeyen CSAM ve gerçek zamanlı grooming tespitini de içeriyor
- Tespit emri alan uygulamalarda tüm kullanıcı iletişimleri otomatik ve hedef gözetmeyen biçimde izlenebilir
- European Data Protection Supervisor tarafından düzenlenen seminerde 20'den fazla konuşmacı bu teklife karşı çıktı
- Seminer yaklaşık 3 saat sürdü
- European Commission'dan Ylva Johansson davet edildi ancak katılmadı; Commission tarafından başka bir katılımcı da olmadı
- Commission, bu önerinin büyüyen bir soruna karşı orantılı ve hedefli bir yanıt olduğunu savunuyordu
- Son dönemde bu planı tanıtmak için mikro hedefleme reklamları kullanıldığına dair işaretler de gösterildi
- AB'de siyasi mikro hedefleme kullanımını sınırlamayı amaçlayan ayrı bir yasa teklifi de ilerliyor
EDPS'nin uyardığı mahremiyette kırılma noktası
- EDPS'den Wojciech Wiewiórowski, özel mesajlaşmanın sistematik ve kitlesel gözetimini zorunlu kılan bir yasanın geçmesi halinde AB'nin geri dönülmez bir noktaya ulaşabileceği uyarısında bulundu
- Bu teklif yalnızca “çocukları koruma” meselesi değil; demokratik toplumlarda mahremiyetin işleyişinin temelini sarsan bir konu
- Değiştirilmeden kabul edilirse internetin ve dijital iletişimin doğasını kökten değiştirebilir
- EDPS ve European Data Protection Board, bir yıl önce yayımladıkları ortak görüşte bu tasarının şifreleme dahil ciddi veri koruma ve mahremiyet kaygıları doğurduğunu belirtmişti
Hukuki orantılılık ve temel hakların özü meselesi
- Commission, Mayıs 2022'de CSAM yasa tasarısının ilk metnini sundu; o tarihten sonra insan hakları etkileri ve hukuka uygunluğu konusunda itirazlar büyüdü
- AB hukuku, mahremiyet ve ifade özgürlüğü gibi temel haklara getirilen sınırlamaların gerekli ve orantılı olmasını şart koşuyor
- Çevrimiçi platformlara genel içerik izleme yükümlülüğü getirilmesi yasak
- Yüz milyonlarca Avrupalının mesajlarını tasarım gereği gözetim konusu haline getiren bir yasa bu ilkeyle çatışabilir
- Radboud University'den Frederik Borgesius, bu teklifin temel haklara müdahalede orantılı bir yöntem olmadığını düşünüyor
- Karşılaştırma için terörle bağlantılı veri saklama davalarını örnek gösterdi ve AB'nin en yüksek mahkemesinin Avrupalıların metadata'sının genel ve ayrım gözetmeyen biçimde saklanmasını defalarca geçersiz saydığını hatırlattı
- Bu teklif metadata değil, iletişim içeriğinin analizini hedeflediği için daha ağır sorunlar doğuruyor
- Borgesius'a göre AB Temel Haklar Şartı açısından temel hakların özü ihlal edilirse, orantılılık incelemesine gerek kalmadan da hukuka aykırılık oluşabilir
- Yetkililerin iletişim içeriklerine büyük ölçekte erişebilmesi, mahremiyet hakkının özüne müdahale anlamına gelebilir
Çocukları koruma amacı ve gerçek zarar ihtimali
- Birçok konuşmacı, teklifin çocuklara yönelik cinsel istismar gibi karmaşık bir toplumsal soruna uygun olmadığını savundu
- Çevrimiçi paylaşılan, reşit olmayanlara ait cinsel görüntülerin önemli bir kısmı, rızaya dayalı olarak reşit olmayanlar arasında yapılan sexting'den kaynaklanabilir
- Bu durumda yasa tasarısı, kendi cinsel kimliğini keşfeden çocukların soruşturulmasına ya da kriminalize edilmesine yol açabilir
- Bir görselin CSAM olup olmadığını yalnızca görselin kendisine bakarak anlamak zordur; bağlam önemlidir
- Hollanda'dan Arda Gerkens, özel iletişimin taranmasının sorunlu durumları yakalayabileceğini ancak çocuklara yönelik cinsel istismarla mücadelede çözüm olmadığını söyledi
- Bilinen CSAM'in görsel barındırma sitelerinde dar kapsamlı biçimde taranarak yayılmasının önlenmesine destek veriyor
- Ancak bunu kovuşturma için değil, yayılmayı engelleme amacıyla değerlendiriyor
- Gerkens, Commission teklifinin görsel barındırma sitelerinden çok özel iletişim ve sonrasındaki kovuşturmalara aşırı odaklandığını belirtti
- Görsel hacmi mevcut sistemleri taşırabilir ve zaten kırılgan olan kolluk yapıları üzerinde daha büyük baskı yaratabilir
- AB ülkeleri arasında iş birliğini ve kolluk sistemlerini güçlendirmek daha iyi bir yatırım olabilir
Uçtan uca şifreleme ve önleme odaklı yaklaşım
- Tufts University'den Susan Landau, Commission teklifinin internette yaşanan farklı çocuk cinsel istismarı ve sömürüsü türlerini birbirinden ayıramadığını düşünüyor
- Soruşturma ve kovuşturma merkezli yaklaşım birçok vakada sınıra dayanabilir
- İnternet tabanlı seks ticareti vakalarının ezici çoğunluğunda fail, mağdura yakın biridir ve mağdur şikayetçi olmak istemeyebilir
- İhtiyaç duyulan şey; çocukları güvende tutan alanlar, topluluk alanları, çevrimiçi güvenlik eğitimi, güvenlik eğitimi ve güvenli tasarım
- Landau'ya göre çocuklara yönelik cinsel istismarı önlemek ve soruşturmak için, uçtan uca şifrelemeden etkilenmeyen birçok yöntem mevcut
- Uçtan uca şifreleme hem çocukları hem yetişkinleri koruyan bir teknoloji
- WhatsApp'tan Helen Charles, Meta'ya ait mesajlaşma platformunun çocuklara yönelik cinsel istismarla mücadele hedefini desteklediğini, ancak Commission yaklaşımının soruna iyi uymadığını ve her yaştan web kullanıcısı için ciddi istenmeyen sonuçlar doğurabileceğini söyledi
- Uçtan uca şifrelenmiş mesaj içeriğinin taranması temel hakları zayıflatır
- Hizmetlerin mesaj içeriğine erişmeden de CSAM ile mücadele edebilmesini sağlayacak makul ve orantılı koşullar gerekli
- Charles, AB'nin ePrivacy Directive'i kapsamında platformların trafik verilerini, yani metadata'yı, önleme amacıyla daha fazla kullanabilmesine imkan tanıyan bir yol önerdi
- Mevcut geçici ePrivacy istisnası yalnızca uçtan uca şifrelenmemiş mesajlarda CSAM'in tespiti, bildirilmesi ve kaldırılmasını kapsıyor; önlemeyi içermiyor
- Meta, yasal olarak mümkün olan yerlerde trafik verileri dahil çeşitli tekniklerle sorunlu davranışları tespit ettiğini söylüyor
Yapay zeka tespiti ve istemci tarafı taramanın teknik sınırları
- Karlstad University'den Jaap-Henk Hoepman, CSAM tespit teknolojilerinin tescilli olması nedeniyle doğruluk iddialarının bağımsız biçimde doğrulanmasının zor olduğunu söyledi
- Microsoft'un PhotoDNA'sı ve Apple'ın NeuralHash'i, açık şekilde yayımlanmış ve araştırılabilir algoritmalar değil
- Bu nedenle şirketlerin sunduğu etkililik rakamlarına güvenmek gerekiyor
- Hoepman, PhotoDNA'nın tersine mühendisliğinin yapıldığı bir çalışmada temel kusurların ortaya çıktığını aktardı
- Bilinen CSAM parmak izleri için, görseli döndürme veya sağa-sola çevirme gibi yöntemlerle tespitin kolayca atlatılabildiğine dair kanıtlardan söz edildi
- Saldırganlar, zararsız görünen bir görseli CSAM olarak tespit ettirecek şekilde manipüle ederek masum insanlara iftira atabilir ya da tespit sistemlerini taşırabilir
- Alexander Hanff, günde on milyarlarca iletişimin tarandığı bir ortamda yalnızca %0,1 hata oranı olsa bile her gün milyonlarca yanlış pozitif veya yanlış negatif üretilebileceği uyarısında bulundu
- University of Bristol'dan Claudia Peersman, Rephrain Centre'ın değerlendirme sonuçlarını paylaştı
- Birleşik Krallık hükümet desteğiyle geliştirilen, E2EE ortamlarında CSAM taramasına yönelik 5 kavram kanıtlama projesi değerlendirme ölçütlerini karşılayamadı
- Yapay zeka destekli çevrimiçi çocuk koruma araçlarının geliştirilmesine karşı değil, ancak bunların uçtan uca şifreli ortamlardaki özel mesajlaşmada büyük ölçekli dağıtıma hazır olmadığını düşünüyor
- Johns Hopkins University'den Matthew Green, istemci tarafı tarama araştırmalarının çok erken aşamada olduğunu söyledi
- Bu konudaki ilk bilgisayar bilimi makalesi 2021'de yayımlandı ve daha iki yıl bile dolmadan bunun zorunlu hale getirilmesi tartışılıyor
- Araştırmacılar bu sistemleri bozmanın yeni yollarını bulmaya devam ediyor; bunun sonucu olarak kullanıcı gizliliğinin ihlali, yanlış pozitifler ve kötü veri enjeksiyonu yaşanabiliyor
- Güvenli biçimde uygulanıp uygulanamayacağını araştırmak için zamana ihtiyaç var
Çocukların hakları ve görüşlerinin eksik kaldığı yasama süreci
- Birçok konuşmacı, yasa yapıcıların çocukların görüşlerini ve haklarını yeterince ele almadığını eleştirdi
- Gerkens, çevrimiçi ortamda çocukların ne yaptığına dair yargılarda bulunulurken çocukların kendilerinin yasama sürecine dahil edilmediğini düşünüyor
- Leiden University'den Sabine Witting, teklifin çocukların mahremiyeti, kişisel verilerinin korunması, ifade özgürlüğü ve bilgiye erişim hakkı üzerinde olumsuz etkileri olacağını belirtti
- BM Çocuk Hakları Komitesi'nin General Comment No. 25 metni, mahremiyetin çocuk güvenliği için gerekli olduğunu söylüyor
- Mahremiyet, çocuk güvenliğinin önündeki bir engel değil; önemli bir ön koşul
- Witting'e göre gençler arasındaki özel mesajlaşmanın CSAM taramasına takılması halinde, soruşturma sürecinin kendisi bile zararlı olabilir
- Özellikle LGBTQ+ çocuklar gibi marjinalleştirilmiş topluluklardan gelen gençler için bu durum yanlış ifşa, daha fazla dışlanma ve en kötü durumda siyasi baskıya kadar uzanabilir
- Özel iletişimin taranması, özel sektör ve devlet tarafından ek inceleme yapılması ve kolluğun devreye girmesi, çocukların mahremiyet hakkına ciddi bir müdahaledir
- EDRi'den Ella Jakubowska, 13 AB üye ülkesinde 13-17 yaş arasındaki gençlerle yapılan temsili bir ankete değindi
- Yetkililerin CSAM taraması amacıyla dijital iletişimleri izleyebilmesi halinde katılımcıların %80'i siyasi faaliyetler veya cinsel keşif konusunda kendilerini rahat hissetmeyeceklerini söyledi
Arama emri olmadan dijital gözetim ve görev alanının genişlemesi endişesi
- Center for Democracy and Technology'den Iverna McGowan, tespit emirlerinin dijital dünyaya yönelik arama emri olmayan bir arama anlamına geldiğini düşünüyor
- Kolluk kuvvetlerinin arama emri ya da makul şüphe olmadan bir eve veya özel alana girip her şeyi aramasını nasıl kabul etmiyorsak, çevrimiçi alanda da bunu kabul etmememiz gerektiğini savunuyor
- McGowan'a göre tespit emri hükümleri kökten yeniden yazılmalı
- Suç şüphesi olmayan kişilere uygulanmayacak kadar hassas olmalı
- Bağımsız bir yargı merciinin onayı ve şüphenin amacı ile dayanağının doğrulanması gerekli
- Bağımsız bir orantılılık değerlendirmesi de içermeli
- Birçok konuşmacı, Europol etrafında görev alanı genişlemesi ihtimalinden endişe duyuyor
- Basına sızan belgelere göre Europol, CSAM tarama teklifi kapsamında elde edilen verilere filtresiz erişim istiyordu
- MEP Saskia Bricmont, Europol'ün bir veri merkezi haline gelmek ve görev alanını büyütüp güçlendirmek istediğini düşünüyor
- Commission'un ilk önerisi, “açıkça temelsiz” olmayan tüm bildirimlerin aynı anda Europol'e ve ulusal kolluk kuvvetlerine gönderilmesini öngörüyordu
- Bricmont'a göre Europol, tespiti CSAM'in ötesine taşıyıp diğer suç alanlarına yaymak için baskı yaptı
Commission ile eleştirmenler arasındaki güven sorunu
- Seminer, Ylva Johansson'ın European Parliament'in sivil özgürlükler komitesi oturumuna katılmasından iki gün önce düzenlendi
- Eleştirmenler, Johansson ve Commission'un bu tartışmalı teklifte yeterli şeffaflık ve hesap verebilirlik göstermediğini düşünüyor
- Bricmont, çocuklara yönelik cinsel istismar gibi hassas bir sorunun kullanılarak yüz milyonlarca Avrupalının temel haklarını etkileyen kapsamlı bir gözetim planının itildiğini söylüyor
- BalkanInsight'ın araştırma haberleri ve olası çıkar çatışmaları hakkında daha fazla şey öğrenilmesi gerektiğini belirtti
- Commission'un yokluğunun diyalog eksikliğini ve kuşkuları büyüttüğünü düşünüyor
- Johansson, bir blog yazısında kendisine yönelik kişisel saldırıları ve şeffaf olmayan lobi faaliyetleri iddialarını eleştirdi
- Avrupa'nın en büyük dijital haklar STK'sı olan EDRi'nin Apple'dan fon aldığını hatırlatarak, sivil toplum muhalefetinin Big Tech çıkarlarını temsil ediyor olabileceğini ima etti
- Jakubowska'ya göre Commission, mahremiyet ile güvenlik arasında yanlış bir ikilik kuruyor
- Mahremiyet ve güvenlik birbirini güçlendirir
- Mesleki sırlar, örneğin avukat-müvekkil gizliliği için de risk bulunduğunu ve bunun hayatta kalanların adalete erişimini engelleyebileceğini söylüyor
Alternatifler: hedefli soruşturmalar, açık materyallerin temizlenmesi, güvenli tasarım
- MEP Patrick Breyer bu teklifi “özgür dünyada eşi benzeri görülmemiş” diye nitelendiriyor ve uzun süredir “Chatcontrol” olarak adlandırıyor
- Ona göre tartışmayı kutuplaştırmak yerine herkesin uzlaşabileceği kısımlar korunmalı ve buna yeni, etkili yaklaşımlar eklenmeli
- Breyer'in önerdiği yön, tartışmanın merkezindeki tespit emirlerinin kaldırılması ve hedefliliğin artırılması
- İletişim taraması, çocuklara yönelik cinsel sömürüye karıştığından şüphelenilen kişilerle sıkı biçimde sınırlandırılmalı
- Gönüllü hedef gözetmeyen tespit de zorunlu tespitle aynı orantılılık sorunlarını taşır
- Kişisel cihazları tarayıcıya dönüştüren istemci tarafı tarama açıkça dışlanmalı
- Kitlesel gözetimin alternatifi olarak, kamuya açık materyallerin önceden taranması öneriliyor
- Bunun Birleşik Krallık ve Kanada'da zaten uygulandığı belirtiliyor
- Yeni AB Centre, açık web'in temizlenmesi, suçun önlenmesi, mağdur desteği ve kolluk için en iyi uygulamalara odaklanabilir
- Breyer, zorunlu yaş doğrulaması yerine güvenli tasarıma odaklanılması gerektiğini düşünüyor
- Profillerin varsayılan olarak gizli tutulup tutulmayacağı, yeni kullanıcılara herkesin fotoğraf gönderebilip gönderemeyeceği ya da kullanıcıların çıplak fotoğraf görmeyi seçip seçmeyeceği gibi tasarım soruları gündeme getiriliyor
- Çocuklara yönelik cinsel istismarı önlemede yalnızca teknik yaklaşım yetmez; teknik olmayan çözümler de önemlidir
- Yasa yapıcılar makul değişikliklerde başarısız olursa, gerçekten gizli özel mesajlaşma ve güvenli şifrelemenin sonu gelebilir; ayrıca demokrasiye daha önce görülmemiş otoriter yöntemlerin girmesinin önü açılabilir
1 yorum
Hacker News yorumları
“İnsanların bu görüntüyü görmesi olgusu başlı başına, Komisyon’un aşmaya çalıştığı tam da o eylem; kendi içinde bir istismar biçimi. Dolayısıyla rıza gösteren bireyler arasında paylaşılmış zararsız bir fotoğrafı alıp soruşturma süreci içinde potansiyel olarak yüzlerce kişiye gösterirseniz, sonuçta fiilen daha fazla mağdur yaratmış olursunuz”
Asıl mesele bu. Bu plan yalnızca çok fazla yan etkiye sahip olmakla kalmıyor; korumaya çalıştığı kişilere gerçekten zarar verecek
Ciddi konuşmak gerekirse, biri “çocukları düşünün” ya da “teröristleri düşünün” gibi tek boyutlu duygusal çağrılarla bir eylemi meşrulaştırdığında, bunu ucuz manipülasyondan başka bir şey olarak görmek zor
Bence destekleyen taraf, güvenlik iddialarını somut rakamlarla kanıtlamak zorunda. Sorumluluk üstlenmeden çok fazla şeyden vazgeçmemizi istiyorlar ve bunun vereceği zararın getirisinden daha küçük olduğunu düşünmüyorum
Örneğin Patriot Act bir terörle mücadele dalgası yaratmadı; aksine büyük ölçekli insan hakları ihlallerini kolaylaştırdı, ama elimizden alınan haklar geri gelmedi. Havalimanı güvenliğinin büyük ölçüde artırılması da benzer; tırnak makasıyla yakalanan kaç terörist var bilmiyorum ama çoğu terör girişimi daha az müdahaleci yöntemlerle de engellenebilirmiş gibi görünüyor
Bunun bir seviye daha kötüsü, sosyal medya gönderilerinde hizmet şartları ihlallerinin korkunç türlerini, yani aşırı şiddet, kan ve vahşet görüntülerini bulmak zorunda olan insanlar. Bu pozisyonlardaki birçok kişinin dayanabilmek için ciddi terapiye ihtiyacı oluyor; ama ne yazık ki çoğu zaman terapiye erişemedikleri de görülüyor
Şüpheli CSAM içeriklerini bütün gün izleyip izin verilsin/verilmesin diye karar vermek zorunda kalsanız? Bunun bir insanı nasıl etkileyeceğini hayal etmek bile zor
CSAM sadece bir sis perdesi. Amaç gözetim; bunu zorla geçirirlerse kısa süre içinde hızla genişleyip her şeyi kapsayacak
Açıkçası artık AB’yi kamu yararına çalışan bir yapı olarak görmüyorum. Zaten epey uzun süredir öyleydi; bürokratik bir teknokrasiye dönüştü
Biri “Parlamento için oy verebiliyorsun, Komisyon üyelerinden biri için de oy verebiliyorsun, o yüzden sorun yok” demeye kalkmadan söyleyeyim: biliyorum. Yine de hiçbir şeyi daha iyi yapmıyor. Mevcut uygulamada demokrasi o kadar dolaylı ki olmasa da olur. Bu tür yasa tasarıları, içlerinden biri tutana kadar sürekli yağacak. Destekleyemem
Durdurulması gerekiyor ama sonunda bir yerlerde bunun olmasından korkuyorum. Bazı Batı ülkelerinde bir kez uygulamaya girerse diğer ülkeler kopyalayacakları bir taslak elde etmiş olacak. Vatandaşlar her yerde kandırılıyor; teknik olmayanlar bir yana, teknik çalışanlar arasında bile birçok kişi bunun iyi bir şey olduğunu düşünüyor. ABD, Birleşik Krallık ve Avustralya’daki arkadaşlarım da bu şeylerin kendi ülkelerine girmesini alkışlıyor. Çocuklar için olduğu gerekçesiyle
Ne yazık ki kimse bu meseleyi yeterince ciddiye almıyor; üye ülkelerde bunun herkes için kötü olduğunu ve çocuklara da yardımcı olmayacağını anlatan büyük reklam ve TV kampanyaları yürütülmüyor
Bu istemci tarafı tarama girişiminin çökeceğini düşünüyorum; daha da önemlisi, öyle olmasını umuyorum. Yalnızca AB vatandaşlarının özgürlüklerini açıkça yok ettiği için değil, uygulansa bile başarısız olmaya mahkûm olduğu için
Temel fikir, CSAM ya da herhangi bir düşmanca kullanıcı senaryosu karşısında etkili değil. Yine de benim umutlarımın yasama gerçekliğinde pek iyi bir sicili yok
İstemciye güvenilemez. Halihazırda var olan ve gelecekte ortaya çıkacak sayısız hizmetin bunu en baştan uygulamayacağı bir yana, bu tür telemetri kaldırılmış uygulama sürümlerine erişmek nispeten kolaylaşacaktır. Örneğin VScode ile VScodium arasındaki ilişki gibi WhatsApp ile WhatsAppium ortaya çıkabilir
Sahtecilik olasılığını da düşünmek gerekir. Birine mesaj gönderip istemci ID’sini aldıktan sonra, o istemcinin hayal edilebilecek en kötü CSAM’i tespit ettiğini bildirebilirsiniz
Yanlış pozitifleri düşünmek gerekir. Maliyeti düşünmek gerekir. Çocukları düşünmek gerekir. İstismarcı olmayan ebeveynlerin sıradan ama karıştırılabilecek fotoğrafları birbirlerine gönderirken CSAM suçlamalarıyla uğraşacağını ve bunların bir kısmında çocukların ebeveynlerinden ayrılacağını düşünmek gerekir
Bu yasanın geçmesi, yasa koyucuların daha iyi kullanabileceği muazzam miktarda zamanı boşa harcamak demek. Bu yönergeyi uygulamak, kusurlu ve istismar edilebilir sistemler kurmak için çok büyük para ve know-how tüketilmesine yol açacak. Sonuçların uygulanması sırasında CSAM ile ilgisi olmayan sayısız acı doğacak. İlk birkaç suçlu yakalandıktan sonra ise düşmanca aktörlerin büyük olasılıkla sadece başka kanallar kullanmaya başlayacağı açık
Ama o zamana gelindiğinde gündem, düşüncelerin istemci tarafında taranmasına kaymış olacak
Yanlış pozitiflerin nasıl çocukların ailelerinden ayrılmasına yol açacağını düşündüğünüzü merak ediyorum
Gerçekten CSAM bulundurmaktan hüküm giymiş kişiler bile bugün mutlaka çocuklarına erişim hakkını kaybetmiyor
“Bilinen ve bilinmeyen CSAM”
Görüntü yapay zekasının bugün geldiği noktaya bakınca, bunun muazzam miktarda yanlış pozitif üreteceği kesin. Hatta hâlihazırda öyle değilse bile, yakında yanlış pozitifleri elemek başlı başına imkânsız hale gelecek. Bu plan, çok daha büyük ve farklı bir sorun yaklaşırken geçmişteki savaşı yeniden veriyormuş gibi görünüyor
Bunun sonucunda birçok kişi kendi çocuklarının fotoğrafları yüzünden işaretlenecek. Çünkü neredeyse her ebeveynin bir yerlerde çocuğunun çıplak fotoğrafı vardır
Bu tür önlemlerin CSAM’i azaltmada neden etkili olmadığı, ya da çok fazla yanlış negatif veya çok fazla yanlış pozitif ürettiği yönündeki tartışmaların asıl noktayı kaçırdığını düşünüyorum.
Yasa koyucular çocuk istismarını azaltmakla ilgileniyor olabilir, ama esas olarak bunu gerekçe gösterip vatandaşlar üzerindeki gözetim ve kontrolü artırmaya çalışıyorlar. Bu, donanım sahibinin çıkarlarına aykırı istemci tarafı yazılımı zorunlu kılma hamlesinden ibaret.
O yazılım bir kez kurulduğunda, ister yasal yoldan ister şüpheli arka kapı anlaşmalarıyla olsun, kapsamı sıradan insanların onaylamayacağı şeylere genişletmek çok daha küçük bir adım haline gelir.
İstemci tarafı tarama çalışamaz ve çalışmayacak.
Kullanıcının sistemdeki hiçbir şeyi değiştirmesini engellemediğiniz sürece istemci tarafı taramanın çalıştığı bir senaryo yoktur. Ne görseli ne de yazılımı değiştirebilmesi gerekir.
Bu sözü akılda tutmak iyi olur. Bunun iyi yapacağı tek şey, mevcut hükümetle uyuşmayan siyasi gerekçelere sahip dürüst, yasalara uyan vatandaşları tespit etmek olacak. Bu geçerse, ırk ayrımcılığı ya da içki yasağı gibi hükümet onaylı ama popüler olmayan yasaları sona erdirebilen gerçek demokrasi AB’de ölmüş olacak.
European Commission güç sarhoşu olmuş durumda.
İyi bir krizi boşa harcama diye bir söz vardır. Kriz dönemlerinin, hükümetlerin antidemokratik ve yurttaş karşıtı yasaları açıkça dayatması için en elverişli fırsat olduğu iyi belgelenmiştir. Bu tür yasalar özgürlükleri aşındırır, serveti yoksullardan zenginlere aktarır; krizler de herkesin zaman ayırıp didik didik ettiği, analiz ettiği ve tartıştığı olağan uzun ve kapsamlı demokratik süreci baypas etmek için kusursuz bir gerekçe sunar.
Yakın zamanda da çok kriz oldu. Covid, enflasyon, mülteci dalgaları, Ukrayna savaşı, İsrail savaşı vardı.
“Zavallı vergi mükellefi, çok derin düşünme. Zaten bu meseleyi anlamazsın. Fazla karmaşık; üstelik virüs/çığırından çıkan enflasyon/geçim maliyeti/savaş yüzünden dikkatin dağılmış ve endişelisin, mahremiyet gibi önemsiz konuları düşünecek vaktin de yok, değil mi? O yüzden arkana yaslanıp kiranı düşün; çevrimiçi gizliliğini biz koruruz, tamam mı?”
Soruşturma kurumları hayatımızın büyük bölümünün artık üçüncü tarafların elinde olmasını ve bu sayede daha kolay erişilebilir hale gelmesini çok seviyor; ortalama bir insan iletişiminde şifreleme kullanabilir hale geldiğinden beri de şifrelemeye yönelik saldırılar hiç durmadı.
Ek olarak, mahremiyet koruyan yazılım geliştiren biriyseniz, hedeflerinizi ciddiye aldığınızda bir gün yüzleşmeniz gereken mesele de budur. Aracınız düşman bir rejimdeki gazetecileri ya da istediğiniz herhangi bir baskı altındaki grubu koruyacak kadar güçlüyse, kişisel olarak iğrendiğiniz işler yapan suçluları da koruyacak kadar güçlüdür.
Bu tür işleri dayatan örgütler, insanların çoğunu meslektaş değil yönetilmesi gereken nesneler olarak gören iktidar hırsıyla dolu kişileri kendiliğinden kendine çeker.
Her yerde aynı şekilde işler. Bu yalnızca Avrupa’nın sorunu değildir.
Tüm mantık şöyle özetlenebilir:
Mevcut teknolojiyle herhangi bir fotoğrafın veya videonun varlığını tamamen ortadan kaldırmak imkânsızdır. İnternet var olduğu ve insanlar yasaklı medyaya erişebildiği sürece, o yasaklı medya yayılmaya devam edecektir.
Buna karşı koymak için devlete, insanların cihazlarına ve hesaplarına bakıp dosyaları görebilmesi için olağanüstü yetkiler verilmelidir; böylece yasaklı medyaya sahip olanlar hakkında dava açılabilir. Devlet de yasaklayacağımız medyanın yalnızca çocuk pornografisi olacağına, başka hiçbir şey olmayacağına gerçekten gerçekten söz verir. Elbette daha sonra bu yetkileri genişletmeye çalıştığında, bunu fiilen engelleyemeyiz. Ve bunu kesinlikle yapacağız.
Bu, doğru sorun olan çocukların cinsel istismarını çözmeye yönelik bir girişim, ama elbette yöntem yanlış
30 yıl önce “insanlar bu tür istismarı VHS kasetlere kaydediyor, Sony ve Scotch’la konuşursak bir şekilde engelleyebiliriz” demeye benziyor. Aslında bugünkü durum biraz daha gerçekçi, ama yine de aynı. Çocukların cinsel istismarını önlemek tüm hükümetler ve tüm vatandaşlar için çok büyük ve yüksek öncelikli olmalı
Kesin ve garantili bir yöntem varsa maliyeti ne olursa olsun yarın hemen yapılmalı
Ama gerçekte yöntemi pek bilmiyoruz. Ruh sağlığı reformu, geniş çaplı eğitim reformu ve çocuk sosyal hizmetleri reformunun birleşmesi; gerçekten risk altındaki çocukların korunmasını ve aynı zamanda bu anlamlı korumanın tüm çocuklara genişletilmesini gerektiren bir mesele
Akıllıca bir fikriniz varsa ilgilenirim
Hiç de öyle değil
Terör, çocuk istismarı ve uyuşturucuyla mücadele adına yeni bir yasa ya da program duyuruluyor, ama gerçek uygulama kapsamı terör, çocuk istismarı ve uyuşturucunun ötesine geçiyorsa, kendi çıkarınıza aykırı oy vermeniz için manipüle ediliyorsunuz demektir. %100 her zaman böyledir
“Cihaz içi akıllı algoritmalarla mahremiyeti garanti ediyoruz. Cihaz içi yapay zeka bir istismar durumu tespit etmediği sürece çocuğunuzun verileri asla yüklenmez. Zaten istismarcılar dışında kim böyle verilerin yüklenmesini engellemek ister ki?”
Saatin çıkarılıp çıkarılmadığı sürekli kontrol ettirilir; çıkarılırsa kimin çıkardığını belirlemek için son 30 saniyelik video yüklenir
Çocuk ya da ebeveyn çıkardıysa ebeveyne para cezası kesilir; çocukla da çocuk koruma kurumuyla zorunlu görüşme yapılarak saati çıkarmasının ‘gerçek’ nedeni ortaya çıkarılır
Şarj için her çocuğa ikişer tane verilebilir. Biri her zaman şarjda, diğeri takılı olur. Takılı saat diğer saatin şarjda olmadığını algılarsa kullanıcıya bildirim gönderir. Belirli bir süre içinde düzeltilmezse ihlal sayılır
Tekrarlanan çıkarma ya da ‘kazara pilin bitmesi’ ihlalleri giderek daha yüksek para cezalarına ve potansiyel olarak çocuğun ebeveynlerinden alınmasına yol açabilir
Bunların hepsi bugünkü teknolojiyle mümkün. Akıllı saatin çocuğu istismarcı ebeveynden kurtardığı birkaç yüksek profilli olay ya da polisin akıllı saat takibiyle bir çocuğu kaçırılma girişiminden kurtardığı birkaç olay üzerinden “tüm çocukların böyle izlemeye ihtiyacı var” dersini çıkarıp yalnızca rıza imal etmek yeterli
Gerçekten öyle mi? CSAM bulundurmayı cezalandırmak gerçekten çocukların cinsel istismara uğrama oranını etkiliyor mu?
CSAM’i suç saymanın yanlış olduğunu söylemiyorum, ama bulut depolamayı tarayarak yakalanacak türden insanları cezalandırmanın gerçekten mağdur çocuk sayısını etkilediğine dair en ufak veri var mı?
Yoksa, bu önlemin başardığı tek şey pedofilleri hapse atmak gibi iyi hissettiren bir eylem olur. Ama endişelendiğim şey pedofiller değil; gerçekten çocuklara karşı suç işleyen çocuk tecavüzcüleri ve çocuk pornosu üreticileri
Son kullanıcıları takip etmenin tedarik zincirini nasıl etkileyeceğini bilmiyorum. Buna karşılık son kullanıcıları takip edebilir hale gelindiğinde, devletin önemli gördüğü neredeyse her suç gerekçesiyle insanları arama yetkisi kazanmasının milyonlarca yolu olduğunu görüyorum. Buna izin verilirse birkaç yıl içinde CSAM’in ötesine genişleme olasılığı %100
Ayrıca en başta “materyalin” var olması da şart değil. Kayıt almak sadece bir seçenek; ama bu sorunu ele alan bir şey görmüyorum
Mevcut teklif bu haliyle geçmeyecek. Hollanda, İspanya, Polonya gibi birçok üye ülke karşı çıkıyor ve muhtemelen yasadışı olma ihtimali yüksek
Geçebilmesi için baştan aşağı değiştirilmesi gerekir. Bu tür değişiklikler muhtemelen zaten işe yaramaz olan teklifi daha da işe yaramaz hale getirecek, ama en azından bu kez bizi mahremiyet/şifreleme arka kapısından kurtarmasını umuyorum
Hiçbir koşulda geçmemeli ve tamamı reddedilmeli. Uzlaşmaya yer yok