Yapay zeka ve uçtan uca şifrelemeyi neden birlikte düşünmek gerekiyor?
(blog.cryptographyengineering.com)- Yapay zeka asistanları ve ajanları; mesajlar, fotoğraflar ve aramalar gibi kişisel verilerin tam ortasına girerken, uçtan uca şifrelemenin koruduğu gizlilik güvenceleri yeni bir baskıyla karşı karşıya kalmaya başlıyor
- Uçtan uca şifreleme, aktarım sırasında sunucunun düz metni görmesini engeller; ancak alıcı cihazın ya da kullanıcının veriyi bir yapay zeka işleme sunucusuna aktardıktan sonraki kullanımını engellemez
- Güçlü yapay zeka modellerini telefonda çalıştırmak ne kadar zorsa, mesaj özetleme, dolandırıcılık çağrısı tespiti ve metin yazma gibi özellikler de cihaz dışı işlemeye o kadar fazla dayanma eğiliminde olur
- Apple’ın Private Cloud Compute yaklaşımı, güvenilir donanım, Secure Boot, kod imzalama, şeffaflık günlükleri ve durumsuz tasarımla bulut çıkarımı risklerini azaltmaya çalışıyor; ancak bu matematiksel bir kriptografik güvence değil
- Genel amaçlı yapay zeka ajanları kişisel verileri okuyup yanıtlayabilir hale gelirse, temel mesele yerelde çalışıp çalışmadıklarından çok ajana kimin erişebileceği olacak
Yapay zeka, uçtan uca şifreleme tartışmasını yeniden açıyor
- NYU ve Cornell araştırmacılarının How to think about end-to-end encryption and AI çalışması, yapay zeka ile uçtan uca şifrelemenin kesiştiği noktadaki soruları doğrudan ele alıyor
- Google’ın scam call protection ve Apple Intelligence gibi yapay zeka asistanı sistemleri, telefonun geneline ve özellikle kişisel mesajların içine girmeye çalışıyor
- Avrupa’daki “mandatory content scanning” tartışması, makine öğrenimi sistemlerinin neredeyse tüm özel mesajları taramasını zorunlu kılabilir; bu da yapay zekanın gizlilik üzerindeki etkisini daha doğrudan görünür kılıyor
- Başlangıç noktaları farklı olsa da bu iki akım aynı çatışmada birleşiyor
- Yapay zeka özellikleri kişisel verileri işlemek istiyor
- Uçtan uca şifreleme, sunucuların bu verileri görmesini engellemek istiyor
- Güçlü yapay zeka işlemleri sunucu kaynakları gerektirebilir
Uçtan uca şifrelemenin başlangıçta çözdüğü sorun
- 2011 öncesinde buluta bağlı birçok cihaz verileri düz metin olarak yüklüyordu ve kişisel veriler; bilgisayar korsanlarına, hukuki celplere, devlet aramalarına ve platformların ticari kullanımına açık hale gelebiliyordu
- PGP ya da OTR gibi araçları kullanan ileri düzey kullanıcılar dışında, sıradan kullanıcıların bu risklerden kaçınması zordu
- 2011 civarında Signal, Apple iMessage ve WhatsApp gibi mesajlaşma uygulamaları varsayılan olarak uçtan uca şifreleme kullanmaya başladı
- Anahtar yönetimi yöntemleri, sunucuların mesajların düz metin içeriğini göremeyeceği şekilde değiştirildi
- Sonrasında Google, Samsung ve Apple gibi telefon işletim sistemi üreticileri yerel depolanan verileri şifrelemeye başladı; Google telefon yedekleri için varsayılan uçtan uca şifreleme sundu ve Apple da bunu izlemeye başladı
- Bu projelerin ortak noktası, şifrelenmiş verilerin neredeyse hiç sunucuda işlenmesinin gerekmemesiydi
Sunucu işlemesi ve cihaz üstü işleme seçenekleri
- Uçtan uca şifreleme içeriği sunuculardan gizler, ancak sunucuların bu veri üzerinde hesaplama yapmasını da zorlaştırır
- Bulut yedekleri ya da kişisel mesajlar esas olarak istemci tarafında anlam taşıdığı için bu kısıt görece kabul edilebilir olabilir
- Fotoğraftaki metni tanıma gibi veri işleme gerektiren özelliklerde genelde iki seçenek ortaya çıkar
- Düz metni sunucuya gönderip uçtan uca şifrelemenin azaltmaya çalıştığı zafiyetleri yeniden açmak
- İşlemeyi cihazın yapabileceği düzeyle sınırlamak
- İkinci seçenek, telefonun hesaplama gücü, RAM’i, pil ömrü ve donanım farklılıklarıyla sınırlıdır
- Üst düzey bir iPhone bile pil tüketimini azaltmak için fotoğraf işlemlerini gece şarj olurken yapabilir
- Bazı amiral gemisi telefonlar 1.400 doların üzerindedir ve yerleşik GPU ile neural engine içerir
- ABD’de bile birkaç yüz dolarlık Android telefonlar ya da daha ucuz cihazlar alınabildiği için işlem kapasitesindeki fark büyüktür
Yapay zeka özellikleri kişisel veri işlemeyi genişletiyor
- LLM’ler karmaşık insan metnini üretebilir ve anlayabilir; görüntü işleme modelleri de güçlü yetenekler sunar
- Telefon ve mesajlaşma şirketleri yapay zeka modellerini gelecekteki özelliklerin temeli olarak görüyor ve birçok özellik şimdiden dağıtıma çıktı
- Yapay zeka ajanlarının ise bundan daha ileri giderek e-postaları ve kısa mesajları okuyup yanıtlaması; yemek siparişi, alışveriş, flört profili yönetimi, kredi pazarlığı ve kullanıcının ihtiyaçlarını tahmin etmesi öngörülüyor
- Bu tür sistemlerin çalışması için neredeyse sınırsız kişisel veri erişimi ve bunları işleyecek büyük ölçekli hesaplama gücü gerekir
- Birçok telefon güçlü modelleri çalıştıracak hesaplama kapasitesine sahip değil; modeller daha iyi hale geldikçe ya da daha çok tekelleştikçe işlemenin daha büyük kısmı uzak sunuculara kayabilir
Uçtan uca şifreli mesajlaşmada güvence ve rıza sorunu
- Modern uçtan uca şifreli mesajlaşmanın teknik güvencesi, aktarım sırasında düz metin mesaj içeriğinin yalnızca katılımcıların uç cihazlarında ve katılımcıların ya da cihazların paylaşmayı seçtiği yerlerde bulunacak şekilde tasarlanmış olmasıdır
- Bu güvence, veri teslim edildikten sonra nasıl kullanılacağını belirlemez
- Kullanıcının ekran görüntüsü alması, düz metin yedek oluşturması, Twitter’a kopyalayıp yapıştırması ya da dava sürecinde cihazını teslim etmesi uçtan uca şifrelemenin kapsamı dışındadır
- Hizmet sağlayıcının kullanıcıya verdiği sözler teknik güvenceden farklı olabilir
- Örneğin mesajlar güvenli biçimde teslim edilirken, cihaz düz metin içeriği başka bir sunucuya yükleyebilir ve orada çözülebilir hale getirebilir
- Grup sohbetlerinde başka bir katılımcı aldığı düz metin mesajları hizmete yükleyen bir özelliği açabilir
- Sonuçta belirleyici olan şey yeterince bilgilendirilmiş rızadır
- Bazı şirketler güven kazanmak için kullanıcıları iyi biçimde bilgilendirebilir
- Diğerleri ise ABD’de okunması zor hizmet şartlarıyla onay isteyebilir ya da AB’de yeni bir tür çerez banner’ı oluşturabilir
- Yapay zeka işlemesi tamamen yaygınlaşırsa kullanıcıların opt-in ve opt-out seçenekleri sınırlanabilir
Apple Private Cloud Compute yaklaşımı
- Apple, makine öğrenimi çıkarımının daha güçlü donanıma dış kaynak olarak verilmesi gerekeceğini öngörerek, kişisel verilerin emanet edilebileceğini düşündüğü bulut tabanlı bir bilgisayar tasarladı
- Private Cloud Compute, Apple veri merkezlerindeki güvenilir donanım cihazlarını kullanır
- Bu cihazlar fiziksel ve mantıksal olarak kilitlenmiş bilgisayarlara yakındır
- Apple’ın kendi ürettiği cihazları, özel silikonları ve yazılım özelliklerini kullanır
- Secure Boot yalnızca izin verilen işletim sistemi yazılımının yüklenmesini sağlar
- İşletim sistemi, kod imzalama yoluyla yalnızca izinli yazılım imajlarının çalıştırıldığını doğrular
- Uzun süreli durum bilgisi saklamaz
- Her bağlantıda istekleri farklı rastgele sunuculara yük dengelemesiyle dağıtır
- Çalışan uygulama yazılımının hash değerini doğrular
- Yazılım imajları, gizlice ekleme yapılmasını önlemek için doğrulanabilir bir transparency log içinde yer almak zorundadır
- Apple, güvenlik araştırmacılarının hataları inceleyebilmesi için yazılım imajlarını yayımlayacağını söyledi; ancak tüm kaynak kodunu değil
- Bu tasarım, hem saldırganların hem de Apple çalışanlarının cihazlardan veri çıkarmasını zorlaştırmaya odaklanır
- Yine de bu yaklaşım, şifrelemeye göre daha zayıf bir güvencedir
- Çok değerli verileri merkezileştirir
- Kriptografik algoritmaların matematiğine değil, Apple’ın karmaşık donanım ve yazılım güvenlik özelliklerini doğru uygulamasına dayanır
- Verilerin, OpenAI örneğinde olduğu gibi çalışanların oturum açıp erişebileceği görünen sunucularda işlenmesine kıyasla daha iyi bir yaklaşım olarak değerlendirilir
FHE ve mevcut sınırlamalar
- Tam homomorfik şifreleme (FHE), kişisel veriler üzerinde şifreli halde hesaplama yapılmasına olanak tanır
- Teoride mümkündür, ancak bugün için pratik olma ihtimali düşüktür
- Günümüzde iyi FHE yöntemleri çoğunlukla çok küçük makine öğrenimi modellerinin değerlendirilmesine uygundur; bu modeller ise zaten zayıf istemci cihazlarda da çalıştırılabilecek düzeydedir
- Yöntemler ve donanım gelişecektir, ancak bu engelin uzun süre devam etmesi bekleniyor
Yapay zeka ajanı kimin için çalışıyor?
- Gelecekte yapay zeka modellerinin eğitimi ve ince ayarı için kullanılan veriler de büyük gizlilik sorunları yaratacak; ancak asıl daha büyük soru, genel amaçlı ajanların gerçekte kimin için çalıştığıdır
- Birleşik Krallık ve AB, kişisel şifreli mesajların otomatik olarak “taranmasını” zorunlu kılan yasaları tartışıyor
- AB önerisi mevcut ve yeni CSAM tespitine odaklanıyor
- Bazı aşamalarda “grooming behavior” sayılan sesli ya da metin tabanlı konuşmaların tespiti de buna dahil ediliyor
- Birleşik Krallık önerisi, nefret söylemi, terör içeriği, dolandırıcılık ve diğer yasa dışı içerikler gibi daha geniş bir alanı kapsıyor
- Bir değişiklik önerisi, “images of immigrants crossing the Channel in small boats” içeriğini bile kapsıyordu
- Bilinen CSAM taraması için yapay zeka/makine öğrenimi zorunlu olmasa da yeni CSAM, grooming davranışı ve nefret söylemi tespiti; kişisel veri üzerinde güçlü makine öğrenimi çıkarımı gerektirir
- Özellikle sesli ve metin tabanlı konuşma tespiti, yalnızca konuşmayı metne çevirme değil, aynı zamanda insan konuşmasının konusunu yanlış pozitif üretmeden anlayabilme yeteneği de gerektirir
- Bu öneriler henüz uygulanmadı; bunun nedenlerinden biri de özel verileri güvenli şekilde işleyen makine öğrenimi sistemleri kurmanın zor olması ve platformların bunu kurmaya direnmiş olması
Genel amaçlı kişisel ajanların yaratabileceği baskı
- Kullanıcılar gönüllü olarak genel amaçlı yapay zeka ajanları oluşturup dağıtırsa, bu ajanlar kolluk kuvvetlerinin talep ettiği birçok tarama işini yapabilecek bir kaynağa dönüşebilir
- Devletler bu kaynağa erişim talep ettiğinde bunun nasıl engelleneceği zor bir sorun olarak kalır
- Kolluk kuvvetleri ajana, kullanıcının davranışları ve verileri hakkında ayrıntılı sorular yöneltebilir
- “Bu kullanıcıda potansiyel CSAM var mı?”
- “Kişisel notlarında potansiyel olarak nefret söylemi sayılabilecek bir şey yazdı mı?”
- “Vergi kaçırıyor olma ihtimali var mı?”
- Bu yaklaşım, insan polislerin doğrudan belgeleri taramaması ve yalnızca kullanıcının muhtemelen yasa dışı bir eylemde bulunduğu durumda yanıt alınması nedeniyle “gizliliği koruyan” bir model gibi pazarlanabilir
- Yeterince güçlü genel amaçlı ajanlar telefonlara dağıtıldıktan sonra, modelin yerelde mi yoksa güvenilir bulut donanımında mı çalıştığından daha kritik soru bu ajanla kimin konuşabildiği olacaktır
1 yorum
Hacker News yorumları
Otomatik tespit arttıkça, tek tek vakaları ele alacak kişilere ayrılan bütçe azalır ve yöneticiler otomatik kararlara daha fazla bel bağlar.
Sonuçta yanlış pozitifler olduğunda bir insana ulaşıp sorunu çözmek zorlaşır ve bu büyük bir hayal kırıklığına yol açar. Kurumsal hizmetlerde bu sadece can sıkıcı bir şeydir, ama kolluk kuvvetlerinde kullanılırsa bir insanın hayatını mahvedebilir.
Geçmişte Amazon'da yasa dışı yorum yazmışım gibi işaretlendim; aylarca bir insana durumu anlatmaya çalıştım ve hâlâ yılda bir kez kadar konuyu yeniden gündeme getiriyorum ama çözülmedi. Böyle bir şey ağır suç meselelerinde yaşanır ve mahkemelerdeki yığılma yıllarca sürerse ölümcül olur.
Otomatik tespit işe yarayabilir ve fiilen kaçınılmazdır; ancak yanlış pozitiflerin mutlaka ortaya çıkacağı varsayımıyla bunları çözmek için yeterli insan gücü ayrılmalıdır. Şu anda bir tespit sistemi kurulur kurulmaz sorumlu personel işten çıkarılıyor ve sistemin insanların yerini aldığı varsayılıyor; oysa gerçekte insanları güçlendiren ve odaklayan bir araç olmalıdır.
Karar vericiler gerçek vakaları ele almadıkları için sorunu bizzat yaşamazlar. Onlar için mesele “1 milyon dolar tasarruf edebiliyorken neden 2 milyon dolar tasarruf etmeyesin”e dönüşür; büyük yapay zeka modelleri sayesinde otomatik tespit kolaylaştıkça bu sorunun önümüzdeki birkaç yılda çok daha kötüleşeceğini düşünüyorum.
Rusya'da bir bilim insanının, yalnızca %70 yüz tanıma eşleşmesi ve bir suçlunun asılsız suç ortağı beyanı nedeniyle 20 yıl önceki bir cinayet davasında şüpheli hâline geldiği bir olay vardı. https://lenta.ru/articles/2024/04/03/scientist/
Neyse ki o sırada Moskova'dan çok uzakta bir keşif gezisine katıldığını gösteren enstitü arşiv kayıtları alibi olarak kalmıştı; buna rağmen “soruşturma” sırasında 10 ay tutuklu kaldı. Sonunda serbest bırakıldı, ancak performans göstermek için son derece zayıf yüz tanıma sonuçlarını kullanan polis müfettişlerinin hâlâ polis teşkilatında olmasından endişe ediyorum.
Bunu hayatın her köşesinin en temel müşteri desteği bile olmayan platform tekelleri tarafından kontrol edildiği bir dünyaya doğru genişletirsek, işler düzelmeden önce çok daha kötüleşecek gibi görünüyor.
PDF'in üçüncü sayfasında, görüntülenen numarayla 84. sayfada görülebilir: https://nob.cs.ucdavis.edu/classes/ecs153-2021-02/handouts/c...
60 yıl önce birinin bu durumu tam olarak öngörmüş olmasına rağmen, o uyarı niteliğindeki hikâyenin hiç ciddiye alınmamış olması şaşırtıcı.
OpenAI hakkında tahminde bulunmaya gerek yok. OpenAI, verileri 30 gün sakladığını ve çalışanlar ile üçüncü taraf yüklenicilerin bunları inceleyebileceğini oldukça şeffaf biçimde belirtiyor.
https://platform.openai.com/docs/models/how-we-use-your-data
“Kötüye kullanımı belirlemeye yardımcı olmak için API verileri en fazla 30 gün saklanabilir ve ardından silinir (yasalar aksini gerektirmediği sürece).”
https://openai.com/enterprise-privacy/
API iş verilerine erişimin; mühendislik desteği, platform kötüye kullanımı soruşturmaları ve yasal uyum için gerekli yetkili çalışanlarla ve yalnızca kötüye kullanım/yanlış kullanım incelemesi yapan, gizlilik ve güvenlik yükümlülükleri altındaki uzman üçüncü taraf yüklenicilerle sınırlı olduğu belirtiliyor.
Başkalarının mesleki ve kişisel çıktısını, rızaları ya da haberleri olup olmamasına bakmadan kullanarak ürün ailesi kurmuş bir şirketin sunucularıyla kelimenin tam anlamıyla “konuşuyorsunuz”. Bu, “izin istemektense af dilemek daha kolaydır”dan ziyade, hiç sormamak; sorulursa geçiştirmek; yakalanınca da “baktığımızı bilmenizin bir yolu yoktu ama saklamadık, dolayısıyla zımnen kabul etmiş sayılırsınız” demeye daha yakın.
Açıkçası OpenAI'ın gizlilik politikasında vaat ettiği seviye bile şaşırtıcı derecede iyi. Başlardaki “vay canına, harika” tanıtım döngüsünün ardından sessizce modeli değiştirdiği ya da ücretli müşterilerin hesaplama kapasitesini azalttığı yönündeki şüpheli yemleme stratejilerine bakınca, şirket daha sağlam bir konuma geldiğinde bu tür politikaların uzun süre dayanacağını sanmıyorum.
Üstelik modelden eğitim verilerini çıkarmanın bir yolu ortaya çıkarsa, “bu modelden çıkarılmış farklı bir veri, eski politika geçerli değil” de diyebilirler. Piyasada geriye düşerlerse Altman'ın büyük, kumar niteliğindeki ürünleri finanse etmek için böyle şeyleri bir anda satmayacağını düşünmek zor. Şüpheli sevgili uygulaması türü chatbot'lardan bahsetmiyorum bile.
Mahremiyet koruması elbette olmalı, ama bunun var olacağını varsayan insanların olması şaşırtıcı. Fazla mı alaycıyım diye düşünüyorum, ama bugünlerde sonuç hep yeterince alaycı olmadığımız yönünde çıkıyor.
Asıl tehdit, yapay zekanın bireylerin işlerini hızlandırmanın ötesine geçip örgütsel kontrole uygulanmasıyla ortaya çıkacak
Yöneticilerin, yönetim katmanlarının, metriklerin ve OKR’lerin sınırlarını herkes bildiği için cazibesi büyük. Bir CEO’nun çalışanlar arasındaki tüm iletişimi yapay zekaya aktarıp sorgulanabilir hâle getirmeyi düşünmesi zor değil. İronik biçimde, herkes uzaktan çalışıyorsa bunu dayatmak daha da kolay olabilir
CEO ve üst yönetim gerçekte neler olup bittiğini daha iyi kavrayacağı için organizasyonun daha verimli olma ihtimali de var. Ancak iktidar sahiplerinin sıradan çalışanları gerçek insanlar olarak gördüğüne dair zaten zayıf olan inanç daha da azalır
Ayrıca yönetici sınıf, şirket yönetirken kullandığı araçları ülke yönetirken kullanmamak için bir neden görmeyeceğinden, bu yaklaşım kaçınılmaz olarak özel kuruluşların dışına sızacaktır
Kitlesel gözetim savunucuları artık bir insanın telefon konuşmalarını bizzat dinlemesine gerek olmadığını söylüyor. Ama asıl tehlike hiçbir zaman kasvetli takım elbiseli birinin makaralı banttan konuşmaları yazıya dökmesi değildi. Sorun her zaman iktidardakilerin kendilerini rahatsız eden kişinin dosyasını istemesi ve bir daha kendilerini rahatsız edememesini sağlamak amacıyla ona bakmasıydı
Kitlesel gözetimin tam sonuçlarının henüz ortaya çıkmamış olmasının nedeni, bu kadar çok yapılandırılmamış, geçici veriyi işleyebilecek araçların olmamasıydı. Artık var
Hukuki uyuşmazlıklarda delil keşfi gerektiğinde, e-keşif yazılımı erişebildiği tüm dijital iletişimleri çekip yapay zekaya aktarabilir ve bunların bir parçası olarak duygu analizi bile yapabilir. Üretken yapay zekanın hukuk işlerine uygulanması şu anda hukuk dünyasında sıcak bir konu
Gidişat steroid almış XKEYSCORE gibi hissettirdiği için, “bizim için mi çalışacak” sorusuna hayır demeye daha yakınım
Olumlu ve iyimser bakmak istiyorum, ancak geldiğimiz yol ve bu sistemlerden sorumlu insanların, daha doğrusu araştırmacıların ya da mühendislerin değil yöneticilerin davranışları, tarafsız ve mahremiyeti önceleyen bir gelecek umudunu sınırlı gösteriyor
Takım elbise giyiyorlar ama çoğunun askeri geçmişi var; ABD’yi iç ve dış tehditlere karşı savunma görev duygusuna sahipler ve tarihsel olarak hiçbir yönetimde yetkilerini büyük ölçüde kötüye kullanmadıklarını düşünüyorum. XKEYSCORE da insanları hacklemek değil, kitlesel metaveri toplamak ve profil çıkarmaktı; hukuk sistemi içinde yapılıyordu. Suçlama, gizlilik araçları sunmayan şirketlere de yöneltilmeli. Çünkü herhangi bir büyük devlet aynı sistemi kurabilirdi
Buna karşılık 2016’dan sonra Big Tech’i eleştiren düzen karşıtı Cumhuriyetçiler sonunda en düzen yanlısı hayranlara dönüştü; Elmo’ya Beyaz Saray’da ofis verdiler, Zucc ise hakkında dava açılmasından kaçınmak için diz çöktü
Böyle yeni bir sistemin, özel şirketlerde çok daha fazla kazanabilecekleri hâlde görev duygusuyla ABD savunma kurumlarında çalışan zeki insanların elinde olmasının daha iyi olduğunu düşünüyorum
Şirketler yapay zeka eğitimi için kullanabilecekleri internet verilerinin neredeyse tamamını tüketti; bu yüzden ajanları bahane ederek bireylerin gerçek zamanlı verilerine erişmeye çalışacaklar. Her zamanki gibi iş modeli “ürün sensin”
Apple son zamanlarda tutumunu değiştirmiş görünüyor. Artık “belirli güvenlik açısından kritik PCC bileşenlerinin kaynak kodunun sınırlı kullanım lisansıyla sunulduğunu” söylüyor. Elbette tamamı açık kaynak olsaydı daha iyi olurdu
https://github.com/apple/security-pcc/
Apple bundan daha büyük bir iddiada bulunuyor gibi görünüyor: 1) kullanıcı verilerini saklamayıp yalnızca çıkarım sırasında işliyor, 2) ayrıcalıklı çalışma zamanı erişimi olmadığı için destek mühendisleri bile kullanıcı verilerini göremiyor, 3) güvenlik araştırmacılarının 1) ve 2)’yi doğrulayabilmesi için ikili dosyalar ve kaynak kodunun bir kısmı sunuluyor
Apple PCC’nin beş gereksinimi burada görülebilir: https://security.apple.com/documentation/private-cloud-compu...
Apple ile ilgim yok. Açık kaynakta eşdeğer bir çözüm üretmek gerekirse bunun nasıl görüneceğini görmek için PCC güvenlik kılavuzunu okudum. Bu konuyla ilgileniyorsanız ozgun @ ubicloud . com adresinden iletişime geçebilirsiniz
“Yapay zeka ajanı aslında kimin için çalışıyor” sorusu doğru soru. Birkaç hafta önce de aynı noktayı dile getirmiştim; burada hukuki kavram olan müvekkil ve vekil geçerli
Tüm içeriğin bulut yapay zekadan geçirilerek “düşünce suçu” için tarandığı bir gerçeklik geliyor. Şu anda önerilen kategoriler çocuklara yönelik cinsel istismar materyali, önemli kişilere yönelik tehditler, devlete yönelik tehditler, reşit olmayanlara yönelik “grooming”, uyuşturucu/sex/silah/eşcinsel faaliyet tartışmaları, protesto ya da sendika örgütlenmesi vb.
Özellikle çocuklara yönelik cinsel istismar materyali ABD’de yapay zeka ile üretilmiş görselleri de kapsayan genişletilmiş bir kategori hâline geldi ve yakında Japon animelerine de genişletilebilir. Önemli kişilere yönelik tehditler, ABD’de eskiden siyasi ifade sayılan şeyleri de kapsayacak şekilde genişleyebilir
Devlete yönelik tehditler zaten birçok ülkede yasa dışı. Trump’ın ABD’ye savaş açmakla ilgisi olmayan konularda bile insanlara “vatana ihanet” yakıştırmayı sevdiğini hatırlamak gerekir
“Grooming” çok muğlak olduğu için etkileşimlerin çoğunu kapsayabilir; uyuşturucu/sex/silah/eşcinsel faaliyet tartışmaları ise birçok ülkede çeşitli şekillerde yasaklanmıştır. Protesto ya da sendika örgütlenmesi Çin’de yasaktır ve zaten arama konusudur
Dolaylı ifadelerle ya da argo ile sansürden kaçmak mümkün değil. Büyük dil modelleri bunları da işler. Siyah İngilizcesi veya leetspeak girip standart İngilizceye çevirmesini isteyin; çevirir. O model muhtemelen bu lehçeleri çoğu insandan daha fazla görmüştür
“Geleceğin nasıl görüneceğini istiyorsanız, insan yüzünü sonsuza dek çiğneyen bir çizme hayal edin” — Orwell
https://www.orwell.org/dictionary/
Esas nokta tekrar edilmeye değer
“Kadınların pantolon giymesi karşı cins gibi giyinmektir; bunu çocukların yanında yaparlarsa ağır suçtur” gibi arzu edilen durumu da kapsayabilir
En moral bozucu farkındalık şu: Suç faaliyetlerinin bile taranmayacağını düşünerek buluta koyduğumuz devasa veri yığını, artık yalnızca muhalif görüşler yüzünden bile düşünce polisinin kapıya dayanabileceği bir kanala dönüşmüş durumda
O makinenin sahibi başkası; dolayısıyla ticari ya da ideolojik olsun, onların çıkarları her zaman öncelikli olur
Bunun olmamasını umuyorum ama olursa da şaşırmam. Eski veriler zehirli atığa dönüşebilir
Yerel cihazlarda saklanan ve şifrelenmiş verilere bulut tabanlı “AI” araçlarının erişememesi sevindirici
Sorun şu ki sıradan kullanıcılar GUI açılır pencerelerinde “evet/kabul/ilerle/devam/katılıyorum” düğmelerine düşünmeden basıyor ve verilerin şifresi çözülerek bir “bulut” hizmetine gönderilmesini de içeren şartları kabul ediyor
Bundan sonra “AI” araçları, insanları iCloud, Microsoft’un kişisel Office365’i, Google Workspace gibi aylık abonelik hizmetlerine kalıcı olarak bağlamak için daha fazla kullanılacak gibi görünüyor
Sonsuza kadar ayda 15 dolar ödeyeceksiniz; veri miktarı ve bulut sağlayıcısına bağımlılık yüzünden de hayatınızda büyük bir karmaşa yaratmadan ödemeyi durdurmanın gerçekçi bir yolu kalmayacak
Green önemli bir noktaya parmak basmış. Teknik garantiler, kullanıcıya verilen sözlerden farklıdır; uçtan uca şifreli mesajlaşma sistemleri veriyi güvenli biçimde iletir, sonrasında ne olacağını belirlemez
Ama hemen ardından bunu unutmuş gibi PCC’den, yalnızca bir başka teknik garanti değilmiş gibi söz ediyor. PCC sadece sunucuda çalışan yazılımın Apple’ın amaçladığı yazılım olduğuna dair güveni artırır
Verilerimin daha sonra nereye aktarılacağını ya da Apple’ın bunları yalnızca benim kabul edebileceğim amaçlar için kullanıp kullanmayacağını garanti etmez. PCC, Apple’ı saldırılara karşı daha az kırılgan hâle getirir; ama onu daha şeffaf ya da hesap verebilir kılmaz
Hatta bazı hacker’ların şirket suistimallerini ifşa etmek gibi toplumsal açıdan faydalı amaçlarla da hack yaptığını düşünürsek, güvenliğin artırılması hesap vermekten kaçınmayı engelleyen değil, onu örten bir kalkan olarak da işleyebilir. Elbette şeffaflık elde etmek için güvenliği ortadan kaldıralım demiyorum
Burada çözülmemiş temel mesele güvenlikten çok şeffaflık. Güvenliğin içler acısı durumunun da büyük ölçüde şeffaflık eksikliği sayesinde mümkün hâle geldiğini düşünüyorum
Yapay zekanın topluma hizmet etmesini istiyorsak, bireylerin hayatı hizmet sağlayıcıya en ince ayrıntısına kadar açıkken hizmet sağlayıcının kullanıcıya tamamen kara kutu olarak kaldığı aşırı bilgi dengesizliğini tersine çevirmeliyiz
İyi kurumsal davranış istiyorsak şirketlerin görünmeden faaliyet göstermesine izin vermemeliyiz. Etik teknoloji istiyorsak görünmeden çalışmasına izin vermemeliyiz
Yazının sonundaki ilginç soru politika açısından önemli
Gizliliğin korunmasıyla ilgili hangi teknik tercihler yapılırsa yapılsın, yeterince güçlü genel amaçlı bir ajan telefonlara dağıtıldıktan sonra geriye kalan soru, o ajanla konuşma yetkisinin kimde olacağıdır. Yalnızca kullanıcıda mı, yoksa devletin yurttaş gözetimindeki çıkarları bireysel mahremiyetin önüne mi geçecek
Devletin ajana erişim hakkına sahip olmasını yasayla zorunlu kıldığı bir durum varsayım olarak mümkün. Çünkü biz de şirketler de keyfî yasalar çıkarabilecek yargı alanları içinde varız
Ama teknik olarak yerel ajanı tam disk şifrelemeli bir sistemde çalıştırmak ve sisteme erişim hakkı olmayan hiç kimsenin onunla konuşamamasını sağlamak mümkün olmalı gibi geliyor. Öyleyse teknik düzeyde eskisinden pek farklı görünmüyor
Birinin bilgisayarında komünist broşürler gibi şeyler var mı diye 1980’ler tarzı bir sürü düzenli ifade çalıştırmak da eskiden beri mümkündü
Devletin bilgisayarıma erişim talep edebilmesi gerekip gerekmediği her zaman var olan bir soruydu. Ancak bilgisayarımda çalışan yapay zeka ajanına erişim talep ediyorsa, bunun fiilen tüm sabit diskimin kayıplı bir kaydını talep etmekle aynı şey olduğunu hatırlamak gerekir