- Kısa süre önce NYU ve Cornell araştırmacılarının yayımladığı "How to think about end-to-end encryption and AI" başlıklı makaleye rastladım. Bu makale, yapay zeka ve uçtan uca şifreleme hakkında önemli soruları ele alıyor; bazı sonuçlarına katılmasam da son derece önemli bir konuyu işliyor.
Uçtan uca şifreleme nedir ve yapay zekayla nasıl ilişkilidir?
- Son 10 yılın mahremiyetle ilgili en önemli gelişmelerinden biri, uçtan uca şifreli iletişim platformlarının yükselişi oldu. 2011'den önce çoğu buluta bağlı cihaz verileri düz metin olarak yüklüyordu.
- Uçtan uca şifreleme, sunucunun mesajların düz metin içeriğini görememesini sağlayan bir teknolojidir. Ancak bu teknoloji, sunucunun veriyi işlemesini de zorlaştırabilir.
- Yapay zekadaki ilerlemeler nedeniyle çok sayıda veri işlemenin uzak sunuculara offload edilmesi giderek daha olası hale geliyor. Bu da mahremiyet sorunları doğurabilir.
Yapay zekanın uçtan uca şifreli mesajlaşmaya etkisi
- Uçtan uca şifreleme sistemleri, mesaj içeriğinin iletim sırasında katılımcıların cihazları dışında erişilememesi için tasarlanır. Ancak kullanıcıların veriyi nasıl işleyeceğini garanti etmez.
- Yapay zekanın veriyi işleme biçimi, kullanıcı onayıyla ilgili karmaşık sorunlar yaratabilir. Bazı şirketler kullanıcıları doğru şekilde bilgilendirebilir, ancak bazıları bunu yapmayacaktır.
Güvenilir donanım ve Apple'ın "Private Cloud Compute" yaklaşımı
- Apple, yapay zekanın mahremiyet sorunlarını çözmek için "Private Cloud Compute" adlı bir yaklaşım sundu. Bu, veriyi korumak için güvenilir donanım kullanan bir yöntemdir.
- Bu sistem, hem saldırganların hem de Apple çalışanlarının veriyi sızdırmasını zorlaştırır. Ancak yine de şifrelemeye kıyasla daha zayıf güvenlik güvenceleri sunar.
AI agent'lar kimin için çalışıyor?
- AI agent'ların kullanıcı verisini işleme biçimi, devletlerin erişim talep etmesinin önünü açabilir. Bu da mahremiyetle ilgili önemli sorular ortaya çıkarır.
- Teknik tercihlerin mahremiyeti garanti edememe ihtimali var ve toplumun doğru siyasi tercihleri yapacağına dair güven yetersiz.
1 yorum
Hacker News görüşü
Otomatik tespit sistemleri arttıkça, tekil vakaları ele alan insan sayısı azalıyor ve yöneticiler otomatik tespitle daha fazla hareket ediyor. Bu da yanlış pozitifler ortaya çıktığında sorunu çözmeyi zorlaştırarak büyük bir hayal kırıklığı yaratabiliyor. Özellikle kolluk kuvvetlerinde kullanılırsa, bu durum bir kişinin hayatı için yıkıcı olabilir
Örneğin, Amazon'da yasa dışı inceleme yazmakla yanlış şekilde işaretlenip sorunu çözmek için bir insana ulaşmaya çalıştım ama başaramadım. Böyle bir durum ciddi suç meselelerinde yaşanırsa, bir insanın hayatını mahvedebilir
Otomatik tespit sistemleri insanların yerini almak yerine onları tamamlamalı ve daha az personelle daha fazla iş yapılmasını sağlamalı. Ancak şu anda teşvikler yetersiz ve karar vericiler gerçek vakalarla uğraşmadığı için sorunu fark etmiyor
Gerçek tehdit, yapay zekanın bireysel çalışmayı hızlandırmaktan çıkıp kurumsal kontrol aracı hâline gelmesiyle ortaya çıkabilir. Bu, kurumları daha etkili kılabilir ama çalışanların gerçekten insan olduğu inancını zayıflatabilir
Kitlesel gözetimin asıl riski, rahatsız edici bulunan kişiler hakkında bilgi toplayıp onların artık rahatsız edici olmamasını sağlamaktır. Kitlesel gözetimin tüm sonuçları henüz ortaya çıkmış değil
OpenAI, verilerin 30 gün boyunca saklandığını ve çalışanlar ile üçüncü taraf yüklenicilerin bunları inceleyebileceğini açıkça belirtiyor
Yapay zeka sistemlerinin gerçekten bizim için çalışıp çalışmadığına dair zor sorular gündeme geliyor. Mevcut eğilimler, tarafsız ve mahremiyeti önceleyen bir gelecek için umudu sınırlıyor
Apple, güvenlik araştırmacılarının hataları doğrulayabilmesi için yazılım imajlarını yayımlayacağını açıkladı, ancak kaynak kodunu açmıyor. Apple, kullanıcı verilerini saklamadığını ve destek mühendislerinin kullanıcı verilerini göremediğini söylüyor
Yapay zekanın kimin için çalıştığı sorusunda, reklam teknolojisi şirketlerinin yapay zekayı kullanıcı çıkarlarına aykırı şekilde çalıştırma ihtimali yüksek. Bunun nedeni, reklam destekli "ücretsiz" hizmet beklentisi
Yapay zeka ajanlarının gerçekte kimin adına çalıştığına dair hukuki kavram önemli. Şu anda önerilen çerçeve, çeşitli tehditlere karşı gözetimi içeriyor
Kitlesel gözetimin sonucu olarak bulutta depolanan veriler taranabilir hâle geldikçe, yalnızca muhalif bir görüş nedeniyle gözetim altına alınma riski artıyor
Teknik güvenceler, kullanıcıya verilen sözlerle aynı şey değil. Apple'ın PCC'si güvenliği artırıyor ama şeffaflık ya da hesap verebilirlik garanti etmiyor. Asıl büyük mesele, güvenlikten çok şeffaflık
Yapay zekanın topluma hizmet etmesi için bilgi asimetrisini gidermek gerekiyor. Şirketlerin iyi davranmasını istiyorsak, şeffaf biçimde faaliyet göstermelerini sağlamalıyız
Teknik tercihler mahremiyet sorunlarını çözmeyebilir. Yapay zeka ajanlarına erişim yetkisinin kime verileceği önemli. Teknik olarak, ajanı yerelde çalıştırmak ve sisteme erişimi olmayan kişilerle konuşmasını engellemek mümkün olabilir