Yapay zeka ve kitlesel gözetim

Yapay zeka ve kitlesel gözetim

• Gözetim ve casusluk birbirinden farklı ama ilişkili kavramlardır. Geçmişte gözetim, maliyetli ve zaman alan manuel bir işti; artık ise akıllı telefonlar, kredi kartları, uygulamalar ve benzerleri üzerinden konum, satın alma geçmişi ve kiminle konuştuğumuz otomatik olarak izleniyor.
• İnternetin iş modeline dönüşen kitlesel gözetimde, buna katılmamayı seçmenin neredeyse mümkün olmadığı bir durumdayız. Casusluk hâlâ insan emeğine dayanıyor, ancak yapay zeka (AI) bunu değiştirmeye hazırlanıyor.

Yapay zekadaki değişim

• Modern üretken yapay zeka sistemleri özetleme konusunda başarılıdır; milyonlarca konuşmayı konu başlıklarına göre düzenleyebilir veya belirli bir konu hakkında kimin konuştuğunu gösterebilir.
• Bu teknolojiler kusursuz değil, ancak insanlar da hata yapıyor ve yapay zeka hızla kopyalanıp geliştiriliyor; bu yüzden her yıl daha iyi olacak. Kitlesel casusluk çağı yaklaşıyor.

Kitlesel gözetim ve casusluğun geleceği

• Kitlesel gözetim, geçmişe dönük olarak izleme yapabilme imkânı sağlar ve belirli bir hedefi önceden bilmeden de gözetimi mümkün kılar.
• Kitlesel casusluk, tüm verileri saklayıp bunların büyük ölçekte aranmasını ve anlaşılmasını mümkün kılacaktır. Belirli bir konudaki konuşmalar, suç planları, söylenti yayma faaliyetleri, siyasi protestolara katılım planları ve benzeri şeyler tespit edilebilir.
• Organizasyon yapılarının ortaya çıkarılması ya da sır paylaşan kişilerin bulunması gibi karmaşık analizler mümkün hâle gelecektir. Yalnızca konuşmalar değil, mikrofon bulunan her yerde casusluk mümkün olacaktır.

Gözetim ve casusluğun toplumsal etkisi

• Sürekli gözetim altında olmak, insanların davranışlarını etkiler; otosansürü ve toplumsal kontrolü teşvik eder.
• Hükümetler kitlesel gözetimi zaten kullanıyor ve kitlesel casusluğa da başlayacak.
• Şirketler insanları pazarlama amacıyla izleyecek ve kişiselleştirilmiş reklam endüstrisini daha da güçlendirecek.

Veri gizliliği ve sınırlamalar

• Google geçmişte Gmail içeriğini kullanarak kişiselleştirilmiş reklam sunmaya çalıştı, ancak anahtar kelime verisinin faydası düşük olduğu için bundan vazgeçti. Ancak bu tür teknolojiler geliştikçe, bunun yeniden başlaması mümkün olabilir.
• Kitlesel casusluk yetenekleri sınırlandırılabilir veya güçlü veri gizliliği kuralları getirilebilir; ancak kitlesel gözetim sınırlandırılmadığı gibi, casusluk konusunda da durumun farklı olması beklenmemelidir.

GN⁺ görüşü

Bu yazının en önemli yanı, yapay zeka teknolojilerindeki ilerlemenin kişisel mahremiyeti ve gözetimin doğasını nasıl dönüştürdüğüne dair bir içgörü sunmasıdır. Kitlesel gözetim ve casusluğun toplumsal davranış ile kontrol üzerindeki etkilerini anlamak, okurlara veri gizliliği etrafındaki önemli tartışmalara katılabilecekleri bir zemin sağlayabilir. Yapay zekanın hızlı gelişimi ve bunun günlük yaşamımız üzerinde yaratabileceği geniş kapsamlı etkiler düşünüldüğünde, bu yazı özellikle yazılım mühendisleri gibi teknoloji profesyonelleri için ilgi çekici bir konu sunuyor.

[GN⁺]

Hacker News görüşleri

• Politik sorunun özü

  • Bu mesele teknik değil, politik bir sorun. Örneğin eski Sovyetler Birliği, temel teknolojilerle bile etkili kitlesel gözetim yürütüyordu. Bunun ABD'de yaşanmamış olmasının nedeni teknik kapasite eksikliği değil, siyasi ilginin olmamasıydı.
  • Geçmişte daha önce hayal bile edilemeyen şeyleri yasaklayan kanunlar çıkarıldı. Veri toplamayı yasadışı hale getirmek de büyük bir hukuki sıçrama olmazdı, ancak şu anda buna yönelik hiçbir siyasi ilgi yok.

• Yapay zekanın gözetim riski

  • Gözetim devletinin gerçekliğinde veri miktarı o kadar fazlaydı ki pratikte izlemek mümkün değildi, ancak AI bunu özetleyerek çözebilir. Kısa vadede AI'nin asıl tehlikesi bu; normdan sapan her şeyi hedef alan bir araca dönüşebilir.

• Şirketlerin kişisel asistan botları

  • Google, Meta, Microsoft ve benzerlerinin botları yalnızca web'i ya da sosyal ağları değil, belirli konuları ve kişileri de takip edecek. Bu kişisel asistan botları kullanıcıya yardım ediyormuş gibi yaparken aslında şirketlerin amaçlarına uygun biçimde bilgi toplayacak ve manipüle edilmiş bilgiler sunacak.

• AI ile kitlesel suç hukuku uygulaması

  • Ceza hukuku, soruşturma ve kovuşturmanın kaynak gerektirdiği varsayımıyla yazıldı, ancak AI bu sınırlamaları ortadan kaldırabilir. AI kamu faaliyetlerini izleyip hukuki süreçleri otomatikleştirerek önemsiz suçların bile kovuşturulmasını mümkün kılabilir.

• Sansürün etkisi

  • Sansür olasılığı ve bunun üzerinden kurulacak iş modelleri, gözetimden daha kaygı verici. Örneğin flört uygulamalarında iletişim bilgisi paylaşmak için ücret ödetmek ya da sosyal medyada belirli görüşleri anında silmek mümkün hale gelebilir.

• Teknolojinin kaçınılmaz gelişimi

  • Teknoloji geliştikçe gözetim ve sansür kaçınılmaz olarak ortaya çıkacak. Bunu bir gerçeklik olarak kabul edip nasıl uyum sağlanacağına dair tartışmaya ihtiyaç var. Yasal düzenlemeler ve gözetim karşıtı teknolojilerle yasa dışı gözetim riskini azaltmak mümkün olabilir.

• Güvenlik için yüz tanıma

  • Yakında "güvenlik" gerekçesiyle sık sık yüz taraması yapılacak ve bu, hayatımızın birçok alanında zorunlu hale gelecek.

• Google'ın gizlilik çabaları

  • Google'da "Hey Google" her zaman dinlemiyor; yalnızca belirli bir kelimeyi tanıdığında sesi iletiyor. Google'ın gizlilik ekibi doğru olanı yapmaya çalışıyor.

• AI ile kitlesel gözetimin gerçeği

  • Kitlesel gözetim zaten var ve AI, onlarca yıla yayılan herkesin davranış verilerini çıkarmak için kullanılabilir. Bu veriler yalnızca cezai kovuşturma için kullanılsaydı, kimsenin hukukun üstünde olmadığı bir toplum olurdu; ancak sistemi kontrol eden insanlar kendileri için avantajlı bir konum ister.

• AI yazılımının özgürlüğü

  • AI yazılımı kısıtlanmamalı; sıradan insanların ve yurttaşlık bilincine sahip kişilerin, kurumsal AI'ye karşı koyabilecek kişisel ve kamusal AI sistemleri geliştirebilmesi gerekir. AI'nin geleceği çatışmalı olacak ve AI yazılımı geliştirme özgür kalmalı, onun kullanımı ise düzenlenmelidir.