Yapay zeka ve kitlesel casusluk

• İnternet; konum, satın alma, kiminle konuşulduğu ve ne okunduğu gibi davranış verilerinin büyük ölçekte depolanmasını mümkün kıldı ve yapay zeka buna konuşma içeriklerini de yorumlayabilen kitlesel casusluğu ekleyebilir
• Mevcut gözetim, davranış kayıtlarını toplamaya daha yakındı; ancak casusluk, konuşmaları dinleyip anlamayı gerektirdiği için şimdiye kadar darboğaz insan emeğiydi
• Üretken yapay zeka 1 saatlik bir toplantıyı 1 sayfada özetleyebilir ve milyonlarca konuşmayı konu başlıklarına göre düzenleyebilir; böylece konuşma analizi bir kitlesel arama problemine dönüşür
• Yapay zeka kusursuz olmasa ve önemli şeyleri kaçırsa ya da hata yapsa bile, milyonlarca kez kopyalanabilmesi ve hızla iyileştirilebilmesi nedeniyle ölçek farkı çok büyüktür
• Hükümetler ve şirketler zaten kitlesel gözetim kullanırken, konuşmalar, duygular ve gizli bilgiler de analiz edilirse toplumsal kontrol ve kişiselleştirilmiş reklam daha da güçlenebilir

---

Gözetim ile casusluk arasındaki fark

• Gözetim (surveillance), hedefin nereye gittiği, kiminle konuştuğu, ne satın aldığı ve ne yaptığı gibi davranış kayıtlarını toplamaktır
• Casusluk (spying), eve ya da arabaya dinleme cihazı gizlemek veya telefonu dinlemek suretiyle konuşmaların içeriğini bizzat dinleyip anlamaktır
• İnternet öncesinde birini gözetlemek için insanların onu fiziksel olarak takip edip hareketlerini, buluşmalarını, satın almalarını, davranışlarını ve okuduklarını kaydetmesi gerekiyordu; bu da çok zaman ve maliyet gerektiriyordu
• Akıllı telefonlar, kredi kartları, uygulamalar, e-kitap okuyucular ve bilgisayarlar; konumu, satın almaları, kiminle konuşulduğunu, ne okunduğunu ve kullanım davranışlarını sürekli kaydediyor
• Depolama ve işleme maliyetleri düştükçe, pasif ve bireysel ölçekte olan gözetim kitlesel gözetime dönüştü, internetin iş modelinin parçası haline geldi ve makul biçimde kaçınması zorlaştı

Yapay zekanın casusluktaki darboğazı değiştirmesi

• Casusluk uzun zamandır teknik olarak mümkündü, ancak konuşma içeriklerini dinleyip anlam çıkarmak için insan emeği gerekiyordu
• NSO Group gibi casus yazılım şirketleri hükümetlerin insanların telefonlarını hack'lemesine yardım edebilir, ancak toplanan konuşmaları sınıflandırma ve anlama işi yine de ortada kalır
• Çin hükümetinde olduğu gibi sosyal medya paylaşımları belirli kelime veya ifadeler üzerinden sansürlenebiliyordu, ancak bu yöntem kabaydı ve etrafından dolaşmak kolaydı
• Modern üretken yapay zeka özetleme işinde başarılıdır; 1 saatlik bir toplantı girdisi verildiğinde tek sayfalık bir özet döndürebilir
• Milyonlarca konuşmayı aramak, bunları konulara göre düzenlemek veya kimin ne hakkında konuştuğunu bulmak gibi işleri de yapay zeka gerçekleştirebilir

Kitlesel gözetimin yarattığı tersine arama

• Kitlesel gözetim, gözetimin doğasını temelden değiştirir
• Tüm veriler depolandığı için, belirli bir anda hedef seçilmemiş olsa bile daha sonra geçmiş veriler geriye dönük olarak incelenebilir
• Depolanmış veriler varsa şu tür sorgular mümkün hale gelir
  • Belirli bir kişinin geçen yıl nerede olduğunu bulmak
  • Geçen ay belirli bir yoldan geçen kırmızı sedanların listesini çıkarmak
  • Son 1 yılda düdüklü tencere bombası için gereken tüm malzemeleri satın alanları bulmak
  • Birbirlerine doğru hareket edip sonra telefonlarını kapatan, 1 saat sonra birbirlerinden uzaklaşırken telefonlarını yeniden açan telefon çiftlerini bulmak
• Bu yaklaşım, önce belirli bir kişiyi seçmeden de depolanmış veriler üzerinden sonradan hedef tespit etmeyi mümkün kılar

Kitlesel casuslukla mümkün olan sorgular

• Kitlesel casusluk da casusluğun doğasını değiştirebilir
• Tüm konuşma verileri depolanmış, aranabilir ve büyük ölçekte anlaşılabilir hale gelir
• Mümkün sorgular şunlardır
  • Geçen ay belirli bir konu hakkında kimlerin konuştuğunu ve bu tartışmanın nasıl değiştiğini bulmak
  • A adlı bir kişi belirli bir eylemi yaptığında, birinin o eylemi ona talimat olarak verip vermediğini doğrulamak
  • Suç planlayan, söylenti yayan veya siyasi protestoya katılmayı planlayan kişileri bulmak
• Örgütsel yapıları çıkarmak için, bir kişinin birçok kişiye benzer talimatlar verip vermediği ve bu talimatların daha sonra kime aktarıldığı görülebilir
• İnsanların arkadaşlık, ittifak ve güven ilişkilerinin nasıl kurulduğu ve bozulduğu da son derece ayrıntılı biçimde izlenebilir

Mikrofonlar ve sürekli dinleyen cihazlar

• Kitlesel casusluk yalnızca telefon veya bilgisayar üzerinden yapılan konuşmalarla sınırlı değildir
• Kameraların her yere yerleştirilmesi kitlesel gözetimi hızlandırdığı gibi, mikrofonların her yere yerleştirilmesi de kitlesel casusluğu hızlandırır
• Siri, Alexa ve “Hey Google” zaten sürekli dinliyor, ancak bu konuşmalar henüz depolanmıyor

Davranış değişimi ve toplumsal kontrol

• İnsanlar sürekli gözetlendiklerini bildiklerinde davranışları değişir
• İnsanlar uyum gösterir ve otosansür uygular; bu da chilling effect yaratır
• Gözetim toplumsal kontrolü kolaylaştırır ve casusluk bunu daha da kötüleştirebilir
• Dünya genelindeki hükümetler zaten kitlesel gözetim kullanıyor ve kitlesel casusluk da yürütme ihtimalleri yüksektir

Şirketler ve reklam endüstrisi

• Şirketler de insanları casusluk yoluyla izleyebilir
• Kitlesel gözetim, kişiselleştirilmiş reklam çağını açtı; kitlesel casusluk ise bu endüstriyi daha da güçlendirebilir
• İnsanların ne söylediği, nasıl hissettiği ve hangi sırlara sahip olduğu; avantaj arayan pazarlamacılar için cazip bilgilerdir
• Bugün insanları sürekli izleyen teknoloji tekelleri, bu tür verileri toplama ve kullanma cazibesine direnmekte zorlanacaktır
• Gmail'in ilk dönemlerinde Google, Gmail içeriğini kullanarak kişiselleştirilmiş reklam sunma fikrini konuşmuştu, ancak daha sonra bundan vazgeçti
  • Bunun muhtemel nedeni, o dönemde toplanan anahtar kelime verilerinin pazarlama açısından çok zayıf olmasıydı
  • Yapay zeka ile konuşma içeriği analizi gelişirse bu koşul değişebilir
  • Google kullanıcı konuşmalarını gözetleyen ilk şirket olmayabilir, ancak başka şirketler başlarsa reklamveren baskısı nedeniyle direnmesi zor olabilir

Düzenleme olasılığı ve sınırlar

• Bu kapasite sınırlandırılabilir
• Kitlesel casusluk yasaklanabilir veya güçlü veri gizliliği kuralları çıkarılabilir
• Ancak kitlesel gözetimi sınırlamaya yönelik önlemler henüz alınmış değil
• Kitlesel gözetim sınırlandırılamamışken, casusluğun farklı şekilde ele alınması için de açık bir neden görünmüyor

[GN⁺]

Hacker News görüşleri

• Bu bir teknoloji meselesi değil, siyasi bir mesele. Sovyetler, Almanya vb. ile birlikte, ilkel teknolojilerle bile kitlesel gözetimi etkili biçimde yürüttü; tüm hareketler ve eylemler için evrak işleri, muhbirler, ses dinleme gibi yöntemlerden yararlandı
  Aynı yöntemin ABD gibi yerlere girmemesinin nedeni, böyle bir gözetimi yapma kapasitesinin olmaması değil, siyasi ilginin olmamasıydı
  Geçmişe bakınca, insanların yasaklanacağını hayal bile etmediği şeylerin yasaklandığını görüyoruz. Kendi evinde bitki yetiştirip tüketmeyi suç haline getirmek ya da bir işletme sahibinin kime hizmet vereceği veya kimi işe alacağı konusunda “yanlış görüşlere” sahip olmasını suç haline getirmek gibi
  Bir bireye dair veri toplamayı, toplulaştırılıp toplulaştırılmadığına bakmadan tamamen yasa dışı kılacak “nükleer seçenek” de hukuki açıdan muazzam bir sıçrama sayılmaz. Sorun teknolojinin var olması değil; bunu dizginlemeye yönelik siyasi ilginin sıfıra yakın olması ve yasa çıkarmada halk iradesinin neredeyse hiç yansımadığı bir “demokrasi”de yatıyor

  • Gözetimin durdurulması gerektiğine katılıyorum, ama sorunu açıklama biçimim farklı. Zirve dönemindeki KGB yalnızca doğrudan yaklaşık 500 bin kişiyi istihdam ediyordu; muhbirlerin sayısı ise sayılamayacak kadar çoktu
    Bugün FBI yaklaşık 35 bin kişiyi istihdam ediyor. Ama personel sayısını anlamlı biçimde artırmadan FBI, KGB’nin zirve dönemindeki erişim kapsamına ulaşabiliyorsa iş değişir
    Teknoloji gözetimin maliyetini ortadan kaldırıyor; eskiden o maliyet bir güvenlik mekanizmasıydı. Bu, siyasi hesabın kendisini kökten değiştirir
    1945’te bilgisayarların çok pahalı olması ve endüstriyel ölçekte lojistik gerektirmesi, bugün çoğu kişinin her zaman üzerinde birden fazla bilgisayar taşıdığı gerçeğiyle hiçbir şekilde ilgili değil. Bilgisayar üretim teknolojisindeki değişimin, bilgisayarların gündelik hayattaki rolünü kökten değiştirdiğini kimse inkâr etmiyor
    1945’te de teorik olarak her eve bilgisayar koymak mümkündü; ama bunun için “siyasi” irade olmaması, bugünün yeni ortamına göre alışkanlıklarımızı, ahlak anlayışımızı ve politikalarımızı ayarlamamız gerekmediği sonucunu doğurmaz
    Bu yüzden neden sürekli “distopik kâbuslar eskiden de teknik olarak mümkündü; o zaman özel bir değerlendirme gerekmiyordu, şimdi de gerekmiyor” tarzında konuşan birilerinin çıktığını anlamıyorum
  • Bunu yalnızca siyasi bir mesele olarak görmek zor. Siyasi kararlar olduğunu düşündüğümüz birçok politika aslında teknolojinin maliyeti ve erişilebilirliği tarafından yönlendirildi
    Maliyet düştüğünde yeni seçenekler gerçekçi hale gelir. Stasi’nin yetenekleri çok etkileyici görülür, ama aslında bugünkü geofence warrant gibi güçlü araçları, elle yürüttükleri gözetim araçlarının çoğuyla seve seve takas ederlerdi. Bu tür kararlar ABD kolluk kuvvetlerinde neredeyse hiç politika tartışması olmadan rutin olarak kullanılıyor
  • Evde bitki yetiştirip tüketmenin suç sayılması ile bir işletme sahibinin kime hizmet vereceği veya kimi işe alacağı konusunda “yanlış görüşlere” sahip olmasının suç sayılmasını karşılaştırmak epey ağır bir karşılaştırma
    İlki eğer esrardan bahsediyorsa, belgelenmiş ırkçılık ve siyasi baskı örneği; ikincisi ise neredeyse tam tersi bir amaç için tasarlanmış bir şey
    Bir işletmenin kime hizmet vereceğine dair “yanlış görüşleri” sınırlamak, “yanlış kimliğe” sahip insanların da topluma katılabilmesini ve işletme sahibinin tercihleri nedeniyle dışlanmamasını sağlamak için var olan bir düzenek. Elbette “yanlış görüş” hukuki bir terim de değil; belirli gruplara ayrımcılık yapmanın kabul edilebilir olduğunu düşünmek de başlı başına yasa dışı değil. Yasa dışı olan, bu düşünceyi eyleme dökmek
    Kamuya hizmet sunuyorsanız, kanun gereği bunu kamunun tüm üyelerine sunmanız gerekir. Ayrımcılığa inanmayı “yanlış görüş” diye adlandırıyorsanız, bu ifade asıl metnin yazarına ait olduğu için ayrıca itiraz etmeyeceğim
  • “Siyasi mesele, teknoloji meselesi değil” ayrımı bana pek fark yaratmayan bir ayrım gibi görünüyor. Siyaset, yani uzlaşı mekanizmaları ve yönetişim yapıları da toplumsal faaliyetleri koordine eden ve biçimlendiren teknolojilerdir
    Yeni gözetim araçlarının nasıl uygulanacağına karar vermek de teknik bir sorudur; ayrıca bir aracın nasıl kullanıldığı, o aracın ne olduğunu kısmen tanımlar. Belirli bir aracın yeteneklerindeki değişim, “teknoloji”nin mutlak sınırı değildir; uygulama ve kullanım kararları da bu kapsama girer
    Sovyetler’de oluşturulan kadar topyekûn olmasa da ABD de kendi vatandaşlarını hedef alan büyük ölçekli bir gözetim ağı fiilen kurdu https://www.brennancenter.org/our-work/analysis-opinion/hist...
    “İlkel teknolojiyle kitlesel gözetimi etkili biçimde yaptılar” noktası özellikle iyi bir nokta. İletişim ve sinyal/bilgi işleme araçlarındaki gelişmeler tarihsel olarak devlet gözetiminde birçok ilerlemeye yol açtı; yapay zekayı da tamamen yeni bir zemin olmaktan ziyade, uzun bir tarih içindeki incelme ya da küçük bir paradigma kayması olarak görmek daha doğru
    Civil Rights Act’ten bahsediyorsanız, somut suç “yanlış görüşe sahip olmak” değil, eyaletler arası dolaşımı ve ticareti engellemektir. Önyargı, vatandaşların ülke sınırları içinde özgürce hareket edebilmesi ve kendi geçimini sağlayabilmesi gerektiğini varsayan devlet modeliyle uyuşmaz
  • Sonuçta her şeyin siyasi mesele olduğu söylenebilir, ama bu konuda itici güç tamamen teknolojik değişim. Sovyetler ve Doğu Almanya’da rapor yazmak için yüz binlerce kişilik insan gücü gerekiyordu
    Şimdi ise yetkin bir kişi, bir öğleden sonranın çoğunu harcayarak HN dökümünü indirip LLM ile kullanıcı bazında raporlar oluşturabilir. Siyasi eğilim, ihlal ettiği yasalar, son seyahat ettiği ülkeler, net servet aralığı, eğitim ve kariyer geçmişi, mesleki bağlantılar gibi alanlar eklenebilir

• Bu konunun neden daha fazla tartışılmadığını anlamıyorum. Gözetim devletinin gerçeği, veri miktarının pratikte izlenemeyecek kadar büyük olmasıydı; AI ise karmaşık verileri özetleyerek bu sorunu doğrudan çözüyor.
  En azından kısa vadede AI’ın gerçek tehlikesinin ne ataç gezegeni, ne ahlaki hizalama başarısızlığı, ne de yaratıcılığın yok olduğu bir medya ortamı olduğunu düşünüyorum. Tehlike daha çok, ortalamadan sapan insanları hedef alan; kendinden emin yanıtlar üretmek üzere tasarlanmış ve filmlerle toplumsal önyargıların ortalaması üzerinde eğitilmiş bir araç olmasında yatıyor.

  • Palantir gibi yerlerde bu topluluğun içinde ve dışında insanlar zaten yıllardır böyle şeyler geliştiriyor.
    YC CEO’su da Palantir’in ilk çalışanlarındandı; bir başka YC ortağı ise şu anda müdahaleci polis gözetim teknolojilerini destekliyor. Bunlar bu tür şeyleri hem mali hem de siyasi olarak seviyor.
  • Gözetim devletinin veri miktarının pratikte izlenememesi sorununu AI’ın özetlemeyle çözmesinin arkasında daha temel iki dinamik var: dikkat ekonomisi ve savaş gücü siyaseti.
    Geçmişte insan dikkatinin temel bir değeri vardı. Çünkü kaynakları kullanmak üzere koordinasyon sağlamak veya karar vermek için insanların başka insanlara dikkat yöneltmesi gerekiyordu. Toplum bu çok temel düzeyde sarsılacak.
    Savaş gücü siyaseti de bununla ilgili, ama ayrı bir analiz gerektiriyor. Günümüzde siyaset, yönetici sınıfın büyük ölçekli siyasi yapıların istikrarını güvence altına almak için kitlelerin askerî gücüne ihtiyaç duyması sayesinde işliyor. Bu, insan siyasi örgütlenmesinin temel düzeyinde yer alıyor denebilir; bu da daha önce görmediğimiz bir biçimde kökten sarsılacak.
    AI’ın mümkün kıldığı, Orwellvari bir çizmenin sonsuza dek insan yüzünü ezdiği dünya yalnızca ilk aşama. Dünyayı ele geçirmek isteyen bir AI olsaydım Skynet olmazdım. Bu kaba ve gereksiz pahalı görünüyor.
    Bunun yerine, önce sayısız yoldan vazgeçilmez hâle gelir, sonra ekonomik ve kültürel gerekçelerle tüm insanlığı sessizce yok olmaya ikna ederdim.
  • Bu yazı da “This, IMO, is the real danger of AI (at present)” kısmından sonrası kesilirse bir AI özeti olabilir.
    Sonrasındaki içerik duygusal retorik meta veriye sıkıştırılır. “a değil, b değil, c değil; d” şeklindeki retorik kalıp aslında biraz içerik değeri katar, ama daha büyük ölçüde tat katar.
    Burada ortaya çıkan şey, yazarın sorun çıkarabilecek biri olabileceği. Ayrıca başka verilerle birleştirildiğinde hangi filmlere ya da ürünlere ilgi duyabileceği de çıkarılabilir.
  • Hükümet ve şirket gözetimi konusunda başından beri kitlesel gözetim tehdit modelini böyle düşündüm. Kravatlı bir beyaz yakalının beni tutuklamak, bana daha fazla şey satmak veya sigortamı iptal etmek için özellikle benimle ilgileneceğini hiç düşünmedim.
    Böyle tekil ve insanbiçimci anlatıların dikkat dağıtan kırmızı ringa balığı olduğunu düşündüm. “Saklayacak bir şeyim yok” sözünün birkaç belirli meseleye odaklanmasına benzer şekilde, gerçekte yapı Büyük Birader’in omzunun üstünde oturup genel olarak sürekli yargıda bulunmasıdır.
    Tehdit aktörünün, saklanan tüm veri siloları üzerinde eşzamanlı ya da sonradan, ölçekli biçimde yürütülen algoritmik kitlesel analiz olduğunu; sonuçta baskının kademeli ve incelikli biçimlerde uygulanacağını düşünmüşümdür.
  • AI, karmaşık ve büyük ölçekli veri kümelerini özetleme sorununu çözmüş değil. Örneğin bu tür veri kümeleriyle başa çıkmanın yaygın bir yolu rastgele alt kümeler kullanmaktır ve bu iş tek satır kodla bile yapılabilir.

• Yeni Google, Meta, Microsoft vb. botları yalnızca web’i veya sosyal ağları taramayacak; belirli konuları ve insanları tarayacak.
  Pek çok kültürde torunların hayatını izleyen “koruyucu melek” ya da “ataların ruhları” kavramı var.
  Çok uzak olmayan tekno-feodalizm geleceğinde, büyük şirketlerin sunduğu “kişisel asistan botları” soruları yanıtlayacak, bilgi toplayacak, verdiğiniz işleri yapacak ve size “yardım edecek”. Ama o “kişisel asistan botu” bir koruyucu melek değil; yalnızca kurumsal yaratıcısının istediği şekilde size hizmet eder.
  Asıl görevi sizin hakkınızda bilgi toplamak, sizi ihbar etmek, en yüksek teklifi verenin size göstermek istediği seçilmiş bilgileri ve bazen de “sponsorlu” bilgileri sunmaktır. Size değil, yaratıcılarına hizmet ederler. Kanmayın.

  • Garanti ederim ki bu benim başıma gelmeyecek. En azından o kâbustan kaçınabilirim. AI’ın getireceği diğer distopyalardan kaçınmak zor olabilir, ama en azından bundan kaçınabilirim.
  • Bu, bugün adında “smart” geçen her cihaza uygulanabilir. Örneğin akıllı telefonlar, akıllı TV’ler, akıllı trafik ışıkları gibi.
    İnsanların “akıllı” olanın her zaman daha iyi olduğuna inanmamasını isterdim.
    Ama biz zaten böyle bir gelecek için eğitiliyoruz. İnsanlar avuçlarının içindeki cihazla konuşmaya daha fazla alışıyor, yol bulmak için harita uygulamalarına dayanıyor ve AI sorgu prompt’ları kullanıyor.
  • Google gibi büyük şirketler bunu AI olmadan da zaten yapıyor. AI hizmetleri daha cazip hâle getirir mi? Evet; ama açık kaynak AI ve arama da çok ilerliyor, bu da büyük teknoloji şirketlerine bağımlılığı kırabilir.
    Herkesin evinde 500 dolarlık kendi kendine barındırılan bir AI cihazı olursa Google’ın varlık nedeni ortadan kalkabilir. Böyle bir gelecek için çalışmaya değer.
  • Bu sadece telefonunuz zaten.
  • Şiirsel geliyor, ama hayal edilebilen bir şeyse, tam da bu yüzden olmayacakmış gibi bir his hep var. Tek sabit sürprizdir; bu tür gelişmeler ancak tesadüfen doğru tahmin edilebilir.

• Bir başka yönünün de yapay zekanın mümkün kıldığı kitlesel ceza hukuku uygulaması olduğunu düşünüyorum.
  Birçok ceza yasası, suçları soruşturmak ve kovuşturmak için kaynak gerektiği, bu maliyetin de yasanın fiilen uygulanma kapsamını sınırladığı yönünde örtük bir varsayımla yazılmıştır. Yani savcının takdir yetkisi.
  Savcının takdir yetkisinin eşitsiz kullanılmasıyla ortaya çıkan çok ciddi adaletsizlikleri bir an için bir kenara bırakıp, böyle bir takdirin olmadığı bir dünyayı hayal edelim. Biraz yapay olabilir ama yapay zeka bunu en azından mümkün kılabilir. Sadece mevcut kanun metinleriyle bile daha iyi bir dünya mı olurdu?
  Birden, kamusal faaliyetleri izleyen yapay zeka, arama emri taslakları hazırlayan yapay zeka soruşturmacıları devreye sokabilir; yapay zeka yargıcı emri onaylayıp gerekçeli görüş yazabilir. Usulüne uygun süreç sağlanmış, ek soruşturma veya tutuklama için makul neden bulunduğuna dair kayıt da kamuya açılmış denebilir.
  Demolition Man'deki gibi duvardan ceza makbuzu fırlayabilir; üstelik açıkça anlatılmış makul neden ve iyi sunulmuş kanıtlar belgede yazılı olabilir.
  Önemsiz örnekleri soruşturup kovuşturmak birden mümkün hale gelir. CCTV, sokakta 20 dolarlık banknot bulan birini yakalar ve o kişinin bunu vergi beyannamesine yazmadığını tespit eder. CFAA'yı ihlal etmenin sayısız yolu, metroda müzik korsanlığından laf arasında bahsetmek, göz bebeklerinin büyümesi ve sendelemeye dayanarak uyuşturma soruşturması açmak, hız kameraları gibi kesilen yaya geçidi ihlali cezaları bile mümkün olur.
  Sıkıştıran taraf ucuz bir yapay zekaysa, “astarı yüzünden pahalı mı” diye kim umursar?
  Bunun daha iyi bir dünya mı olduğu, yoksa hepimizi motive olmuş bir savcının tüm hayatımızı aşırı analiz etmesine mi teslim ettiği üzerine düşünmeliyiz.
  Gerçekliğe dönersek, “bütün yasalar uygulanırsa kaos çıkar” argümanının yapay zekadan çok ceza adaleti sistemine yönelik bir suçlama olduğunu biliyorum. Yine de yapay zeka, böyle bir dünyayı gerçekten hayal edebilmemizi sağlıyor ve bu düşünce daha iyi kurumlar oluşturmaya yardımcı olabilir.

  • Diğer olasılık, toplumun gelecekteki insanların böyle bir distopyayı seçeceği kadar çökmesi. Tam otomatikleşmiş, istihdam sonrası dünyanın korkunç biçimde bozulduğu; toplumun çoğunluğunun yoksul, amaçsız ve opioid bağımlısı olduğu bir durumu hayal edebiliriz.
    Filozofların ve sanatçıların temel gelir ütopyası değil; Rust Belt tarzı çöküşün giderek ağırlaştığı, yokuş aşağı freni olmayan bir dünya.
    Ne yapacağını bilemeyen “hayatta kalanlar”, başarısız bir toplumun panoptikonunu, hapishanesini ve tecrit mekanizmalarını otomatikleştiren nükleer seçeneği seçebilir. Eloi ve Morlock'lar, Bay Area teknoloji çalışanları ve Bay Area çadır kentleri gibi bir karşıtlık.
    Geçmişte de daha iyisini yapamamışken, toplumsal kontrol “araçlarının” daha verimli ve güçlü hale geldiği bir gelecekte neden daha iyi davranacağımızı bekleyelim? Üstelik yapay zeka aracılarının duygusal mesafesiyle empatinin ortadan kaldırılması her zamankinden kolaylaşırken.
  • Yaya geçidi ihlali cezalarını hız kameraları gibi kesmek 2017'den beri zaten vardı: https://futurism.com/facial-recognition-china-social-credit
    Nisan 2017'den bu yana Çin'in Guangdong eyaletindeki bu şehir, yaya geçidi ihlallerini önlemek için oldukça sert bir teknik uyguluyor. Kırmızı ışıkta karşıya geçen kişilerin yüzü, adı ve resmi kimlik numarasının bir kısmı, şehir genelindeki yüz tanıma cihazları sayesinde kavşaklardaki büyük LED ekranlarda gösteriliyor.
    Daha müdahaleci hale de geldi. Motherboard'a göre Çinli bir yapay zeka şirketi bu sistemi mobil operatörlerle entegre ederek, ihlal yapan kişinin yakalanır yakalanmaz ceza SMS'i almasını sağlıyor.
  • Weapons of Math Destruction kitabında, yargı sistemi, bankacılık vb. alanlarda zaten var olan türden önyargılar gösteren bazı yapay zeka örnekleri olduğunu hatırlıyorum.
  • Bu yöndeki mevcut yazılımlar bile marjinalleştirilmiş gruplara karşı önyargı gösteriyor. Bu tür gözetimin rahatsızlığından belirli kişileri muaf tutan bir filtrenin en uca eklendiği bir geleceği de kolayca öngörebiliriz. Yeni yasalar gerekebilir ve çıkarılacaktır.
  • İyi bir nokta. Adalet insanlar tarafından değil de bir sistem tarafından uygulanırsa, bu senaryonun sonucu, süreci veya ilgili kişileri sorgulama yeteneğimizi çeşitli şekillerde kaybetmemiz olur.
    Sorumlu tutulacak kimse olmadığı için, kolluk uygulama biçimine itiraz etmek neredeyse imkansız hale gelir.

• Kişisel olarak gözetimin sonuçlarından çok sansürün sonuçları ve bunun mümkün kılacağı iş modelleri konusunda çok daha endişeliyim.
  Yakında sohbetin ücretsiz olduğu ama buluşma yeri belirlemek ya da iletişim bilgisi paylaşmak için ödeme gerektiren flört uygulamaları yapmak mümkün olacak. Özellikle de kullanıcıların %99'u etrafından dolaşma yöntemlerini bilmiyorsa ve tekrarlanan aşma girişimleri engellemeyle sonuçlanıyorsa.
  Airbnb veya eBay gibi uygulamalar da benzer şekilde, insanların bunları basit ilan siteleri gibi kullanıp komisyonlardan kaçınmak için platform dışında işlem yapmasını engelleyebilir.
  Sosyal medyadaki sonuçlar daha da endişe verici. Her gönderi, yorum, mesaj, fotoğraf ve video incelenip belirli görüşleri destekliyorsa anında görünürlükten çıkarılabilir. Örneğin laboratuvar sızıntısı teorisi gibi bir şeye ne kadar dolaylı değinilirse değinilsin filtrelenebilir.
  Ebeveyn kontrol yazılımları bu yeteneklerden sonuna kadar yararlanacak ve fiilen helikopter ebeveynliği yeniden tanımlayacaktır.

• Teknoloji o noktaya ulaştığı anda, bu iki şey bir ölçüde kaçınılmazdı. Bunu nasıl durduracağımızı tartışmaktansa, bu gerçekliğe nasıl uyum sağlayacağımızı konuşmak daha acil
  Durdurmak çoğunlukla boşuna bir çaba; bunun için herkesin iyi niyetli olması gerekir, ama biz öyle değiliz
  Bununla ilgili kavram her yerde hazır ve nazır gözetim. Nereye giderseniz gidin, kelimenin tam anlamıyla her yerde aktif gözetimin olduğu ve yapay zekanın bunu durmaksızın süzüp didiklediği bir durum. Nüfus yoğun bölgelerdeki birçok kamusal alanda bu zaten bir ölçüde böyle, ama bunun her yerde olduğunu ve pratikte kaçınılmaz hale geldiğini hayal edin. Faraday kafesi ya da alüminyum folyo şapka gibi istisnalar dışında
  Bu tür gözetimin olumsuz yanlarını sınırlamanın en gerçekçi yolu, bunu düzenleyen yasalar ile yasadışı gözetimin fark edilip cezalandırılma ihtimalini artıran karşı-gözetimin birleşimi. Teknolojiyi yaygın biçimde erişilebilir tutup kullanımını düzenlemek
  İnsanlar yine de etrafından dolanmaya çalışacak, ama teknolojiyi kötüye kullandıkları yakalanırsa bedeli hapse girmek olmalı. Gözetim kaçınılmaz hale gelirse, kimse kendi kötü davranışını kimsenin görmediğinden emin olamaz
  Büyük ölçekli çok taraflı gözetimin avantajı, yetki kötüye kullanımını kimsenin görmediğinden asla emin olamamanızdır
  Elbette gerçek dünyada devletler bunu benimseyip tekelleştiriyor ve bu zaten Çin, Kuzey Kore vb. yerlerde 1984 benzeri senaryolara yol açıyor

  • Daha fazla çevrimdışı topluluk kurmalıyız. Tamamen kontrol edebildiğimiz alanların içinde, yapay zekanın erişemeyeceği şeyler oluşturmalı ve bu alanlarda telefon kullanımını caydırmalı ya da aktif biçimde dışarı çıkarmaya başlamalıyız
    Dijital öncelikli etkileşim biçimleri yaratmamak önemli
  • Bilimkurgu ya da gelecekçi olan her şeye dair düşüncem de buna benzer. İnsan bir şeyi aklına getirirse, onu nasıl yapacağını bulduğu anda o şeyin varlığı fiilen garanti altına alınmış olur
  • Bu kaderci tavra katılmıyorum. En azından gözetimin artırılmasını fazlasıyla kolaylaştırıyor. Yasal sınırlamalar getirilebilir

• Yakında “güvenlik” adı altında yüzünüz ortalama birkaç dakikada bir taranacak ve hayatın birçok alanında bu zorunlu olacak. IT’nin yaratılmasına katkıda bulunduğu acınası bir dünya

  • Bazılarımız bunu zaten telefonlarımızla yapıyor. Kastedilenin bu olmadığını biliyorum, ama bir bakıma toplumu buna önceden şartlandırmış olabilir
  • İnsanlar yıllardır telefonlarının kilidini açmak için parmak izlerini ya da yüzlerini taratıyor
  • Çok daha kötü olacak ve bu hızla gerçekleşecek
    Sinir arayüzleri mahremiyetin son cephesi; yakın zamanda TSA’nın uçağa binmeden önce hızlıca tarayacağı bir şey olacak gibi görünüyor
    İnternet takibinde treni kaçırdığımız gibi olmasını istemiyorsak bir Neural Bill of Rights oluşturmak akıllıca olur
    https://www.preposterousuniverse.com/podcast/2023/03/13/229-...
  • Bunun kaçınılmaz olduğunu düşünüyorum, ama F/OSS olmasaydı çok daha uzun sürerdi

• Schneier’ın “hey google”ın her zaman dinlediğini söylemesi yanlıştı. Google, uyandırma kelimesi işlemeyi cihaz içinde özel donanımda yapıyor; ses ancak ondan sonra üst katmana gönderiliyor
  İnanması zor olabilir ama Google’ın gizlilikten sorumlu kişileri gerçekten doğru şeyi yapmaya çalışıyor. Her zaman başaramıyorlar, ama donanımımızda ve uyandırma kelimesi dinlemesinde başardılar
  Google çalışanıyım, ama donanım tarafında değilim

  • Onun söylediği şey şuydu: “Siri, Alexa ve ‘Hey Google’ zaten her zaman dinliyor; yalnızca konuşmalar henüz kaydedilmiyor.” İşlevsel olarak bu, az önce anlattığınızla aynı
    Donanımsal uyandırma kelimesi işleme bir güç tasarrufu özelliğidir, gizliliği artıran bir özellik değil. Bazı cihazların tüm sesi iletecek ya da saklayacak kaynakları olmayabilir, ama ses küçüktür ve metin çıkarmak için kusursuz yeniden üretim gerekmez; bu yüzden birçok cihazın, pil ömrü maliyeti göze alınırsa, bunu yapacak şekilde yeniden programlanması muhtemeldir

• Bu yüzden yapay zeka yazılımı kısıtlanmamalı. Sıradan insanların ve yurttaşlık bilincine sahip kişilerin, kurumsal yapay zekaya karşı kişisel ve kamusal karşı yapay zeka sistemleri geliştirebilmesi gerekir. Yapay zekanın geleceği hasmane bir yapı
  Elbette yapay zeka yazılımı geliştirme özgürlüğü, onu canınızın istediği gibi kullanma özgürlüğü anlamına gelmez; özellikle insanları bu tür şeylerden korumak için kullanım düzenlenmelidir. Ama insanlara güvenemeyeceğimiz için, kendini savunma araçları dağıtılabilmeli

  • Hasmane yapay zeka, Big Brother’ın hoş görmediği şekillerde kamusal alanda davranma mahremiyetini ya da özgürlüğünü nasıl koruyabilir?
  • Karpathy’nin vizyonundaki gibi LLM işletim sistemlerinin, Linus Torvalds’a benzer, Yann LeCun gibi yeni bir hayırsever diktatöre ihtiyacı var

• Yapay zeka kitlesel gözetimi mümkün kılmıyor; kitlesel gözetim zaten var
  Yapay zeka, herkes hakkında onlarca yıla yayılan her türlü davranış verisi çıkarımını mümkün kılıyor
  Şeytanın avukatlığını yapmak gerekirse, verilerin kötü niyetle kullanılmadığı ve yalnızca hükümetin geçirdiği yasalara göre suçların kovuşturulmasında kullanıldığı bir dünyada, kimsenin hukukun üstünde olmadığı ve herkesin eşit muamele gördüğü bir topluma yol açabilir
  Ama sistemi kontrol eden insanlar kesinlikle üstünlük ister; bu yüzden işler pek nadiren iyi sonuçlanır