- OpenAI, OpenAI for Countries ve Stargate UAE’yi “demokratik yapay zeka”nın yayılması olarak sunuyor, ancak BAE’de büyük ölçekli bir yapay zeka veri merkezi kurmanın demokrasiyi teşvik ettiğine dair kanıt zayıf
- BAE, Freedom House 2024 değerlendirmesinde 18/100 puan aldı; kalıtsal monarşinin iktidarı tekelleştirmesi, siyasi partilerin yasak olması, hükümet eleştirisinin yasaklanması, aktivistlerin hapsedilmesi, medya sansürü ve göçmen işçi sömürüsü birlikte anılıyor
- OpenAI tarafının mantığı ikiye ayrılıyor: “ABD yapay zekası demokratik değerleri yayar” ve “ABD Çin’le yapay zeka rekabetini kazanırsa bu demokrasi için iyidir”; ancak Stargate UAE’nin sansürsüz erişim ya da demokrasi yanlısı araçlar sağlamayı hedeflediğine dair kanıt yok
- Büyük ölçekli yapay zeka hesaplama altyapısı devlet gücünün temel varlıklarından biri haline geliyor ve BAE kraliyet ailesi büyük miktarda fon sağladığı için, gelişmiş yapay zeka çiplerine erişim ya da mülkiyet üzerinden BAE hükümetinin etkisinin artma olasılığı yüksek
- Yarı iletken ve yapay zeka altyapısı anlaşmaları her zaman kötü değildir, ancak çip sayısı, mülkiyet ve kullanım hakları ile Çin’e teknoloji transferini önleme koşulları açıklanmamışken bunu bir demokrasi projesi olarak pazarlamak riskli bir çerçeveleme
OpenAI’nin “demokratik yapay zeka” gerekçesi ve Stargate UAE
- OpenAI, mayıs başında OpenAI for Countries programını duyurarak, ABD Teksas başta olmak üzere ilerleyen Stargate ile bağlantılı biçimde ülkelerin yapay zeka altyapısı kurmasına destek vereceğini açıkladı
- Duyurunun özü, büyük ölçekli yapay zeka altyapısının gelecekte ekonomik büyüme ve ulusal kalkınma için temel bir varlık olacağı ve “demokratik yapay zeka rayları” isteyen ülkelere otoriter yapay zekaya alternatif sunulması gerektiği düşüncesi
- Ardından OpenAI, BAE’de büyük ölçekli bir yapay zeka veri merkezi inşa etmek için bir ortaklık açıkladı ve bunu “demokratik değerlere dayanan” bir proje olarak öne çıkardı
- Eleştirinin odağı, OpenAI’nin demokrasi söylemini öne çıkardığı ilk büyük anlaşmanın gerçekte demokratik bir ülkeyle değil, BAE ile yapılmış olması
BAE’nin siyasi sistemi ve insan hakları durumu
- Freedom House 2024 ülke puanlarında BAE’ye 18/100 puan verdi; bu, Haiti, Zimbabve ve Irak’ın da altında bir seviye
- Özgürlük puanı: {p:18}
- BAE’nin siyasi sistemi, kalıtsal bir monarşinin iktidarı tekelleştirdiği bir yapı
- Siyasi partiler yasak
- Adaylar bağımsız olarak yarışabiliyor, ancak sistemi anlamlı biçimde zorlamaları çok güç
- Danışma konseyindeki koltukların yalnızca yarısı seçimle geliyor, kalanı hükümet tarafından atanıyor
- Söz konusu danışma konseyinin gerçek bir yasama yetkisi yok
- Hükümet eleştirisi yasak ve insan hakları ya da siyasi reform talep eden adaylar ile aktivistler hapse atılıyor ya da kitlesel yargılamalara maruz kalıyor
- Hapsedilen muhaliflerin aileleri bile sistematik gözetim ve cezalandırmanın hedefi oluyor
- Medya ya otosansür uyguluyor ya da hükümetin aktif sansürü altında; bazı durumlarda kapatılabiliyor
- BAE nüfusunun yaklaşık %90’ı, siyasi haklardan yoksun göçmen işçilerden oluşuyor; pasaportlara el konması, ücretlerin ödenmemesi ve aşırı sıcak altında zorla çalıştırma gibi emek sömürüsü sorun olarak öne çıkıyor
- Bir insan hakları kuruluşu, BAE’yi dünyada modern kölelik yaygınlığının 7. en yüksek olduğu ülke olarak değerlendirdi
OpenAI’nin demokrasi mantığının iki kolu
- OpenAI’nin küresel ilişkilerden sorumlu yöneticisi Chris Lehane, The Hill için yazdığı görüş yazısında, yapay zekanın geleceğini demokratik değerlerin şekillendirmesi gerektiğini ve ABD, yapay zeka inşa etmek isteyen ülkelere yardım etmezse bu boşluğu diktatörlerin dolduracağını savundu
- OpenAI tarafının açıklaması büyük ölçüde iki mantığa ayrılıyor
- ABD yapay zekası demokratik değerler taşıdığı için daha çok insana sunulursa demokrasi yayılır
- ABD demokratik bir ülke, Çin ise değil; dolayısıyla ABD’nin yapay zeka “rekabetini” kazanması demokrasi açısından faydalıdır
- İlk mantık, aşırı durumlarda bir ölçüde geçerli olabilir, ancak BAE anlaşmasına pek uymuyor
- Bir ülke sansürsüz yapay zeka sohbet botlarına erişimi yasakladıktan sonra buna izin verirse, bilgi özgürlüğü açısından demokratik değerlere katkı sağlayabilir
- Demokratik olmayan bir hükümetin iradesine rağmen demokrasi yanlısı yapay zeka araçları sunmak da sınırlı ölçüde anlamlı olabilir
- Ancak Stargate UAE’nin böyle bir senaryoyu hayata geçirmeyi amaçladığına dair kanıt yok
- OpenAI, BAE’nin ChatGPT’yi ülke çapında etkinleştiren dünyadaki ilk ülke olacağını duyurdu, ancak ChatGPT’nin daha önce BAE’de kısıtlı olup olmadığı ya da ABD, Avustralya ve Kanada gibi ülkelerin neden “ülke çapında etkinleştirilmiş” sayılmadığı belirsiz
- BAE sakinlerine ChatGPT Plus’ın ücretsiz verileceğine dair haberler de çıktı, ancak bu bilgi sahte haberdi
ChatGPT’nin işletimi ve BAE sansür sınırları
- ChatGPT’nin BAE’de diğer yapay zeka araçlarından daha demokratik biçimde işletileceğine dair bir işaret yok
- BAE’de yaşayanların Gemini, Claude ve Llama gibi diğer ABD menşeli yapay zeka ürünlerine de erişebildiği belirtiliyor
- OpenAI COO’su Brad Lightcap’e, ChatGPT’nin BAE’de kraliyet ailesi eleştirisi gibi hassas konulardaki “red lines”a uyup uymayacağı soruldu; o da “Henüz bilmiyoruz. Ülkeyle ve ortaklıkla birlikte çalışmamız gerekecek” yanıtını verdi
- Bu yanıt, ChatGPT’nin BAE’nin mevcut siyasi sansür sınırlarıyla çatışmaması için ayarlanabileceği ihtimalini dışlamıyor
Yapay zeka hesaplama altyapısı ve devlet gücü
- İkinci mantık, yani ABD ile Çin arasındaki yapay zeka rekabeti, görece daha ikna edici olabilir
- Yapay zekada başarıda hesaplama kaynakları büyük rol oynuyor
- Şu anda ABD’de büyük ölçekli veri merkezleri kurmanın zor olduğu düşünülüyor
- Başka ülkeler finansman, enerji ve izin süreçlerini sağlarsa, ABD şirketleri daha fazla hesaplama kaynağı elde edip daha iyi yapay zeka geliştirebilir
- Ancak sadece ABD ile Çin’e odaklanan bir çerçeve, BAE anlaşmasının daha büyük sonuçlarını gözden kaçırıyor
- Büyük ölçekli hesaplama altyapısı, özellikle yüz binlerce gelişmiş yapay zeka hızlandırıcısından oluşan dünya çapında bir yapay zeka süper bilgisayarı, devlet gücünün önemli bir itici unsuru haline geliyor
- Bu açıdan bakıldığında Stargate UAE, BAE hükümetinin gücünü ve yapay zeka etkisini ciddi biçimde artıran bir anlaşma oluyor
- Kamuya açık bilgilerle, hesaplama kaynaklarının mülkiyet ve kullanım haklarının kimde olduğu son derece belirsiz; ancak BAE bu kadar büyük para harcıyorsa, söz konusu çipler üzerinde kayda değer erişim ya da mülkiyet elde etmemesini düşünmek zor
Körfez yapay zeka/yarı iletken anlaşmalarının koşulları ve belirsizlikler
- Körfez ülkeleriyle yarı iletken anlaşmaları yapmak başlı başına kötü bir şey değil
- OpenAI’nin BAE anlaşmasına benzer birçok anlaşmanın ayrıntıları açıklanmadı ve bazıları henüz nihai hale gelmedi
- ABD, ulusal güvenlik gerekçeleriyle Körfez bölgesindeki otoriter yönetimlerle uzun süredir işbirliği yapıyor; soğuk gerçekçilik açısından, maliyetinden çok fayda sağlayan anlaşma biçimleri mümkün olabilir
- Sonradan ABD’nin iyi bir anlaşma yapıp yapmadığını değerlendirmek için şu koşullar önemli
-
Çip sayısı
- Hesaplama kaynaklarının mülkiyet ve kullanım hakları
- Çin’e teknoloji transferini önleme önlemleri
- Ancak en iyi olası Stargate UAE anlaşması bile BAE kraliyet ailesinin kabul edebileceği koşulları taşımak zorunda olacağından, bu ortaklığın güçlü bir demokrasi teşvik aracı olması zor
-
OpenAI’nin misyonu ve güç yoğunlaşması sorunu
- OpenAI sıradan bir kâr amacı güden şirket olsaydı ya da yapay zeka daha az kritik bir teknoloji olsaydı, bu anlaşmanın etrafındaki tanıtım dilinin önemi daha az olurdu
- Ancak OpenAI, kendisini misyon odaklı bir kâr amacı gütmeyen yapı olarak vurguluyor ve son derece güçlü bir teknoloji geliştirmeyi amaçlayan bir organizasyon
- “Yapay zekanın tüm insanlığa fayda sağlaması” misyonu çoğu zaman güvenli AGI inşa etmeye indirgeniyor, ancak dünyayı değiştirebilecek bir teknolojiyi gerçekten herkesin yararına geliştirme meselesi, onu “güvenli yapmak” ya da “ABD’de yapmak”tan çok daha karmaşık
- Güçlü yapay zeka sistemlerine kimin eriştiği ve bunları kimin kontrol ettiği, faydanın kime gideceğini belirleyen temel mesele
- Yapay zekayı mevcut güç eşitsizliklerini büyütmeden, otoriter rejimleri güçlendirmeden ve sıradan insanların gücünü zayıflatmadan ilerletme sorunu, uygarlık ölçeğinde çözülmemiş bir görev olarak duruyor
- Stargate UAE’yi bir demokrasi projesi olarak pazarlamak, OpenAI’nin bu meydan okumayı yeterince ciddiye almadığına işaret etmeye daha yakın
1 yorum
Hacker News yorumları
Bu yöne genel olarak katılıyorum, ancak OpenAI gibi tanınmış bir şirketin yaptıklarıyla Cisco ve Oracle gibi daha az dikkat çeken dev sanayi şirketlerinin bir nesildir yaptıklarını karşılaştırırken bu kadar çok özel savunma yapılması sinir bozucu
Analiz yalnızca OpenAI ile başlayıp OpenAI ile biterse ikna gücü azalıyor
Bu, Google’ın “do no evil” ilkesini bırakıp eleştirilmesinden farklı değil. Ayrıca geçmişte bir şirketin kötü davranıp yanına kâr kalmış olması, bundan sonra başka şirketlerden daha iyi standartlar beklemememiz gerektiği anlamına gelmez
AMD’nin GloFo’yu ayırmasının arkasında da aslında Abu Dabi’de son teknoloji bir fab kurma niyeti vardı, ama çölde, kötü tedarik zinciri ve tatlı su yokluğu içinde bir şeyler yapma gerçeğine çarptı
Can sıkıcı bir durum, ama en azından insanların ilkeler etrafında örgütlenmeye çalışmasına minnettar olunabilir. O ilkeler gerçek motivasyon değilmiş gibi görünse bile. Bu durumda yazarın özellikle OpenAI’dan hoşlanmadığı için yazdığı tarafı açık, ama yine de argümanın kendisi iyi
Joe’nun hatalı park ettiğini belirtmek “özel savunma” değildir. Bu ifade böyle bir anlama gelmez
Sam Altman’ı görevden alan o kurul
Makalenin Amerikan diktatöründen değil, Körfez monarşilerinin diktatörlerinden bahsettiği gözden kaçmış
Çok basit. Birincisi, Nvidia açısından güvendiği Suudi yatırımcılara büyük miktarda ekran kartı satmak harika bir fikir gibi görünüyor. İkincisi, Körfez monarşileri ABD’ye bağımlı ve İslam Devrimi’nden kaçınmak istiyor. Üçüncüsü, veri merkezi elektriğinde güneş panelleri kullanmak istiyorlar.
Kullanıcıları takip ederler mi? Elbette. Ayrıca GCHQ ve NSA, kendi ülkelerindeki yasaları dolanmak için istihbarat paylaşım anlaşmaları yapabilir. Yeni bir şey yok. Sadece herhangi bir SaaS hizmetine düşüncelerini emanet etmemek gerekir
Zaten satın alma geçmişim, adres geçmişim, arama meta verilerim var; şimdi DOGE ile federal verilerin kayda değer bir kısmı da var. Çıkarlarıma düşman olmak için Twitter akışıma bile ihtiyaç yok.
Web de deli gibi kazınıyor, bu yüzden sınır çizgisinin SaaS’tan çok daha geniş olduğunu düşünüyorum
Yerli halk azınlıkta, güvenlik güçlerinin tamamı doğrudan yöneticilere bağlı yabancılar ve bazı durumlarda toplam yerli nüfustan daha kalabalıklar. Yerliler de çok iyi koşullarda yaşadıkları için her şeyi riske atıp savaşma motivasyonları az
Aksine, yapay zeka yarışında en kötü kirleticilerden biri olma ihtimalini bekliyorum. Sınırsız arzı olan petrol ve gazı yakma cazibesi çok güçlü
Bir açıdan, böyle bir cazibenin hiç doğmamasını sağlamak daha iyi
LLM’lerin başlıca faydasının, topluma gönderilen mesajları büyüten bir güç çarpanı olduğu bana açık görünüyor
Kitlelerdeki bireyler, neredeyse kopya niteliğindeki iletişim ve etkileşimlerden oluşan kalın bir battaniyenin altında kalacak; bunların çoğu insan olmayacak. İnterneti kontrol etmenin tek yolunun, sonunda onu suya bastırır gibi örtmek olduğu ortaya çıktı
Ben oldukça içe dönük biriyim; senin de benzer mi yoksa tam tersi mi olduğunu merak ediyorum. Genelde belirli mecraları okurum, çevrimiçi “etkileşim” aramam ve sosyal medyadan tamamen kaçınırım. Sosyal medya öncesinde bu normaldi. LLM istismarının insanları daha ilkel ağ kullanımı biçimlerine geri döndürme ihtimalini hiç görmüyor musun, merak ediyorum.
Ayrıca interneti kontrol etmek için üstünü örtmenin yeterli olduğu söyleniyor, ama gerçekte yasaları manipüle etmek için masraftan kaçınılmadığını da görüyoruz. “Kitleleri” küçümsemekten daha fazlası söz konusu
1780’de insanlar buhar makinesinin başlıca faydasının ne olduğunu düşünüyordu acaba
Ticari alışverişlerde böyle şeyler kullanılabilir, ama insanları sosyal medyada tutan şey, bu şekilde karşılanmayan sosyal etkileşim ihtiyacı. Elitleri kastediyorsa da yine hayır. Onlar zaten bunu insanlar üzerinden tamponlayarak yapıyordu ve yeterince zenginlerse gelecekte de muhtemelen böyle yapacaklar
Medya zaten bireyin başa çıkabileceği seviyenin çok ötesinde yapışkan çöple dolup taşıyor. Ortalama dikkat zaten doymuş durumda; yapay zeka üretimi çöpün daha fazla boca edilmesinin çok şey değiştireceğini sanmıyorum.
İnterneti kontrol etmenin yolu kelimenin tam anlamıyla kontrol etmektir. Hükümetlerin zaten yaptığı gibi
Diktatörler için bir şeyler yapmak açıkçası demokrasi için iyi olmama ihtimali yüksek
Demokrasinin sağlıklı olmasını istiyorsak işçi sınıfının servetini azamiye çıkarmak daha iyi. Kendisine, ailesine ve topluluğuna biraz bakabilecek kadar ferahlığı olan insanlar, demokrasiye anlamlı biçimde katılacak zamana ve eğitime sahip olabilir.
Amerikan diktatörü, Körfez ülkesi diktatörü ya da Rus diktatörü fark etmez; kim için yapılıyor olursa olsun, yapmamak daha iyi değil mi diye düşünüyorum. Elbette söylemesi kolay
Bir diktatörlükte demokrasiye katılmanın ne anlama geldiğini merak ediyorum.
İronik biçimde, teknoloji tekillik ya da ona yakın bir seviyeye ilerleyip düşük ve orta vasıflı işlerin çoğu otomatikleştikçe, Batı’da özellikle ABD’de daha fazla distopik eğilim görülüyor. Buna karşılık bu diktatörlükler uzun zamandır vatandaşları, artık yerleşikleri için de güçlü refah sistemlerine sahipti; nüfusları küçük olduğu için yapay zeka patlamasının faydalarını toplamak açısından avantajlı konumdalar
Çıkarımın aslında ters yönde olduğunu düşünüyorum
Yeterince etkili bir teknoloji, herhangi bir hükümeti diktatörlükçü ve totaliter hale getirebilir. İktidardakiler için her şeyi kontrol etme arzusu en büyük ayartıdır; korkunç devletler ve halk yönetimi de buradan doğar
Orwell’in 1984’ünde temel fikrin, her evdeki TV’nin sürekli izlediği ve o cihazın arkasındaki birilerinin gördüklerini gerçekten anladığı olduğunu hatırlamak yeterli
Distopik görülen kısım son bölümdü. Gün boyu herkesi izleyip anlayacak kadar insan olması mümkün değildi; ayrıca gözetleyenleri kimin gözeteceği sorunu da vardı. 1984, bunu hayata geçirmenin pratik bir yolu olmadığı için daha çok korkutucu bir fanteziye yakındı.
Tarihte ilk kez yeni LLM/üretken yapay zeka, 1984’ün o kısmını gerçekçi hâle getiriyor. “Tehlikeli düşünceler” için erken uyarı isteniyorsa hane başına bir GPU yeter; bu ya şimdiden mümkün ya da yakında mümkün olacak. Her haneye ayrılan hesaplama miktarının küçük olması ve yalnızca temel, zayıf bir zekâ çalıştırabilmesi de aksine mükemmel. AGI en azından teoride iki tarafı da dinleyip büyük resmi inceleyerek karşı tarafın yanında yer alabilir; ama tek hat üzerinde çalışan bir LLM ajanının böyle bir kapasitesi yok.
OpenAI ve Apple dahil en az 6 şirketin, arka ucunda en yeni üretken yapay zekâ bulunan, sürekli izleyen ev cihazları üzerinde çalıştığı bildiriliyor. Tek bir cümleyle anlamlı biçimde yardımcı olabilmesi için yeterli bağlam gerekir; dolayısıyla yakın dönem hayatınızın tamamını görmesi gerekir. Aynı zamanda bu tek başına kime oy vereceğinizi, henüz duyurulmamış hangi protestoya gideceğinizi ve sizi korkutup gitmekten vazgeçirmenin en iyi yolunun ne olduğunu bilmeye yeter. Bu, çivi çakma aracı ile cinayet silahı arasındaki farka benzer. İkisi de aynı çekiçtir.
TikTok-Çin kampanyası sırasında, LGBT kişilerin TikTok’un cinsel yönelimlerini ne kadar hızlı anladığını anlattığı çok sayıda video vardı. Hiçbir videoyu beğenmemiş, kimseyi takip etmemiş, izlenebilir profil bilgisi de vermemiş olmalarına rağmen; bazen kişi bunu kendine itiraf etmeden önce bile anlamıştı. TikTok yalnızca kullanıcının neye ne kadar uzun baktığına bakarak bunu çıkarıyor. Erkek spor videolarında kadın videolarına göre çok daha uzun kalmak ya da tam tersi bile yeterli. Bu, Çin’in sırf uygulama kullanımı üzerinden Amerikalılar hakkında ne kadar çok şey öğrenebileceğini göstermek ve korkutmak için kullanılmış gibi görünüyor.
Bu korkutucuysa, daha korkutucu olan şu. LLM arka uçlu bir cihaz, hangi TV programlarını izlediğinize, hangi kısımlarda güldüğünüze, yanınızdaki kişiye ne söylediğinize bakarak şimdiden çok daha fazlasını yapabilir. Multimodal olması bile gerekmeyebilir. Altyazı ve konuşmadan metne dönüştürme tek başına yeterli olabilir gibi görünüyor. Yaklaşan otoriterliğe karşı çıkma isteğinizi siz kendinize itiraf etmeden önce bile anlayabilir.
Helen Toner dünyanın öbür ucundaki demokrasiler için kaygılanırken, demokrasinin kalesi Orwellci bir toplumun ilk çalışan uygulamasına giden son iki adıma yaklaşmış olabilir. 1. adım, herkesin kendi çıkarı için böyle bir cihazı evine sokmaya ikna edilmesi; bu şu anda devam ediyor. 2. adım, o cihazı bizim çıkarımıza olmayan amaçlarla kullanması için sahibi olan şirketi tehdit etmek veya ele geçirmek; bu hâlâ yapılacak iş olarak duruyor
“Herhangi bir anda izlenip izlenmediğini bilmenin elbette hiçbir yolu yoktu. Düşünce Polisi’nin bireysel hatlara ne sıklıkla ya da hangi sistemle bağlandığı ancak tahmin edilebilirdi. Belki de herkesi her zaman izliyorlardı. Ama her hâlükârda istedikleri zaman hattınıza bağlanabilirlerdi. Çıkardığınız her sesin dinlendiği ve karanlıkta değilseniz her hareketinizin izlendiği varsayımıyla yaşamak zorundaydınız; gerçekten de alışkanlık içgüdüye dönüşerek böyle yaşıyordunuz.”
Yine de tarihte ilk kez birçok ülkenin gerçek tam kapsamlı iletişim gözetimine yaklaştığı konusunda haklı
Çıktı bir metin açıklaması değil, ikili evet/hayır sonucudur. LLM ile de yapılabilir, ancak aynı veri kümesiyle eğitilmiş belirli bir makine öğrenmesi modelinin neredeyse tüm nicel ölçütlerde daha iyi olma ihtimali yüksektir; bu teknoloji de transformer’lar ortaya çıkmadan çok önce vardı
Mahalle düzeyinde bir Düşünce Polisi gibi
Diktatörlerle ve diktatörlük rejimleriyle yapılan tüm işler yasaklanmalı
Bu listedeki ilk 100 ülkeyle iş yapılabileceğini düşünüyorum: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
Geri kalanlarla iş yapmak yalnızca insanlık dışı rejimleri güçlendirir; ne yazık ki bu rejimler yalnızca kendi halklarını öldürmekle kalmaz, komşu ülkelere de saldırır. Ukraine’e bakın, belki yakında Taiwan da böyle olabilir. Paranın kokusu kalır
Gelişmiş ülkelerin servetinin önemli bir kısmı, gelişmekte olan ülkelerdeki yolsuzluktan yararlanılarak biriktirildi. Bu yüzden Batılı güçlerle işbirliği yaptıkları, kaynakları ve insanların emeğini Batılı şirketlere ucuza sattıkları sürece, yozlaşmış kalmaları için teşvik oluşuyor
UAE ile iş yapıp faydaları toplamak, o faydaların sonunda China’ya gitmesine izin vermekten daha iyidir
Orta Doğu’yu sonsuza dek bastırma girişiminin açıkça işe yaramadığı görüldüğüne göre, şu anda yapılanın gerçekçi politika olduğunu ve bariz doğru cevap olduğunu düşünüyorum. Suudi Arabistan zaten otoriter olacak; bu, gerçek hayatta Hearts of Iron’ı iyi oynamaya benziyor
Dezavantajlar açık. Dünya görüşümüzle temelden uyuşmayan ve şu anda en iyi ihtimalle çıkar gereği müttefik olan insanları fiilen silahlandırmış oluyoruz. Ayrıca verdiğimiz şeylerin China’ya yeniden satılmayacağına dair hiçbir garanti yok. Bu rejimlerin kötü şöhretli biçimde yolsuz olduğunu düşünürsek, bunun fiilen neredeyse kesin olduğunu düşünüyorum
Her hâlükârda “sorumlular”dan herhangi birinin bunu umursayıp umursamadığı belli değil
Aslında meselenin özü de bu olabilir
Yapay zekanın en büyük riski isyan değil; diktatörlere ve totaliterlere tüm nüfus üzerinde tam kontrol kurma imkânı vermesidir.
Yeterince gelişmiş algoritmalar, çapraz referanslar, yazım üslubu vb. yoluyla bir kişinin çevrimiçi yayımladığı her şeyi bulabilir ve o kişinin bakış açısını ve görüşlerini yüksek doğrulukla belirleyebilir. Görüşlerinin zaman içinde nasıl değiştiğini de kestirebilir.
Devlet, muhalifleri daha kendileri muhalif olduklarını fark etmeden, örgütlenmeye zaman bulmaları bir yana, çok daha önce hedef alabilir.
Üslup analizi iyi araştırılmış bir alandır. Ancak belirli bir gönderinin şüpheli yazar sayısı az olduğunda ve her yazardan örnek olarak kullanılacak yeterli metin bulunduğunda pratik olduğunu bilmek rahatlatıcı. Yani herkesin potansiyel şüpheli olduğu bir durumda anonim gönderileri yazarlarına geri bağlamak çoğu durumda tamamen imkânsızdır. Pratik olan birkaç durumda bile en fazla ek soruşturma için zayıf bir sinyal üretir.
Greenstadt ve diğerlerinin “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity” makalesi ilginizi çekebilir.
Trump için de kesinlikle önemli değil. İnsanlar kanıt olmadan, bazen resmî suçlama bile olmadan sınır dışı ediliyor. Otoriterliğin özü de budur: liderin istediğini yapması. Trump’ı mümkün kılan şey yapay zeka değil, etkisizleşmiş denge ve denetleme sistemidir. Benzer şekilde W de bitmeyen bir savaşa girmek için kitle imha silahları hakkında yalan söyledi. Gerekçenin doğru olmaması önemli değildi. Bundan sıyrıldı ve Amerikan halkı pahasına kendisini ve savunma sanayisindeki dostlarını zengin etti.
https://www.newsweek.com/donald-trump-database-palantir-dyst...
Sadece çok daha büyük ölçekte işliyor.
Şu anda zengin bireylerin gücü giderek daha fazla yoğunlaştırdığı bir eğilim görülüyor ve bu kamusal alanda daha da belirginleşiyor. Özellikle bunların yapay zeka gelişiminin sahipliği ve kontrolünde en ön safta yer alması da dikkat çekici. Tesadüfen, bu eğilim genellikle “tekno-faşizm” olarak adlandırılıyor ve sonuçta yine diktatör düzenine geri dönüyor.