Diktatörler İçin Süper Bilgisayarlar Kurmak Demokrasi İçin Mutlaka İyi Değildir

• OpenAI kısa süre önce BAE ile büyük ölçekli bir yapay zeka veri merkezi kurmak için bir ortaklık duyurdu
• Bu ortaklık “demokratik değerlere dayandığını” söylese de, BAE tipik bir demokratik olmayan ülke konumunda
• Freedom House gibi kuruluşlar, BAE’deki sivil özgürlükler ve siyasi baskının altını çiziyor
• OpenAI bu iş birliğini demokratik yapay zekanın yayılması olarak sunuyor, ancak bunun demokrasiye gerçek katkısı belirsiz
• Süper bilgi işlem kaynaklarının transferinin, otoriter bir devletin ulusal gücünü artırma riskini doğurabileceğine dair kaygılar var

---

OpenAI'nin BAE yapay zeka süper bilgisayar ortaklığına genel bakış

• Mayıs 2024'te OpenAI, OpenAI for Countries programını ve ABD içindeki büyük ölçekli yapay zeka veri merkezi projesi Stargate'i resmen duyurdu
• OpenAI, hükümetlerin yapay zeka hesaplama kapasitesinin yoğunlaşmasının ulusal rekabet gücünün temel unsuru haline geleceğini fark ettiğini belirterek, “demokratik yapay zekayı dünyanın dört bir yanındaki ülkelere sunma” hedefini ilan etti
• Duyurunun ardından OpenAI, BAE ile iş birliği içinde en son teknolojiye sahip bir yapay zeka veri merkezi inşa etmeye yönelik bir ortaklık açıkladı. Bu ortaklığın “demokratik değerlere dayandığını” ifade etti

BAE'de demokrasinin durumu

• Freedom House'un 2024 değerlendirmesine göre BAE, 100 üzerinden 18 puan aldı; bu puan Haiti, Zimbabve ve Irak'ın da altında
• BAE, kalıtsal bir monarşi ve siyasi iktidarın tek elde toplanması, siyasi partilerin yasaklanması, sınırlı oy hakkı ve fiili yasama yetkisi olmayan danışma konseyleri gibi özellikler taşıyor
• Hükümeti eleştiren, insan haklarını savunan ya da siyasi reform isteyen adaylar ve aktivistler gözaltına alınıyor; aileleri de izleme ve cezalandırmanın hedefi olabiliyor
• Medya kuruluşları otosansür uyguluyor ya da doğrudan hükümetin sansürüne maruz kalıyor; ders kitapları ve müfredat da sansürleniyor
• Nüfusun yüzde 90'ını oluşturan göçmen işçilerin siyasi hakları yok ve emek sömürüsü sorunu da ciddi boyutta. Uluslararası insan hakları kuruluşları, modern köleliğin yaygınlığına da dikkat çekiyor

OpenAI'nin ‘demokratik yapay zeka’ mantığına eleştiri

• OpenAI ve küresel politika sorumlusu Chris Lehane, ABD'nin yapay zeka teknolojisini yaymasının ‘demokratik değerlerin yayılması’ anlamına geldiğini savunuyor
• Temel mantık şöyle:
  1. ABD menşeli yapay zeka demokratik değerleri somutlaştırdığı için bunun yurt dışına yayılması demokrasinin ilerlemesine katkı sağlar
  2. ABD ile Çin arasındaki yapay zeka rekabetinde ABD'nin kazanması, demokrasinin korunmasıyla doğrudan bağlantılıdır
• Ancak BAE'de ChatGPT kullanımının genişlemesinin, ifade özgürlüğünün fiilen güvence altına alınmasına ya da demokrasinin hemen gelişmesine yol açacağını söylemek zor
• Hizmetin BAE'deki yerel sansür standartlarına göre sunulup sunulmayacağı bile belirsiz. OpenAI COO'sunun “bunu hükümetle birlikte görüşerek ilerleteceğiz” yanıtı da bunu destekliyor

Otoriter hükümetlere süper bilgi işlem teknolojisi desteğinin etkisi

• Büyük ölçekli yapay zeka süper bilgisayar altyapısı, devlet gücünün son derece önemli bir unsuru olarak yükseliyor
• BAE'nin bu ortaklık sayesinde en ileri yapay zeka çiplerine önemli ölçüde erişim ya da mülkiyet hakkı elde etme ihtimali yüksek
• Lehane'in de belirttiği gibi, bu anlaşma BAE'yi bir yapay zeka gücü haline getirecek temel itici gücü sağlıyor
• ABD'nin çıkar odaklı diplomasisi açısından kazançlar olabilir, ancak bunun otoriter bir rejimin ulusal kapasitesini artırması gibi güçlü olumsuz sonuçları da var

Sonuç ve temel soru işaretleri

• Yarı iletken ve yapay zeka iş birliğinin kendi başına mutlaka olumsuz olduğu söylenemez
• OpenAI ile BAE arasındaki sözleşmenin ayrıntılarının çoğu gizli ya da henüz netleşmiş değil
• Ancak bu anlaşmanın yalnızca BAE kraliyet ailesinin kabul edebileceği koşullarda yapılacağı açık → demokrasiyi teşvik etme gücü sınırlı
• Yapay zeka teknolojisinin tüm insanlığın yararına olması yönündeki OpenAI hedefi ile gerçek yönetişim ve kontrolün nasıl dağıtılacağı meselesi tamamen ayrı bir sorun olarak kalıyor
• Bu örnek, OpenAI'nin yüksek idealler ile gerçek riskler (iktidarın yoğunlaşması, demokrasinin gerilemesi) arasındaki gerilimi yeterince ciddiye almayabileceğine işaret eden bir sinyal olarak yorumlanabilir

[GN⁺]

Hacker News görüşleri

• OpenAI gibi yüksek profilli şirketler söz konusu olduğunda her zaman özel mazeretler ya da istisnalar tanınması havasından gerçekten hoşlanmıyorum. Aslında bu, Cisco ya da Oracle gibi daha düşük profilli sanayi devlerinin onlarca yıldır yaptığı bir şey. OpenAI'nin ne yaptığına dair analizlerin başlangıç ve bitiş noktası bu olmamalı diye düşünüyorum
  • Cisco ve Oracle en başta insanlığın daha iyi geleceğine hizmet ettiklerini söyleyen bir sloganla ortaya çıkıp kâr amacı gütmeyen kuruluş olarak başlamadı. Bu, Google'ın bir zamanlar “kötülük yapma” mottosunu öne sürüp sonra onu terk ettiği için eleştirilmesinden farklı değil. Bir şirketin yanlış yapıp bunun yanına kâr kalmış olması, bundan sonra başka şirketlerden daha yüksek standartlar talep etmemek gerektiği anlamına gelmez; bu bana ikna edici gelmiyor
  • Siyaset, mümkün olanın sanatıdır diye düşünüyorum. Biraz sinir bozucu olsa da ilkelere göre hareket etmeye çalışma çabası olmasına minnet duyulabilir. Elbette gerçek motivasyon sadece süs olabilir ama bu durumda yazarın özellikle OpenAI'yi hedef alarak eleştirmek istediği açık olsa bile, argümanın kendisinin yeterince ikna edici olduğunu düşünüyorum
  • Teknoloji sektörü onlarca yıldır BAE'ye büyük bilgisayar sistemleri ve ileri teknolojiler satıyor. AMD'nin GloFo olarak ayrılmasının ilk arka planında da aslında Abu Dabi'de ileri bir yarı iletken fabrikası kurma amacı vardı, fakat çölde tedarik zinciri ve su kaynakları gibi sorunlar gerçeğe dönüşünce bunun hayata geçirilmesi zor oldu
  • Bu, Cisco ve Oracle'ın onlarca yıldır yaptığı işten de çok daha eski bir şey. IBM, gerçekten Holokost operasyonlarında kullanılan bilgisayarları sağlamıştı
  • Bence OpenAI, “demokrasiyi güçlendirme” söylemini öne sürerek kendisini özellikle bu tür eleştirilere açık hale getirdi. Gerçekte para kazanma amacı apaçık olduğuna göre, bu tür iddiaları öne çıkarması ters tepti
• Makalede sözü edilen diktatörlük kategorisinin, ABD içindeki otoriterlerden çok Körfez bölgesindeki monarşileri işaret ettiğini gözden kaçırmışım. Birincisi, Nvidia açısından güvenilir Suudi yatırımcılara büyük miktarda GPU satmak iyi bir iş. İkincisi, Körfez monarşileri ABD ile ilişkilere bağımlı ve İslam devriminden kaçınmak için de mevcut sistemi sürdürmek istiyor. Üçüncüsü, veri merkezi elektriği de güneş enerjisiyle çözülebilir. Bu ülkeler kullanıcıları gözetliyor mu? Elbette. Zaten GCHQ ve NSA ile bilgi paylaşım anlaşmaları üzerinden yerel hukuk engellerini aşmak da zor değil. Özel olarak yeni bir şey yok; sonuçta düşüncelerimi ya da mahremiyetimi hiçbir SaaS'a emanet etmemem gerekiyor
  • Aslında bundan daha da sinsi bir gerçeklik olduğunu düşünüyorum. Zaten satın alma geçmişim, adresim, arama meta verilerim ve DOGE sayesinde federal verilerime kadar toplanıyor. Sosyal medya akışım olmasa bile bu bana karşı tehdit oluşturmaya yeter. Üstelik mesele yalnızca SaaS ile sınırlı değil. Tüm web inanılmaz bir hızla tarandığı için hayatımın sınırlarının zaten çok daha geniş ölçekte açığa çıktığını hissediyorum
  • Sonuçta HN topluluğu küçük bir grup ve dünyadaki insanların büyük çoğunluğu hem yeterince bilgili değil hem de rahatlık uğruna mahremiyetinden vazgeçmeyi seçecek gibi görünüyor. Asıl ideal tercih, baştan böyle bir ayartının hiç var olmamasını sağlamak olabilir diye de düşünülebilir
• Her ne şekilde olursa olsun, diktatörler için teknoloji geliştirmenin demokrasi açısından olumlu olmadığını düşünüyorum. Demokrasinin sağlığının temelinde çalışan sınıfın zenginliğini azamiye çıkarmak var. İnsanlar kendilerine, ailelerine ve yerel topluluklarına bakabilecek kadar boş zamana ve eğitime sahip olduğunda ancak anlamlı demokratik katılım mümkün olabilir. ABD'deki, Körfez ülkelerindeki, Rusya'daki ya da başka yerdeki hangi diktatör olursa olsun onlar için geliştirme yapmamak daha iyi bir tercih olurdu (tabii pratikte kolay değil)
  • Demokratik katılım ile diktatörlük altındaki gerçeklik biraz ayrı meseleler gibi görünüyor. Hatta teknolojik gelişme ne kadar hızlanırsa, Batı toplumlarında, özellikle de ABD içinde, o kadar daha ciddi distopik eğilimler güçleniyor. Buna karşılık Orta Doğu'daki otoriter devletler uzun zamandır güçlü refah sistemleri işletiyor ve nüfusları az olduğu için AI patlamasından daha verimli biçimde yararlanabilecek durumdalar
• Bence LLM'lerin özsel değeri, toplum genelinde yayılan mesajların gücünü katlamasında yatıyor. Gelecekte herkes, insan olmayan varlıkların gönderdiği benzer mesajlarla çevrili olacak. İnterneti kontrol etmenin tek yolunun sonunda onu devasa bir mesaj seliyle “boğmak” olduğunu kanıtlamış olduk
  • Eğer burada hoi polloi ile kastedilen halksa, gerçekte halk bu tür araçları ticari amaçlarla sınırlı kullanıyor ve yine de sosyal etkileşim açlığı yüzünden sosyal medyaya kapılıyor. Yok eğer seçkinler kastediliyorsa, onlar zaten uzun zamandır insanları kalkan gibi kullanarak bunu yapıyordu ve yeterli servetleri olduğu sürece bunu yapmaya devam edecekler
  • “Gücün katlanması” ifadesinin benim kaygımın özünü iyi yakaladığını düşünüyorum
  • Sahip olduğum bilgiye ve hayal gücüme aşırı güvenmem yüzünden LLM'lerin özsel faydasının bu kadar “apaçık” olduğunu varsayma tavrına inanmakta zorlanıyorum. Bu bana 1780'de buhar makinesinin özünün ne olduğunu kesin biçimde ilan eden insanların bakışını hatırlatıyor
  • LLM'lerin mesaj çoğaltımında kullanılacağı fikrine sık rastlıyorum ama bunu hiç de kendiliğinden açık bulmuyorum. Ben yalnızca çok az sayıda medya kaynağını takip eden ve çevrimiçi etkileşimden bilerek kaçınan içe dönük biriyim. Sosyal medya ortaya çıkmadan önce bu yaklaşım daha yaygındı. LLM'ler ortalığı kaplarsa, acaba daha ilkel ağ kullanım biçimlerine geri dönmeyiz mi? Ayrıca interneti kontrol etmenin yolu onu mesajlarla boğmak deniyor ama gerçekte hukuki müdahaleye para harcamaktan çekinmiyorlar, yani tablo daha karmaşık
  • Bu iddiaya katılmak zor. Basın ve medya zaten aşırı miktarda bilgi çöpüyle dolu ve insanların ortalama dikkat süresi zaten sınırda. AI tarafından üretilen dağınık içeriklerin buna eklenmesi büyük bir değişiklik yaratmayacaktır. İnterneti kontrol etmenin yolu nihayetinde devletin doğrudan devreye girip düzenleme yapmasıdır
• Bana göre tam tersine, teknoloji ne kadar gelişmişse, herhangi bir hükümetin o kadar daha otoriter ya da totaliter bir biçime kayma ihtimali vardır. İktidardakiler için her şeyi kontrol etme ayartısı çok güçlüdür ve sonuç genellikle devletin ve halkın korkunç biçimde yönetilmesine çıkar
• Sam Altman'ın ahlaki standartları meselesinden bağımsız olarak, baskı uygulayan, şiddet kullanan ve başkalarını işgal eden demokrasi devletleri (ABD, İsrail, Hindistan) ile karşı taraftaki diktatörlükler (Suudi Arabistan, Çin, Kuzey Kore) arasında gerçekten özsel bir fark olup olmadığını sorguluyorum
  • Yönetilenlerin doğrudan söz hakkına sahip olmadığı bir durumda “demokrasi ülkesi” ifadesinin kendisi tuhaf geliyor
  • Farkları yok sayıp kıyaslarsanız özsel ayrımı yapmak imkânsız hale gelir. Ayrıca diktatörlüklerin mağdurlarını sanki yalnızca küçük azınlıklarmış gibi anlatıyorsunuz; oysa orada gerçekten baskı altında yaşayan milyarlarca insan var
• Bana göre bunun Çin'in işine yaramasına izin vermek yerine, BAE ile iş yapıp kazanç elde etmek çok daha gerçekçi bir seçenek. Orta Doğu'yu sonsuza kadar bastırmanın işe yaramadığı zaten kanıtlandı. Sonuçta bu, reelpolitika açısından bakıldığında en iyi seçenek ve gerçek dünyanın Hearts of Iron oynanışına benzer bir tercih. Suudi Arabistan zaten bir diktatörlük olacaksa, bari şu anda bu yöntem fayda sağlasın
• Demokrasi de zaten demokrasinin kendisi için çalışamayan bir yapı. Bence çoktan başarısız olmuş bir fikir
• 1984'te televizyonların her eve yerleştirilmesi ve o televizyonların insanları sürekli izlemesi temel fikirdi diye hatırlıyorum. Birilerinin herkesi gerçek zamanlı olarak “anlayarak” izlemesi imkânsız olduğu için bu şimdiye kadar sadece basit bir distopik fanteziydi. Ancak son LLM/GenAI gelişmeleriyle, artık her evde tek bir GPU ile tehlikeli düşünce tespiti gibi erken uyarılar üretmek yeterince mümkün hale geldi. Hatta yalnızca sınırlı hesaplama kaynağı bırakacak şekilde arzu edilir bir tasarım yapmak daha gerçekçi olabilir. AGI olsaydı iki tarafı da dinleyip tarafsız kalabilirdi, ancak tek yönlü LLM ajanlarında böyle bir yetenek yok. Şu anda OpenAI, Apple ve en az 6 şirket daha, en yeni GenAI tabanlı, sürekli izleyen ev tipi cihazlar geliştiriyor. Hayatın tamamını gözlemleyip bağlamı kavrayan yapay zeka, kullanıcının tercihlerini, siyasi eğilimlerini vb. de anlayabilir. Bu da otoriter hükümetler tarafından ciddi biçimde kötüye kullanılabilir. TikTok'un, kullanıcı verileri olmadan bile kullanıcıların cinsel yönelimini ya da ilgi alanlarını neredeyse gerçek zamanlı olarak çıkarsayabildiği zaten görüldü. LLM tabanlı cihazlar, yalnızca TV izleme örüntülerini, konuşma içeriğini ve duygusal ifadeleri analiz ederek bile oy verme eğilimi ya da protestoya katılma niyeti gibi şeyleri çıkarabilir. Helen Toner uzaktaki başka bir kıtadaki demokrasiler için endişeleniyor olabilir, ama benim daha büyük korkum, demokrasinin asıl merkezinin bile Orwellvari bir toplumun eşiğine gelmiş olması. 1. aşama: Herkesin evine böyle cihazlar sokulmasını teşvik etmek (devam ediyor), 2. aşama: sonra ilgili şirketlere baskı yaparak bu cihazları iktidarın istediği şekilde kullandırmak (geriye kalan adım)
  • Davranış sınıflandırmasını “tehlikeli/güvenli” gibi ikili bir yargıya indirgemek aslında üretken yapay zekanın alanı değil; bu, klasik makine öğrenimi ve sınıflandırma modelleriyle de çok önceden yapılabiliyordu. LLM olmasa da yeterli teknoloji vardı ve pratikte geleneksel ML modelleri daha verimli
• Chris Lehane'in Wikipedia maddesi hâlâ gerçek kariyer geçmişi kadar güncel değil Chris Lehane - Wikipedia Bir fixer olarak olağanüstü bir kariyerdi