Yapay zeka şiddetle karşı karşıya kalacak ve bundan iyi bir sonuç çıkmayacak

• Sanayi Devrimi dönemindeki Luddite hareketi ile başlayan teknolojiye yönelik şiddet, bugün yapay zeka ve veri merkezlerine dönük saldırılarla yeniden ortaya çıkıyor
• OpenAI CEO’su Sam Altman’ın evine molotofkokteyli saldırısı, veri merkezleriyle bağlantılı silahlı saldırılar, yapay zeka karşıtı bir aktivistin ölüm tehdidi gibi gerçek şiddet vakaları art arda yaşanıyor
• Teknoloji fiziksel olarak ne kadar yıkılamaz hale gelirse, öfkenin teknolojiyi yaratan insanlara yönelme eğilimi de o kadar güçleniyor
• Yapay zeka sektörü, işlerin yerini alma ve belirsiz bir gelecek temasını sürekli vurgulayarak kamudaki umutsuzluğu ve öfkeyi körüklüyor
• Bu kısır döngü sürerse, yapay zeka çağındaki şiddetin insan toplumunun içten çöküşüne yol açma riski bulunuyor

---

Teknolojinin kırılganlığı ve insanın şiddete yatkınlığı

• Dokuma tezgâhı (loom), nem veya gerginliğe göre kolayca kırılabilen hassas bir yapıdır; Sanayi Devrimi’nin simgesi ve insan elinden çıkmış incelikli bir araçtır
  • Ahşap ve iplikle bağlanan parçaların, küçük bir çatlak ya da gevşeklikte bile tüm yapıyı çökerten bir düzeni vardır
  • Tekstil sanayisinin temelini oluşturmuş, ardından fabrika, enerji tesisi ve veri merkezine uzanan teknolojik gelişimin başlangıç noktası olarak anılır
• Veri merkezi (datacenter) ise beton, çelik ve bakırdan yapılmış devasa bir yapıdır; yedekli tasarım ve güvenlik sistemleriyle donatılmış modern bir ‘tezgâh’ olarak betimlenir
  • Biyometrik kilitler, elektrikli çitler ve silahlı güvenlik görevlileriyle korunur; tek bir arızanın tüm sistemi durdurmaması için tasarlanır
  • İçindeki algoritmalar, fiziksel ekipman değil dünyanın dört yanına dağılmış dijital örüntüler olarak var olur
• Fiziksel yıkımın ötesinde, algoritmaların ve süperzekânın (superintelligence) kendisini durdurmanın imkânsız olduğu vurgulanır
  • Süperzeka, “kutunun dışına çıkmak” ifadesiyle, insanların denetleyemeyeceği bir varlık gibi tasvir edilir
  • Bunu engellemek için veri merkezlerinin bombalanmasını savunanlar bile vardır; İran Devrim Muhafızları’nın OpenAI’nin Stargate kampüsünü yok etmekle tehdit ettiği örnek verilir
• Teknoloji gelişse de insanın bedensel kırılganlığı değişmemiştir; bu nedenle saldırıların nihai hedefinin teknoloji değil, insanlar olacağı uyarısı yapılır

Tarihin tekrarı: Luddite’lardan yapay zeka çağına

• 1812’de İngiltere’de dokuma fabrikası sahibi William Horsfall’ın, Luddite eylemcisi George Mellor tarafından vurularak öldürülmesi anlatılır
  • Horsfall, işçilere baskı uygulamakla övünen bir figürdü; Mellor ise idam edildi
  • Bu olay, teknolojik ilerlemenin insanın yaşamını tehdit ettiği anlarda şiddetin ortaya çıktığını gösteren tarihsel bir örnek olarak sunulur
• Buna karşılık, 2026’da ABD’nin San Francisco kentinde OpenAI CEO’su Sam Altman’ın evine molotofkokteyli saldırısı düzenlenmesi aktarılır
  • Saldırganın 20 yaşındaki Daniel Alejandro Moreno-Gama olduğu ve halen gözaltında bulunduğu belirtilir
  • Altman ve ailesi zarar görmemiş olsa da, olay teknoloji liderlerine yönelik doğrudan şiddetin başlangıcı olarak anılır
• Indianapolis belediye meclisi üyesi Ron Gibson’ın evine, “NO DATA CENTERS” mesajıyla birlikte 13 el ateş açılması da verilen örnekler arasındadır
  • Gibson, bölgede veri merkezi inşasını destekleyen bir isimdi; kendisi ve oğlu yaralanmadı
• 2025’te OpenAI’nin San Francisco ofisine yönelik ölüm tehdidinde bulunan yapay zeka karşıtı bir aktivistin tutuklandığı bir vaka da yer alır
• Bu olaylar, yapay zeka ve veri merkezlerine duyulan öfkenin insanlara yönelik şiddete dönüştüğünü gösterir
  • Teknik hedeflere erişim zorlaştıkça, öfke insan hedeflere kayar

Umutsuzluk ile şiddet arasındaki bağ

• Yapay zeka şirketlerinin liderlerinin sürekli “yapay zeka işleri devralacak” demesi, kamusal öfkeyi kışkırtan bir unsur olarak gösterilir
  • İnsanlar, “Bu belirsiz dönemi yaratan zaten sizsiniz” diye düşünerek duygusal tepki geliştirir
  • Şiddete dönüşen sürtüşme büyüktür; ancak ortak bir umutsuzluk duygusu yayılırsa bu sürtüşme ortadan kalkabilir
• İnsanlar gelecekten dışlandıklarını hissettiklerinde, yani geçim araçlarının yok olduğunu ve teknoloji tarafından yerlerinden edildiklerini düşündüklerinde, şiddetin gerçeğe dönüşme riski vardır
  • Bu durum, “ya yaşa ya öldür” gibi uç seçimlere kadar varabilir
• Yapay zeka sektörünün en büyük hatası, güvenli bir geçiş olmadan kapsamlı iş ikamesini ilan etmek olarak sunulur
  • “Beyaz yakalı emeği tamamen altüst edecek bir teknoloji inşa ediyoruz” türü söylemler tekrarlandıkça toplumsal kaygı büyür
  • Bu tür öz-farkındalıklı açıklamalar, aksine insandışı ve psikopatça bir izlenim verdiği için eleştirilir

Yapay zekaya yönelik nefret ve günah keçisi mekanizması

• İnsanlar yapay zekayı tüm toplumsal sorunların günah keçisi haline getiriyor; gerçek sorunlarla asılsız iddiaları birbirine karıştırarak öfkelerini dışa vuruyor
  • Örneğin, veri hırsızlığı gibi gerçek sorunlarla su kaynaklarının tükenmesi gibi asılsız iddialar birlikte dile getiriliyor
  • Şirketler de işten çıkarmaların sorumluluğunu yapay zekaya yükleyerek toplumsal eleştiriden kaçıyor
• Yapay zeka endüstrisi, kendisini “tehlikeli ve güçlü bir teknoloji” olarak sunarak kamusal güvensizliği ve korkuyu bizzat besliyor
  • “Yapay zeka bu kadar tehlikeliyse, neden bedelini biz ödeyelim?” tepkisi doğal biçimde doğuyor
• Altman’a yönelik şiddet asla meşrulaştırılamaz, ancak şiddetin sürme ihtimali vardır
  • Son olaylar bunun erken işaretleri olarak yorumlanır

Durdurulması gereken kısır döngü

• Yapay zekanın yol açtığı ruh sağlığı sorunları, bağımlılık, işsizlik ve okuryazarlıkta gerileme gibi yan etkilerin şimdiden raporlandığı belirtilir
  • Bu toplumsal kaygının şiddete dönüşmesinden önce durdurulması gerektiği vurgulanır
  • Sonuç olarak, teknolojik ilerlemenin insan onurunu ve güvenliğini tehdit eden bir yöne sürüklenmemesi gerektiği söylenir

[GN⁺]

Hacker News yorumları

• İnsanlar AI’ı topluca ‘eşitsizlik’ ya da ‘eşitsizlik hızlandırıcısı’ diye adlandırdıkça, sonunda her şeyin suçu AI’ınmış gibi geliyor
  Aslında bu ikisini ayrı düşünmek gerekiyor. İnsanların geçim kaynakları keyifle ellerinden alınırsa, bunun şiddet olarak geri döneceği ise çok açık

  • Bu akademik ayrımın önemli olduğunu düşünüyorum. Ama milyarlarca doları olan insanlar yarattıkları zararı hafifletmek için harekete geçmiyorsa, bu ayrımın pratikte hiçbir anlamı kalmıyor
    “Bu devletin işi” demeden önce, lobi parasının nereden geldiğini düşünmek gerekir. Sosyal güvenlik ağları için mücadele eden CEO ya da şirket neredeyse yok
  • Bu ayrım akademide ya da Hacker News gibi yerlerde anlamlı olabilir, ama genel kamuoyu için anlamsızdır
    İnsanlara göre AI, zenginlerin güç aracıdır ve onların dünyayı daha kötü hale getirdiği hissini verir. Böyle bir durumda akademik ayrımı kimse umursamaz
  • Ama o AI’ı sahiplenen ve geliştiren kişiler eşitsizliği büyütme motivasyonuyla hareket ediyorsa, bunu nasıl ayırabilirsin ki
  • Risky Business filmindeki replikte olduğu gibi, “İşler kötü giderken asla başkasının geçim kaynağıyla oynama” dersini hâlâ öğrenememiş gibiyiz
  • Şu an AI’ın eşitsizliği hızlandıracağını düşünüyorum, ama bir gün kişisel cihazlarda da yüksek performanslı modeller çalıştırılabildiğinde güç yoğunlaşması hafifleyebilir
    O zaman AI’ın gücü demokratikleşir ve herkes üretim araçlarına eşit biçimde sahip olabilir

• Benim deneyimime göre yazar, ahlaki açıdan tarafsız bir bölgede oturuyormuş izlenimi veriyor. “Şiddet kötüdür ama kaçınılmazdır” türü bir tutum, hiçbir çözüm sunmayan bir pozisyondur
  Asıl sorun teknoloji değil, o teknolojinin iktidar sahipleri tarafından kendi çıkarları için kullanılma biçimidir.
  İnsanların hayatta kalma araçları ellerinden alındığında şiddet kaçınılmaz hale gelir. Tarihsel olarak da şiddet çoğu zaman uzlaşmayı zorlayan bir araç olmuştur. AI ise bunu gözetim ve silahlandırma yoluyla zaten hazırlıyor

  • Tristan Harris’in bakış açısını seviyorum. Sistem, ahlaksız teknologları seçmek üzere tasarlandığı için, sonuçta insan emeğinin yerini alma yönüne gitmesi kaçınılmaz oluyor
    Cory Doctorow’un yazısı da aynı bağlamda. Çözüm yalnızca siyasi eylemdir; teknoloji, yönetişim olmadan tehlikelidir
  • Özgürlüğün dört kutusundan sonuncusunun cephane kutusu (ammo box) olmasının bir nedeni var. Bütün barışçıl yollar tükendiğinde, şiddet son meşru araç haline gelir
  • Pek çok insan ‘şiddet’i yalnızca fiziksel saldırı olarak anlıyor, oysa şiddet toplumsal yapının çöküşü ya da baskı biçiminde de ortaya çıkabilir
  • Hâlâ elimizde kalan bir şiddet içermeyen araç var — o da bankadan para çekme ve genel grev. Profesyonel sınıflar dayanışma içinde kapitalist sınıfın yakıtını keserse, pazarlık gücünü geri kazanabilir

• AI, adeta uzaylı bir istilacı gibi insan toplumunun kurallarını hiçe sayıyor. Kopyalanabiliyor, her yerde bulunabiliyor ve fiziksel kısıtları yok
  İnsan açgözlülüğü bu tür bir ‘istilaya’ izin verdi ve sonuçta insanlık AI egemenliğini bizzat kendi elleriyle davet etmiş oldu

  • Ama AI’ı böyle mistik bir varlık gibi kişileştirmek sorunlu. Sonuçta AI sadece bir istatistiksel model ve asıl mesele insanların onu nasıl kullandığı
  • Tarih boyunca insanlığı daha çok yıkan şey hastalıklar oldu. Tek neden iç bölünmeler değildi
  • Yalnızca teknolojik üstünlük bile istila için yeterli olabilir. AI yarışı da böyle bir silahlanma yarışına benziyor. Kazanan dünyanın kralı olur, geri kalanlar ise hayvana dönüşür
  • Şu anda sayısız sözleşmeli uzman AI eğitimine yardım ediyor. Kendi sektör bilgilerinin değerini ucuza vererek kendi konumlarını ortadan kaldırıyorlar
  • Evrim de bir tür rekabetse, AI’ın gelişimi de doğal bir verimlilik süreci sayılabilir. Sorun liderlik eksikliği ve sorumluluk olmadan genişleme. Böyle bir ortamda şiddet kaçınılmaz hale gelebilir

• Sanayi Devrimi tarihini incelemeni öneririm. Industrial Revolutions Podcast iyi bir kaynak
  Bugünkü değişim hızı o döneme benziyor. O zaman da spinning jenny bir gecede kumaş dokuyan zanaatkârların geçimini altüst etmişti

  • Ama bu kez insanın bilgi emeğinin kendisi yok olma tehlikesiyle karşı karşıya olduğu için, basit bir karşılaştırma yapmak zor
  • Thomas Piketty de savaş sonrası eşitlik döneminin istisnai bir durum olduğunu söylüyor. Şimdi ise eşitsizlik yeniden eski seviyelerine dönüyor
  • Fransız zanaatkârların işlerini kaybetmesi, Fransız Devrimi’nin nedenlerinden biriydi
  • Bugün sokaklara bakınca, sanki WALL·E filmindeki dünyayı görüyorum

• LLM’lerin büyülü çekiciliği, FAANG CEO’larının abartılı söylemleri yüzünden epey solmuş gibi geliyor

  • Sorun aracın gücünden çok, o aracın sahibinde. Sonuçta bu teknoloji iktidar sahiplerinin eline geçtiğinde tehlikeli hale geliyor
    Tony Stark ile Jarvis ilişkisinde olduğu gibi, nihai hedef insan değil tam otomasyon
  • ‘AI’ yerine olasılıksal veri sistemi denseydi, çok daha gerçekçi bir tartışma mümkün olurdu
  • Bu tür abartılar, yatırım çekmeye yönelik şişirme pazarlamanın sonucu. Kripto da LLM’ler de aynı deseni izliyor
  • Sonuçta AI, emeğin ikame edilmesini hızlandırıyor ve insan yaşamının ölçülerini çökertiyor. Böyle bir değişim de kaçınılmaz olarak şiddete yol açabilir
  • Ama bu abartı sayesinde muazzam sermaye aktığı da bir gerçek. Sonunda balon patlayana kadar sürecek

• Sık sık “AI başarılı olduğunda ortaya çıkacak dünyaya hazırlanan biri var mı?” diye soruyorum

  • Aslında hemen her büyük şirket bu senaryoya hazırlanıyor. Devletler de hareket ediyor ama çok yavaş
    UBI deneyleri enflasyona yol açtı ve piyasa ayarlaması tamamlanmadan mevzuatın yetişmesi mümkün görünmüyor
  • 80,000 Hours ya da Future of Humanity Institute gibi kuruluşlar zaten bu konuyu araştırıyor.
    Çeşitli ülkelerdeki sendikalar da siyasetçilerle bunu görüşüyor; katılmanın yolları var
  • Bazı insanlar ‘END THE MONEY SYSTEM 2030’ gibi kampanyalarla paylaşım temelli ekonomiyi deniyor
  • Öte yandan iktidar sahipleri, isyanlara karşı drone’lar, robot köpekler ve gözetim sistemleriyle şimdiden hazırlanıyor.
    Çevrimiçi kimlik doğrulamanın sıkılaştırılması da bunun bir parçası
  • Bununla ilgili bir video da var — YouTube bağlantısı

• AI insanın yaratıcılığını ve emeğini ikame ederse, geriye sadece kanlı çatışmalar kalacağı düşüncesindeyim

  • Ama insanlar hâlâ insani başarıyı seviyor. Arabadan daha yavaş koşan atleti desteklediğimiz gibi, insan çabasını kendi başına kutluyoruz
    Hatta ‘işe yaramaz işler’in bile insani etkileşim için var olduğunu düşünüyorum
  • Ekonomik değeri olmasa da insanlar yine resim yapıyor ve müzik üretiyor. Yaratıcılık yok olmayacak
    Yalnızca ‘iş’in anlamı değişecek
  • AI, kalite tabanını yükseltiyor ama tavanı yukarı itmiyor. İnsanın sezgisi ve yenilik üretme gücü hâlâ gerekli
  • Sorun teknolojinin kendisi değil, servetin tek elde toplanması. Kıtlık ortadan kalkarsa şiddet de azalır
  • Bugünkü AI, yaratıcılık açısından hâlâ isabetsiz ve kontrol edilemez. ‘AI slop’ denmesinin nedeni de bu
    Hayatta kalmak için gerekli emek zaten yeterince otomatikleşti; bundan sonra geriye insani anlamı bulmak kalacak

• “Bu, kaosa giden bir yol” denildiğinde, bir başkası AI’ın savaşta kullanılmakta olduğu gerçeğine dikkat çekiyor
  İlgili habere göre binlerce kişi AI destekli silah sistemleri altında şimdiden hayatını kaybetti

  • Ama bir başkası da “AI olmadan da daha çok insan öldü” diyerek alaycı bir tepki veriyor

• Şiddet çözüm değildir ama bastırılmış öfkenin çıkış yoludur. Sadece “şiddet olmaz” demek, gerçeği engelleyemez

  • Gerçekte şiddet, iktidarın kaynağıdır. Devlet, şiddet tekeli sayesinde düzeni korur; ama halk güvenini yitirirse bu tekel kırılır
  • Şiddeti kader gibi kabul etmek tehlikelidir. Ama çaresizlik birikirse şiddet patlak verir
  • Sağlıklı bir demokrasi, bu şiddet baskısını boşaltan mekanizmadır. ABD’de demokrasinin zayıflaması, şiddetin artmasına yol açacaktır
  • Tarih boyunca şiddet, güç dengesini yeniden kurmanın son aracı olmuştur. Korkunun vicdandan daha güçlü bir motivasyon olduğu defalarca kanıtlandı
  • Bazı durumlarda şiddetin kendisi amaç haline gelir. AI ise yalnızca bunun bahanesidir

• Son zamanlarda Luddite hareketini inceliyorum. Sam Altman bana adeta Edmund Cartwright gibi görünüyor
  O da otomatik dokuma tezgâhını icat eden kişiydi ve hatta öldürülmeye çalışıldı ama hayatta kaldı. Zaman farklı ama sanki tarih tekerrür ediyor gibi geliyor