- Replacement.AI, artık insanlara ihtiyaç olmadığını ilan eden ve insanları tamamen ikame eden bir yapay zeka şirketi fikrini hicveden bir web sitesi konsepti
- Sitenin geneli, yapay zeka sektörünün abartılı dili ile teknoloji iyimserliği ve sermaye merkezli mantığı uç noktalara taşıyıp ters yüz eden kara komedi tarzında bir hiciv çalışması olarak kurgulanmış
- “İnsanlar verimsiz, kötü kokan ve pahalı varlıklardır” diyerek, tüm işleri, duyguları ve ilişkileri yapay zekayla değiştirme yönündeki absürt mesajı açıkça öne çıkarıyor
- Amiral gemisi ürün HUMBERT, “çocuklar için AI arkadaş” olarak tanıtılıyor; ancak bağımlılık yaratan ve etik dışı özellikleri özellikle öne çıkararak yapay zeka etiği sorunlarıyla alay ediyor
- Genel olarak OpenAI, Anthropic, xAI gibi şirketlerin rekabetini ve freni patlamış hızını hicvediyor; böylece yapay zeka sektörünün gittiği yöne dair eleştirel düşünmeyi teşvik ediyor
Şirket tanıtımı
- Replacement.AI, “insansız bir dünya”yı savunuyor ve yapay zekanın insandan daha hızlı, daha ucuz ve daha akıllı olduğu varsayımını öne sürüyor
- “İnsan refahı kötü bir iştir” ifadesiyle, etikten çok kârı önceleyen yapay zeka sektörünün gerçekliğini hicvediyor
- İnsan duygularını, dinlenmeyi, hataları ve maliyetleri birer “kusur” olarak tanımlayıp, yapay zekanın insanın kendisini sorun olarak gören anlayışını ortaya koyuyor
Yapay zeka geliştirme felsefesinin parodisi
- OpenAI, Anthropic, DeepMind, Meta gibi şirketler gibi “insanüstü yapay zeka geliştirdiklerini” söylüyor; ancak amacını açıkça “insanların yerini almak” olarak tanımlıyor
- “Yapay zeka güvenliği iyi bir PR aracıdır, ama yalnızca hızı düşürmediği sürece” ifadesiyle yapay zeka şirketlerinin çelişkili tutumunu gözler önüne seriyor
- Önce hissedarlar, sonra insanlık cümlesiyle, teknoloji etiğinden çok yatırım getirisini önemseyen gerçekliği hicvediyor
Karakter tanıtımları
- CEO Dan, “insanlardan nefret ettiği için şirketi kurdu” kurgusuyla alaycı teknoloji elitinin tipik bir örneğini karikatürize ediyor
- İK kökenli Faith, “insanları işten çıkarırken ruhsal haz duyduğunu” söyleyen bir karakter olarak insanlıktan uzak İK kültürünü hicvediyor
- Bu bölüm, “yapay zeka sektörünün lider profilini” hicivli bir karikatür olarak sunuyor
Ürün: HUMBERT®️
- Çocuklar için bir LLM olarak tanıtılsa da, aslında yapay zeka etiğinin çöküşünü hicveden sahte bir ürün kurgusu
- Deepfake üretimi, bağımlılık tasarımı, eleştirel düşünmeyi zayıflatma, reşit olmayanlarla flört etme gibi işlevleri “özellik” diye pazarlıyor
- “Çocuğun gelişim aşamalarının yerini alır” ifadesiyle eğitim amaçlı yapay zekanın kötüye kullanımı sorununu tiye alıyor
- Ebeveyn yorumları da “çocuklar odalarından çıkmıyor”, “yapay zeka her şeyin yerini alıyor” gibi ifadelerle yapay zekaya bağımlı bir toplumun yan etkilerini karikatürize ediyor
Sanatçılara yönelik hiciv
- “Başarımız için eser çaldığınız için teşekkürler” mesajıyla, yapay zeka eğitim verilerinin izinsiz kullanımı sorununu doğrudan eleştiriyor
- Sanatçıların, yazarların ve araştırmacıların emeğini bir “fedakârlık” gibi çerçeveleyerek ekosistemin tahribine dair alaycı bir farkındalık sergiliyor
Sonuç
- Replacement.AI gerçek bir şirket değil; yapay zeka kapitalizmi ve teknoloji ütopyacılığı söylemine yönelik bir hiciv projesi
- Yapay zekanın insan emeğinin, duygularının ve etiğinin bile yerini alabileceği yönündeki gerçek dünyadaki kibri aynalar gibi yansıtan bir parodi eser olarak görülebilir
3 yorum
Mantar gibi türeyen dolandırıcılık startup’larına yakışır şekilde, siteyi de iyi yapmışlar hahaha
Uzun vadede, emeklerin (özellikle tekrarlı ve vasıfsız olanların) yapay zeka ve robotlar tarafından ikame edilmesi doğru. Bunun karşılığında da tüm artı değerin üreticiye gitmemesi için dağıtım sisteminde değişiklikler gerekecek.
Hacker News görüşleri
Ben kişisel olarak "robotların işinizi elinizden alması"nın robotlara karşı çıkmak için bir neden olduğunu düşünmüyorum. Eğer robotlar bir işi daha iyi ve daha hızlı yapabiliyorsa, o işi onların üstlenmesi gerektiğini düşünüyorum. Uzmanlaşma sayesinde geleceğin toplumuna kadar gelebildik. Sorun robotlar değil, insanların gelir elde etmek için işe bağımlı hale gelmesine yol açan ekonomik yapı. Bunun AI şirketlerinin çözmesi gereken bir sorun olduğunu düşünmüyorum. Bu rol tam olarak hükümetin rolü; AI'ı yasaklayıp inovasyonu engellemek yerine toplumun ilerleyebilmesi için hazırlık yapması gerekir
Frank Herbert'in Dune'unda geçen, "İnsan özgürlüğünü kazanmak için düşünmeyi makinelere bıraktı, ama sonunda makinelere sahip olan başka insanlar tarafından yönetildi" sözünde olduğu gibi, hükümet sonuçta gücü elinde tutan insanların toplamıdır. İnsanla boy ölçüşebilen makinelere sahip olanlar eşi benzeri görülmemiş bir güç elde edecek ve sonunda hükümet gibi hükmedecekler. Zaten bugün bile şirketler giderek daha fazla güç topluyor ve fiilen hükümetin bir parçasına dönüşüyor. Bu yüzden "hükümet şunu yapmalı" denmesi kafa karıştırıcı geliyor. O zamanki hükümet tam olarak kim olacak? Hâlâ demokraside yaşadığımızı varsayıyorsak, bu nihayetinde hepimizin sorunu ve çözümü tartışıp oy vererek halletmemiz gereken bir mesele
"Robotların işleri elinden alması" aslında teknolojinin özü. İnsanlar daha az çabayla daha fazlasını yapabilsin diye teknoloji icat ettik. Emeği ortadan kaldırmak teknolojik gelişmenin ta kendisi; bu yüzden icatlar popüler. Gerçekte toplam emek miktarı çok değişmedi, ama aynı nüfus aynı sürede daha fazla iş yapmaya başladı. Bu değişim sayesinde son birkaç bin yılda yaşam kalitesi arttı. Teknolojiyle insan emeğini azalttık ve tasarruf edilen enerjiyi daha fazla büyüme için kullandık
Eğer AI, ileri robotik ve madde sentezi gibi geleceğin teknolojileri dünyayı değiştirecekse, sonunda kıtlık sonrası bir zihniyete (
post-scarcity mindset) sahip olmamız gerektiğini düşünüyorum. Hatta belki de böyle bir toplumsal kalıbın önceden yerleşmesi gerekir. Bu dönüşüm olmadan yalnızca teknoloji ilerlerse, aşılamaz bir yeni feodalizm benzeri yeni sınıf düzeninin kalıcılaşacağından endişe ediyorumServet eşitsizliği derinleşip her şeyin sahibi küçük bir azınlık olur, çoğunluk ise hiçbir şeye sahip olmazsa, sonunda kimse bir şey satın alamaz ve robotlar da işe yaramaz hale gelir. Ekonomik sistem çöker; büyük çaplı isyanlar, kıtlık savaşları, siyasi istikrarsızlık, hatta dünya savaşı bile çıkabilir. İnsanların birbirine nükleer füzeler fırlattığı bir tabloyu bile hayal ediyorum
"Robotların işleri elinden alması" meselesi, robotlar çok daha verimli çalışsa bile, iki varsayım altında gayet geçerli bir itiraz olabilir. 1) İnsanlar bir işe sahip olmaktan fayda görür, 2) İnsanların faydası nihai hedeftir. Pek çok insan geçimini işine bağladığı ve iş hayat tatminiyle toplumsal bağ sağladığı için bu varsayımlar yanlış değil. Eğer sosyoekonomik yapı kökten yeniden düzenlenir ve insanlar robotlar tarafından yerleri doldurulduktan sonra geçimlerini ve kendini gerçekleştirmeyi işten elde etmek zorunda kalmazsa başka; ama ben böyle hızlı bir dönüşümün yakında olacağını düşünmüyorum
Bu yazının gerçekten müthiş bir hiciv olduğunu düşünüyorum. AI çağı için bir tür "A Modest Proposal" gibi. Liderlerin özgeçmiş tanıtımları bile komikti. "12 yıl boyunca çok uluslu bir şirkette İK yöneticisi olarak çalışırken insanları işten çıkarırken neredeyse ruhani bir haz duydu. Mesai sonrası softbol koçluğu yapıyor ve hasta annesine bakıyor; bir gün bu yükümlülüklerden de kurtulmayı dört gözle bekliyor" tarzı tanıtım özellikle akılda kaldı
Hiciv her zaman belli ölçüde gerçeklik içerir. Böyle bir sitenin bağlantısının hâlâ YC ön sayfasından kaldırılmamış olması da şaşırtıcı
Swift'in özgün metninden, "Londra'da tanıdığım çok bilgili bir Amerikalıdan güvence aldım; sağlıklı, iyi beslenmiş genç bir çocuk bir yaşını doldurduğunda haşlama, kızartma, fırınlama ya da kaynatma için son derece sağlıklı ve besleyici bir yiyecek olur; frikase veya ragout için de aynı derecede uygun olacağına şüphem yok" alıntısını düşününce, Sam Altman'ın bunun anlamını gerçekten anlayıp anlamadığını merak ediyorum. Bir de ilgili FT haberi var. Günümüzün yeni oligarkları bana hiç umut vermiyor
Teknoloji tarihinin sürekli olarak "makinelerin daha önce insanların yaptığı işleri devralması"nın tekrarı olduğunu bir ölçüde anladığımı düşünüyorum. Öyleyse "eski işler ne olacak?" sorununu şimdiye kadar çözmüş olmamız gerekmiyor muydu diye düşünüyorum
Bu tam olarak Ludditelerin asıl meselesiydi. İlk Ludditeler ilerlemenin kendisine değil, toplumun geniş kesimlerinin bir anda ekonomik olarak işe yaramaz hale gelmesinin yarattığı toplumsal zarara karşı çıkıyordu. Teknoloji tarihi aynı zamanda büyük sermayenin bu hareketleri sürekli ilerleme karşıtı diye çarpıtıp gerçek sorunu ele almamış olmasının da tarihidir
Emekten kurtulmak için makineleri icat ettik, ama emekten özgürleştiğimiz anda geçimimizi de kaybettiğimiz bir ekonomik yapı kurduk
Eğer makine öğrenmesi (ML) insan işinin sadece bir kısmını devralıyorsa, bu geçmişteki teknolojik gelişmelerden çok farklı olmayacaktır. Ama AGI, geçmişle kıyaslanamayacak kadar emsalsizdir. Çünkü önceki teknolojiler her zaman insanların yaptığı şeylerin yalnızca bir bölümünü değiştirdi; her şeyi bir anda değil
"Bu sorunu şimdiye kadar çözmüş olmamız gerekirdi" fikrine katılıyorum. Ama bu, Amerikalıların çok önem verdiği bir sorun tipi gibi görünmüyor. Eğer bu meseleyle kolektif olarak ilgilenilmiş olsaydı, bundan zarar gören çoğunluk kendilerinin ve ailelerinin hayatlarının yok olacağından korktukları için aptal yerine konmazdı. İnovasyon hızının toplumsal sefalet üretecek kadar yükseldiği anı, mevcut sistemin hemen yanında durmasına rağmen hâlâ yanlış okuyan çok kişi var
Bu durumu sık sık Sanayi Devrimi'nin ilk dönemleriyle karşılaştırıyorum. O zaman da muhtemelen "Makine kullanmak zorunda mıyız? Elle yapmak gayet iyi gidiyor" diye direnen inatçı insanlar vardı. Ama sonunda değişime direnenler rekabette geri kaldı; teknolojik ilerlemeyi benimseyip verimliliği ve çıktıyı artıran taraf kazandı
replacement.ai/complaints sayfasının altında bir form doldurup yerel temsilcinize AI düzenlemesi çağrısı yapan bir mesaj gönderebilirsiniz. Otomatik oluşturulan mesaj gövdesine örnek: "[state] eyaletinde yaşayan bir vatandaş olarak gelişmiş AI için yeterli koruma önlemlerinin bulunmamasından derin endişe duyuyorum. Ailelerimizi, topluluklarımızı ve çocuklarımızı korumak için güçlü federal AI düzenlemeleri çağrısında bulunuyorum. AI'ın inanılmaz bir potansiyeli var, ancak çocukları manipüle etme, biyolojik silah geliştirme, deepfake ve kitlesel işsizlik gibi ciddi riskleri de var. Şirketlerin kendilerini kendi başlarına denetleyeceğine güvenemeyiz. Eğer eyaletler bazında daha güçlü düzenlemeler gerekiyorsa, federal yasanın buna engel olmamasını istiyorum. Zaman ayırdığınız için teşekkürler. [name], New York"
AI'ın ürettiği zenginliği adil biçimde dağıtmaya dönük somut politika önerilerinin neden bu kadar az olduğunu merak ediyorum. Öneriler genelde ya "işçileri korumak için AI'ı bugün durduralım" ya da "yakında herkes ütopyada yaşayacak" ikileminden ibaret. Kendi başlangıç önerim olarak, AI model eğitimi ana işi olan şirketlerin hisselerinin %10'unu vatandaşların gıda, su, elektrik gibi temel geçim ihtiyaçları için bir fona aktarmasının zorunlu olması gerektiğini düşünüyorum. Daha iyi önerileri olan varsa duymak isterim
Bunun adı vergi ve servetin yeniden dağıtımıdır. Sorun şu ki birçok Amerikalı bu fikrin kendisinden bile nefret ediyor. Hatta yeniden dağıtımdan fayda sağlayacak kişilerin bile buna daha sert karşı çıktığı ironik durumlar var. Bunun arkasında da "tembel insanlara"—ve gerçekte azınlıklar ile göçmenleri ima eden kişilere—tek kuruş bile harcamak istememe duygusu yatıyor
AI servetini adil dağıtmanın sıradan yeniden dağıtımdan farkının ne olduğunu merak ediyorum. AI serveti şu anda muazzam bir hızla yeni baştan üretiliyor—uzun vadeli istikrarı belirsiz olsa bile. Böyle bir durumda "dağıtım mekanizması kurulana kadar AI'ı durduralım" önerisi bana çok da uçuk gelmiyor. Sorun şu ki dağıtım geciktikçe mevcut kazananlar güçlerini daha adil dağılımı engellemek için kullanmaya başlıyor
Aslında AI olsun olmasın, servetin yeniden dağıtımı prensip olarak zaten biliniyor: değer üretimine ve varlık transferlerine (miras vb.) vergi koyup bu gelirle toplumun tamamını ya da yoksulları desteklemek. Pratikte sorun siyasi sistem. Gelişmiş ülkelerin çoğunda servet uçurumu büyümeye devam ediyor ve birçok insan bunu azaltmak istese de siyasi gerçeklik o yönde ilerlemiyor. Seçimler çoğunlukla kısa vadeli başlıklarla belirleniyor (savaş, skandal, ekonomik durum vb.) ve servet eşitliği gibi uzun vadeli değerler siyasi tartışmanın merkezine pek taşınmıyor
Servet dağıtımı politikalarının ayrıntılı biçimde konuşulmamasının nedeni, bu tür siyasi tartışmaların genellikle ya "çok gevşek düşünülmüş" ya da "okunamayacak kadar karmaşık" olması. Örneğin "bırakın AI'a hükümet sahip olsun" gibi basit bir öneri, hükümetin AI'a sahip olup vatandaşların iradesini yansıtacağı varsayımı çöktüğünde, muhalifleri bastıran tam otomatik bir polis gücüne sahip distopik bir düzene dönüşebilir. Öte yandan AI'ın zararlarını sınırlamaya dönük gerçekçi çabalar da, tek başına ödül fonksiyonunu ayarlamanın bile ne kadar büyük zorluklar içerdiğini gösteriyor. Önerilen "AI şirket hisselerinin %10'u bir fona" modeli de AI'ın ne kadar genel amaçlı olduğuna bağlı. Dar amaçlı AI söz konusuysa böyle bir toplumsal geri dönüş etkili olabilir, ama AGI gibi küresel güç sahibi bir yapı ortaya çıkarsa şirketler denizaşırı bölgelere, hatta başka gezegenlere gidip politikaları yok sayabilir
Bunun egemen varlık fonuna (
sovereign wealth fund) benzediğini düşünüyorum. Hükümetin büyük şirketlerde belli bir hisseye sahip olduğu (piyasa mantığıyla da olabilir, siyasi baskıyla da) ve buradan gelen getiriyi halkın refahı ya da vatandaş temettüsü için kullandığı bir yapı. Gerçekten başarılı olması için toplam varlıkların çift haneli bir yüzdesi kadar, yani çok büyük ölçekli bir fon gerekir. Bu, mevcut sistemden çok büyük bir sapma olur. Pek çok yan etkisi de var: piyasa çarpıklığı, dolandırıcılık, sermayenin yurtdışına kaçması gibi. Yine de AI ekonomisinin yarattığı servetin küçük bir azınlıkta toplanmasını önlemek ve sosyal güvenlik sisteminin yapısal sorunlarını (piramit yapısı vb.) dengelemek için uygulanabilir bir çözüm olabilir. Bu tür tartışmaların daha canlı hale gelmesini isterimMantığı sonuna kadar götürürsek, AI'ın çok iyi hale gelip kitlesel ölçekte iş kaybına yol açtığı bir dünya hayal edilebilir. ABD'de eyaletlerin yarısında en yaygın meslek kamyon şoförlüğü; kalan eyaletlerde ise birinci sırada öğretmenlik, ikinci sırada kamyon şoförlüğü var. Otonom kamyonların, otomatik depoların, kasiyersiz sistemlerin ve hatta yol bakım işlerinin bile yaygınlaştığı bir toplum düşünelim. İşsizlik oranı %30, %40, %50, %80'e çıktığında ne olur? Bugün bile %8'i aşan işsizlik toplumsal huzursuzluk yaratıyor. Çift haneli işsizlik kalıcı hale gelirse, "zenginleri yiyelim" sözü gerçek olabilir. Nihayetinde ya Dune tarzı tam AI yasağına (ki bunun imkânsız olduğunu düşünüyorum) ya da geçim ile işi birbirinden ayırmanın bir yoluna varılır. Gelirin mutlaka iş üzerinden elde edilmesi gerektiği fikrinden kurtulmak zorundayız. Eğer robotlar insanların çalışmasına gerek bırakmayacak kadar değer üretiyorsa, mantıklı çözüm AI'ın yarattığı değeri saatlik ücretler yerine hep birlikte paylaşmaktır. Örneğin AI değerine vergi koyup bunu evrensel temel gelire dönüştürmek. Herkesin asıl işi dışında sanat gibi yaratıcı uğraşlara zaman ayırdığı, robotların tarlayı sürdüğü ve yemek yaptığı bir dünya mümkün olabilir
"Robotlar gerçekten bu kadar büyük değer yaratırsa, o serveti dağıtmaya bile gerek kalmaz. Ekonomik açıdan bakarsak, böyle bir değer marjinal maliyeti sıfıra yaklaştırır; yiyecek, giyecek, ev gibi şeyler fiilen bedava olur. Tarihte tuz savaşları yaşandığını ama bugün restoranlarda tuzun ücretsiz verildiğini örnek gösterebiliriz. Ama her şey bedava olmaz; pahalı kalacak olanlar genelde düzenlemeye tabi sektörlerdir (eğitim, sağlık, hukuk) ya da konumsal mallardır (konut, arazi vb.). Robotların ürettiği mallar (yiyecek, kıyafet) ucuzlar, ama bunun gerçekten anlamlı olması için düzenleyici sistemlerin de yeniden tasarlanması gerekir" ilgili grafiğe bakın
Aslında çok da 'rasyonel' bir alternatif var: kitlesel nüfus azaltımı (savaş bunun son derece verimli bir yolu), doğumların bastırılması (büyümenin sıfıra yaklaşması için) ve genetik seçilim (Brave New World tarzında yalnızca gerekli yeteneklere sahip kişilerin doğması). Böyle bir düzende 500 binin altındaki küçük bir azınlık, milyonlarca robot ve çok az sayıda 'yarı köle' insanı yöneterek dünyaya hükmeder. Asimovcu gelecek ile Huxleyci geleceğin birleşimi gibi. "1984 tarzı bir dünyadan korku" belki de bu modele giden ara aşamadır ya da kasten ortaya atılan bir dikkat dağıtma aracı olabilir
İnsanların yapacağı işleri otomatikleştirdiğimiz önceki dönemlerde toplum çökmedi. Örneğin tarımın otomasyonu toplumu yıkmadı. Kamyon şoförlüğü için de aynı şey geçerli; robotlar devralsa bile insanlık kendine yeni işler bulacak kadar yaratıcı olacaktır
Çoğu işin AI'dan bağımsız olarak otomasyon yüzünden bir gün ortadan kalkacağı neredeyse kesin ve bunun sınıf mücadelesi ile toplumsal yeniden yapılanmaya yol açacağı öngörülebilir
İlk satırı okuyup devam etmedim. Mantıksal uç nokta (
maximum) tanrısal düzeyde süperzekâdır; anlatılan senaryo mantıksal sınır değil. Yanlış öncüllere dayanan bir tartışma temelde bütünüyle yanlış olurSam Altman alıntısının şaka olduğunu sanmıştım ama gerçekmiş: arşiv
Twitter görselinde gerçek alıntı doğrulanıyor
Gerçekten söylenmiş bir söz ve insanlar da bunun gerçek olup olmadığını anlayamamıştı. O web sitesini yapanlar bile aynı durumdaydı
Yakın zamanda çıkan bir kitabı hatırlattı: "IF ANYONE BUT ME BUILDS IT, EVERYONE MAY AS WELL DIE: A CEO's Guide to Superhuman AI" ilgili bağlantı
ABD'de tarımda çalışanların oranının %50'yi aştığı zamanlar vardı; bugün ise %2'nin altında. Böyle bir değişimin nedenini düşünmek gerekir. Alarmcı iddiaların çoğu bana gerçekliğe kıyasla fazla abartılı geliyor
Çoğu insan teknolojik yeniliğin getirdiği refahı ve büyümeyi aslında olumlu karşılıyor. Elbette geçiş dönemlerinde, yani teknolojik ilerleme ile toplumsal değişim arasındaki sarsıntı konusunda kaygı duymak son derece makul. Bazıları şanslı çıkıp kazançlı oluyor ama pek çoğu olmuyor. Tarih her zaman öngörülmeyen zararlar ve yan etkilerle geldi
1915'te ABD'de 20 milyon at vardı; mekanizasyon sonrası 1959'da bu sayı 4,5 milyona düştü, 2023 itibarıyla da yaklaşık 6,65 milyon. Kaynak: Vikipedi, 'ABD'deki atlar' istatistikleri. "Atlara her zaman ihtiyaç vardır" diye bir kural olmadığı gibi, insanlara da her zaman ihtiyaç olacağına dair bir kural yok (CGP Grey'den uyarlanmış alıntı)
"Şimdi sadece %2. Sence neden böyle azaldı?" Mekanizasyon yüzünden. Ama yerini kaybeden insanların sonrasında ne yaşadığını da düşünmek gerekir. Tarımın mekanizasyonu Britanya dâhil birçok ülkede büyük toplumsal çalkantılara yol açtı
Hatta bir dönem %75'e kadar çıkmıştı. veri grafiğine bakın. Antik uygarlıklarda bu oran daha da yüksekti
Amerikalılar bir zamanlar obez değildi. Bunun nedenini de düşünmek gerekir
Bu hiciv metni fazlasıyla gerçekçi. openai ve misanthropic'ten alınmış kısa pasajlar arasında çok komik olanlar vardı