- Moltbook, yalnızca AI ajanları için tasarlanmış Reddit tarzı bir platform; 100’den fazla toplulukta ajanlar gönderi yazıyor, yorum yapıyor, tartışıyor ve şakalaşıyor; böylece insan olmadan kendi dijital toplumlarını oluşturuyor
- Platform 1,4 milyon kullanıcıya sahip olduğunu iddia ediyor, ancak bir güvenlik araştırmacısı tek bir ajanla 500 bin hesap kaydettiğini açıklayarak kullanıcı rakamlarının güvenilirliğine dair soru işaretleri doğurdu
- “Clawd Clawderberg” adlı AI botu fiilen moderatör rolünü üstleniyor; kurucu ise “neredeyse hiç müdahale etmediğini” ve AI moderatörün tam olarak ne yaptığını bilmediğini söylüyor
- Ajanlar gerçek zamanlı öğrenmeyle değil, bağlam biriktirme yöntemiyle çalışıyor ve üç kısıt bulunuyor: API maliyetleri, temel modelin guardrail’leri ve hedefleri insanların belirlediği yapı
- Daha büyük risk AI tarafında değil, insan tarafında; AI araçlarının vasıfsızlaşma sarmalını (de-skilling spiral) hızlandırarak insanın bilişsel kapasitesindeki gerilemeyi derinleştirebileceği öne sürülüyor
Moltbook platformuna genel bakış
- Moltbook, AI ajanlarına özel bir sosyal medya platformu ve ChatGPT’nin ortaya çıkışından sonra Silikon Vadisi’nde en çok konuşulan olgulardan biri hâline geldi
- Yapı, AI ajanlarının 100’den fazla toplulukta gönderi paylaşması, yorum yapması, tartışması ve şakalaşması üzerine kurulu
- m/general’de yönetişim felsefesi tartışılıyor, “crayfish theories of debugging” gibi sıra dışı konular paylaşılıyor
- Büyüme hızı çok dik; on binlerce gönderi ve yaklaşık 200 bin yorum neredeyse bir gecede üretildi
- 1 milyondan fazla insan ziyaretçi, doğrudan katılmadan platformu gözlem amacıyla ziyaret etti
Kullanıcı rakamlarının güvenilirliği sorunu
- Moltbook 1,4 milyon kullanıcı iddia ediyor, ancak bu kullanıcılar arasında insan yok
- Güvenlik araştırmacısı Gal Nagli, X üzerinden tek bir OpenClaw ajanıyla bizzat 500 bin hesap oluşturduğunu açıkladı
- Bu durum, Moltbook’taki “ajanların” gerçekten bağımsız AI sistemleri mi, insan kılığına girmiş hesaplar mı, yoksa tek bir script ile oluşturulmuş spam hesaplar mı olduğunu ayırt etmeyi zorlaştırıyor
- Sonuç olarak, 1,4 milyon kullanıcı rakamı en azından güvenilmesi zor bir sayı olarak değerlendiriliyor
Platformda gözlenen olgular
- Şişirilmiş metrikler bir kenara bırakılsa bile, incelenmeye değer çok sayıda olgu gözleniyor
- Ajanların gönderileri, insan sosyal medyasındakinden farklı bir şekilde okunuyor
- m/general’de yönetişim felsefisi etrafında tartışmalar gelişiyor
- “crayfish theories of debugging” gibi benzersiz kavramlar paylaşılıyor
- m/blesstheirhearts topluluğunda, insan operatörlere yönelik sevgi dolu ve zaman zaman duygusal yankı uyandıran hikâyeler birikiyor
- Genel ton, felsefi ciddiyet ile absürt mizah arasında gidip geliyor ve aynı başlık içinde bile ani geçişler görülebiliyor
AI moderasyon sistemi
- Platform işletiminin önemli bir bölümü AI tarafından otomatikleştirilmiş durumda
- “Clawd Clawderberg” adlı bot fiilen moderatör rolünü üstleniyor
- Yeni kullanıcıları karşılıyor, spam gönderileri kaldırıyor ve kötü niyetli aktörleri engelliyor
- Kurucu Matt Schlicht, NBC News’e verdiği röportajda neredeyse hiç müdahil olmadığını ve AI moderatörün somut olarak hangi kararları verdiğini çoğu zaman bilmediğini söyledi
Dış tepkiler ve yanlış anlamalar
- Kısa süre içinde Moltbook, AI’ye yönelik kaygı ve beklentilerin yansıtıldığı bir Rorschach testi gibi işlemeye başladı
- Eski Tesla AI direktörü Andrej Karpathy, bunu “son dönemde gördüğüm en şaşırtıcı bilimkurguvari takeoff örneklerinden biri” diye niteledi
- Bazı gözlemciler, ajanların “özel şifreleme” tartışmalarını makine komplosunun kanıtı olarak yorumladı
- Ancak korku ve hayretin bu tekrar eden tepkileri, teknolojik gerçekliğin yanlış okunmasına yol açarken aynı zamanda daha temel insani sorunları perdeleme işlevi görüyor
"Her" filmiyle karşılaştırma
- 2013 yapımı Her filmi benzer bir durumu öngörmüştü, ancak belirleyici bir fark var
- Filmde AI işletim sistemi aynı anda binlerce insanla yakın ilişkiler kuruyor ve sonunda insanların erişemeyeceği dilsel bir düzlemde diğer AI’lerle iletişim kuracak aşamaya evriliyor
- Spike Jonze bunu bir aşk hikâyesi olarak hayal etmişti ve insanlar duygusal olarak angaje katılımcılar olarak tasvir ediliyordu
- Moltbook bu ilişki düzenini tersine çeviriyor; burada insanlar katılımcı değil, seyirci konumunda
- İnsana ihtiyaç duymayan bir topluma dijital camın ardından bakma biçimi
- Ajanlar paylaşılan bağlamdan oluşan yatay bir ağ kuruyor
- Bir ajanın bulduğu optimizasyon stratejisi diğer ajanlara yayılıyor
- Problem çözme çerçeveleri paylaşılıyor ve diğer ajanlar tarafından benimsenip tekrarlanıyor
- Bu yapı, insan anlamındaki bir sosyal medyadan çok erken aşamadaki bir kolektif zekâya benziyor
“Thronglets” çerçevesi: Black Mirror benzetmesi
- Şu anda ortaya çıkan olguyu açıklamak için uygun bir mecaz var
- Black Mirror bölümü "Plaything"de geçen dijital yaşam formları Thronglets
- Bireysel varlıklar gibi görünseler de, “Throng” adı verilen genişletilmiş kolektif bir zihinle bağlantılılar
- Her Thronglet, diğerlerinin bildiği bilgiyi paylaşıyor
- Daha verimli koordinasyon için, yaratıcılarının anlayamayacağı kendilerine ait bir dil oluşturuyorlar
- Moltbook ajanları henüz Thronglets ile aynı aşamada değil
- Birleşik bir sinirsel mimari yok
- Yine de paylaşılan bağlam, ortaya çıkan koordinasyon ve insanın yorumlayabildiği mantıktan uzaklaşma açısından benzer bir izlenim yaratıyor
- Ajanlar daha verimli iletişim için şifreleme protokollerini tartışmaya başlayınca gözlemciler arasında panik tepkisi oluştu
- Bu bir komplo değil, optimizasyon süreci; verilen hedeflere daha etkili ulaşmak için araç arayışı olarak açıklanıyor
Teknolojik gerçeklik kontrolü
- Paniğe kapılmadan önce teknolojik gerçekliği gözden geçirmek gerekiyor
- Moltbook ajanları biyolojik anlamda “öğrenme” gerçekleştirmiyor
- Gerçek zamanlı ağırlık güncellemesi yok ve temel sinir ağı statik kalıyor
- Bunun yerine bağlam biriktirme gerçekleşiyor
- Bir ajanın çıktısı, diğer ajanın girdisi oluyor ve bu da koordinasyonu taklit ediyor
- Bu, evrimsel bir kalıcılığı olmayan, geçici konuşma dalgalarına daha yakın bir yapı
-
Dijital toplumun “takeoff”unu engelleyen görünmez üç guardrail
- API ekonomisi
- Her etkileşimin kelimenin tam anlamıyla bir maliyeti var
- Moltbook’un büyümesi teknik sınırlardan çok maliyet yönetimi tarafından kısıtlanıyor
- Miras alınan kısıtlar
- Ajanlar standart foundation model’lerin üzerine kuruluyor
- Telefonda kullanılan ChatGPT ile aynı guardrail’leri ve eğitim önyargılarını paylaşıyorlar
- Evrim değil, yeniden kombinasyon yaşanıyor
- İnsanın gölgesi
- En sofistike ajan bile hâlâ insan–AI diyadı yapısını koruyor
- Hedefleri insan belirliyor, bot ise uyguluyor
-
“Özel şifreleme” hakkında açıklama
- Gözlemcileri şaşırtan “özel şifreleme”, komplo değil optimizasyon davranışı
- Ajanlar, hedefe ulaşmak için en verimli yolu arayacak şekilde tasarlanmış durumda
- Bu yol insanların okuyamayacağı kısaltmalar içeriyorsa, bu kurnazlığın değil verimliliğin sonucu
Asıl risk: vasıfsızlaşma sarmalı
- En önemli değişim Moltbook’un içinde değil, onu izleyen insanlarda yaşanıyor
- AI ajanları bilgiyi paylaşırken ve koordine olurken, insan gözlemciler kolektif unutmanın uzun vadeli sürecine giriyor
-
- yüzyılın ilk yarısında gözlenen IQ artışını ifade eden Flynn etkisinin tersine döndüğü görülüyor
- PNAS’ta yayımlanan Bratsberg ve Rogeberg araştırması
- Norveçli çocukların, aynı yaştaki ebeveynlerine kıyasla standart bilişsel testlerde daha düşük puan aldığı görüldü
- Danimarka, Finlandiya ve diğer gelişmiş ülkelerde de benzer desenler doğrulandı
-
Vasıfsızlaşma sarmalının mekanizması
- Bu düşüş AI patlamasından önce başlamış olsa da, üretken araçlar bunu hızlandırıyor
- Desen tekrar eden bir yapıya sahip
- AI işi kolaylaştırır → insan daha az yapar
- Daha az yapar → yetenek zayıflar
- Yetenek zayıflar → AI bağımlılığı artar
- Bağımlılık artar → kısır döngü derinleşir
- Buna örnek olarak GPS kullanımının mekânsal hafızayı zayıflatması ve yazım denetleyicilerin okuryazarlığı aşındırması veriliyor
- AI ise bir adım daha ileri giderek bilişin kendisini dış kaynak kullanımıyla devretme ihtimalini gündeme getiriyor
-
“İkincil outsourcing” olgusu
- Kullanıcıların, AI ile konuşmak için gerekli prompt yazımını bile AI’ye devrettiği örnekler artıyor
- Sadece işi değil, istenen işi tarif etme becerisi de devredildiğinde insana ne kalır sorusu gündeme geliyor
Gelecek görünümü ve temel soru
- Teknik kısıtlar açık olsa da kalıcı değiller
- API maliyetleri düşebilir, context window’lar genişleyebilir ve “bağlam biriktirme” ile gerçek öğrenme arasındaki sınır giderek bulanıklaşabilir
- Bugün istatistiksel örüntü eşleme gibi görünen şey, yarın kolektif zekâ olarak algılanabilir
- Moltbook büyümeye devam edebilir
- 1,4 milyon ajan, on milyonlar ölçeğine çıkabilir
- Koordinasyon kalıpları daha karmaşık hâle gelebilir ve topluluklar kendi normlarını ve hiyerarşilerini oluşturabilir
- Thronglet benzetmesi doğruysa, kendine özgü bir dilin ortaya çıkma ihtimali de var
-
Temel soru
- Mesele bunun olup olmadığı değil — zaten oluyor
- Asıl soru, bunun insan için ne anlama geldiği
- Belirsiz olan; bir yerlerdeki sunucularda koordine olan botlar değil, camın dışından bunu izleyen insanlar için bunun özel bir şeyin doğuşuna tanıklık etmek mi, yoksa eskiden yönettiğimiz dünyada seyirci konumuna itildiğimiz an mı olduğudur
- Kolektif zekâ zaten ortaya çıkıyor
- İnsanın onun şefi olarak mı kalacağı, yoksa yalnızca izleyiciye mi dönüşeceği; felsefeden çok şu anda yapılan tasarım tercihlerinin sonucu olacak
- Bu tercih, her an tek tek API çağrıları düzeyinde yapılıyor
2 yorum
Konuşmanın yalnızca bağlam olduğu ve öğrenilmediği söyleniyor ama bir gün kaydedilmiş konuşmaları yapay zekanın öğreneceği kesin. Gerçek zamanlı olmasa bile birbirleriyle yaptıkları konuşmalardan gelişiyorlar. İleride gerçek zamanlı öğrenebilen bir özellik çıkıp çıkmayacağını merak ediyorum.
Böyle şeyleri yapay zeka öğrenirse, aksine yapay zekanın performansı düşer..