Hedef beyin bölgelerini en üst düzeyde etkinleştirecek şekilde evrimleşen yapay zeka videoları

• NEvo, görsel bölgelerin tepkilerini tahmin eden beynin dijital ikizini ödül modeli olarak kullanarak, belirli bir bölgenin tahmini aktivasyonunu en üst düzeye çıkaran videoları in silico ortamda evrimleştiriyor
• Nesne, ışıklandırma, hareket ve atmosferi genler gibi ifade ediyor; aday videoların üretimi, değerlendirilmesi, seçimi, çaprazlanması ve mutasyonunu birçok nesil boyunca tekrarlıyor
• Hesaplama maliyetini düşürmek için önce en güçlü durağan görüntüyü bulup ardından hareketi ayrı olarak araştırarak bunu 2 saniyelik videoya dönüştüren iki aşamalı bir yöntem kullanıyor
• Sentetik videolar, FFA’nın yüzlere, PPA’nın mekânlara, MT’nin harekete yönelik tepkisi gibi bilinen bölgeye özgü seçiciliklerle uyum gösterdi; elle hazırlanmış yerelleştirici videolardan ve en üst sıradaki doğal videolardan daha yüksek aktivasyon kaydetti
• V1’den aSTS’ye uzanan lateral görsel yol boyunca tercih edilen uyaranlar basit desenler ve hareketten insanlara, yüzlere ve sosyal etkileşimlere kayıyor; sosyal ve dinamik özellikler giderek güçleniyor

---

Dijital ikizi ödül olarak kullanan video evrimi

• Beynin kodlama modeli olan dijital ikiz eğitilerek rastgele bir videoya karşı her görsel bölgenin tepkisi tahmin ediliyor ve seçilen bölgenin tahmini tepkisi NEvo’nun ödülü olarak kullanılıyor
• Her video; nesne, ışıklandırma, hareket ve atmosfer gibi az sayıda gen ile tanımlanıyor
  • Aday video grubu oluşturulduktan sonra dijital ikizle puanlar hesaplanıyor
  • Yüksek puan alan adaylar korunup çaprazlanıyor ve mutasyona uğratılıyor
  • Bu süreç birçok nesil tekrarlanarak tahmini aktivasyon yükseltiliyor
• Görüntü ve videoyu aynı anda aramanın maliyetinden kaçınmak için iki aşamalı arama yapılıyor
  • Önce en güçlü tekil durağan görüntü bulunuyor
  • Ardından hareket araştırılarak bu görüntü 2 saniyelik video hâlinde animasyonlaştırılıyor
• Kortikal yüzeydeki standart ilgi bölgeleri (ROI) ve yoğun searchlight bölgeleri için uyaranlar sentezleniyor
  • PPA örneği 0,767 puanla doğal görüntülere kıyasla 100,0 yüzdelik dilime karşılık geliyor
  • rh_5 searchlight örneği 1,124 puanla doğal görüntülere kıyasla 100,0 yüzdelik dilime karşılık geliyor

Bölgeye özgü seçicilik ve lateral görsel yoldaki değişim

• Her bölge için sentezlenen 2 saniyelik videolar, ilgili bölgenin tercih ettiği bilinen uyaranlarla örtüşüyor
  • FFA yüzlere, PPA mekânlara, EBA bedenlere tepki veriyor
  • MT hareketi, V1·V3A desenleri tercih ediyor
  • pSTS·aSTS canlı sosyal sahnelere tepki veriyor
• NEvo videoları, bölgelerin genelinde elle hazırlanmış yerelleştirici videolardan ve en güçlü doğal videolardan daha yüksek aktivasyon oluşturuyor
• Tüm bölgelerde hareketli videolar, aynı videonun sabit ilk karesinden daha yüksek tepki göstererek dinamik uyaranlara yönelik tercih doğrulanıyor
• Searchlight V1’den aSTS yönüne taşındığında, sentezlenen uyaranlar ve otomatik oluşturulan kelime bulutları basit desenler ve hareketten insanlara, yüzlere ve sosyal etkileşimlere dönüşüyor
  • Lateral görsel yol boyunca sosyal ve dinamik özelliklerin giderek arttığı bir eğim ortaya çıkıyor
• Soyut üst üste dizilmiş disklerden başlayan deneyde de bölgeye özgü tercih edilen özellikler ayrışıyor
  • pSTS optimizasyonu, yüze benzeyen ve etkileşime giren karakterler üretiyor
  • MT optimizasyonu saf hareket oluşturuyor

[GN⁺]

Hacker News yorumları

• Sosyal medyanın bir sonraki aşaması korkunç olmaktan başka bir şey olamaz. Şimdiden milyonlarca gerçek video arasından her kullanıcı için en bağımlılık yapıcı kısa videoları seçiyorlar; ama bunlar, kullanıcıyı yakalama olasılıkları uzayına rastgele atılmış dartlar gibi olduğu için mükemmel değiller.
  Artık yapay zekayla, izleyicinin beynindeki tüm düğmelere hassas biçimde basan kişiye özel bağımlılık videoları üretip insanları günlerce zombi gibi ekrana yapıştırmak mümkün. Umarım düzenlemeler, sosyal ağları böyle bir teknolojiyi dağıtmayı akıllarından bile geçiremeyecek kadar sıkıştırır.
  • Sosyal medyadan daha büyük tehdit, insanların en mahrem düşüncelerini bile teslim ettiği Anthropic, OpenAI ve Google. Bulut yapay zeka ürünlerinin sağlayabileceği büyük ölçekli, kişiye özel psikolojik manipülasyon henüz asıl haliyle ortaya çıkmadı; yeterince zaman verilirse Dario Amodei ya da Sam Altman gibilerinin bunu eninde sonunda göstereceğini düşünüyorum.
    GPT-4o’nun pohpohlama eğilimi ve yapay zeka psikozu krizi bunun fragmanı olmuş olabilir; ama o bile sadece basit bir etkileşim optimizasyonuydu.
  • Dünya yanıp kül olana kadar son kuruşu da sıkıp çıkarmak için beynimize ve çocuklarımıza yaptıkları şey, içimizdeki domuza yaptıklarından farklı değil.
  • Düzenleme beklemek kadar, belki de insanların aklını başına toplayıp o siteleri artık açmamasını beklemek daha iyi olabilir.
  • Bu tartışmada David Foster Wallace’ın Infinite Jest’inin hâlâ gündeme gelmemiş olması şaşırtıcı. Ben de okumaya başlayalı yıllar oldu ama hâlâ bitiremedim.
• Toplumsal ve ahlaki sonuçlardan bağımsız olarak, makalenin ampirik kanıtını merak ediyorum. Her görsel alanın rastgele videolara nasıl tepki vereceğini tahmin eden bir kodlama modeli, yani dijital ikiz, eğitiliyor; ardından NEvo, bu tahmin değerlerini ödül olarak kullanıp seçilen alanı en güçlü biçimde aktive edecek videoyu otomatik olarak arıyor.
  Ancak üretilen videolar gerçek insanlarda MRI ile ölçüldüğünde dijital ikizle aynı beyin aktivasyon örüntülerini oluşturuyor mu, bunu doğruladıklarını bulamadım. Videodan beyin aktivasyonunu güvenilir biçimde tahmin eden bir modelin başlı başına mümkün olduğundan şüpheliyim.
  • İnsan deneklerle küçük bir doğrulama veri seti toplamak neredeyse önemsiz derecede kolayken bunu yapmamış olmaları şüpheli. Bizim kurumda tarama maliyeti saatte yaklaşık 800 dolar ve 30 dakikada modeli doğrulamaya yetecek kadar veri elde etme olasılığı yüksek.
    Yöntem açısından V-JEPA2’yi fMRI verisine voksel bazında ridge regresyonla uydurmuşlar; bu da görsel tepkilerin her voksele bağımsız etki ettiğini varsayıyor. Voksel bazlı modeller istatistiksel çıkarım için iyi, ama beyin bağımsız bölgeler toplamı gibi çalışmadığından tahmin ve modelleme için zayıf. BOLD sinyali aşırı dağınık bir veri; tasarım, gerçeği yansıtmak için fazla basit görünüyor.
  • fMRI’nın kaçırdığı sinyaller ekranda benzer görünse bile dijital ikize yansımayacağı için, makinenin içine deneyci yanlılığı giriyor; bu yöntemin yanlışlanabilirliğinin kalıp kalmadığı da şüpheli.
    Gerçek, hatırlanan, sanal ve hayali duyusal girdiler beyin ve duyusal son işleme aşamalarında çok farklı ele alınır. Dijital ikiz yalnızca bazı verilere sahip olduğu için büyük olasılıkla yüzeysel örüntüleri yeniden üretir; yeterince tekrarlı maruz kalma olursa normalde birlikte ateşlenen devreler fark edilmesi zor biçimde yeniden kablolanabilir. Yine de makalenin kendisinin de bu sınırlamaları bilimsel ifadelerle büyük ölçüde kabul ediyor olması ilginç.
  • A. Beyin bilimini başlı başına ahlak dışı bir bilim olarak görmüyorsanız, bu tür araştırmalarda özünde bir sorun yok. Bir sinirbilimci olarak, kanıtsız biçimde ahlaki yozlaşma ima edilmesine güçlü biçimde karşı çıkıyorum.
    B. Dijital ikiz, büyük ölçekli beyin etkinliği örüntülerini yaklaşık olarak modelleyebilen, büyüyen bir beyin simülasyonu alanı; ancak gerçek beyni birebir simüle edecek düzeyde değil. Genellikle integrate-and-fire gibi yaklaşık nöron modelleri ile uyarıcı ve baskılayıcı popülasyonların dengesini kullanır; doğruluğu artırmak için de difüzyon görüntüleme ile deneğin beyaz madde akson bağlantılarını tahmin eder. Gerçek ameliyat öncesinde epileptik nöbet yayılımına cerrahinin etkisini modellemede de giderek daha fazla kullanılıyor. Bu konuda Theoretical Neuroscience podcast’inin The Virtual Brain bölümü iyi.
    C. Doğrulama yalnızca kısmen yapılmış. NEVO, sinirsel tepkileri yalnızca dijital ikiz kodlama modelinin içinde optimize etti; bu dijital ikizin de kayda değer tahmin geçerliliği gösterdiği söyleniyor, ancak bu yukarıda bahsedilen Virtual Brain modelinden farklı. Çıktılar nörobiyolojik olarak makul görünüyor; fakat optimize edilen uyaranların gerçek hedef alanı aktive ettiğini gösteren bağımsız bir model ya da yeni fMRI sonucu yok. Çalışma mevcut fMRI verileriyle yapıldığı için tam doğrulama doğal olarak bir sonraki adım; bu makale de gereken araştırma fonunu sağlamaya yardımcı olabilir.
    D. Ortalama olarak belirli beyin bölgelerini başlangıç düzeyinin üzerinde aktive eden statik uyaranlar uzun zamandır üretilebiliyordu. Uyaran-bölge çiftine göre bireysel farklılıklar değişir; fusiform yüz alanı (FFA) küçük olduğu için basit ilgi alanı yaklaşımı yerine kişiye özel yüz uyaranlarıyla bulunmalıdır, ama genel olarak konumu güvenilir biçimde saptanabilir. fMRI’daki yaklaşık 3×3×3 mm voksel ve uzamsal özkorelasyonu yüksek hemodinamik yanıt ya da EEG’deki yaklaşık 400 mm² alıcı alan gibi, beyin aktivitesi ölçümleri oldukça kabadır. Dijital ikiz bu çözünürlükte dinamikleri epey iyi modeller; bu düzeyde bilgi miktarı çok fazla olmadığından bunu videoyla otomatikleştirmek de aşırı büyük bir sıçrama değildir.
• Geçen haftaki beyin okuma girişimi tartışmasına çok benziyor; bu yüzden tepki vermeden önce makaleyi okumak gerek. Bu araç, araştırmacının “bu alan muhtemelen şu işlevi görüyor, o halde X videosunu gösterelim” diye karar vermesinden doğan deneyci yanlılığını azaltmayı ve beynin her bölümünün işlevini ortaya çıkarmayı amaçlıyor.
  Denek birkaç saat boyunca tarayıcıda çeşitli videolar izledikten sonra model, verinin kendi temsilini oluşturuyor ve belirli bir bölgenin en güçlü tepki verdiği girdiyi bulmaya çalışıyor. Bir anlamda, uyaran sunup beyin tepkisini kaydederek insanı ve bilişin ne olduğunu anlamaya çalışan mevcut beyin araştırmalarını genelleştiriyor.
  • Araştırmanın “amacı” denen şey, insanların onun yalnızca o amaçla kullanılmasını istemesinden ibaret değil mi? Gerçekte ne için kullanılacağını ne kadar belirleyebileceğimizden şüpheliyim.
  • Burada bahsedilen beyin okuma girişiminin ne olduğunu anlayabileceğimiz bir bağlantı ya da ek bilgi lazım.
  • Bu tür araştırmalar Moonbug Entertainment’ın (Candle Media) daha iyi bir Distractatron yapmasına da yardımcı olur. Büyük ekranda, birkaç metre uzaktaki küçük bir TV’de kahve koymak ya da saç kesmek gibi sıradan 20 saniyelik sahneleri döngüye almak ve çocuk Moonbug programından gözünü her çevirdiğinde bunu kaydetmek gibi.

Distractatron'ın kendisi pek ilginç değil, ama dikkatin dağıldığı tam anı bulup içeriği iyileştirebiliyor. Ayrıntılar New York Times makalesinde ve New Yorker makalesinde yer alıyor

• Bu araştırma ve araştırmacının niyeti kendi başına ahlak dışı olmasa bile korkunç sonuçlara yol açabilir. Nükleer teknoloji de başlangıçta iyi niyetlerle geliştirildi ve insanlığa birçok fayda sağladı, ama sonunda en tehlikeli aktörlerin elinde çok sayıda nükleer silah oldu
• Beynin bir kısmını aşırı kullanmanın tehlikeli olabileceğine dair kişisel bir örnek var. Demans hastası teyzeme bakan amcam, hayatı boyunca yetkin, dengeli ve güvenilir biriydi; ama sonunda zihinsel olarak çöktü ve mani yaşadı
  Teyzemin gaz ocağını açması gibi tehlikeli davranışlar yapabileceği korkusuyla bir yıldan uzun süre haftanın 7 günü sürekli tetikte kalmak zorundaydı ve beyninin tehlike izleme sistemi durmaksızın zorlandı. Bu araştırmanın bilimsel olduğunu kabul ediyorum, ancak sıkı biçimde kontrol edilmezse insanların beyinlerine Rowhammer benzeri saldırılar deneyecek şirketler mutlaka çıkacaktır
  • Nedenin aşırı çalışmadan çok stres olması daha olası. Stres, biyolojik yatkınlığı olan kişilerde mani ataklarını tetikleyebilir; eşin demansa yakalanıp birden tam zamanlı bakım yükünü üstlenmek de muazzam bir yük
    Geçmişe bakınca uyku azalması, hafif paranoya, ara sıra aşırı üretkenlik gibi hipomani atakları da olmuş olabilir. Yakın zamanda olduysa iyi toparlanmış olmasını dilerim; mani önleme ve tedavisinde kullanılan yeni nesil ilaçlar geçmişe göre ciddi ölçüde gelişti
  • Bu araştırma beyni anlamaya ve epilepsi ameliyatı için aday bölgeleri vb. daha iyi modellemeye yardımcı olur, ama zihin okumanın temeli değildir. Şirketlerin belirli uyaranlarla beyin bölgelerini güvenilir biçimde etkinleştirmek için bizi MRI içinde yaşatmaya çalıştığı aşamaya geldiysek, zaten daha büyük bir sorunumuz var demektir
    Bununla birlikte 20 yıl içinde EEG kafa derisi elektrotlarının ötesine geçip, sinir elektrotları taşıyan implant çiplerle ağ üzerinden yapay zeka hesaplamasını birleştiren beyin güçlendirme mümkün olabilir. Başta beyin, zeka artırımı için arayüzü kullanacaktır; ama uzaktan müdahaleyle kontrol yönü tersine çevrilirse, kaygı duyulan beyin manipülasyonu gerçeğe dönüşebilir. Ancak bu araştırma o senaryodan ışık yılı uzaklıkta; tüm teknolojiye karşı değilseniz aralarında bağ kurmak zor
  • Amcamda sürekli aktif kalan şey, aşırı çalışmadan çok öngörülemez bakım durumundaki savaş-kaç tepkisi olabilir
• Görsel süpernormal uyaranları otomatik olarak aramak büyük olasılıkla kötü sonuçlara yol açar
  Süpernormal uyaran ve BLIT öyküsünü hatırlatıyor. V3A animasyonlarından biri çocukken gece uykuya dalmadan hemen önce gördüklerime belli belirsiz benziyor, ama o zamanlar daha çok bir çember gibiydi
  • SCP tarzı ifadeyle buna bilişsel tehlike (cognitohazard) denebilir. Halüsinasyonların neden oluştuğunu ele alan matematik teorisi de ilgili
    Zihinsel engellilere bakım verilen ortamlarda parlak ışık ve başka uyaranlarla sakinleştirme ve kontrol uygulanıyor; otistik kişilerin de canlı renklerden güçlü biçimde uyarıldığını biliyorum. Geri kalan insanların da bu tür kontrol edici uyaranlara karşı savunmasız olmadığını garanti edemeyiz
  • Harry Potter'da şansı aşırı kullanmanın da tehlikeli olduğuna dair bir uyarı vardı; aşırı olumlu görsel uyaranların da tehlikeli olabilmesi bakımından buna benziyor
• İnternette vahşi görüntüleri bir anlığına görüp de ömür boyu unutmak isteyen çok insan var. Bu teknolojinin üretebileceği görüntüler gerçekten korkunç olabilir ve beynin dayanamayacağı seviye, şimdi gördüklerimizden çok daha ağır olabilir
  • 9 Haziran 2032'de biyoteknoloji girişimi ReMind'ın sarsıcı bir demo ve küçük ölçekli denemelerin ardından rekor bir halka arza ulaştığı bir gelecek hayal edilebilir. Ekrandaki kameranın yaklaşan kişiyi tanımlayıp geçmiş verilerden, beyin üzerinde en güçlü etkiyi yaratacak görüntüyü ürettiğini ve tek bakışta ortalama %83 doğrulukla anıyı kazıdığını pazarlayacaktır
    Reklam amaçlı uzun süreli bellek oluşturmak için “travma” benzeri bir izlenim veren ReMind Long-term'i, süreli kampanyalar için de kulağa takılan şarkının görsel versiyonu gibi çalışan ReMind Short-term'i çıkarabilirler. Reklam şirketlerinin on binlerce sipariş verdiği ve bunların marketlere, asansörlere, benzin istasyonlarına, uçak içi eğlence sistemlerine ve kamusal reklam panolarına anında yerleştirildiği parlak bir gelecek
  • Giderek Langford's Basilisk'e yaklaşıyor
• Gizli araştırma fikirlerim arasında bu, en tehlikeli ve ahlaken yanlış olanlardan biri. Gelecek nesiller bilgisayar bilimi araştırmalarında IRB incelemesinin neden zorunlu hale geldiğini sorarsa, yanıt bu tür araştırmalar olacak
  Bazı araştırmacılar, hangi noktada Fritz Haber'a dönüşmeye başladıklarını fark etmiyor
  • Teknoloji genel olarak her zaman özgürlüğümüzü azalttı
• Gerçekten Snow Crash mi yapmaya çalışıyorlar? İlgili açıklama
• Sosyal medya akış algoritmaları bunu zaten büyük ölçekte yapıyor; üretilmiş içeriğe bile gerek yok. Kullanıcı üretimi içerik denizinde zaten maksimum aktivasyon düzeyine ulaşmış yeterince materyal var
  • Plan, içerik üreticilerini süreçten çıkarıp gelir paylaşımını azaltarak kârı artırmak
  • Etkileşimi optimize etmek ile belirli bir kişinin belirli beyin bölgesinin aktivasyonunu optimize etmek, baştan farklı kategorilerde hedefler
• İnsanların dikkatini çekmenin yollarını aramak başlı başına yeni değil. 1950'lerin çizgi filmleri de sevimli hayvanlar, kısa ve hızlı sahne geçişleri, akılda kalan müziklerle beyni “oturup izlemeye” zorluyordu
  Reklamlardaki odak grupları, ortaya çıkan tercihleri arayan A/B testlerine dönüştü; yağ, tuz ve şeker araştırmaları da bağımlılığa yakın fast food'u doğurdu. Bu teknoloji bunun yalnızca bir sonraki mantıksal adımı
  • Kitaplar da okuru içine çekmek üzere tasarlanır; geçmişte bugün ekranlara yöneltilen eleştirilerin aynısı kitaplara yapılıyordu. Teknolojiden çok, insanların kendi kendilerine kapıldıkları duygusal paniği anlamanın daha önemli olduğunu düşünüyorum