Türevlenebilir Mantık Hücresel Otomatları
(google-research.github.io)- DiffLogic CA, Neural Cellular Automata ile Differentiable Logic Gate Networks'ü birleştirerek, ayrık hücre durumlarını korurken yerel kuralları gradyan tabanlı olarak öğrenen bir hücresel otomat yaklaşımıdır
- Her hücre n boyutlu bir ikili vektör durumuna sahiptir ve hem algılama hem de güncelleme aşaması mantık kapısı ağlarıyla işlenerek bir sonraki durum doğrudan hesaplanır
- Conway's Game of Life deneyinde, 3x3 periyodik ızgaranın 512 yapılandırması tek adımda öğrenilerek tüm kural öğrenildi ve hard inference sırasında glider, block, loaf, boat gibi temsilî desenler yeniden üretildi
- Desen üretim deneyinde 16x16 dama tahtası 20 adımda oluşturuldu; ayrıca 4 kat daha büyük ızgara ve 4 kat daha uzun sürede de çalıştı, hasarlı hücrelere karşı hata toleransı ve yeniden etkinleştirme sonrası kendi kendini onarma gösterdi
- Daha karmaşık lizard ana hattı ile 8 renkli RGB G de üretildi; ancak karmaşık yapıların öğrenilmesi için yoğun hiperparametre ayarı gerekti ve hiyerarşik NCA ile LSTM benzeri kapılar geliştirme adayı olarak kaldı
DiffLogic CA'nın hedeflediği problem
- Hücresel otomatlar genellikle önce yerel kuralların tanımlanıp ardından bunun sonucunda ortaya çıkan beliren desenlerin gözlemlenmesi şeklinde ele alınır
- DiffLogic CA, istenen karmaşık bir desen verildiğinde, bu deseni üreten yerel kuralları tamamen türevlenebilir bir biçimde öğrenme yöntemini araştırır
- Mevcut Neural Cellular Automata, rastgele desenleri ve davranışları öğrenebilir; ancak özünde ayrık durum uzayında çalışmadığı için yorumlanabilirliği düşer ve sürekli durum güncellemelerinde matris çarpımı maliyeti doğurur
- Differentiable Logic Gate Networks, birleşimsel mantık devresi keşfinde kullanılmıştır; ancak uzay ve zamanın her ikisinde de özyinelemeli olan NCA kurulumlarında henüz çalıştığı gösterilmemiştir
- Tüm deneyler notebook'ta yeniden üretilebilir
Neural Cellular Automata'nın temel yapısı
- Neural Cellular Automata, klasik hücresel otomatlara derin öğrenmeyi ekleyerek kuralları elle tasarlamak yerine güncelleme kurallarını gradyan inişi ile öğrenir
- Growing-NCA'de her hücre, 2D ızgara üzerinde n boyutlu bir durum vektörüne sahiptir
- RGB 3 kanalı hücrenin rengini gösterir
- Alpha kanalı hücrenin yaşamsallığını gösterir; alpha değeri 0.1'den büyükse hücre canlı kabul edilir
- Kalan hidden channel'lar çevre hakkında daha karmaşık bilgileri taşır
- Güncelleme iki aşamada gerçekleşir
- Algılama aşaması: Sobel filter her kanala uygulanarak uzamsal gradyan yaklaşık olarak hesaplanır ve hücrenin mevcut durumu ile çevre bilgisini birleştiren bir perception vector oluşturulur
- Güncelleme aşaması: Yaklaşık 8.000 parametreli bir sinir ağı tüm hücrelere aynı şekilde uygulanarak her hücrenin nasıl değişeceğine karar verir
- Tüm işlemler türevlenebilir olduğu için sistemin tamamı belirli desenleri veya davranışları öğrenebilir
Differentiable Logic Gate Networks yaklaşımı
- Deep Differentiable Logic Gate Networks, yapay nöronlar yerine AND, OR, XOR gibi mantık kapılarını temel birim olarak kullanır
- Ağ, kapı katmanlarından oluşur ve her kapı önceki katmandaki iki kapıdan girdi alan seyrek bir yapıya sahiptir
- Bağlantılar rastgele başlatılır ve eğitim sırasında değişmez; eğitim yalnızca her kapının hangi mantıksal işlemi yapacağını belirler
- Eğitim sırasında ayrık mantık kapıları doğrudan kullanılmaz; bunun yerine iki yöntem uygulanır
- Sürekli gevşetme: hard AND gibi ayrık işlemler, 0 ile 1 arasında girdi alan türevlenebilir sürümlerle değiştirilir
- Olasılıksal kapı seçimi: Her kapı, iki giriş üzerindeki 16 olası ikili işlem için bir olasılık dağılımına sahiptir ve softmax ile ifade edilen 16 boyutlu parametreler öğrenilir
- Eğitim tamamlandığında her kapı en yüksek olasılığa sahip işleme sabitlenir ve çıkarım sırasında yalnızca saf ikili işlemler gerçekleştirilir
- Eğitim kararlılığı için başlangıç kapı dağılımı pass-through kapılarına ağırlık verecek şekilde ayarlanır
DiffLogic CA'nın yapısı
- DiffLogic CA, NCA'nın 2D ızgara yapısını izler; ancak her hücrenin durumu n boyutlu bir ikili vektör olarak ifade edilir
- Hücre durumu ve kanal aynı anlamda kullanılır; ikili durum vektörü önceki yinelemelerin bilgisini saklayan bir çalışma belleği görevi görür
- Algılama aşaması, Sobel filter yerine mantık kapısı ağı tabanlı kernel'ler kullanır
- Her kernel, sabit bağlantı yapısına sahip ayrı bir devredir ve kapı türleri öğrenilir
- Kernel'ler kanal bazında hesaplanır
- Her devre, merkez hücre ile komşu hücrelerin etkileşimini hesaplamak üzere tasarlanmış 4 katman kullanır
- Güncelleme aşaması, hücrenin önceki belleğini ve komşulardan alınan bilgiyi birleştiren girdiyi Differentiable Logic Gate Network içine vererek yeni durumu hesaplar
- Standart NCA'daki gibi durumu kademeli ekleyen ODE tarzı bir güncelleme yerine, bir sonraki ikili durumu doğrudan üretir
- Bir turun işleyişi iki kayıtçı olarak düşünülebilir
- Gri kayıtçı mevcut hücre durumunu tutar
- Turuncu kayıtçı algılama aşamasının sonucunu saklar
- Güncellemeden sonra yeni durum gri kayıtçıya yazılır ve turuncu kayıtçı bir sonraki tur için temizlenir
- Bu yapı, her hücrenin komşularıyla iletişim kurup gözlemlerine göre karar veren küçük bağımsız bilgisayarlardan oluşan bir ağ gibi çalışır
Deney 1: Conway's Game of Life öğrenimi
- Game of Life, her hücrenin 8 komşusunun durumu ve kendi mevcut durumuna göre bir sonraki nesilde yaşayıp öleceğini belirleyen ikili bir hücresel otomattır
- Kurallar dört tanedir
- Ölü bir hücre, tam olarak 3 canlı komşusu varsa bir sonraki nesilde canlanır
- Canlı bir hücre, 2 veya 3 canlı komşusu varsa yaşamaya devam eder
- Canlı bir hücre, komşu sayısı 2'den azsa ölür
- Canlı bir hücre, komşu sayısı 3'ten fazlaysa ölür
- Bu deney, önceki durum yinelemelerine bağlı olmayan kuralları hedeflediği için hücre durumu 1 bit olarak ayarlanmıştır
- Model yapılandırması şöyledir
- 16 algılama devresi kernel'i
- Her algılama kernel'inin düğüm yapısı
[8, 4, 2, 1] - Güncelleme ağı 23 katmanlıdır
- İlk 16 katmanın her birinde 128 düğüm vardır
- Sonraki katmanlar
[64, 32, 16, 8, 4, 2, 1]şeklindedir
- Eğitim verisi, 3x3 periyodik ızgaradaki olası 512 yapılandırmanın tamamını içerir
- Her hücrenin bir sonraki durumu kendisi ve 8 komşusuyla belirlendiği için 3x3 yapılandırma sayısı 512'dir
- Tek adımda tüm sonraki durumlar doğru tahmin edilirse, bu Game of Life'ın tüm kuralının öğrenildiği anlamına gelir
- Kayıp fonksiyonu, tahmin ızgarası ile doğru ızgara arasındaki kare farkların toplamıdır
- Hem soft loss hem de hard loss tamamen yakınsadı ve hard inference'ta öğrenilen devre daha büyük ızgaralarda da Game of Life desenlerini yeniden üretti
- Etkin kapı sayısı, pass-through A ve B hariç 336 idi; algılama ağı ve güncelleme ağında en sık kullanılan kapılar OR ve AND oldu
- Üretilen devreyle Game of Life devresi üzerinden doğrudan etkileşim kurulabilir
Deney 2: dama tahtası deseni üretimi
- Desen üretim deneyi, rastgele bir başlangıç durumundan hedef görüntüye evrilen kuralların öğrenilmesi için kuruldu
- Kayıp yalnızca son zaman adımında hesaplandığından, model ara aşama gözetimi olmadan ayrık geçiş kurallarını bulmak zorundadır
- Hücre durumu 8 bittir ve DiffLogic CA 20 adım boyunca yinelenir
- Model yapılandırması şöyledir
- 16 algılama devresi kernel'i
- Her kernel katman başına 8, 4, 2 kapıya sahiptir
- Güncelleme ağı 16 katmanlıdır
- İlk 10 katmanın her birinde 256 kapı vardır
- Sonraki katmanlar
[128, 64, 32, 16, 8, 8]şeklindedir
- Kayıp fonksiyonu, son zaman adımında tahmin ızgarasının ilk kanalı ile hedef ızgara arasındaki kare farkların toplamıdır
- Model, 16x16 dama tahtası desenini 20 adım içinde yeniden oluşturacak şekilde eğitildi
- Hem soft loss hem de hard loss yakınsadı ve ilk kanalda belirgin desen oluşumu görüldü
- Modelde yerleşik bir yön yanlılığı yoktu; ancak desenin sol alttan sağ üste doğru yayıldığı gözlendi
- Etkin kapı sayısı, pass-through A ve B hariç 22 idi ve budama sonrası tüm dama tahtası üretim işlevi fiilen 5 mantık kapısıyla gerçekleştirilebildi
- 4 kat daha büyük ızgaraya ve 4 kat daha uzun zamana genişletildiğinde de devre çalıştı; yani öğrenilen kural yalnızca belirli bir ızgara boyutuna aşırı uyum sağlamamıştı
Hasar, kendi kendini onarma ve asenkron güncelleme
- Dama tahtası deneyinde, bazı hücrelerin arızalı olduğu varsayılarak iki hasar deneyi yapıldı
- Geniş bir hücre bölgesi kalıcı olarak devre dışı bırakılarak arızalı bileşenler simüle edildi
- Belirli adımlardan sonra devre dışı hücreler yeniden etkinleştirildi
- Sistem, kalıcı hasar durumunda bile desen bütünlüğünü korudu ve devre dışı hücreler tekrar çevrimiçi olduğunda doğru deseni yeniden üretti
- Hata toleransı ve kendi kendini onarma açıkça tasarlanmamış olmasına rağmen, hasarın yerel kaldığı ve genel işlevin ani biçimde çökmediği görüldü
- Asenkron güncelleme deneyinde tüm hücreler aynı anda güncellenmedi; bunun yerine her adımda rastgele bir hücre alt kümesi güncellendi
- Asenkron eğitimin mevcut NCA'lere göre daha zor olması bekleniyordu
- Her adımda artımlı bir değişim değil, tüm yeni durumun üretilmesi gerekir
- Komşu hücrelerin birbirine göre farklı miktarlarda ileride ya da geride olduğu birleşimleri ele almak gerekir
- Dama tahtası örneğinde asenkron eğitim nispeten kolay başarıldı ve aynı başlangıç durumundan farklı güncelleme sıraları kullanılsa bile hedef desen 50 adım içinde yeniden kuruldu
- Senkron eğitimli mevcut kurallar asenkron çıkarıma uygulandığında da çalıştı
- Her çıkarım zaman adımında görüntü alanı içindeki 10x10 piksellik bir dikdörtgenin rastgele devre dışı bırakıldığı testte, asenkron eğitilmiş hücreler hasardan biraz daha hızlı toparlandı
- Hata, hedef ile yeniden oluşturulan görüntü arasındaki mutlak farkların toplamıyla ölçüldüğünde, asenkron eğitim bu tür bozuculara karşı daha yüksek dayanıklılık sağladı
Deney 3: lizard ana hattının büyümesi
- lizard deneyi, özgün NCA çalışmasına bir saygı duruşu olarak DiffLogic CA'nın rastgele şekilleri öğrenip öğrenemeyeceğini sınar
- Dama tahtası gibi yüksek derecede sıkıştırılabilir düzenli bir desenin aksine, lizard ana hattı daha fazla ezberleme gerektirir
- Kurulum şöyledir
- Hücre durumu 128 bittir
- DiffLogic CA 12 adım boyunca yinelenir
- 4 algılama devresi kernel'i vardır
- Her kernel katman başına 8, 4, 2, 1 kapıya sahiptir
- Güncelleme ağı 10 katmanlıdır
- İlk 8 katmanın her birinde 512 kapı vardır
- Son katmanlar
[256, 128]şeklindedir
- Model, 20x20 lizard desenini 12 adım içinde üretecek şekilde eğitildi
- Başlangıç koşulu, NCA'deki gibi simetriyi bozmak için merkezde bir seed idi ve ızgara kenarlarında periyodik sınır koşulları uygulandı
- 40x40 daha büyük bir ızgarada değerlendirildiğinde de lizard büyüme desenini başarıyla üreterek bunun sınır koşullarından yararlanan bir çözüm olmadığını gösterdi
- Hem soft loss hem de hard loss 0'a yakınsadı
- Etkin kapı sayısı, pass-through A ve B hariç 577 idi
- Algılama kernel'leri çoğunlukla TRUE kapıları kullanırken, güncelleme devresi kullanılabilir neredeyse tüm kapıları kullandı
- Karmaşık desen üretiminin öğrenilmesi optimizasyon açısından zordu ve kapsamlı hiperparametre ayarı gerektirdi
Deney 4: renkli G üretimi
- Önceki deneyler fiilen tek renkli görüntülere odaklandığından, daha karmaşık bir hedef durum olarak 16x16 renkli bir görüntü üretme deneyi yapıldı
- Hücre durumu 64 kanaldır ve model 15 adım boyunca renkli bir G harfi üretir
- İlk üç kanal, standart NCA geleneğinde olduğu gibi RGB değerlerini temsil eder; ancak burada her değer 0 veya 1 ile sınırlı ikili gösterim olduğundan 8 renkli bir palet oluşur
- Model yapılandırması şöyledir
- 4 algılama devresi kernel'i
- Her kernel, 8, 4, 2 kapılı 3 katmandan oluşur
- Güncelleme ağı 11 katmanlıdır
- İlk 8 katmanın her birinde 512 düğüm vardır
- Son 3 katman
[256, 128, 64]şeklindedir
- Başlangıç durumu tamamen 0'dır ve periyodik sınır koşulları kullanılmaz
- Kayıp fonksiyonu, son zaman adımında yalnızca ilk üç kanal olan 0, 1 ve 2. kanallardaki tahmin ızgarası ile hedef ızgara arasındaki kare farkların toplamını alır
- Hem soft loss hem de hard loss yakınsadı ve model 15 adım içinde renkli G'yi yeniden oluşturdu
- Etkin kapı sayısı, pass-through A ve B hariç 927 idi
- TRUE ve FALSE kapıları hem algılama ağında hem de güncelleme ağında yoğun kullanıldı; güncelleme ağında en sık kullanılan kapı OR oldu
- Bu devre, önceki deneylere göre hem hiperparametre araması hem de devre boyutu açısından daha karmaşıktı
Kalan görevler ve geliştirme yönleri
- DiffLogic CA, tamamen ayrık hücre durumları kullanan ve durumu öğrenilmiş özyinelemeli ikili devrelerle güncelleyen yeni bir NCA mimarisi ve eğitim yöntemi önerir
- Sinir ağı bileşenlerini Deep Differentiable Logic Networks ile değiştirerek, ayrık mantık kapılarına türevlenebilir öğrenmenin esnekliğini kazandırır
- Game of Life kopyalama ve desen üretim deneyleri, türevlenebilir mantık kapılarının hücresel otomatlara uygulanabileceğini gösterir
- Sonuç olarak Differentiable Logic Gate Networks'ün özyinelemeli yapılarda da etkili biçimde eğitilebildiği doğrulanmıştır
- Mevcut model, desen öğrenme potansiyelini göstermiş olsa da daha karmaşık şekil ve yapıların üretimini öğrenmek hâlâ zordur
- Geliştirme yönleri arasında hiyerarşik NCA yapıları ve durumun unutulmasına yardımcı özel kapılar önerilmektedir
- LSTM benzeri gating mekanizmalarının durum güncelleme sürecine entegre edilmesi, geçmiş durum ile yeni hesaplanan aday durumun daha zengin biçimde birleştirilmesini sağlayarak model dinamiklerini ve ifade gücünü artırabilir
1 yorum
Hacker News yorumları
Çok ilginç. Yeni evrensel Turing makinesi ortamları arayıp genetik programlama deneyleri için Pokémon gibi topluyordum. Daha önce hücresel otomatlarla da rule 30/110 gibi şeylerle uğraşmıştım, ama bu yaklaşım çok daha ikna edici
Çekirdeği dijital mantık devresi gibi modellemeyi düşünmemiştim. Boole mantığı, kapılar ve devrelerin kısıtları, uygunluk yüzeyini oluşturmak için ilginç bir doku sağlıyor gibi. Ortaya çıkan parametreler doğrudan donanım uygulamasına dönüştürülebilir ya da ek bir optimizasyon aşamasından sonra basit bir programa derlenebilir. Milyarlarca parametreli bir kara kutunun içindeki sihirli kayan nokta işlemleriyle uğraşmaktan daha iyi görünüyor
Heyecan verici. Michael Levin, hayvan hücrelerinin hiyerarşik yapı olmadan nasıl işbirliği yapabildiğini en iyi şekilde problem haline getiren kişiydi. Örneğin kurbağa embriyosundaki göz hücreleri çıkarılsa bile, gözün olması gereken konuma göç ettiklerini gösteren biyoloji deneyleri var
Bence onun tam yanıtlayamadığı soru, hücrelerin ne zaman durmaları gerektiğini nasıl bildiğiydi. Hiyerarşik olmayan örgütlenmeyi anlamak, toplumun nasıl işlediğini ve kendini örgütleyen dünyanın çeşitli ölçeklerinde mahkûmun ikilemini çözmeyi anlamak açısından da temel. Ham karmaşıklığı anlamak ve modellemek de buna dahil. Böyle şeyleri modelleyebilme yeteneğini ilk kez görüyorum ve buradan uzanacak gerçekten çok fazla yön var gibi görünüyor
Son zamanlarda zeka üzerine çok düşünüyorum; zekanın nasıl çalıştığını bulma ya da en azından anlayışımızı ciddi ölçüde ilerletme konusunda kritik bir noktaya gelmişiz gibi hissediyorum. Zeka, klasik Newton mekaniğinden ya da elektrikten çok da farklı olmayan, doğal biçimde ortaya çıkan bir davranış gibi görünüyor
Sonunda basit kurallara indirgeniyor gibi. Ya beyinde ayrık olmayan her şey aslında gerçek işi yapan basit ama önemli çekirdek süreçleri taşıyan bir altyapıdan ibaretse? En dibe indiğimizde sonuçta mantık kapıları ve elektrik sinyalleri varsa? Önümüzde ilginç zamanlar var gibi
Bu yaklaşımda özellikle genelleme yeteneği açısından çekici bir şeyler var. Ama büyük vizyonun ne olduğunu merak ediyorum. Bundan sonra neler yapabilir hale geleceğiz? Felsefi olarak dünya hakkında bize ne öğretiyor? 1 boyutlu hücresel otomatların Turing eşdeğeri olduğunu zaten biliyoruz; bu yüzden bir açıdan NCA ya da bu tür yöntemler çok şaşırtıcı değil
Çevreyle etkileşen hücresel otomatlar, hem düşük seviyeli sistemlerle hem de yüksek seviyeli kurumlarla etkileşen otomatlar ortaya çıkacak. Belli bir yaklaşımla insanlar da böyle ağlar içinde etkileşen tekil hücrelerden ibaret. Zekanın geleceğinin LLM’ler değil, metabolik yönleri olan otomat sistemleri olduğunu düşünüyorum. Birlikte evrimleşen, enerji tüketen, değer üreten, rekabet eden ve birbirlerini modelleyen otomatlar
Yerimizi alan bir şey değil bu; teknolojik sistemler ile hücresel sistemler arasındaki sınırların bulanıklaşıp sonunda kaybolduğu bir dönüşüme katılıyoruz. Buna tanıklık edebildiğim için çok minnettarım. Referans: https://x.com/zzznah/status/1803712504910020687
Sanat çalışmalarımda hücresel otomatlarla oynamayı seviyorum. Hangi örüntülerin ortaya çıkabildiği şaşırtıcı. Örnek: https://gods.art/math_videos/hex_func27l_21.html
Bu DLCA ile de bir ara oynamam gerekecek gibi
Burada pek çok harika fikir var. Küçük bir gözlem olabilir ama bu hesaplama duruma sahip. Her hücrenin belleği ve çevresine dair algısı var
Buna karşılık modern sinir ağları çoğunlukla durumsuz. Örneğin duruma sahip LLM üzerine çalışma yapılıp yapılmadığını merak ediyorum
Kendi tanıtımım gibi olacak ama çok ilgili: Robustness and the Halting Problem for Multicellular Artificial Ontogeny (2011)
Güncelleme kuralı, izotropik difüzyonla birleştirilmiş bir perseptron olan bir hücresel otomattı. Sinir ağı ağırlıklarını optimize ederek hücresel otomatın resim çizmesini, bozulduğunda da resmi yeniden oluşturan kendi kendini iyileştirme yapmasını sağladık. O zamanlar otomatik türev alma bugünkü kadar erişilebilir değildi, bu yüzden ağırlıkları evrim stratejileriyle optimize etmiştik. Elbette gradyan inişi kullanmak muhtemelen çok daha iyi olurdu
Bunu ARC-AGI Challenge için kullanabilir miyiz? Şu son yaklaşımla da birleştirilebilir gibi: https://news.ycombinator.com/item?id=43259182
Gerçekten müthiş. Uzun süredir sadece takip eden ve modelleme ile simülasyonu çok kullanan biri olarak, karmaşık aktör davranış modellerinin ortaya çıkan davranışlarını daha iyi anlamada büyük potansiyel görüyorum
Avcı/av modeli gibi şeylere ve basit görünmesine rağmen büyük ölçekte karmaşık ortaya çıkan sonuçlar üreten diğer modellere uygulanışını görmek isterim. Bu çalışmayı takip etmeye devam edeceğim
Sonuçtaki dama tahtası deseni hedef desenin tersi, yani NOT gibi görünüyor. Ama bundan hiç bahsedilmemiş. Bahsetmeye değmeyecek kadar önemsiz mi, yoksa ben bir şeyi mi kaçırıyorum merak ediyorum