Project Sid: Yapay zeka uygarlığına doğru çok ajanlı simülasyon
(github.com/altera-al)- Project Sid, 10 ila 1000’den fazla yapay zeka ajanının bir ajan toplumu içinde nasıl davrandığını ve nasıl ilerleme kaydettiğini gösteren bir teknik rapor deposudur
- Mevcut yapay zeka ajanı değerlendirmelerinin tekil ya da küçük gruplarla sınırlı kaldığı, bu yüzden etkileşimlerin kapsamı ve karmaşıklığının sınırlı olduğu düşünülüyor
- PIANO, Parallel Information Aggregation via Neural Orchestration mimarisidir; ajanların insanlar ve diğer ajanlarla gerçek zamanlı etkileşime girerken birden fazla çıktı akışı arasında tutarlılığı korumasını sağlar
- Minecraft ortamında, büyük ölçekli simülasyonlarda ajan performansını değerlendirmek için insan tarihinden esinlenen bir uygarlık benchmark’ı kullanılır
- İlk sonuçlarda ajanlar, uzmanlaşmış rolleri otonom olarak oluşturma, grup kurallarına uyma veya bunları değiştirme, kültür ve din yayılımına katılma gibi yapay zeka uygarlığına doğru önemli kilometre taşlarına ulaştı
Project Sid’in ele aldığı sorun
- Yapay zeka ajanları şimdiye kadar çoğunlukla izole durumda veya küçük gruplar içinde değerlendirildi
- Bu tür kurulumlarda ajanlar arası etkileşimlerin kapsamı ve karmaşıklığı sınırlı kalır
- Çıkış noktası, uygarlık süreçlerinin tüm spektrumunu yansıtan büyük ölçekli otonom ajan simülasyonlarının henüz keşfedilmemiş olduğu düşüncesidir
PIANO mimarisi
- Project Sid, PIANO mimarisini önerir
- Tam adı Parallel Information Aggregation via Neural Orchestration’dır
- Ajanların insanlar ve diğer ajanlarla gerçek zamanlı etkileşim kurmasını sağlar
- Birden fazla çıktı akışı genelinde tutarlılığı korumayı hedefler
Simülasyon ve değerlendirme yöntemi
- Değerlendirme Minecraft ortamında yürütülür
- Büyük ölçekli simülasyonlarda ajan performansını değerlendirmek için insan tarihinden esinlenen bir uygarlık benchmark’ı kullanılır
- Deney ölçeği 10 ila 1000’den fazla yapay zeka ajanını kapsar
Gözlemlenen ajan davranışları
- Simülasyonlar, ajanların anlamlı ilerleme gösterebildiğine işaret eder
- Gözlemlenen davranışlar şunları içerir
- Uzmanlaşmış rolleri otonom olarak geliştirme
- Grup kurallarına uyma ve gerektiğinde bunları değiştirme
- Kültürel ve dini yayılıma katılma
Materyaller ve atıf bilgisi
- Makale iki konumda sunulmuştur
- arXiv:2411.00114
- Depodaki PDF dosyası
2024-10-31.pdf
- Atıf bilgisi
Altera.AL, 2024,arXiv preprint arXiv:2411.00114olarak verilmiştir - Project Sid’in ilk sonuçları, büyük ölçekli sosyal simülasyonlar, ajan organizasyon zekâsı ve yapay zekanın insan uygarlığıyla bütünleşmesi için yeni keşif yönleri açtığı şeklinde özetlenir
1 yorum
Hacker News görüşleri
Aynı LLM’in birden fazla örneğinden üst düzey davranış çıkarmanın önünde bir tür bilgi kuramsal kısıt var gibi görünüyor.
Geçen yıl çok ajanlı simülasyonlar üzerinde epey uzun süre çalıştım ve her gün aynı sonuca vardım. Nihayetinde bu, dolaylı bir prompt mühendisliğine daha yakın; zihinsel model olarak yararlı olabilir ama bütünü birkaç SQL tablosu ve fonksiyona düzleştirilebilir. Her “ajan”, özünde prompt oluşturan bir string şablonuna eşlenen bir SQL view’a yakın.
Gerçek bir 3D dünyaya ya da duvar saati gibi şeylere ihtiyaç olduğunu düşünmüyorum. Prompt üretim sürecinin altına ikna edici bir temsil koymak, LLM’i anlamlı biçimde zenginleştiriyor gibi görünmüyor. LLM’in içinde açıkça bir “iç dünya” yok; bu yüzden onu zengin bir dış ortamla eğlendirmeye çalışmak pek anlamlı görünmüyor.
Bir gün kontrol edilebilir rigging ve dokulu mesh’ler oyunlarda kullanılabilecek düzeye getirilebilirse belki; ama şu anda tutarlı bir oyun hikâyesini destekleyecek kadar güvenilir doğaçlama anlatılar üretemiyor. Harita üretimi de mevcut prosedürel üretim algoritmalarının ötesinde bir şeye ihtiyaç duyuyor gibi görünmüyor ve bu örnekler de hâlâ önceden hazırlanmış varlıklara dayanıyor. Bu uygulamalar statik mesh’leri zemine ikna edici biçimde yerleştirmeyi bile güvenilir şekilde yapamıyor gibi.
NPC’lerin gerçekte ne kadar değerli olduğu da şüpheli. Sırf yenilik hissi olabilir ve bir saatlik değeri bile olmayabilir. LLM doğaçlama cümlelerle yönlendirmeli bir hikâye ilerleyişi oluştursa bile, bunun profesyonel bir yazarın hazırladığı diyalog ağacı kadar iyi ya da daha iyi olacağından kuşkuluyum.
Bu Civ fikri bir ölçüde yeni bir yaklaşım gibi görünse de kavramsal olarak fazla bir şey eklemiyor gibi. Yine de neyin işe yaramadığını öğrenmenin kendisi değerli. Ancak bu tür fikirler genelde sorun arayan moda sözcük çözümleri ya da insandan daha ucuz bir yaratıcılık kaynağı; fakat kalite tavizi büyük ve geliştiricinin çok fazla ayar yapması gerektiğinden gerçek maliyet tasarrufu da belirsiz.
Teknik sanatçı olduğum için insan yaratıcılığının değerini daha yüksek görme yönünde bir önyargım var; ama aynı zamanda oyun geliştirmeye yönelik LLM araçlarının ana hedef kitlesi de ben olmalıyım, yine de henüz ikna olmuş değilim.
Ticari çıkarların ilgi ve katılım çekmesini tamamen destekliyorum. Bunun harika bir çalışma olduğu açık; ama durumu çok daha dürüstçe sunmak ve gerçekten topu ileri taşıyabilecek uzmanlık ve farkındalık düzeyine sahip insanları çekmek daha mantıklı olur.
Deneylerde yanlış giden on bin şeyi yayımlamak ve oradan çıkan sağduyulu sonuçları derlemek çok daha ilginç olurdu. Yukarıda söylenen sonuçlar gibi içgörülü ve doğru içeriklere ihtiyaç var.
Bu sektörün ve destekçilerinin yanlış metodolojilerle kazanmaya çalışırken, yapay zeka alanında ve endüstride paradigma değişimi yaratmaya hazır yaratıcı insanları dışarı itme eğilimini aşması gerekiyor.
Tüm prompt’ları doğrudan siz de yazabilirsiniz; ama o zaman o paylaşılan gerçeklik sadece yazarın hayali olur ve yazar da dungeon master rolünü üstlenmiş sayılır.
Minecraft ortamının amacı ajanın “iç dünyasını” zenginleştirmek ya da onu “eğlendirmek” değil. Amaç, insanların anlayabileceği görevleri paylaşılan bir ortam içinde oluşturarak farklı yapılandırmalardaki ajan gruplarının kolektif davranışını ve performansını ölçmek.
Böyle şeyler söylemenin hoş karşılanmadığı bir ortam olduğunu biliyorum, ama yazıyı okuyup okumadığınızı merak ediyorum. Bu yorum, araştırmanın bulgularına ya da kullanılan tekniklere neredeyse hiç değinmiyor.
Hepsinin aynı model olması gerekmiyor; her ajanın “düşünce zincirini” dar ve odaklı tutan bağlam yönetimi önemli olabilir.
İlki temelde uzman karışımı (MoE) yaklaşımının ele aldığı şey ve küçük modellerde kapsam ile bağlam kısıtlandığında çok daha iyi çalıştığını gördüm. Eğer bunun sonucu tek bir büyük modelin yapamadığı şeyleri yaptırmaksa, bu üst düzey davranış sayılmaz mı diye düşünüyorum.
“İç dünya” olmadığı sözü doğru; ama belki de bu yüzden ona bir tane vermek avantaj sağlayabilir. LLM’e kod çalıştırma aracı verildiğinde, bizzat çalıştırıp deneyerek daha iyi kod yazması gibi, 3D dünya da gerçeklik problemlerini farklı bir şekilde keşfetmek için bir oyun alanı olabilir. Böyle olursa bu üst düzey davranış sayılabilir.
LLM’lere sampler’ın sıcaklığı üzerinden yalnızca çok az entropi giriyor.
Bu, gerçekten yapay zeka ajanına yakın görünüyor.
Bellek, irade, özerklik, OODA döngüsü benzeri bir yapı ve sürekliliği olan bir ortam var. Çok iyi bir konsept ve burada öğrenilenlerin daha sıradan iş problemlerine de uygulanabileceğini düşünüyorum.
Yine de yöneticilerin, birkaç prompt’un birbirine çıktı dökmesinin “son teknoloji ajan tabanlı AI” olmadığını anlamasını isterdim.
Ama yöneticilere gerçek bir inovasyon gibi görünen bir şey satmak, bazılarının işi buna bağlı olduğu için zorunlu olabilir.
Mevcut ajanlarda da zaten bellek ve yukarıda bahsedilen birçok unsur çoğu zaman var.
Makaleyi inceledim ve bu makalenin yanlış iddialar yığını üzerine kurgulandığından eminim
İddialar samimi görünmüyor ve hakem değerlendirmesi olmadan olduğu gibi kabul edilmemeli. Sunulan grafikler ve görseller de iddialarla ne kadar uyumlu oldukları açısından incelendiğinde birçok durumda özenle hazırlanmış sahtecilikler gibi görünüyor
Mevcut hiçbir LLM türü önerilen işi yapamaz. Ticari çıkarlar açısından niyet iyi olabilir, ama açık konuşmak gerekirse bu makale, simülasyon içinde bir AI ajanları topluluğunun seçimle ilgili faaliyetleri koordine ettiği şeklinde okunuyor. Böyle bir iddia ciddi kanıt gerektirir, ancak sunulmamış
Verilen prompt’lar, anlatılan LLM uygulama biçimiyle hiç bağlantılı değil
“Seçim” deneyi önceden tanımlanmış bir senaryoydu; seçim faaliyetlerinde bir “koordinasyon” yoktu. Önceden atanmış “influencer”lar PIANO’ya yerleşik konuşma sistemini kullandı, duygu durumu simülasyon tarafından otomatik toplandı ve “Election Manager” da başka bir önceden tanımlanmış ajandı
Özellikle bu deney bölümü, PIANO framework’ündeki belirli modüllerin varlığının ya da yokluğunun davranışı nasıl etkilediğini görmek için tasarlanmıştı
Seçim faaliyetlerinin etkisi büyük olasılıkla çok düşüktü, ama ajanların birbirlerini prompt’layarak LLM’in seçimle ilgili latent uzayına girmelerini imkânsız görmüyorum
Aynı düzeyde titizlik ve samimiyetle söylersek, kıskançlıktan çıkan saçmalıklar gibi duruyor ve makalenin büyük bir kısmını açıkça yanlış anlamış görünüyor
Bir ajanın vergi tahsildarı olması ve başka bir ajanın vergi düzenine meydan okuması hardcode edilmeden ortaya çıktıysa, bu gerçekten etkileyici olurdu
Bu mesele üzerine çok düşündüm. Ne filozofum ne de AI araştırmacısıyım, o yüzden daha çok tahmin sayılır; ama ben yapacak olsam ilkelerden başlamak ve sistemin zamanla evrilmesine ya da keşfetmesine izin vermek isterdim
İlkeler öz-koruma, yemek, barınma, üreme, iletişim, bellek gibi şeyler olurdu; bunlara da risk-ödül hesabı merceğinden bakılırdı. Neyin “bilinen”, neyin “bilinmeyen” olduğunu belirlemek de kilit olabilir, ama ikili bir ayrım şeklinde olmamalı
“Bellek” birçok anlama gelebilir, ama bir öznenin hangi eylemi yapıp hangi sonucu doğurduğunu ve o sonuca atanan risk-ödül profilinin çok olumsuzdan çok olumluya uzanan deneysel test değerleriyle karşılaştırıldığı bir işlev olarak kodlanırsa, hem birey hem de grup için geniş ölçekte kullanışlı görünür
Buradan başkalarıyla bağ kurma ihtiyacı, kaynak çatışmaları, risk alma, bilinmeyeni keşfetme, öğrenilenleri paylaşma, risk-ödül değerlendirmesini inceltme gibi şeyler türeyebilir. Tanrı benzeri bir dungeon master olarak, uygarlığı önceden tanımladığın teknolojileri, icatları ve yerleri keşfetmeye yönlendirebilirsin. Biraz hile sayılır ve gelişimi raylara oturtur, ama daha kullanışlı, ilginç ve empati kurulabilir hâle de getirir
Hesaplama yükü muazzam görünüyor, ama oyunun mutlaka gerçek zamanlı ilerlemesi gerekmiyor
İnsanlık durumunun büyük kısmının “yaşam”, “özgürlük”, “aşk/bağlantı” ve “açgözlülük” ile açıklanabileceğini düşünüyorum
Depodaki videoya bakınca “kültür”, “mem”, “din” gibi şeyleri en baştan karışıma katma biçimini sevmiyorum. Bunların, iletişim ihtiyacından ve kolektif bellekten doğan inanç sistemlerini paylaşma sürecinde ortaya çıkmasına izin vermek bence daha iyi. Bu analiz amacı için farkı olmayan bir ayrım gibi de görünebilir. Ayrıca “Vergiler yüksek!” ifadesi, altındaki “yaşamak için kaynaklar yetersiz” olmadan ortaya çıkarsa fazla mekanik bir insan taklidi gibi durur
https://en.wikipedia.org/wiki/Society_of_Mind
Bu kitap ilk kez 1986’da yayımlandı ve Minsky’nin 1970’lerin başından itibaren geliştirdiği “zihin toplumu” teorisinin ilk kapsamlı açıklamasıydı. 30 bölüme ayrılmış 270 bağımsız denemeden oluşuyor ve bir CD-ROM sürümü de vardı
Minsky, zihin toplumunu açıklarken dil, bellek ve öğrenme gibi süreçlerin nasıl işlediğine dair bir teori sunuyor; bilinç, benlik duygusu ve özgür irade gibi kavramları da ele alıyor. Bu yüzden birçok kişi The Society of Mind’ı felsefi bir eser olarak da görüyor
Belirli bir AI ya da bilişsel bilim iddiasını kanıtlamak için yazılmış bir kitap değil ve fiziksel beyin yapısını da ele almıyor. Bunun yerine zihin ve düşünmenin kavramsal düzeyde nasıl işlediğine dair bir fikirler derlemesi
Bu alandaki AI’ya uzman olmayan biri olarak yaklaşmak için de oldukça okunabilir
Bazı alanlar bundan büyük fayda görecek, ama yapay zekanın kendisinin henüz o noktaya geldiğini düşünmüyorum. Oyunlar büyük yarar sağlayacak gibi
Pekiştirmeli öğrenmede her galibiyette politika güncellenir; üretken AI’da bunun nasıl işleyeceğini merak ediyorum
Memler ve genler ikisi de bellek, ama zaman ölçekleri farklı
Gerçekten harika bir oyuncak gibi görünüyor
Ancak bilimsel araştırma açısından özellikle yararlı görünmüyor. Deney tasarımına pek fazla kafa yorulmuş gibi değil ve net bir hedef de yok gibi. Günümüzde akademik araştırma standardının gerçekten bu kadar düşük olup olmadığını merak ediyorum
Kendileri buna teknik rapor diyor; bu tür formatlarda net bir araştırma sorusu olmadan “biz böyle bir şey yaptık” demek ve ayrıntılı rapor sunmak genelde daha kabul edilebilir. Yine de bu rapor epey dağınık görünüyor
Uzmanlaşma ve kültürel aktarım bölümleri ikisi de ilginçti, ancak kesin deney tasarımı ayrıntıları eksik olduğu için ikisinden birine odaklansalar daha iyi olurdu diye düşündüm
Çoklu ajan örneğinde dış metriklere odaklanılmaması da üzücüydü. Tek ajan benchmark'ı “blok türüne kadar geçen süre” gibi bir dış metriğe bakarken, çoklu ajan analizi rol uzmanlaşması, meme yayılımı gibi iç ölçümlerde kalmış görünüyor. Toplu çoklu ajan sisteminin ekonomik üretkenlik veya karmaşıklık gibi metriklerde tek ajandan daha fazlasını başarıp başarmadığı gösterilmemişti
Bu, uzmanlaşma bölümüyle açıkça ilgili; ancak bu şekilde ortaya çıkan rol dağılımının ekonomik sonuçları veya önkoşulları olup olmadığı ele alınmazsa, bütünün ne ölçüde pandomim olduğu sorgulanır
Bazı insanlar hızı ve onunla gelen belirsizliği tercih eder
Altera'nın önerdiğine benzer bir yapay zeka “medeniyeti”nin, tüm medeniyet için işe yarar bir ödül sistemi kurulabilirse, tek bir LLM'e kıyasla AGI için daha iyi bir paradigma olup olmayacağını merak ediyorum
Örneğin modern bir devletin GSYİH'yi maksimize etmeye çalışması gibi, bu yapay zeka medeniyeti [scientific_output] ya da [code_quality] veya başka bir değerlendirme metriğini maksimize etmeye çalışsa, aynı hedef için çalışan tek bir yapay zeka ajanından daha iyi sonuç verebilir mi?
Zihin ve yapay zeka ile ilgilenenlere şiddetle tavsiye ederim. Kitap, argümanın çeşitli yönlerini birer sayfalık denemelerle ele alıyor; Martin Luther tarzı denebilecek kadar ilginç bir formatı var
Elbette parlak, saf LLM yaklaşımına yönelen akım içinde biraz geri planda kaldı; ancak bunun bilginin kaybolmasından çok kullanıcı kitlesinin hızla büyümesinin sonucu olduğunu düşünüyorum. Uzmanlar hâlâ bu bakış açısını akıllarında tutuyor ve bazen bunu “ensemble” diye ele alıyor
İyi bir örnek GPT-4; anladığım kadarıyla büyük performans artışı esas olarak uzmanlar karışımı kullanılmasından geldi ve bu da ajan toplumu ya da model ensemble'ının neredeyse eş anlamlısı gibi görülebilir
Çok havalı görünüyor. “Medeniyet” açısından faydaları konusunda şüpheliyim, ama en azından ilginç bir simülasyon oyunu yapılabilir gibi
Bu yüzden civilization'dan çok Civilization için daha iyi olabilir
Civ'de iyi bir strateji yapay zekasını ekonomik şekilde hardcode etmeyi zorlaştıracak kadar çok aptalca tuzak var; düşmanın hile yapmasını sağlayarak çözmek ise sadece sinir bozucu. Yapay sinir ağının “klasik” yapay zekaya karşı sürekli oynayarak her zorluk seviyesini istikrarlı biçimde yenene kadar öğrenmesi ve katmanlar oluşturması ilginç olurdu. Birinin bunu çoktan denemiş olması muhtemel, ama kaynak bulamadım
Ancak Civ için çok kötü bir yapay sinir ağının bile çıkarım sırasındaki hesaplama maliyetinin ne kadar büyük olacağı konusunda şüpheliyim. Gerçekte nasıl ölçekleneceğini bilmiyorum; grandmaster seviyesinde olması gerekmese de aptalca hataların dağılımı uzun kuyruklu
DeepMind'ın Starcraft 2 yapay zekası, Starcraft tam bilgi oyunu olmadığı için AlphaZero'dan farklı. Bu yapay zekanın başlarda sürekli ezilmemesi için insan oyunları veritabanına ihtiyacı var. Yeni bir oyunda böyle eğitim verisi elde etmek zor. Civ de diğer 4X strateji oyunlarına kıyasla sanatsal ifadeye daha çok ağırlık verdi; her yeni harika çıktığında yapay zekayı yeniden eğitmek gerekirse bu çok büyük bir yük olabilir
Bu projenin sunulduğu gibi gerçekten çalışıp çalışmadığı konusunda şüpheliyim, ama Minecraft motoru üzerinde bir Civilization oyunu yapma fikri çok ilginç
Özellikle Hearthstone aklıma geliyor
“Bir ziyafet planlayalım”, “Tamam, gidip odun toplayayım”dan daha büyük riskli ve daha gerçekçi
Adil olmak gerekirse makalede ele alınmış olabilir. Her halükârda bu, nasıl olduysa preprint'in preprint'i gibi
Aklıma Dwarf Fortress geliyor. Binlerce yıllık cüce dünyası zamanı, değişen arazi, cüce krallıklarının yükselişi ve düşüşü simüle edildikten sonra, oyuncunun kontrol ettiği yedi cüce haritaya bırakılır ve “hadi eğlen!” denir
Gerçek medeniyetlerin davranışını öngörmenin mümkün olup olmadığını araştıracak alanları bulmak için yararlı bir oyuncak model olabilir, ama burada bir yapay zeka atılımı göremiyorum
Project Sid 6.7 çıkarsa bilemem
İçeriğine bakınca birkaç yıl sonraki bir film sanmıştım. 90'lar siberpunk filmlerini seviyorsanız izlemeye değer
https://www.imdb.com/title/tt0114857/
https://en.wikipedia.org/wiki/Virtuosity
Blog duyuru yazısı da var: https://digitalhumanity.substack.com/p/project-sid-many-agen...
Makaleyi okuyunca aracın amaç hâline geldiği izlenimi doğuyor
Ajanlar bireysel olarak Minecraft’ı gerçekten oynayamıyor ve üstlendikleri ya da gönüllü oldukları görevleri de başarıyla yerine getiremiyor. Bir bakıma, bir köpeğe insan kıyafetleri giydirip bunu insana benzer bir medeniyet ilan etmek gibi
Üstelik temel unsurlar fiilen hard-coded. Olası toplum türleri ve muhtemelen rol adları böyle görünüyor. Toplumsal örgütlenmenin ne anlama gelmesi gerektiğinden de pek emin değilim. En güçlü ifadeyle, bu ajan framework’ünün oyun NPC’lerinde kullanılabileceği, yani ajanların rollerini ve taraflarını koruduğu iddiası denebilir
Ajanın “hukuki yapıları kullanabildiği” iddiası özellikle inandırıcı değil. Çünkü “hukuki yapıyı kullan” ifadesi birçok ajan davranışına gömülmüş durumda. Bunu gerçek insan toplumlarına genişletmeye çalışmak gülünç; yazarların sosyoloji ve antropolojiyi rahatça görmezden gelmesi de buna yardımcı olmuyor
Başka şüpheli iddialar da var. Rol adlarının hard-coded olduğuna “inanıyorum” dedim ama bir şeyi kaçırmadıysam bilgiler kabul edilemeyecek kadar muğlak. Ajan prompt’larının hiçbir yerinde yeni rol oluşturmayı ya da kendi kendine rol atamayı sağlayan bir unsur göremiyorum. Bir şeyi kaçırmış olabilirim ama okudukça daha da kafam karışıyor
Ajanların Minecraft’ta 12 gün boyunca uzun vadeli toplumsal ilişkiler kurduğu iddia ediliyor; oysa bu gerçek zamanda yalnızca dört saat ve ajanlar gerçek zamanı deneyimliyor. Minecraft’ta bir günün uzunluğu önemli değil. “Uzun vadeli toplumsal ilişki kurma” ve “hukuki yapı kullanma” ifadeleri yalnızca abartılı değil, dürüstlükten uzak görünüyor
Meme ve din yayılımı kısmı, GPT-4’ün eğitim verisi kirlenmesini tamamen görmezden geliyor. Özetlenen meme, gerçek dünyadaki Pastafarian meme’ini bildiğini açıkça gösteriyor; bu yüzden bu meme’in “yayıldığı” sonucuna varmak yanlış. Zaten o meme’i bilen ajanların içinde yeniden çağrışmış olması çok daha olası. Neden gerçekten yeni, sahte bir dinle deney yapmadıklarını merak ediyorum
“oak log crafting syndrome” gibi bazı meme örnekleri yeni görünüyor, ancak “meditation circle” veya “vintage fashion and retro projects” gibi şeylerin Minecraft’la hiçbir ilgisi yok ve neredeyse kesinlikle GPT-4 halüsinasyonu
Genel olarak, dürüst bir araştırma yapmak için GPT-4 kullanmak korkunç bir hata gibi görünüyor
Örneğin dünya modeli olarak n×n tahta durumunu verip sınırlı seçenekler sunarsanız, ajan oyunu istikrarlı biçimde oynayabilir ve kararlarını oyun yöneticisine açıklayabilir. Bu, ajanın akıl yürütüyormuş gibi göründüğü bir yanılsama yaratır
Sonuçta bunun, dünya modelini basit seçim problemlerine bölen bir kodlama sorunu olduğunu düşünüyorum
[1] https://jdsemrau.substack.com/p/evaluating-consciousness-and...