Proje Sid: Yapay zeka uygarlığına doğru çok ajanlı simülasyon

• Proje Sid: Yapay zeka uygarlığına doğru çok ajanlı simülasyon

  • Bu depo, "Project Sid: Many-agent simulations toward AI civilization" başlıklı teknik raporu içermektedir
  • arXiv'de yayımlanması planlanmaktadır

• Özet

  • AI ajanları şimdiye kadar izole biçimde ya da küçük gruplar içinde değerlendirilmiş, etkileşimlerin kapsamı ve karmaşıklığı sınırlı kalmıştır
  • Uygarlık düzeyindeki süreçleri yansıtan büyük ölçekli simülasyonlar henüz araştırılmamıştır
  • Bu çalışma, 10 ila 1000'den fazla AI ajanının bir ajan toplumu içinde nasıl davrandığını ve geliştiğini göstermektedir
  • PIANO (Parallel Information Aggregation via Neural Orchestration) mimarisi tanıtılarak, ajanların insanlarla ve diğer ajanlarla gerçek zamanlı etkileşim kurarken birden fazla çıktı akışı arasında tutarlılığı koruması sağlanmaktadır
  • İnsanlık tarihine dayalı uygarlık ölçekli benchmark'lar kullanılarak büyük ölçekli simülasyonlarda ajan performansı değerlendirilmektedir
  • Minecraft ortamında kurulan bu simülasyonlar, ajanların otonom biçimde uzmanlaşmış roller geliştirebildiğini, toplu kurallara uyup bunları değiştirebildiğini ve kültürel ile dinsel yayılıma katılabildiğini göstermektedir
  • Bu ilk sonuçlar, ajanların yapay zeka uygarlığına giden yolda önemli dönüm noktalarına ulaşabileceğini göstermekte; büyük ölçekli toplumsal simülasyonlar, ajanların örgütsel zekâsı ve yapay zekanın insan uygarlığına entegrasyonu için yeni yollar açmaktadır

• Makale

  • Makaleye iki yerden erişilebilir
    • arXiv: yayımlanacak
    • PDF: 2024-10-31.pdf (bu depo içinde)

[GN⁺]

Hacker News görüşleri

• Yapay zeka ajanlarının özerklik ve kalıcı bir çevreye sahip bir kavram olarak iş dünyası problemlerine uygulanma potansiyeli olduğu belirtiliyor

  • Yöneticilerin gerçek inovasyonu anlamamasına dair bir hayal kırıklığı var

• Bir filozof ya da yapay zeka araştırmacısı olmadığını, ancak sistemin ilkelerden başlayıp evrimleşmesine izin vermenin önemli olduğunu düşündüğünü söylüyor

  • Sistem, kendini koruma, iletişim, hafıza gibi ilkeler temelinde tasarlanmalı
  • İnsan yaşamının "yaşam", "özgürlük", "sevgi/bağ", "açgözlülük" ile açıklanabileceğini düşünüyor

• Bu projenin bilimsel araştırma açısından faydalı olmadığını düşünüyor

  • Deney tasarımı ya da net hedeflerin eksik olduğuna dikkat çekiyor

• Makalenin yanlış iddialardan oluştuğuna emin olduğunu söylüyor

  • Yapay zeka ajanlarının seçimle ilgili faaliyetleri koordine ettiğine dair iddianın yeterli kanıta dayanmadığını düşünüyor

• Bu projenin medeniyet için faydasının şüpheli olduğunu, ancak ilginç bir simülasyon oyunu olabileceğini düşünüyor

• Mozilla Firefox'ta video oynatılmıyor

• Ajanların Minecraft'ta rollerini yerine getiremediğini ve toplumsal organizasyonun gerçek insan toplumlarına uygulanmasının zor olduğunu düşünüyor

  • Ajan rollerinin hard-code edildiğini belirtiyor

• GPT-4 ile yapılan deneylerin dürüst araştırma için uygun olmadığını düşünüyor

• Medeniyetin insanlardaki kadar karmaşıklığa sahip olmadığını, bu yüzden gerçek toplumdan çok script edilmiş davranışlara benzediğini düşünüyor

• "Agentic" kelimesinin rahatsız edici olduğunu söylüyor