MemGPT - Sonsuz bağlam için kendi kendini düzenleyen belleğe sahip LLM'ler

• MemGPT, dil öğrenme modellerinin (LLM'ler) bellek hiyerarşisini yöneten yeni bir sistemdir ve LLM'lerin sınırlı bağlam penceresi içinde genişletilmiş bağlam sunar.
• Vektör veritabanında önemli bilgileri ne zaman depolayıp geri getireceğini belirleyerek kesintisiz sohbetleri mümkün kılar.
• MemGPT, kendi kendini düzenleyen belleğe sahip chatbot'lar oluşturmak için kullanılabilir.
• MemGPT sistemi, Discord'daki #memgpt kanalında MemGPT botuna mesaj gönderilerek test edilebilir.
• MemGPT'yi yerelde çalıştırmak için kullanıcıların bağımlılıkları kurması, OpenAI API anahtarını ortama eklemesi ve main.py dosyasını çalıştırması gerekir.
• Kullanıcılar, MemGPT için yeni bir başlangıç kullanıcısı veya persona oluşturmak üzere /memgpt/humans/examples ya da /memgpt/personas/examples içinde yeni .txt dosyaları oluşturabilir.
• MemGPT, /exit, /save, /load, /dump, /memory, /pop, /heartbeat, /memorywarning gibi çeşitli CLI komutlarını destekler.
• Varsayılan olarak MemGPT gpt-4 kullanır; bu nedenle gpt-4 API erişimine sahip bir API anahtarı gerekir.
• Sorunlar veya özellik talepleri için kullanıcıların GitHub issue açması önerilir.
• MemGPT makalesinde kullanılan veri seti HuggingFace üzerinden indirilebilir.

[GN⁺]

Hacker News görüşleri

• MemGPT'nin yazarları, uygulamaya dair soruları yanıtlamaya istekli
• MemGPT, bellek düzenlemeyi gerçek zamanlı gösteren bir Discord botuna sahip
• MemGPT kodu açık kaynak ve GitHub'da mevcut
• Bir yorumcu, ön işleme ve son işleme aşamalarında farklı ajanlara birden fazla isteğin paralelleştirilmesini öneriyor
• Başka bir yorumcu, fonksiyon çağrılarının sözdizimsel olarak doğru yapılmasını sağlamak için dilbilgisi tabanlı örnekleme kullanılmasını öneriyor
• Bazı yorumcular projeye dair heyecanlarını ifade ediyor ve bunu gelecekteki sohbet botları için temel bir özellik olarak görüyor
• Yazarlar, MemGPT üzerinde uygulanmış kalıcı bir Discord sohbet botunu yayımladı
• Bazı yorumcular, bağlam penceresinin LLM'lerin en büyük sınırlaması olduğunu düşünüyor
• Yazarların başlık seçimi hakkında bir tartışma var
• Bir yorumcu, yaklaşımı eleştirerek bunun mevcut bağlamın düşük entropili, özetlenebilir bağlamdan oluştuğu ve tüm sorguların yalnızca geçmişin bir kısmına dayandığı varsayımına dayandığını savunuyor. Bunun her zaman doğru olmadığına, özellikle de kod üretimi bağlamında böyle olmadığına inanıyor.