Dalai - LLaMA'yı bilgisayarınızda çalıştırmanın en basit yolu
(cocktailpeanut.github.io)- LLaMA 7B modelini yalnızca 2 cümleyle yerelde çalıştırabilirsiniz
npx dalai llama
npx dalai serve - llama.cpp + llama-dl CDN
- Hacklenebilir web uygulaması yerleşik olarak gelir (JavaScript API ve Socket.io API dahil)
localhost:3000adresine gidin
2 yorum
Biri çıkınca sanki peşinden patates filizi gibi ardı ardına bir sürü şey çıkıyor.
Dalai Lama yani... isimlendirme zevki de biraz...
llama.cpp - Facebook’un LLaMA modelini saf C/C++ ile çalıştırma