Alpaca.cpp - ChatGPT benzeri bir modeli kişisel dizüstü bilgisayarda çalıştırmak
(github.com/antimatter15)- LLaMA, Alpaca ve
llama.cppbirleştirilip uyarlanmış, üzerine de bir sohbet arayüzü eklenmiş alpaca-7b-q4modeli kullanılıyor- M2 MacBook Air'de bile oldukça hızlı üretim yapabiliyor
Henüz yorum yok.