Alpaca.cpp - ChatGPT benzeri bir modeli kişisel dizüstü bilgisayarda çalıştırmak
(github.com/antimatter15)- LLaMA, Alpaca ve
llama.cppbirleştirilip uyarlanmış, üzerine de bir sohbet arayüzü eklenmiş alpaca-7b-q4modeli kullanılıyor- M2 MacBook Air'de bile oldukça hızlı üretim yapabiliyor
6 yorum
https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/…
Model arayanlar olabilir diye..
Bu aralar haberleri takip etmek gerçekten sanki savaş çıkmış gibi, vay be.
Vay canına~ gerçekten tekilliğin geldiği hissine kapılıyorum....
İnanılmazmış ya, vay be, ve artık donanım özelliklerinin standardı haline gelen Apple Silicon, vay be.
Bu hızda, ChatGPT Turbo modeliyle kıyaslandığında bile hiç geri kalmıyor. Gerçekten çok etkileyici.
Ah gerçekten her gün yeni bir şeyler adeta sel gibi akıyor.
LLM'lere Stable Diffusion anı geliyor