Jan - Açık kaynaklı ChatGPT alternatifi için çapraz platform çerçevesi
(github.com/janhq)- %100 yerel, tüm donanımlarda çalışır: NVidia GPU, Apple Silicon'dan çoklu GPU kümelerine kadar
- Nihai hedef, herkesin yapay zekayı kolayca entegre edebilmesini desteklemek
- Jan Framework, Jan Desktop Client + Server, Nitro
- Nitro: C++ ile yazılmış yüksek verimli çıkarım motoru (3MB)
- Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion
1 yorum
Korece performansının nasıl olduğunu merak ediyorum.