ChatLLaMA - LLaMA tabanlı ChatGPT'nin açık kaynak implementasyonu

 (github.com/nebuly-ai)
15 puan yazan xguru 2023-03-02 | 1 yorum | WhatsApp'ta paylaş
  • Meta'nın kısa süre önce yayınladığı LLaMA, RLHF eğitim süreci için fine-tune edilmiş değil
  • ChatLLaMA, LLaMA kullanan bir RLHF implementasyonu ve ChatGPT tarzı bir hizmet kurmak için tam anlamıyla açık kaynak
  • ChatGPT'ye kıyasla yaklaşık 15 kat daha hızlı eğitilebiliyor
  • Fine-tuning sürecini hızlandırmak için yerleşik DeepSpeed ZERO desteği sunuyor
  • LLaMA'nın 7B, 13B, 33B ve 65B sürümlerinin tümünü desteklediği için ihtiyacınıza uygun boyutu seçebilirsiniz

İlgili okumalar