MLC LLM - LLM modellerini her türlü cihaza dağıtmayı mümkün kılan açık kaynak çözüm

 (github.com/mlc-ai)
15 puan yazan xguru 2023-05-11 | 1 yorum | WhatsApp'ta paylaş
  • Herkesin yapay zeka modelleri geliştirip optimize ederek bunları her türlü cihaza dağıtabilmesini hedefliyor
  • MLC (Machine Learning Compilation) ve Apache TVM Unity kullanıyor
  • Desteklenen platformlar
    • iPhone/iPad/Android
    • Metal GPU ve Intel/ARM MacBook'lar
    • AMD/Intel ve NVidia GPU'lar (Windows/Linux üzerinde Vulkan)
    • NVidia GPU'lar (Windows/Linux üzerinde CUDA)
    • Tarayıcıda WebGPU

İlgili okumalar

1 yorum

 
carnoxen 2023-05-11

Çapraz platform her açıdan popüler görünüyor.