- Rust tabanlı sayısal hesaplama, model çıkarımı ve eğitim için yüksek performanslı tensor kütüphanesi ve derin öğrenme çatısı
- Statik grafik framework’leri düzeyindeki optimizasyon performansını korurken dinamik esneklik sağlar
- GPU/CPU backend için çoklu destek
- GPU: CUDA, ROCm, Metal, Vulkan, WebGPU, LibTorch, Candle vb.
- CPU: CubeCL, NdArray, Candle, LibTorch tabanlı
- Wasm ve no_std ortamlarında da çalışabilir
- Backend trait merkezli tasarlandığı için, farklı donanım ve çalışma zamanı ortamlarında değiştirilebilir backend yapısı sunar
- Autodiff backend decorator: tüm backend’lere otomatik türev özelliği ekler
- Fusion backend decorator: kernel birleştirme özelliği
- Router backend: CPU ve GPU gibi birden çok donanım arasında işlem dağıtımı desteği
- Remote backend: ağ üzerinden dağıtık işlem ve uzaktan çalıştırma imkanı
- Eğitim ve çıkarımın tüm süreci için entegre destek
- Ratatui tabanlı terminal panosuyla gerçek zamanlı eğitim izleme
- Gömülü cihazlardan büyük GPU kümelerine kadar aynı kodla dağıtım yapılabilir
- PyTorch, Safetensors, ONNX model içe aktarma özelliğiyle mevcut modellerin yeniden kullanımını destekler
- WebAssembly ve WebGPU tabanlı tarayıcı içi çıkarım
- no_std ortamı desteği sayesinde işletim sistemi olmayan gömülü cihazlarda da çalışabilir
- MIT/Apache 2.0 çift lisansıyla dağıtılıyor
2 yorum
PyTorch'a kıyasla performansının nasıl olduğunu merak ediyorum.
Rust, Wasm, WebGPU kulağa hoş gelen isimler.