Hodu - Rust ML çatısı

Son zamanlarda yakın bir tanıdığım, Rust kullanarak Hodu adlı bir ML çatısı geliştirdi.
Ben de benzer bir proje üzerinde çalışmış olduğum için, ML çatılarına ilgi duyanların göz atması halinde faydalı bir kaynak olacağını düşündüm ve paylaşmak istedim.

Başlıca özellikler

• no_std desteği: mikrodenetleyicilerde de çalışabilen hafif yapı
• statik grafik derleme: bir kez derlenen grafiği gömülü cihaza kaydedip kolayca çıkarım yapabilme
• çift yürütme modu:
  • prototipleme: dinamik grafik tabanlı deneyler
  • üretim dağıtımı: statik grafik tabanlı kararlı çalışma
• yüksek performanslı backend'ler
  • XLA backend'i: grafik optimizasyonu ve JIT derleme ile en yüksek performans
  • HODU yerel backend'i: saf Rust implementasyonu sayesinde platform kısıtı olmadan çalıştırma
• sezgisel API: PyTorch/TensorFlow stili
• bellek güvenliği garantisi: Rust'ın sahiplik sistemiyle bellek sızıntıları ve veri yarışlarının tamamen engellenmesi
• çoklu cihaz desteği: CPU, CUDA(NVIDIA GPU), Metal(Apple GPU)

Hodu'nun, Rust ile ML öğrenirken tanıdığım kişinin öğrenme amaçlı başlattığı maidnx projesinden başlayıp bugünkü haline geldiği söyleniyor.

xla özelliği derleme sırasında LLVM/Clang + 8GB+ RAM + 20GB+ disk gerektiriyor ve derleme süresi de oldukça uzun sürüyor.
CUDA GPU desteği henüz tam olarak uygulanmış değil ve SIMD optimizasyonu da planlanıyor.
Şu anda üretim ortamında kullanılması önerilmiyor; aktif olarak geliştirildiği için deneysel veya eksik özellikler bulunuyor.