Whisper ile karşılaştırılan Nvidia 4090 ve MLX kullanan M1/M2/M3

• Apple'ın duyurduğu makine öğrenimi çerçevesi MLX'in performans benchmark'ı
• 10 dakikalık sesi Whisper ile metne dönüştürme
  • M1 Pro (2021 model) + MLX + 32 GB RAM: 216 saniye
  • I7 + 4090 + 64 GB RAM: 186 saniye
    • 2000 €'luk GPU, M1'e kıyasla 30 saniye (%16) daha hızlı
  • M2 Ultra (76 GPU): 95 saniye
  • M3 Max (40 GPU): 100 saniye
• Nvidia için optimize edilmiş insanely-fast-whisper kullanıldığında işlem 4090 ile yalnızca 8 saniyede tamamlanıyor
  • Bu model M1'de çalıştırıldığında ise daha uzun sürerek 359 saniye oluyor

[xguru]

MLX - Apple Silicon için NumPy benzeri bir dizi çerçevesi