GPU-Usage-Audit: GPU sadece boşta durmuyor, 'tutulmuş halde' boşta kalıyorsa?!
(github.com/AI-Ocean)nvidia-smi içinde util %1 görünüyorsa kart boş gibi durur,
ama biri Jupyter Notebook'ta 8GB ayırıp başından kalktıysa o GPU'yu artık kimse kullanamaz.
Paylaşımlı sunucularda ya da saatlik ücretlendirilen GPU'larda bu görünmeyen bir israftır.
Bu yüzden GPU-Usage-Audit'i yaptık!
Sadece NVIDIA sürücüsü kuruluysa GPU metriklerini SQLite'a kaydediyor ve sonra bunlardan rapor üretiyor.
GPU kullanım süresini ikiye değil üçe bölerek raporluyor.
Gerçekte hesaplama yapılan süre, tamamen boşta olan süre ve belleği tutulmuş ama hesaplama yapmayan idle-held süresi.
Çoğu araç son ikisini tek kalemde birleştiriyor, ama israf tam da orada saklı.
Tutulmuş süreyi GPU-hours cinsine çeviriyor ve kullanıcı bazında çalıştırıyorsanız kimin ne kadar kaynak işgal ettiğini de birlikte gösteriyor.
Kurulum ve çalıştırma tek satır: uv tool install gpu-usage-audit && gua daemon
Veri biriktikten sonra sadece gua report yazarak raporu görebilirsiniz,
veri olmadan önce sonucu görmek isterseniz gua demo ile sahte veriyi çalıştırabilirsiniz.
Henüz yorum yok.