NVBeacon - macOS menü çubuğunda uzak NVIDIA GPU durumunu gösteren uygulama
(github.com/jaein4722)Yapay zeka araştırmalarıyla çalıştığım için ortak GPU sunucularında sık sık eğitim işleri çalıştırıyorum. Her seferinde boş GPU var mı, eğitim süreci hâlâ çalışıyor mu, util ve memory düzgün kullanılıyor mu diye kontrol etmek için terminal açıp nvidia-smi bakma akışı oldukça zahmetliydi.
Bu yüzden macOS menü çubuğunda uzak NVIDIA GPU sunucularının durumunu doğrudan görebileceğiniz bir uygulama yaptım. Sunucuya SSH ile bağlanıp bilgileri alıyor ve sunucu tarafında ayrı bir ajan ya da ek program kurulumu olmadan çalışacak şekilde tasarladım.
Menü çubuğundan bağlı sunucunun GPU durumunu hemen görebilir, süreç bazlı bilgileri de birlikte kontrol edebilirsiniz. Temel nvidia-smi ile doğrudan görmek zor olan süreç UID bilgisini de alarak hangi kullanıcının hangi işi çalıştırdığını biraz daha sezgisel biçimde anlamayı mümkün kıldım. Mevcut SSH ayarlarını olabildiğince kullandım ve kendi çalıştırdığım süreçleri hızlıca bulma tarafına da özellikle dikkat ettim.
Bu araç aslında kişisel kullanımım için yapılmıştı, ancak çevremdekilere basitçe test ettirdiğimde beklediğimden daha iyi tepki alınca herkese açmaya karar verdim. Şu anda yalnızca macOS için mevcut.
Benzer bir ortamda GPU sunucularını sık kullananlar varsa bir deneyip geri bildirim verirlerse çok sevinirim; zorlayıcı noktalar veya ihtiyaç duyulan özellikler varsa paylaşabilirsiniz!
2 yorum
Vay... gerçekten çok kullanışlı görünüyor.
Teşekkürler!
Rahatça kullanabilmeniz için geliştirmeye devam ediyoruz.