通過PID查詢GPU memory使用情況和/或用戶

Question

我有一個在不同 GPU 上運行的進程的 PID 列表。 我想根據其PID獲取每個進程的已用 GPU memory 。 nvidia-smi產生我想要的信息； 但是，我不知道如何使用 grep，因為 output 很復雜。 我已經在尋找如何去做，但我還沒有找到任何直接的答案。

Answer 1

雖然nvidia-smi的默認 output 是“復雜的”或者更確切地說是為了與人而不是腳本進行交互而格式化的，但該命令提供了許多用於腳本的選項。 最適合用例的似乎是--query-compute-apps=pid,used_memory指定您需要的信息和--format=csv,noheader,nounits指定最小的機器可讀 output 格式。

所以結果命令是

nvidia-smi --query-compute-apps=pid,used_memory --format=csv,noheader,nounits

我建議查看man nvidia-smi以獲取更多信息和選項。

Answer 2

nvidia-smi  --query-compute-apps=pid,used_memory,gpu_bus_id --format=csv

如果你有多個 gpu，gpu_bus_id 會幫助你