通过PID查询GPU memory使用情况和/或用户

Question

我有一个在不同 GPU 上运行的进程的 PID 列表。 我想根据其PID获取每个进程的已用 GPU memory 。 nvidia-smi产生我想要的信息； 但是，我不知道如何使用 grep，因为 output 很复杂。 我已经在寻找如何去做，但我还没有找到任何直接的答案。

Answer 1

虽然nvidia-smi的默认 output 是“复杂的”或者更确切地说是为了与人而不是脚本进行交互而格式化的，但该命令提供了许多用于脚本的选项。 最适合用例的似乎是--query-compute-apps=pid,used_memory指定您需要的信息和--format=csv,noheader,nounits指定最小的机器可读 output 格式。

所以结果命令是

nvidia-smi --query-compute-apps=pid,used_memory --format=csv,noheader,nounits

我建议查看man nvidia-smi以获取更多信息和选项。

Answer 2

nvidia-smi  --query-compute-apps=pid,used_memory,gpu_bus_id --format=csv

如果你有多个 gpu，gpu_bus_id 会帮助你