如何知道Python當前使用的是哪個GPU器件？

Question

我的 docker 中有兩個NVIDIA設備。 這是兩個模型同時運行時的GPU使用信息。

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
+-----------------------------------------------------------------------------+
Mon May 31 10:51:54 2021       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 418.43       Driver Version: 418.43       CUDA Version: 10.1     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 108...  Off  | 00000000:03:00.0 Off |                  N/A |
| 37%   64C    P2    81W / 250W |  10909MiB / 11178MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
|   1  GeForce GTX 108...  Off  | 00000000:04:00.0 Off |                  N/A |
| 28%   50C    P8     9W / 250W |    147MiB / 11178MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
+-----------------------------------------------------------------------------+

顯然有兩個模型正在使用設備0 。 這里我有兩個問題：

1. 我怎么知道使用的是哪個設備？
2. 如果一個 model 使用設備0 ，我們可以自動讓另一個 model 使用設備1嗎？

Answer 1

我會說 Python 本身並沒有使用 GPU 本身，而是像 Torch 這樣的框架......你在這里使用機器學習框架嗎？