如何在 Google COLAB 的 GPU 中找到內核數？

Question

我想知道 Colab 分配的 GPU 中的核心數。 我使用了!nvidia-smi -q但它顯示了所有其他細節，但沒有顯示 GPU 的核心數。

我已經研究過它，但沒有找到。 對此有任何幫助！！

Answer 1

最簡單的方法是運行!nvidia-smi命令來獲取所有 GPU 信息。 之后您將獲得的卡上似乎有 2 個可能的選項 - K80 或 T4， K80 有 4992 個 CUDA 核心，而T4 有 2560 個 CUDA 核心（使用 Google 找到）。

如果您仍然需要腳本來找出核心數，您可以在此答案 (python)和此答案 (C) 中找到這些腳本。 我仍然建議使用更簡單的方法來查找該特定模型的 CUDA 內核。

在旁注中，在某些情況下，用戶只能獲得 5% 的 GPU ram 可供他們訪問。 我沒有遇到過這個問題，但您仍然應該檢查!nvidia-smi命令中顯示的 Volatile GPU Util（0% 是在沒有運行時應該預期的值）。