如何在 Google COLAB 的 GPU 中找到内核数？

Question

我想知道 Colab 分配的 GPU 中的核心数。 我使用了!nvidia-smi -q但它显示了所有其他细节，但没有显示 GPU 的核心数。

我已经研究过它，但没有找到。 对此有任何帮助！！

Answer 1

最简单的方法是运行!nvidia-smi命令来获取所有 GPU 信息。 之后您将获得的卡上似乎有 2 个可能的选项 - K80 或 T4， K80 有 4992 个 CUDA 核心，而T4 有 2560 个 CUDA 核心（使用 Google 找到）。

如果您仍然需要脚本来找出核心数，您可以在此答案 (python)和此答案 (C) 中找到这些脚本。 我仍然建议使用更简单的方法来查找该特定模型的 CUDA 内核。

在旁注中，在某些情况下，用户只能获得 5% 的 GPU ram 可供他们访问。 我没有遇到过这个问题，但您仍然应该检查!nvidia-smi命令中显示的 Volatile GPU Util（0% 是在没有运行时应该预期的值）。