使用 python tvm 時，未檢測到支持 CUDA 的設備

Question

我寫了以下 python 代碼

import tvm

ctx = tvm.device("cuda", 0)
print("ctx: ", ctx.exist)

output 是

ctx:  False

但是，我安裝了 cuda 和 cuda 驅動程序。 nvidia-smi結果是，

NVIDIA-SMI 495.44       Driver Version: 495.44       CUDA Version: 11.5

我使用lspci -vnn | grep VGA lspci -vnn | grep VGA檢查是否有GPU。 結果是

03:00.0 VGA compatible controller [0300]: Matrox Electronics Systems Ltd. Integrated Matrox G200eW3 Graphics Controller [102b:0536] (rev 04) (prog-if 00 [VGA controller])
3b:00.0 VGA compatible controller [0300]: NVIDIA Corporation Device [10de:1e04] (rev a1) (prog-if 00 [VGA controller])
af:00.0 VGA compatible controller [0300]: NVIDIA Corporation Device [10de:1e04] (rev a1) (prog-if 00 [VGA controller])
d8:00.0 VGA compatible controller [0300]: NVIDIA Corporation Device [10de:1e04] (rev a1) (prog-if 00 [VGA controller])

我的系統是Linux PowerEdge-R740 5.4.0-90-generic #101~18.04.1-Ubuntu 。我的 python 版本是 3.6。

我不知道為什么 tvm 找不到正確的設備。

Answer 1

一種可能的錯誤來源可能是您在安裝 TVM 時沒有啟用 CUDA 后端支持。

編輯 build/config.cmake 以自定義編譯選項。 將 set(USE_CUDA OFF) 更改為 set(USE_CUDA ON) 以啟用 CUDA 后端。 對您要為其構建的其他后端和庫（OpenCL、RCOM、METAL、VULKAN ......）執行相同的操作。

請參考： https://tvm.apache.org/docs/install/from_source.html#install-from-source

（我會評論，但沒有足夠的聲譽）