如何在给定的GPU上执行CUDA内核？

Question

我的机器上有两张NVIDIA卡。 我想在其中一个（例如，第二个）上执行CUDA内核。 ，在教程中，我没有找到用于内存分配和内核执行的设备选择，就像针对OpenCL所做的那样。

您不能告诉我，我该如何选择视频设备来执行内核并在上面分配内存？

Answer 1

这可能是您要寻找的：

cudaError_t cudaSetDevice (int device)  

链接到NVIDIA API文档：

http://developer.download.nvidia.com/compute/cuda/4_1/rel/toolkit/docs/online/group__CUDART__DEVICE_g418c299b069c4803bfb7cab4943da383.html

从以上链接引用：

随后使用cudaMalloc（），cudaMallocPitch（）或cudaMallocArray（）从此主机线程分配的任何设备内存将物理驻留在设备上。 使用cudaMallocHost（）或cudaHostAlloc（）或cudaHostRegister（）从此主机线程分配的任何主机内存，其生命周期都与设备相关联。 从该主机线程创建的任何流或事件都将与设备关联。 使用<<< >>>运算符或cudaLaunch（）从此主机线程启动的所有内核都将在设备上执行。