在 SYCL/DPC++ 中运行程序时如何指定要使用的特定 GPU 设备？

Question

我正在尝试使用 SYCL/DPC++ 编写代码。 我的设备上有两个 GPU。 如何指定我的代码需要在特定 GPU 设备上运行？ 当我尝试使用“gpu-selector”运行我的代码时，只使用一个默认值来运行。 如何使用其他 GPU 设备来运行我的代码？

这是我的代码。

#include <iostream>
#include <CL/sycl.hpp>
using namespace sycl;
using namespace std;
int main() {
queue my_gpu( gpu_selector{} );
cout << "My GPU Device: " <<
my_gpu.get_device().get_info<info::device::name>() << "\n";
return 0;
}

有人可以帮助我解决如何在特定 GPU 设备上运行我的代码吗？

提前致谢！

Answer 1

是的，可以选择特定的 GPU 设备。 请找到以下代码以从特定 GPU 设备获取结果。

class my_selector : public device_selector {
public:
int operator()(const device &dev) const override {
if (
dev.get_info<info::device::name>().find("gpu_vendor_name")
!= std::string::npos &&
dev.get_info<info::device::vendor>().find("gpu_device_name")
!= std::string::npos)
return 1;
}
return -1;
}
};

在此代码中，我们可以根据您的要求在 ("gpu_vendor_name") 中指定 GPU 供应商的名称。 如果我们有两个具有相同供应商的 GPU 设备，那么我们还可以指定我们想要在 GPU 设备中运行代码的一个（“gpu_device_name”）。

将选择最高的返回值在我们想要的 GPU 设备上运行代码。

Answer 2

Varsha的答案是一个很好的通用解决方案。

但是由于您的问题是用 DPC++ 标记的，我认为值得一提的是另一种方法：

您可以设置SYCL_DEVICE_FILTER环境变量来控制设备检测结果。 例如， SYCL_DEVICE_FILTER=opencl:gpu:1将使应用程序只能看到 OpenCL 后端中的第二个 GPU。 它甚至会隐藏主机设备。

这是特定于 DPC++ 的，不适用于其他实现。 但是，例如，通过 hipSYCL，您可以使用CUDA_VISIBLE_DEVICES或HIP_VISIBLE_DEVICES来实现类似的结果。