将指向设备__constant__内存的指针传递给内核，而不是直接使用

Question

我在ubuntu 12.10和gcc 4.6上使用CUDA 5.0和GTX 670，并且编写了一个名为Grid的类：

https://github.com/benadler/octocopter/blob/master/basestation/grid.cu

https://github.com/benadler/octocopter/blob/master/basestation/grid.cuh

Grid类正在另外两个类中使用：

• Pointcloudcuda
• 粒子系统

现在，我想在pointcloudcuda和粒子系统的内核中使用Grid（非静态）方法，即使它们将使用不同的网格（具有不同值的不同网格对象）也是如此。 因此，对于使用Grid的所有类，我有两种选择：

1）我只是做

Grid hostGrid(...);
cudaMalloc(gridOnDeviceGlobal, sizeof(Grid))
cudaMemcpy(gridOnDeviceGlobal, &hostGrid, sizeof(Grid), cudaMemcpyHostToDevice)
cloudKernel<<< numBlocks, numThreads >>>(someDate, gridOnDeviceGlobal);

这很简单，但是内核将不得不从全局内存中读取网格值。 这可能很慢。

2）由于网格值很少更改，因此我将

__constant__ Grid myGridForPointCloudCuda

进入pointcloudcuda.cu，以及两个功能

void copyParametersToGpu(Grid *hostGrid)
{
    cudaMemcpyToSymbolAsync(myGridForPointCloudCuda, hostGrid, sizeof(Grid))
}

void getDevicePointerOfGridForPointCloudCuda(Grid** ptr)
{
    cudaGetSymbolAddress((void**)ptr, myGridForPointCloudCuda);
}

现在，在pointcloudcuda.cpp中，我可以

Grid hostGrid(...);
copyParametersToGpu(&hostGrid);
Grid* gridOnDeviceConstant;
getDevicePointerOfGridForPointCloudCuda(&gridOnDeviceConstant);
cloudKernel<<< numBlocks, numThreads >>>(someDate, gridOnDeviceConstant);

我认为2）的优点是可以更快地访问内核中的恒定内存。 但是，在其他地方，我读到这是行不通的，因为编译CUDA内核的编译器在编译时不知道传递的网格指针是指向全局内存还是常量内存，因此必须使用较慢的内存。内存提取指令。

在Geforce GTX 670上2）会比1）快吗？

有没有更好的方法来做我想做的事？ 我只需要将不同的Grid实例传递给内核。 在我开始使用多个Grid实例之前，常量变量是一种便捷的选择。

谢谢！

Answer 1

如果您有多个Grid实例，而不是简单地在常量内存中分配Grid Array，则将Grid实例复制到该数组中，并在调用内核时将索引传递给Grid Array，而不是指向特定Grid实例的指针。 在内核内部，使用索引访问特定的Grid实例。