在使用 --device-debug 编译时，是否可以更改 CUDA 线程块的调度顺序？

Question

简洁版本

我有一个 kernel 启动了很多块，我知道blockIdx.y = 312发生了非法的 memory 读取。 在cuda-gdb下运行它会导致一次顺序执行块 16，执行到该块索引需要很长时间，即使有条件断点也是如此。

有什么方法可以更改在cuda-gdb下运行时安排的线程块中的顺序？ 如果没有，是否还有其他我可能错过的调试策略？

加长版

我有一个基线卷积 CUDA kernel 通过启动更多块来扩展问题大小。 尺寸为10_000 x 10_000的输入图像存在错误。 在cuda-memcheck下运行它，我看到以下内容。

...
========= Invalid __global__ read of size 4
=========     at 0x00000150 in convolution_kernel_sharedmem(float*, float*, float*)
=========     by thread (30,31,0) in block (0,312,0)
...

所有非法访问似乎都发生在blockDim.y = 312上。 因此，在使用cuda-gdb运行它时，从(0, 0, 0)开始一次启动 16 个块。 我已经在 kernel 处设置了一个条件断点以在所需的块索引处停止，但是到达那里需要很长时间。

有什么办法可以改变线程块在设备上的调度顺序吗？ 如果没有，是否有任何我可能错过的替代调试策略？

PS：我知道我可以使用网格跨步循环而不是启动这么多块，但我想知道这个特定实现有什么问题。

Answer 1

在 cuda-gdb 下运行时，有什么方法可以改变线程块的顺序吗？

没有办法改变threadblock的调度顺序，除非你想重写代码， 自己控制threadblock的调度。 请注意，该链接示例并不完全是如何重新定义线程块调度顺序，但它具有所有必要的成分。 在实践中，我没有看到很多人想要进行这种级别的重构，但为了完整起见，我提到了它。

如果没有，是否还有其他我可能错过的调试策略？

此处描述的方法可以将您的错误定位到特定的 kernel 代码行。 从那里您可以使用条件printf来识别非法索引计算等。请注意，对于该方法，无需使用调试开关编译您的代码，但您需要使用-lineinfo进行编译。

本培训主题提供了更长的CUDA调试处理。