cuda共享内存和块执行计划

Question

我想用CUDA共享内存清除执行状态，并根据每个块使用的共享内存量来执行块执行 。

州

我的目标是GTX480 nvidia卡，该卡每块具有48KB 共享内存 ，并具有15个流式多处理器。 因此，如果我声明一个有15个块的内核，则每个块使用48KB的共享内存，并且没有达到其他限制（寄存器，每个块的最大线程数等），每个块都运行到一个SM（共15个）中，直至结束。 在这种情况下，仅需要在相同块的扭曲之间进行调度。

题

所以，我的误解是：
我将内核称为30个块，以便每个SM上驻留2个块。 现在，每个SM上的调度程序必须处理来自不同块的扭曲。 但是仅当一个块完成执行时，另一个块的扭曲才会在SM上执行，因为共享内存总量（每个SM 48KB）会使用。 如果这种情况没有发生，并且不同块的扭曲调度在同一SM上执行，则结果可能是错误的，因为一个块可以读取共享存储器中从另一个块加载的值。 我对吗？

Answer 1

您无需为此担心。 正确地说，如果由于使用的共享内存量而使每个SM只能容纳一个块，则任何时候都只能调度一个块。 因此，没有可能由于过量使用共享内存而导致内存损坏。

---

出于性能原因，BTW通常最好每个SM运行至少两个块，因为

• 在__syncthreads（）期间，SM可能会不必要地空闲，因为越来越少的扭曲可能仍可运行。
• 同一块的线程束往往紧密耦合运行，因此，有时所有线程束都在等待内存，而有时有时所有线程束都在执行计算。 有了更多的块，这甚至可能更好，从而总体上提高了资源利用率。

当然，可能有原因为什么每个块更多的共享内存比每个SM运行多个块能提供更大的加速。