一些以CUDA 9中附加`_sync（）`命名的内在函数;语义相同？

Question

在CUDA 9中，nVIDIA似乎有了这种“合作团体”的新概念; 由于某些原因我并不完全清楚， __ballot()现在（= CUDA 9）被弃用而赞成__ballot_sync() 。 这是别名还是语义改变了？

...对于现在已将__sync()添加到其名称中的其他内置__sync()类似问题。

Answer 1

没有语义不一样。 函数调用本身是不同的，一个不是另一个的别名，新功能已经暴露，现在Volta架构和以前的架构之间的实现行为是不同的。

首先，为了确定基础工作，有必要认识到Volta通过引入每线程程序计数器和其他变化引入了独立线程调度 的可能性 。 因此，Volta可能会在非warp同步行为中延长一段时间，并且在执行期间，以前的架构可能仍然是warp-synchronous。

大多数warp内在函数只通过为实际参与的线程提供预期结果（即在该周期中实际上对该指令的发布有效）。 程序员现在可以通过新的mask参数明确指出哪些线程可以参与。 但是有一些要求，特别是在Pascal和以前的架构上。 从编程指南 ：

但请注意，对于Pascal和早期架构， mask所有线程必须在收敛中执行相同的warp内部指令，并且掩码中所有值的并集必须等于warp的活动掩码。

然而，在Volta上，warp执行引擎将在掩码中的指示线程之间产生必要的同步/参与，以便使期望/指示的操作有效（假设使用了_sync的适当的_sync版本）。 为了清楚起见，warp执行引擎将重新收集在volta上分歧的线程以匹配掩码，但是它不会克服程序员引发的错误，例如阻止线程通过条件语句参与_sync()内在函数。

此相关问题讨论了mask参数。 此答案并非旨在解决独立线程调度可能产生的所有可能问题以及对warp级内在函数的影响。 为此，我鼓励阅读编程指南。