cuda - 对于CUDA，是否可以确保三元运算符可以避免分支分歧？

Question

我已经阅读了很多有关CUDA分支分歧的主题，告诉我使用三元运算符比if/else语句更好，因为三元运算符不会导致分支分歧。
我想知道以下代码:

foo = (a > b) ? (bar(a)) : (b);

如果bar是另一个函数或更复杂的语句，是否仍然没有分支分歧？

Answer 1

我不知道您咨询了哪些资源，但是在大多数情况下，使用CUDA工具链在使用三元运算符和等效的if-then-else序列之间没有明显的性能差异。在注意到这种差异的情况下，它们是由于代码生成中的二阶效应造成的，以我的经验，基于if-then-else序列的代码可能会更快。本质上，三元运算符和紧密局部分支的处理方式几乎相同。不能保证不能将三元运算符转换为包含分支的机器代码。

GPU硬件提供了多种有助于避免分支的机制，而CUDA编译器充分利用了这些机制以最大程度地减少分支。一种是谓词，它几乎可以应用于任何指令。另一个是对选择类型指令的支持，这些指令本质上是与三元运算符等效的硬件。编译器使用if-conversion将短分支转换为无分支代码序列。通常，它选择谓词代码和统一分支的组合。在非分散控制流的情况下(warp中的所有线程都使用相同的分支)，统一分支会跳过谓词代码段。

除极端性能优化的情况外，CUDA可以(并且应该)以自然的成语编写，这些成语清晰且适合手头的任务，可以使用if-then-else序列或您认为合适的三元运算符编写。编译器将负责其余的工作。