CUDA warp 调度 : another warp from the current block or a warp from another block?

Question

当 SM 上正在运行的 warp 停滞时，必须在 SM 上安排另一个 warp 来交换停滞的 warp 以弥补延迟。但是替代品是否与停滞的扭曲来自同一个 block ，或者它必须属于另一个 block ，或者两种情况都可以？

Answer 1

该主题是 GPU 架构社区的一项开放研究。人们在 here 评估了几种 warp 调度策略。 .查看以下最近的论文，了解不同调度策略的优缺点:

• 有些人建议对能量使用两级扭曲调度效率:Energy-efficient Mechanisms for Managing Thread Contextin Throughput Processors
• 有些人建议使用两级 warp 调度来改进延迟隐藏:Improving GPU Performance via Large Warps andTwo-Level Warp Scheduling
• 其他一些人建议按减少的顺序安排 warpSM 一级缓存争用: Cache-Conscious Wavefront Scheduling
• 最后，here is a patent来自 NVIDIA 研究人员的提议用于改进延迟隐藏和能源效率的调度程序。

在回答您的问题时，这两种策略都可以，并且可以在任何架构中使用。但真正的下属还没有公开。