cuda - CUDA 上的单线程

Question

我正在调用一个只有一个 block 且该 block 内只有一个线程的 CUDA 内核，例如

内核<<<1, 1>>>

此内核是否仅在指定的单个 CUDA 核心上执行？例如，如果 GPU 有 128 个核心，那么 128 个核心中只有 1 个可以工作？

非常感谢!

Answer 1

没有。 CUDA 是一种 SIMD 风格的架构，基本执行单元是一个 warp - 一组 32 个线程，在硬件上以锁步方式执行。如果您启动包含单个线程的单个 block ，则硬件将执行 32 个线程的单个 warp，其中 31 个线程被屏蔽并执行相当于 noop 流的操作。任何给定的扭曲都在单个流式多处理器上执行，并且根据您所使用的硬件代数，可能涉及其运行的 SM 的 8、16 或 32 个核心。