Cuda gridDim 和 blockDim

Question

我明白了 blockDim 是什么，但我对 gridDim 有问题。 Blockdim给出了 block 的大小，但是什么是gridDim？在互联网上，它说 gridDim.x 给出了 x 坐标中的 block 数。

我如何知道blockDim.x * gridDim.x给出了什么？

我如何知道 x 行中有多少个 gridDim.x 值？

例如，考虑下面的代码:

int tid = threadIdx.x + blockIdx.x * blockDim.x;
double temp = a[tid];
tid += blockDim.x * gridDim.x;

while (tid < count)
{
    if (a[tid] > temp)
    {
       temp = a[tid];
    }
    tid += blockDim.x * gridDim.x;
}

我知道 tid 以 0 开头。代码中有 tid+=blockDim.x * gridDim.x。执行此操作后，现在的 tid 是什么？

Answer 1

• blockDim.x,y,z 给出 block 中的线程数，在特定方向
• gridDim.x,y,z 给出网格中的 block 数，在特定方向
• blockDim.x * gridDim.x 给出网格中的线程数(在本例中为 x 方向)

block 和网格变量可以是 1、2 或 3 维。处理一维数据时，通常的做法是仅创建一维 block 和网格。

在 CUDA 文档中，这些变量定义为 here

特别是，当 x 维度 (gridDim.x*blockDim.x) 中的线程总数小于我希望处理的数组的大小时，那么通常的做法是创建一个循环并使线程网格在整个数组中移动。在这种情况下，在处理一次循环迭代后，每个线程必须移动到下一个未处理的位置，该位置由 tid+=blockDim.x*gridDim.x; 给出。正在跳过一维数据数组，一次一个网格宽度。这个主题有时被称为“网格跨步循环”，在 blog article 中进一步讨论。 .

您可能需要考虑采取 introductory CUDA webinars例如，前 4 个单元。如果您想更好地理解这些概念，这 4 个小时是值得的。