c++ - CUDA - 如果我选择了太多 block 怎么办？

Question

我仍然对这些未知大小的矩阵很生气，每个维度可能在 10-20.000 之间变化。

我正在查看 CUDA SDK 并想知道:如果我选择的 block 数太高怎么办？

类似于在 X 和 Y 维度上由 9999 x 9999 block 组成的网格，如果我的硬件具有无法容纳所有这些 block 的 SM，内核是否会出现问题或者性能会崩溃？

我不知道如何在 block /线程中标注可能变化很大的东西。我正在考虑使用我的硬件支持的最大块数，然后使它们内部的线程在所有矩阵中工作，这是正确的方法吗？

Answer 1

线程 block 与核心没有一对一的映射。 block 在可用时被安排到核心，这意味着您可以请求任意数量(可能达到限制)。请求大量 block 只会减慢系统速度，因为它会向内核加载和卸载不执行任何操作的线程 block 。

您可以在运行时指定网格和 block 的尺寸。

编辑:这是文档中对网格和 block 尺寸的限制。