c++ - 使用 OpenCL 计算大量 bool 值

Question

我正在使用 OpenCL 计算值，然后检查它们是否在白名单中。然后我需要存储并最终将此检查的结果返回给主机。

我计算的本质是，一旦 CL 内核从主机获得一些初始数据，它就可以在没有主机干预的情况下继续计算连续的值——据我所知，这是一件好事™。

显然，在这种情况下，计算次数的限制是设备内存 - 存储所有计算结果所需的内存量随着内核的每次迭代呈指数增长。

我目前正在使用 unsigned char 来保存 bool 值，每次计算一个字符。这导致比普通位域多 8 倍的内存使用……不幸的是，OpenCL 不支持位域。

使用 OpenCL 存储大量 bool 值的最有效方法是什么？

Answer 1

虽然没有内置的位域类型，但没有什么能阻止您对任何整型进行位编码操作。此外，您可以通过使用 vector 类型并一次计算多个输出来进一步提高吞吐量。

如果我是你，我会让我的计算(如果可能的话)一直使用 vector 类型， vector 的一个元素贡献一个 bool 值。 int4 作为一般经验法则。设置为 1 或 0。然后使用 |= 将结果按位或按位或将 32 次此类操作的结果收集到 int4 中，这将是您的输出。

因此，一个内核实例可以产生 4*32bit=128 个 bool 值，并以向量化的方式计算所有这些值。寄存器压力应该取决于产生 bool 值的函数的强度，如果太高，可能会促使您退回到使用标量类型。