cuda - CUDA 中的 threadfence 内在函数的用途是什么？

Question

我浏览了许多论坛帖子和 NVIDIA 文档，但我无法理解 __threadfence() 的作用以及如何使用它。有人可以解释一下该内在函数的目的是什么吗？

Answer 1

通常，不能保证如果一个 block 向全局内存写入某些内容，另一个 block 会“看到”它。对于全局内存的写入顺序也无法保证，但发出它的 block 除外。

有两个异常(exception):

• 原子操作 - 这些操作始终对其他 block 可见
• 线程围栏

想象一下，一个 block 产生一些数据，然后使用原子操作来标记数据存在的标志。但另一个 block 有可能在看到该标志后仍然读取到不正确或不完整的数据。

__threadfence 函数来帮忙，确保顺序。从其他 block 可以看出，它之前的所有写入实际上都发生在它之后的所有写入之前。

请注意，__threadfence 函数不一定需要停止当前线程，直到其对全局内存的写入对网格中的所有其他线程可见为止。以这种幼稚的方式实现，__threadfence 函数可能会严重损害性能。

例如，如果您执行以下操作:

1. 存储您的数据
2. __threadfence()
3. 自动标记标志

保证如果另一个 block 看到该标志，它也会看到数据。

进一步阅读:Cuda 编程指南，章节 B.5 (从版本 11.5 开始)