OpenCL 复制一次 分享很多

Question

我正在使用 OpenCL 实现一个解决方案，我想要执行以下操作，例如，您有大量数据想要在 GPU 中复制一次，并且有许多内核处理批量数据并存储结果在其特定的输出缓冲区中。

真正的问题是哪种方式更快？将每个内核与其需要的数组部分一起排队，或者事先传递整个数组，让每个内核(在相同的上下文中)处理所需的批处理，因为它们将具有相同的地址空间并且可以各自映射数组同时进行。当然，所述数组是只读的，但不是恒定的，因为每次执行内核时它都会改变......(所以我可以使用全局内存缓冲区缓存它)。

另外，如果第二种方法实际上更快，您能否为我指出如何实现这一点的方向，因为我还没有找到任何具体的东西(尽管我仍在搜索:))。

干杯。

Answer 1

我正常使用第二个内存。共享内存很容易。只需将相同的缓冲区传递给每个内核即可。我在实时光线追踪器中执行此操作。我使用一个内核进行渲染，并使用另一个内核进行后处理(图像处理)。

使用 C++ 绑定(bind)，它看起来像这样

cl_input_mem = cl::Buffer(context, CL_MEM_WRITE_ONLY, sizeof(cl_uchar4)*npixels, NULL, &err);

kernel_render.setArg(0, cl_input_mem);
kernel_postprocess.setArg(0, cl_input_mem);

如果您希望一个内核在数组/内存的不同段上运行，您可以将偏移值传递给内核参数并将其添加到例如每个内核的全局内存指针。

如果数组(实际上是每个缓冲区的总和 - 包括输出)不适合内存，我将使用第一种方法。使用第一种方法的另一个原因是如果您在多个设备上运行。在我的光线追踪器中，当我在多个设备上渲染时，我使用第一种方法。例如，我有一个 GTX 580 渲染屏幕的上半部分，另一台 GTX 580 渲染屏幕的下半部分(实际上我动态执行此操作，因此一个设备可能渲染 30%，而另一个设备渲染 70%，但这不是重点)。我让每个设备只渲染输出的一小部分，然后在 CPU 上组装输出。使用 PCI 3.0，即使对于 1920x1080 图像，CPU 和 GPU 之间的来回传输(多次)对帧速率的影响也可以忽略不计。