opencl - 这种并行性可以在 OpenCL 中实现吗

Question

这是我的第一篇文章。我会尽量保持简短，因为我很珍惜你的时间。这个社区对我来说是不可思议的。

我正在学习 OpenCL 并想从下面的算法中提取一点并行性。我只会向您展示我正在处理的部分，我也尽可能地简化了这些部分。

1) 输入:两个长度为 (n) 的一维数组:A、B 和 n 的值。还有值 C[0]、D[0]。

2) 输出:两个长度为 (n) 的一维数组:C、D。

C[i] = function1(C[i-1])
D[i] = function2(C[i-1],D[i-1])

所以这些是递归定义，但是可以并行完成给定 i 值的 C&D 计算(它们显然更复杂，以便有意义)。一个天真的想法是为以下内核创建两个工作项:

__kernel void test (__global float* A, __global float* B, __global float* C,
                    __global float* D, int n, float C0, float D0) {
    int i, j=get_global_id(0);

    if (j==0) {
       C[0] = C0;
       for (i=1;i<=n-1;i++) {
          C[i] = function1(C[i-1]);
          [WAIT FOR W.I. 1 TO FINISH CALCULATING D[i]];
       }
       return;
    }
    else {
       D[0] = D0;
       for (i=1;i<=n-1;i++) {
          D[i] = function2(C[i-1],D[i-1]);
          [WAIT FOR W.I. 0 TO FINISH CALCULATING C[i]];
       }
       return;
    }
}

理想情况下，两个工作项(数字 0,1)中的每一个都将进行一次初始比较，然后进入各自的循环，为每次迭代同步。现在考虑到 GPU 的 SIMD 实现，我认为这将不起作用(工作项将等待所有内核代码)，但是是否可以将此类工作分配给两个 CPU 内核并使其按预期工作？在这种情况下，障碍是什么？

Answer 1

这可以在 opencl 中实现，但就像另一个答案所说的那样，您最多只能使用 2 个线程。

我的函数版本应该由具有两个工作项的单个工作组调用。

__kernel void test (__global float* A, __global float* B, __global float* C, __global float* D, int n, float C0, float D0)
{
    int i;
    int gid = get_global_id(0);

    local float prevC;
    local float prevD;

    if (gid == 0) {
        C[0] = prevC = C0;
        D[0] = prevD = D0;
    }

    barrier(CLK_LOCAL_MEM_FENCE);

    for (i=1;i<=n-1;i++) {
        if(gid == 0){
            C[i] = function1(prevC);
        }else if (gid == 1){
            D[i] = function2(prevC, prevD);
        }

        barrier(CLK_LOCAL_MEM_FENCE);
        prevC = C[i];
        prevD = D[i];
    }
}

这应该在任何 opencl 硬件上运行。如果您不关心保存所有 C 和 D 值，您可以简单地以两个浮点数而不是整个列表的形式返回 prevC 和 prevD。由于对中间值的所有读取和写入都坚持较低的缓存级别(即本地内存)，这也会使其速度更快。本地内存提升也应适用于所有 opencl 硬件。

那么在 GPU 上运行它有什么意义吗？不是为了并行。你被 2 个线程困住了。但是，如果您不需要返回 C 和 D 的所有值，您可能会看到显着的速度提升，因为 GPU 的内存要快得多。

所有这些都假设 function1 和 function2 并不过分复杂。如果是，就坚持使用 CPU —— 可能还有另一种多处理技术，如 OpenMP。