openmp - OpenMP 4.0 中 "simd"构造和 "for simd"构造的区别

Question

OpenMP 4.0 引入了 SIMD 结构以利用 CPU 的 SIMD 指令。根据规范http://www.openmp.org/mp-documents/OpenMP4.0.0.pdf ，有两种结构可以使用 simd 来向量化循环。一个是 “#pragma omp simd”另一个是 “#pragma omp for simd” .根据规范，两者都用于向量化 for 循环。我也测试过，没有发现它们的区别。有谁知道这两种结构之间是否有区别？

Answer 1

#pragma omp simd (SIMD 构造)指示 OpenMP 编译器在不共享工作的情况下对随后的循环进行矢量化，即不在多个线程(如果有)之间分配循环迭代。
#pragma omp for (循环结构)指示编译器执行以下循环，同时在当前团队的线程之间分配工作。因此，循环结构仅在放置在平行区域的词法或动态范围内时才有用，例如

#pragma omp parallel
{
   ...
   #pragma omp for
   for (i = 0; i < 100; i++) { ... }
   ...
}

#pragma omp for simd (也称为循环 SIMD 构造)结合了上述两个构造，即它既在团队中的线程之间分配迭代空间，又进一步矢量化每个线程执行的部分循环。如果不在并行区域范围内使用，则 for simd构造等效于 simd构造。

可以将循环 SIMD 结构与 parallel 结合使用。构造:

#pragma omp parallel for simd
for (i = 0; i < 100; i++) { ... }

这种组合构造创建了一个并行区域，在线程之间分布循环的迭代，并对部分循环进行矢量化。

请注意，有时矢量化和多线程与性能并不正交。例如，如果循环受内存限制，那么单独的矢量化和多线程可能会导致可用内存带宽耗尽，并且将它们组合起来不会带来任何进一步的加速。

此外，当将加速比与 #pragma omp simd 进行比较时并与 #pragma omp [parallel] for simd ，请记住，对于相同数量的“多重性”，单独的多线程通常比矢量化提供更好的加速，即四路 SIMD 化循环可能(并且很可能会)比使用标量指令计算相同循环时执行得慢但分为四个线程。