c++ - 什么是并行 for 循环，应该如何/何时使用它？

Question

多年来我一直在使用 C++ 编写代码，过去我也使用过线程，但我现在才刚刚开始了解多线程编程及其实际工作原理。

到目前为止，我对概念的理解还不错，但有一件事让我感到困惑。

• 什么是并行 for 循环，它们是如何工作的？
• 任何 for 循环都可以并行吗？
• 它们有什么用？性能？
• 其他功能？

我在网上找不到任何解释得足以让我理解的东西。

我用 C++ 编写代码，但我确信这个问题适用于许多不同的编程语言。

Answer 1

What are parallel for loops, and how do they work?

并行 for 循环 是一个 for 循环，其中循环中的语句可以并行运行:在单独的内核、处理器或线程上。

让我们来求和代码:

unsigned int numbers[] = { 1, 2, 3, 4, 5, 6};
unsigned int sum = 0;
const unsigned int quantity = sizeof(numbers) / sizeof (numbers[0]);
for (unsigned int i = 0; i < quantity; ++i)
{
  sum = sum + numbers[i];
};

计算总和不依赖于顺序。 sum 只关心所有数字都已经相加了。

循环可以分成两个循环，由单独的线程或处理器执行:

// Even loop:
unsigned int even_sum = 0;
for (unsigned int e = 0; e < quantity; e += 2)
{
  even_sum += numbers[e];
}

// Odd summation loop:
unsigned int odd_sum = 0;
for (unsigned int odd = 1; odd < quantity; odd += 2)
{
  odd_sum += numbers[odd];
}

// Create the sum
sum = even_sum + odd_sum;

偶数 和奇数 求和循环彼此独立。它们不访问任何相同的内存位置。

求和 for 循环可以被视为一个并行 for 循环，因为它的语句可以由单独的进程并行运行，例如单独的 CPU 内核。

其他人可以提供更详细的定义，但这是一般示例。

编辑 1:

Can any for loop be made parallel?

不，不是任何循环都可以并行。循环的迭代必须相互独立。也就是说，一个 cpu 核心应该能够运行一次迭代而不会对另一个运行不同迭代的 cpu 核心产生任何副作用。

What are the use for them?
Performance?

一般来说，原因是为了性能。但是，设置循环的开销必须小于迭代的执行时间。此外，还有等待并行执行完成并将结果连接在一起的开销。

通常，数据移动和矩阵运算是并行性的良好候选者。例如，移动位图或对位图应用变换。海量数据需要他们所能获得的一切帮助。

Other functionality?

是的，并行 for 循环 还有其他可能的用途，例如同时更新多个硬件设备。但是，一般情况下是为了提高数据处理性能。