c++ - 简单的 C++ 循环不受益于多线程

Question

我有一些非常简单的 C++ 代码，我确信在多线程下它们的运行速度会快 3 倍，但在 Windows 10 上的 GCC 和 MSVC 上不知何故只能快 3%(或更少)。

没有互斥锁和没有共享资源。而且我看不出错误共享或缓存抖动是如何起作用的，因为每个线程只修改数组的一个不同部分，该部分具有超过十亿个 int 值。我意识到有很多关于 SO 的问题，但我还没有找到任何似乎可以解决这个特殊谜团的问题。

一个提示可能是，将数组初始化移动到 add() 函数的循环中 确实 使多线程与单线程时的函数速度提高 3 倍(~885 毫秒对比 ~2650 毫秒)。

请注意，只有 add() 函数正在计时，在我的机器上需要约 600 毫秒。我的机器有 4 个超线程内核，所以我在运行代码时将 threadCount 设置为 8，然后再设置为 1。

知道会发生什么吗？有什么方法可以关闭(在适当的时候)处理器中导致错误共享(并且可能像我们在这里看到的那样)的功能吗？

#include <chrono>
#include <iostream>
#include <thread>

void startTimer();
void stopTimer();
void add(int* x, int* y, int threadIdx);

namespace ch = std::chrono;
auto start = ch::steady_clock::now();
const int threadCount = 8;
int itemCount = 1u << 30u; // ~1B items
int itemsPerThread = itemCount / threadCount;

int main() {
    int* x = new int[itemCount];
    int* y = new int[itemCount];

    // Initialize arrays
    for (int i = 0; i < itemCount; i++) {
        x[i] = 1;
        y[i] = 2;
    }

    // Call add() on multiple threads
    std::thread threads[threadCount];
    startTimer();
    for (int i = 0; i < threadCount; ++i) {
        threads[i] = std::thread(add, x, y, i);
    }
    for (auto& thread : threads) {
        thread.join();
    }
    stopTimer();

    // Verify results
    for (int i = 0; i < itemCount; ++i) {
        if (y[i] != 3) {
            std::cout << "Error!";
        }
    }

    delete[] x;
    delete[] y;
}

void add(int* x, int* y, int threadIdx) {
    int firstIdx = threadIdx * itemsPerThread;
    int lastIdx = firstIdx + itemsPerThread - 1;

    for (int i = firstIdx; i <= lastIdx; ++i) {
        y[i] = x[i] + y[i];
    }
}

void startTimer() {
    start = ch::steady_clock::now();
}

void stopTimer() {
    auto end = ch::steady_clock::now();
    auto duration = ch::duration_cast<ch::milliseconds>(end - start).count();
    std::cout << duration << " ms\n";
}

Answer 1

您可能只是达到了机器的内存传输速率，您正在执行 8GB 的​​读取和 4GB 的写入。

在我的机器上，您的测试在大约 500 毫秒内完成，即 24GB/s(这与内存带宽测试仪给出的结果相似)。

当您通过单次读取和单次写入访问每个内存地址时，缓存没有多大用处，因为您没有重复使用内存。