c - 使用 OpenMP 的一个线程串行执行比并行执行更快

Question

我正在尝试使用数值积分的梯形规则来计算 pi 的值。为此，我编写了一个串行代码，它在给定范围内进行迭代。为了计算并行开销，我通过将线程数设置为 1 来运行相同的代码。现在，我获得了以下执行时间与问题大小的关系图。
由于我们只创建一个线程，因此我认为这不会涉及太多通信开销。那么这背后的原因可能是什么？据我所知，指令的调用是在编译时完成的，也就是说，如果您定义了一个宏，那么它会在运行时之前扩展，那么我是否遗漏了一些东西？还是跟我想象的完全不一样？

下面是序列号

#include<stdio.h>
#include<omp.h>
int main()
{
    FILE *fp = fopen("pi_serial.txt", "a+");
    long num_steps = 1e9;
    double step_size = 1.0 / num_steps;
    long i;
    double sum = 0;
    double start_time = omp_get_wtime();
    for(i = 0; i< num_steps; i++) {
        double x = (i + 0.5) * step_size;
        sum += (4.0 / (1.0 + (x * x)));
    }
    sum = sum * step_size;
    double end_time = omp_get_wtime();
    fprintf(fp, "%lf %lf\n", sum, end_time - start_time);
    fclose(fp);
    return 0;
}   

这是多线程代码

#include <stdio.h>
#include <omp.h>
#include <stdlib.h>

int main(int argc, char* argv[])
{
    FILE* fp = fopen("pi_parallel.txt", "a+");
    omp_set_num_threads(1);
    long num_steps = atol(argv[1]);
    double step_size = 1.0 / num_steps;
    double sum = 0;
    double start_time = omp_get_wtime();
    #pragma omp parallel 
    {
        int id = omp_get_thread_num();
        double private_sum = 0;
        int i;
        for(i = id; i <= num_steps; i += 1){
            double x = (i + 0.5) * step_size;
            private_sum += (4.0 / (1.0 + x * x));
        }
        #pragma omp critical
            sum += private_sum;
    }
    sum *= step_size;
    double end_time = omp_get_wtime();
    fprintf(fp, "%lf %lf\n", sum, end_time - start_time);
    fclose(fp);
    return 0;
}

这是 Execution time 的图表

Answer 1

https://www.youtube.com/watch?v=OuzYICZUthM&list=PLLX-Q6B8xqZ8n8bwjGdzBJ25X2utwnoEG&index=7

上面的视频将有助于理解为什么串行代码可能比具有一个线程的并行代码更快。根据演示者的说法，可以看出，由于设置了omp环境变量，在程序中间创建了一个线程，所以openmp程序运行速度比串行代码慢是正常的。

但最重要的是查看代码的可扩展性 - 当在超过 1 个线程上运行时，与串行代码相比，您的代码有多快？当您在多个线程上运行相同的代码但仍然没有看到性能提高时，可能是由于错误共享所致。据我了解，考虑驻留在同一缓存行中的两个变量。主线程访问变量之一并修改它，这会导致缓存行无效。如果线程 1 必须访问修改后的高速缓存行，则修改后的高速缓存行将写入内存，然后线程从内存中获取高速缓存行并对其进行修改。此过程可能会增加执行时间。

引用文献: https://docs.oracle.com/cd/E37069_01/html/E37081/aewcy.html

*我不拥有该视频。