c++ - 为什么执行矩阵乘法的两个进程并行运行比连续运行慢？

Question

我有一个运行线性代数实验的程序(使用 C++ 中的 Armadillo 库)。我需要多次运行这个程序，所以要并行执行多个进程(取决于我的可用资源)。然而，即使只并行运行两个实验，两个进程都会减慢不成比例的速度 - 它们至少比顺序执行时慢 10 倍。

我已经设法将我的代码减少到出现问题的地方，它似乎是我用矩阵乘以 vector 的地方。这是一个可重现的例子。这将无限运行，并在每 1000 次迭代将矩阵乘以 vector 时打印经过的秒数。

测试.cpp

#include <iostream>
#include <armadillo>
#include <chrono>

using namespace std;
using namespace arma;

int main(int argc, char** argv) {
  chrono::steady_clock::time_point begin = std::chrono::steady_clock::now();

  mat A = randn(1500,1500);
  vec y = randn(1500);
  vec values;

  long its = 0;
  while (true) {

    values = A*y;

    // print time once in a while
    if (++its % 1000 == 0) {
      long secondsElapsed = chrono::duration_cast<chrono::seconds>(chrono::steady_clock::now() - begin).count();
      cout << "secs elapsed by iteration " << its << ": " << secondsElapsed << endl;
    }
  }
  return 0;
}

我编译/链接了:

$ g++ test.cpp -larmadillo -std=c++11

当运行这个程序的单个进程时，在终端中，输出是:

secs elapsed by iteration 1000: 1
secs elapsed by iteration 2000: 2
secs elapsed by iteration 3000: 3
...

当运行这个程序的两个进程时(在两个不同的终端)，进程 1 的输出是:

secs elapsed by iteration 1000: 24
secs elapsed by iteration 2000: 48
secs elapsed by iteration 3000: 74
...

和流程2的输出类似。当第二个进程也在运行时，该进程慢了 24 倍。

Linux 上的“top”实用程序显示两个进程各自的 CPU 占用率为 400%，因此总共为 800%(我有 4 核 8 线程)。两个进程各占我内存的 0.3%。

为什么会发生这种情况，我该如何解决？我自己不确定如何调试，但想学习，所以如果有人可以在他们的答案中提供一些关于如何调试这种情况的提示，那就太好了!

平台详细信息:Linux 3.10.0-693.11.1.el7.x86_64，4 核/8 线程，8Gb RAM。 g++ (GCC) 4.8.5 20150623(红帽 4.8.5-36)。 ARMA 版本:8.300.2(热带恶作剧)。

Answer 1

这里有几件事。

您没有进行优化编译。使用 -O2 和 -march=native

看起来 Armadillo 使用 BLAS 进行 vector 矩阵乘法。 secret 可能就在那里。听起来库已经设置为使用所有内核；您可能无法通过多处理来获得更多性能。好的...就像你说的那样，你有一个超线程四核 x86_64，你想使用 8 个逻辑内核而不是 4 个。但是请记住，超线程的工作原理是让 2 个线程同时使用处理器.它可以使性能翻倍，因为通常有很多剩余的算术单元。但是，如果 BLAS 内核在所有 4 个内核上使用所有 SIMD 单元(或者只是很好地利用了可用的算术单元)，则同时运行的第二个实例将没有任何硬件留给自己，最终可能只会进入通过上下文切换的方式，这会扰乱硬件管道并导致缓存未命中。

我正在想办法让您测试它。如果您可以访问具有不同数量物理内核的其他机器，您可能会看到一个模式。理想的调试控件是能够告诉 BLAS 使用多少个内核，但我不确定它是否可用。

在这里了解 CPU arch 以及 BLAS 版本(如果您确实在使用 BLAS)会很好。

您没有提及您所做的任何分析。如果您还没有完成分析，现在是个好时机!如果这部分是很多瓶颈，您可以从一些 GPU 加速中受益。或者，如果它是瓶颈但只是一点点，您可以流水线程序的其他部分以保持该部分提供数据。或者，如果运行时间合理，您总是可以满足于当前速度。