python - Eigen + MKL 或 OpenBLAS 比 Numpy/Scipy + OpenBLAS 慢

Question

我从 C++ atm 开始，希望使用矩阵并加快总体速度。之前使用过 Python+Numpy+OpenBLAS。认为 c++ + Eigen + MKL 可能更快或至少不慢。

我的 C++ 代码:

#define EIGEN_USE_MKL_ALL
#include <iostream>
#include <Eigen/Dense>
#include <Eigen/LU>
#include <chrono>

using namespace std;
using namespace Eigen;

int main()
{
    int n = Eigen::nbThreads( );
    cout << "#Threads: " << n << endl;

    uint16_t size = 4000;
    MatrixXd a = MatrixXd::Random(size,size);

    clock_t start = clock ();
    PartialPivLU<MatrixXd> lu = PartialPivLU<MatrixXd>(a);

    float timeElapsed = double( clock() - start ) / CLOCKS_PER_SEC; 
    cout << "Elasped time is " << timeElapsed << " seconds." << endl ;
}

我的 Python 代码:

import numpy as np
from time import time
from scipy import linalg as la

size = 4000

A = np.random.random((size, size))

t = time()
LU, piv = la.lu_factor(A)
print(time()-t)

我的时间:

C++     2.4s
Python  1.2s

为什么 c++ 比 Python 慢？

我正在使用以下代码编译 C++:

g++ main.cpp -o main -lopenblas -O3 -fopenmp  -DMKL_LP64 -I/usr/local/include/mkl/include

MKL 绝对有效:如果我禁用它，运行时间约为 13 秒。

我还尝试了 C++ + OpenBLAS，它也给了我大约 2.4 秒。

知道为什么 C++ 和 Eigen 比 numpy/scipy 慢吗？

Answer 1

时机不对。这是 wall clock time vs. CPU time 的典型症状.当我使用 system_clock来自 <chrono> header 它“神奇地”变得更快。

#define EIGEN_USE_MKL_ALL
#include <iostream>
#include <Eigen/Dense>
#include <Eigen/LU>
#include <chrono>

int main()
{
    int const n = Eigen::nbThreads( );
    std::cout << "#Threads: " << n << std::endl;

    int const size = 4000;
    Eigen::MatrixXd a = Eigen::MatrixXd::Random(size,size);

    auto start = std::chrono::system_clock::now();

    Eigen::PartialPivLU<Eigen::MatrixXd> lu(a);

    auto stop = std::chrono::system_clock::now();

    std::cout << "Elasped time is "
              << std::chrono::duration<double>{stop - start}.count()
              << " seconds." << std::endl;
}

我用

编译

icc -O3 -mkl -std=c++11 -DNDEBUG -I/usr/include/eigen3/ test.cpp

并得到输出

#Threads: 1
Elasped time is 0.295782 seconds.

您的 Python 版本报告 0.399146080017在我的机器上。

---

或者，要获得可比较的时间，您可以使用 time.clock() (CPU 时间)在 Python 中而不是 time.time() (挂钟时间)。