python - 为什么使用 numpy 进行矩阵乘法比使用 Python 中的 ctypes 更快？

Question

我试图找出最快的矩阵乘法方法并尝试了 3 种不同的方法:

• 纯 python 实现:这里没有惊喜。
• 使用 numpy.dot(a, b)
实现 Numpy
• 在 Python 中使用 ctypes 模块与 C 交互。

这是转换为共享库的 C 代码:

#include <stdio.h>
#include <stdlib.h>

void matmult(float* a, float* b, float* c, int n) {
    int i = 0;
    int j = 0;
    int k = 0;

    /*float* c = malloc(nay * sizeof(float));*/

    for (i = 0; i < n; i++) {
        for (j = 0; j < n; j++) {
            int sub = 0;
            for (k = 0; k < n; k++) {
                sub = sub + a[i * n + k] * b[k * n + j];
            }
            c[i * n + j] = sub;
        }
    }
    return ;
}

以及调用它的 Python 代码:

def C_mat_mult(a, b):
    libmatmult = ctypes.CDLL("./matmult.so")

    dima = len(a) * len(a)
    dimb = len(b) * len(b)

    array_a = ctypes.c_float * dima
    array_b = ctypes.c_float * dimb
    array_c = ctypes.c_float * dima

    suma = array_a()
    sumb = array_b()
    sumc = array_c()

    inda = 0
    for i in range(0, len(a)):
        for j in range(0, len(a[i])):
            suma[inda] = a[i][j]
            inda = inda + 1
        indb = 0
    for i in range(0, len(b)):
        for j in range(0, len(b[i])):
            sumb[indb] = b[i][j]
            indb = indb + 1

    libmatmult.matmult(ctypes.byref(suma), ctypes.byref(sumb), ctypes.byref(sumc), 2);

    res = numpy.zeros([len(a), len(a)])
    indc = 0
    for i in range(0, len(sumc)):
        res[indc][i % len(a)] = sumc[i]
        if i % len(a) == len(a) - 1:
            indc = indc + 1

    return res

我敢打赌，使用 C 的版本会更快……我会输的!下面是我的基准测试，它似乎表明我要么做错了，要么 numpy 太快了:

我想了解为什么 numpy 版本比 ctypes 版本快，我什至不谈论纯 Python 实现，因为它有点很明显。

Answer 1

NumPy 使用高度优化、仔细调整的 BLAS 方法进行矩阵乘法(另请参见:ATLAS)。这种情况下的具体功能是 GEMM(用于通用矩阵乘法)。您可以通过搜索 dgemm.f(在 Netlib 中)来查找原始文件。

顺便说一句，优化超越了编译器优化。上面，菲利普提到了 Coppersmith-Winograd。如果我没记错的话，这是用于 ATLAS 中大多数矩阵乘法的算法(尽管评论者指出它可能是 Strassen 的算法)。

换句话说，您的 matmult 算法是简单的实现。有更快的方法来做同样的事情。