python - 如何在 Cython 中获得内存 View 列表？

Question

我的函数接收不同大小的 numpy 数组列表:

def function1(列表 list_of_numpy_arrays):

现在我在做:

cdef int[:] a_view = list_of_numpy_arrays[index]

问题是我必须多次索引列表，因此开销大大增加了时间(10 倍)。我正在寻找类似 cdef int[:] a[5] 的东西，我可以在其中拥有一个内存 View 数组，这样我就可以避免索引 python 列表的开销。

如果有解决方案，我也可以传入一个列表列表。

def function2(list list_of_lists):

Answer 1

您所追求的在 Cython 中是不可能实现的。如果您想要性能良好的东西，我可能会创建一个包含来自内存 View 的相关信息的 C 结构，然后改用它。这不是一个非常优雅的解决方案，但它会提供与使用内存 View 相似的性能；我不建议将其设为通用模式，但如果您遇到一次性问题而您的数据需要输入，那没关系。

cdef struct FakeMemoryView:
    int* data
    int stride
    int length

如果您准备强制使用 C 连续内存 View (int[::1])，那么您可以放弃 stride，因为众所周知它是一个。可以使用 var.data[i*var.stride] 对数据进行索引。在您的函数开始时，您循环遍历 Python 列表以创建这些 FakeMemoryView 的数组，然后从那时起您只需使用此数组:

def function1(list list_of_numpy_arrays):
    assert len(list_of_numpy_arrays) == 5

    cdef FakeMemoryView new_list[5]

    # initialize the list
    cdef int[:] mview
    for i in range(5):
        mview = list_of_numpy_arrays[i]
        new_list[i].data = &mview[0]
        new_list[i].stride = mview.strides[0]
        new_list[i].length = mview.shape[0]

    # example access - zero the first lot of data
    for i in range(new_list[0].length):
        new_list[0].data[i*new_list[0].stride] = 0

如果您事先不知道列表的长度，那么您需要使用 malloc 和 free 自行处理内存。

此解决方案不处理 Numpy 数组的引用计数 - 因此您不应允许在持有 FakeMemoryView 时释放 Numpy 数组。不要为多个函数调用存储数组，也不要开始从输入列表中删除数组。