python - 如何将指向c数组的指针转换为python数组

Question

我有一个 C++ 回调函数，它使用 ctypes 调用 Python。这个函数的参数是一个指向 double 组的指针和元素的数量。

有很多元素，大约有2,000,000个。我需要将其发送到 scipy 函数中。

C++ 原型(prototype)是:

bool (*ptsetDataSource)(double*, long long);

这是以下python代码:

CPF_setDataSource = CFUNCTYPE(c_bool, POINTER(c_double),c_longlong)
CPF_setSelection= CFUNCTYPE(c_bool,c_char_p, c_longlong,c_longlong)
CPF_ResetSequence = CFUNCTYPE(c_bool)

def setDataSource(Data, DataLength):
    Datalist=[0.0]*100
    for i in range(0,100):
        Datalist[i]=Data[i]

    print Datalist
    return True

问题是打印数据列表返回:

[0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0]

这是不正确的(在 C++ 端检查时，数据填充了很多其他数字。

此外，如果我使用此代码将数据转换为 Python 列表，它会在分配步骤锁定计算机。

有没有办法从 C++ 数组中加载数据，然后将其转换为适合 scipy 的数组？

Answer 1

如果 Data 是 (c_double*DataLength.value) 数组，那么您可以:

a = np.frombuffer(Data) # no copy. Changes in `a` are reflected in `Data`

如果 Data 是一个 POINTER(c_double) 你可以使用 numpy.fromiter() 得到 numpy 数组.它与您的问题中的循环相同，但速度更快:

a = np.fromiter(Data, dtype=np.float, count=DataLength.value) # copy

要从 POINTER(c_double) 实例创建一个 numpy 数组而不复制，您可以使用 .from_address()方法:

ArrayType = ctypes.c_double*DataLength.value
addr = ctypes.addressof(Data.contents)
a = np.frombuffer(ArrayType.from_address(addr))

或者

array_pointer = ctypes.cast(Data, ctypes.POINTER(ArrayType))
a = np.frombuffer(array_pointer.contents)

这两种方法都将 POINTER(c_double) 实例转换为 (c_double*DataLength)，然后再将其传递给 numpy.frombuffer() .

基于 Cython 的解决方案

Is there anyway to load the data from the C++ array and then convert it to an array fit for scipy?

这是 Python 的 C 扩展模块(用 Cython 编写)，它以 C API 的形式提供转换函数:

cimport numpy as np
np.import_array() # initialize C API to call PyArray_SimpleNewFromData

cdef public api tonumpyarray(double* data, long long size) with gil:
    if not (data and size >= 0): raise ValueError
    cdef np.npy_intp dims = size
    #NOTE: it doesn't take ownership of `data`. You must free `data` yourself
    return np.PyArray_SimpleNewFromData(1, &dims, np.NPY_DOUBLE, <void*>data)

它可以与 ctypes 一起使用，如下所示:

from ctypes import (PYFUNCTYPE, py_object, POINTER, c_double, c_longlong,
                    pydll, CFUNCTYPE, c_bool, cdll)

import pointer2ndarray
tonumpyarray = PYFUNCTYPE(py_object, POINTER(c_double), c_longlong)(
    ("tonumpyarray", pydll.LoadLibrary(pointer2ndarray.__file__)))

@CFUNCTYPE(c_bool, POINTER(c_double), c_longlong)
def callback(data, size):
    a = tonumpyarray(data, size)
    # call scipy functions on the `a` array here
    return True

cpplib = cdll.LoadLibrary("call_callback.so") # your C++ lib goes here
cpplib.call_callback(callback)

call_callback 是:void call_callback(bool (*)(double *, long long)) .