- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我有一些自动生成 C 函数的 Python 代码。此函数将一些 double 作为输入并返回一个 double ,并在此过程中调用 C 标准库中的各种函数。
我想用它做的一件事是将它编译成一个 numpy ufunc 并将它加载到正在运行的 Python 进程中。我只希望该函数以合理的速度在其输入 numpy 数组上按元素运行,例如 numpy 的 minimum
。
令我惊讶的是,我找不到明确的说明或示例如何执行此操作。 Numpy 有关于编写扩展的明确说明,但不清楚如何将它们加载到当前的 Python 进程中。使用 ctypes 我可以编译我的函数并加载它,没问题,但不清楚如何使它成为一个 ufunc 而不是一个普通的 Python 函数。 Cython 也可以做到这一点,如果我使用 pyximport
,它甚至会为我构建共享库,这是理想的,因为这样我就可以分发它而不必担心如何在另一个系统上构建 C 代码。但是同样不清楚如何制作 ufunc 而不是普通函数。
TL;DR:我怎样才能将一个简单的 C 函数编译成一个 ufunc,然后动态加载它?越简单,样板越少越好。
最佳答案
一个想法可能是将 numba 用于 creating ufuncs和 cffi用于编译 C 代码。
例如,如果我们想将 numpy 数组中每个元素的值加倍,即将以下 C 函数作为字符串:
double f(double a){
return 2.0*a;
}
一个可能的解决方案是以下原型(prototype):
import numba as nb
import cffi
def create_ufunc(code):
# 1. step: compile the C-code and load the resulting extension
ffibuilder = cffi.FFI()
ffibuilder.cdef("double f(double a);", override=True)
built_module=ffibuilder.verify(source=code)
fun = built_module.f
# 2. step: create an ufunc out of the compiled C-function
@nb.vectorize([nb.float64(nb.float64)])
def f(x):
return fun(x)
return f
现在:
import numpy as np
a=np.arange(6).astype(np.float64)
my_f1=create_ufunc("double f(double a){return 2.0*a;}")
my_f1(a)
# array([ 0., 2., 4., 6., 8., 10.])
或者如果我们想乘以 10.0
:
my_f2=create_ufunc("double f(double a){return 10.0*a;}")
# array([ 0., 10., 20., 30., 40., 50.])
显然,在展示可能性的同时,这个原型(prototype)还需要一些润色。例如虽然紧凑, verify
已弃用并调用 create_ufunc
两次使用相同的代码将导致警告。
另一个问题:尽管 cffi-functions are supported by numba 没有在 nopython 模式下编译以上版本。 .不确定这里出了什么问题?请参阅下面的解决方法:以 nopython 模式构建的更复杂的版本。
但是,这可能仍然是一个很好的起点。
如果我们使用 out-of-line,似乎可以在 nopython 模式下编译 numba ( compile
) 而不是 in-line ( verify
) API 模式:
import numba as nb
import cffi
import zlib
import importlib
import numba.cffi_support as nbcffi
def create_ufunc(code):
# 1. step: compile the C-code and load the resulting extension
# create a different so/dll for different codes
# and load it
module_name="myufunc"+str(zlib.adler32(code.encode('ascii')))
ffibuilder = cffi.FFI()
ffibuilder.cdef("double f(double a);", override=True)
ffibuilder.set_source(module_name=module_name,source=code)
ffibuilder.compile(verbose=True)
loaded = importlib.import_module(module_name)
# 2. step: create an ufunc out of the compiled C-function
# out-of-line modules must be registered in numba:
nbcffi.register_module(loaded)
fun = loaded.lib.f
@nb.vectorize([nb.float64(nb.float64)], nopython=True)
def f(x):
return fun(x)
return f
重要细节:
code
都有一个新的扩展名(so/pyd 文件) .我们通过传递的 code
的哈希值来区分它们.myufuncXXXX.so
- 周围的文件,可以考虑实现类似于 cffi.verify
使用的基础设施.ffibuilder.compile(verbose=True)
仅用于调试目的,可能是 verbose=False
在发布时更有意义。关于python - 如何将 C 函数编译成 numpy ufunc 并动态加载它?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52950083/
作为脚本的输出,我有 numpy masked array和标准numpy array .如何在运行脚本时轻松检查数组是否为掩码(具有 data 、 mask 属性)? 最佳答案 您可以通过 isin
我的问题 假设我有 a = np.array([ np.array([1,2]), np.array([3,4]), np.array([5,6]), np.array([7,8]), np.arra
numpy 是否有用于矩阵模幂运算的内置实现? (正如 user2357112 所指出的,我实际上是在寻找元素明智的模块化减少) 对常规数字进行模幂运算的一种方法是使用平方求幂 (https://en
我已经在 Numpy 中实现了这个梯度下降: def gradientDescent(X, y, theta, alpha, iterations): m = len(y) for i
我有一个使用 Numpy 在 CentOS7 上运行的项目。 问题是安装此依赖项需要花费大量时间。 因此,我尝试 yum install pip install 之前的 numpy 库它。 所以我跑:
处理我想要旋转的数据。请注意,我仅限于 numpy,无法使用 pandas。原始数据如下所示: data = [ [ 1, a, [, ] ], [ 1, b, [, ] ], [ 2,
numpy.random.seed(7) 在不同的机器学习和数据分析教程中,我看到这个种子集有不同的数字。选择特定的种子编号真的有区别吗?或者任何数字都可以吗?选择种子数的目标是相同实验的可重复性。
我需要读取存储在内存映射文件中的巨大 numpy 数组的部分内容,处理数据并对数组的另一部分重复。整个 numpy 数组占用大约 50 GB,我的机器有 8 GB RAM。 我最初使用 numpy.m
处理我想要旋转的数据。请注意,我仅限于 numpy,无法使用 pandas。原始数据如下所示: data = [ [ 1, a, [, ] ], [ 1, b, [, ] ], [ 2,
似乎 numpy.empty() 可以做的任何事情都可以使用 numpy.ndarray() 轻松完成,例如: >>> np.empty(shape=(2, 2), dtype=np.dtype('d
我在大型 numpy 数组中有许多不同的形式,我想使用 numpy 和 scipy 计算它们之间的边到边欧氏距离。 注意:我进行了搜索,这与堆栈中之前的其他问题不同,因为我想获得数组中标记 block
我有一个大小为 (2x3) 的 numpy 对象数组。我们称之为M1。在M1中有6个numpy数组。M1 给定行中的数组形状相同,但与 M1 任何其他行中的数组形状不同。 也就是说, M1 = [ [
如何使用爱因斯坦表示法编写以下点积? import numpy as np LHS = np.ones((5,20,2)) RHS = np.ones((20,2)) np.sum([ np.
假设我有 np.array of a = [0, 1, 1, 0, 0, 1] 和 b = [1, 1, 0, 0, 0, 1] 我想要一个新矩阵 c 使得如果 a[i] = 0 和 b[i] = 0
我有一个形状为 (32,5) 的 numpy 数组 batch。批处理的每个元素都包含一个 numpy 数组 batch_elem = [s,_,_,_,_] 其中 s = [img,val1,val
尝试为基于文本的多标签分类问题训练单层神经网络。 model= Sequential() model.add(Dense(20, input_dim=400, kernel_initializer='
首先是一个简单的例子 import numpy as np a = np.ones((2,2)) b = 2*np.ones((2,2)) c = 3*np.ones((2,2)) d = 4*np.
我正在尝试平均二维 numpy 数组。所以,我使用了 numpy.mean 但结果是空数组。 import numpy as np ws1 = np.array(ws1) ws1_I8 = np.ar
import numpy as np x = np.array([[1,2 ,3], [9,8,7]]) y = np.array([[2,1 ,0], [1,0,2]]) x[y] 预期输出: ar
我有两个数组 A (4000,4000),其中只有对角线填充了数据,而 B (4000,5) 填充了数据。有没有比 numpy.dot(a,b) 函数更快的方法来乘(点)这些数组? 到目前为止,我发现
我是一名优秀的程序员,十分优秀!