python - 在 cython 中创建小数组需要大量时间

Question

当我遇到这个非常奇怪的行为时，我正在为 numpy 编写一个新的随机数生成器，它根据任意分布生成随机数:

这是test.pyx

#cython: boundscheck=False
#cython: wraparound=False
import numpy as np
cimport numpy as np
cimport cython

def BareBones(np.ndarray[double, ndim=1] a,np.ndarray[double, ndim=1] u,r):
    return u

def UntypedWithLoop(a,u,r):
    cdef int i,j=0
    for i in range(u.shape[0]):
        j+=i
    return u,j

def BSReplacement(np.ndarray[double, ndim=1] a, np.ndarray[double, ndim=1] u):
    cdef np.ndarray[np.int_t, ndim=1] r=np.empty(u.shape[0],dtype=int)
    cdef int i,j=0
    for i in range(u.shape[0]):
        j=i
    return r

设置.py

from distutils.core import setup
from Cython.Build import cythonize
setup(name = "simple cython func",ext_modules = cythonize('test.pyx'),)

分析代码

#!/usr/bin/python
from __future__ import division

import subprocess
import timeit

#Compile the cython modules before importing them
subprocess.call(['python', 'setup.py', 'build_ext', '--inplace'])

sstr="""
import test
import numpy
u=numpy.random.random(10)
a=numpy.random.random(10)
a=numpy.cumsum(a)
a/=a[-1]
r=numpy.empty(10,int)
"""

print "binary search: creates an array[N] and performs N binary searches to fill it:\n",timeit.timeit('numpy.searchsorted(a,u)',sstr)
print "Simple replacement for binary search:takes the same args as np.searchsorted and similarly returns a new array. this performs only one trivial operation per element:\n",timeit.timeit('test.BSReplacement(a,u)',sstr)

print "barebones function doing nothing:",timeit.timeit('test.BareBones(a,u,r)',sstr)
print "Untyped inputs and doing N iterations:",timeit.timeit('test.UntypedWithLoop(a,u,r)',sstr)
print "time for just np.empty()",timeit.timeit('numpy.empty(10,int)',sstr)

二分查找的执行顺序为len(u)*Log(len(a))。普通的 cython 函数按照 len(u) 的顺序运行。两者都返回 len(u) 的一维 int 数组。

然而，即使是这种无计算的简单实现也比 numpy 库中的完整二进制搜索花费的时间更长。 (它是用 C 编写的:https://github.com/numpy/numpy/blob/202e78d607515e0390cffb1898e11807f117b36a/numpy/core/src/multiarray/item_selection.c 参见 PyArray_SearchSorted)

结果是:

binary search: creates an array[N] and performs N binary searches to fill it:
1.15157485008
Simple replacement for binary search:takes the same args as np.searchsorted and similarly returns a new array. this performs only one trivial operation per element:
3.69442796707
barebones function doing nothing: 0.87496304512
Untyped inputs and doing N iterations: 0.244267940521
time for just np.empty() 1.0983929634

为什么 np.empty() 这一步要花这么多时间？我该怎么做才能得到一个我可以返回的空数组？

C 函数执行此操作并运行一大堆健全性检查并在内部循环中使用更长的算法。 (我从示例中删除了除循环本身之外的所有逻辑)

---

更新

事实证明有两个截然不同的问题:

1. 单独调用 np.empty(10) 会产生巨大的开销，并且花费的时间与 searchsorted 生成新数组并对其执行 10 次二进制搜索所花费的时间一样多
2. 仅声明缓冲区语法 np.ndarray[...] 也会产生巨大的开销，比接收未类型化变量并迭代 50 次要占用更多时间。

50 次迭代的结果:

binary search: 2.45336699486
Simple replacement:3.71126317978
barebones function doing nothing: 0.924916028976
Untyped inputs and doing N iterations: 0.316384077072
time for just np.empty() 1.04949498177

Answer 1

Cython 列表上对此进行了讨论，可能会提供一些有用的建议: https://groups.google.com/forum/#!topic/cython-users/CwtU_jYADgM

虽然我尝试在 Cython 之外分配小数组，但将它们传入并在后续调用该方法时重新使用它们。我知道这并不总是一个选项。