python - 并行dask for循环比常规循环慢？

Question

如果我尝试使用 dask 并行化 for 循环，它最终会比常规版本执行得慢。基本上，我只是按照 dask 教程中的介绍性示例进行操作，但由于某种原因，它最终失败了。我究竟做错了什么？

In [1]: import numpy as np
   ...: from dask import delayed, compute
   ...: import dask.multiprocessing

In [2]: a10e4 = np.random.rand(10000, 11).astype(np.float16)
   ...: b10e4 = np.random.rand(10000, 11).astype(np.float16)

In [3]: def subtract(a, b):
   ...:     return a - b

In [4]: %%timeit
   ...: results = [subtract(a10e4, b10e4[index]) for index in range(len(b10e4))]
1 loop, best of 3: 10.6 s per loop

In [5]: %%timeit
   ...: values = [delayed(subtract)(a10e4, b10e4[index]) for index in range(len(b10e4)) ]
   ...: resultsDask = compute(*values, get=dask.multiprocessing.get)
1 loop, best of 3: 14.4 s per loop

Answer 1

两个问题:

Dask 为每个任务引入了大约一毫秒的开销。您需要确保您的计算花费的时间比这长得多。

使用多处理调度程序时，数据在进程之间被序列化，这可能非常昂贵。见 http://dask.pydata.org/en/latest/setup.html