- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我有这样的程序:
from multiprocessing import Pool
import time
def f(x):
# I make a heavy code here to take time
for i in range(10000):
for i in range(10000):
pass #do nothing
print x #print x
if __name__ == '__main__':
pool = Pool(processes=4)
pool.map(f, range(10))
r = pool.map_async(f, range(10))
# DO STUFF
print 'HERE'
print 'MORE'
r.wait()
print 'Done'
据我所知,pool.map
会按顺序返回,而 pool.map_async
不会。我试图弄清楚它们之间的区别,但我还没有弄清楚。
实际上,我已经阅读了一些帖子,例如:Python multiprocessing : map vs map_async
但我还是很困惑。我的问题是:
1 3 2 0 4 6 5 7 8 9 HERE MORE 1 0 3 2 5 4 6 7 8 9 Done
我希望 pool.map
会按顺序返回输出,但它没有!那么,为什么它没有按顺序返回呢?还是我误解了函数?
pool.map
被调用时,主要的(下面的代码,比如r = pool.map_async(f, range(10));
打印'这里';
打印“更多”
正在继续运行。所以我希望数字之间印有“这里”和“更多”,我的意思是像 3 2 0 4 6 HERE 5 7 8 9 1 0 3 2 MORE 5 4 6 7 8 9 Done
但它以其他方式发生了。为什么它没有按预期运行?
如果我注释重代码,f
函数现在就是:
def f(x):
打印x
然后这两个函数将按顺序返回输出(我尝试运行了很多次,它总是打印相同的结果。那么,为什么它在有/没有重代码时表现不同。
如有任何帮助,我们将不胜感激。谢谢。
最佳答案
from multiprocessing import Pool
import time
def f(x):
# I make a heavy code here to take time
for i in range(10000):
for i in range(10000):
pass #do nothing
print x
return x
if __name__ == '__main__':
pool = Pool(processes=4)
print pool.map(f, range(10))
r = pool.map_async(f, range(10))
# DO STUFF
print 'HERE'
print 'MORE'
r.wait()
print 'Done'
print r.get()
pool.map_async
不会阻止您的脚本,而 pool.map
会(如 quikst3r 所述)。我稍微调整了您的脚本以使其更具说明性。如您所见,最终结果都是有序的,除了在启动 pool.map_async
之后还会执行后续代码。输出是:
1
3
0
2
4
5
7
6
8
9
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
HERE
MORE
3
2
1
0
5
4
6
7
8
9
Done
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
由于作业分配的开销和 cpu 的单独负载,打印顺序很难确定。
关于python - Pool.map 与 Pool.map_async,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/39843216/
我有一个关于 map_async 的有趣问题,我无法弄清楚。 我正在使用带有进程池的 python 多处理库。我正在尝试传递要比较的字符串列表和要与使用 map_async() 的函数进行比较的字符串
我按预期使用map_async - 使用以下方法将可迭代映射到多个处理核心: cores = mp.cpu_count() pool = mp.Pool() r = pool.map_async(fu
我想跳过从 map_async 返回的结果.它们在内存中增长,但我不需要它们。 这是一些代码: def processLine(line): #process something pr
我有一个通过话语解析器运行的 80,000 个字符串的列表,为了提高这个过程的速度,我一直在尝试使用 python 多处理包。 解析器代码需要 python 2.7,我目前正在使用字符串的子集在 2
我使用 iPython 的并行处理工具进行大 map 操作。在等待 map 操作完成时,我想向用户显示有多少作业已完成,有多少正在运行,还有多少剩余。我怎样才能找到这些信息? 这是我的工作。我创建了一
我有以下功能 from multiprocessing import Pool def do_comparison(tupl): x, y = tupl # unpack arguments
调试代码花了我一晚上的时间,终于发现了这个棘手的问题。请看下面的代码。 from multiprocessing import Pool def myfunc(x): return [i fo
使用map和map_async有什么区别?将列表中的项目分配给 4 个进程后,它们是否运行相同的功能? 那么假设两者都异步且并行运行是错误的吗? def f(x): return 2*x p=P
在处理由 pool.map 调用的函数内的数据时,我遇到了非常奇怪的问题。例如,以下代码按预期工作... import csv import multiprocessing import iterto
阅读 multiprocessing.Pool doc我知道 map_async 和 apply_async 是 map 和 appy 的两个版本,应该更快,但是不保证输入的处理顺序与提供的顺序相同。
我正在尝试运行一个与 pool.apply_async 配合得很好的胖函数 现在,我正在尝试 pool.map_async 函数(使用 functools.partial 方法传递了 2 个参数),程
我正在将 800,000 行表读入数据帧。然后,我循环遍历每一列和列中的每一行,以收集统计信息,例如最大长度、最小长度、最大值、不同值等。 我可以使用 SLURM 访问 32 核计算,因此我想使用 p
尝试围绕执行 map_async() 的函数编写一些单元测试手术。更具体地说,我想确认在某个进程中发生异常时某些文件会被清理。下面提供了具有意图的示例伪代码。 foo.py def write_chu
我似乎无法在使用 map_async() 时让我的回调工作。当我使用稍微修改过的代码来循环遍历我的数组时,它会通过 apply_async() 添加任务。从文档看来我应该能够将回调与 map_asyn
我尝试在 python 中将多处理包与池一起使用。 我有一个由 map_async 函数调用的函数 f: from multiprocessing import Pool def f(host, x)
我想要一个长时间运行的进程通过队列(或类似的东西)返回它的进度,我将把它提供给进度条对话框。当过程完成时,我还需要结果。此处的测试示例失败并出现 RuntimeError: Queue objects
我这里有一个奇怪的问题。 我有一个 python 程序,它执行保存在单独的 .py 文件中的代码,这些代码被设计为依次执行,一个接一个。这些代码工作正常,但运行时间太长。我的计划是使用 multipr
因此,我正在开发一个应用程序,每次启动时都必须根据哈希列表检查约 50 GB 的数据。显然这需要并行化,我不希望应用程序在“正在加载...”屏幕上挂起一分半钟。 我正在使用 multiprocessi
我有这样的程序: from multiprocessing import Pool import time def f(x): # I make a heavy code here to take t
下面的代码在 Unix 上完美运行,但在 Windows 7 上生成一个 multiprocessing.TimeoutError(两个操作系统都使用 python 2.7)。 知道为什么吗?谢谢。
我是一名优秀的程序员,十分优秀!