个人中心
gpt4 book ai didi

Python 多进程并发操作中进程池Pool的实例

转载 作者：qq735679552 更新时间：2022-09-28 22:32:09 25 4
gpt4 key购买 nike

CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章Python 多进程并发操作中进程池Pool的实例由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.

在利用Python进行系统管理的时候，特别是同时操作多个文件目录，或者远程控制多台主机，并行操作可以节约大量的时间。当被操作对象数目不大时，可以直接利用multiprocessing中的Process动态成生多个进程，10几个还好，但如果是上百个，上千个目标，手动的去限制进程数量却又太过繁琐，这时候进程池Pool发挥作用的时候就到了.

Pool可以提供指定数量的进程，供用户调用，当有新的请求提交到pool中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到规定最大值，那么该请求就会等待，直到池中有进程结束，才会创建新的进程来它。这里有一个简单的例子:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
#!/usr/bin/env python
#coding=utf-8
"""
Author: Squall
Last modified: 2011-10-18 16:50
Filename: pool.py
Description: a simple sample for pool class
"""
 
from multiprocessing import Pool
from time import sleep
 
def f(x):
   for i in range(10):
     print '%s --- %s ' % (i, x)
     sleep(1)
 
 
def main():
   pool = Pool(processes=3)  # set the processes max number 3
   for i in range(11,20):
     result = pool.apply_async(f, (i,))
   pool.close()
   pool.join()
   if result.successful():
     print 'successful'
 
 
if __name__ == "__main__":
   main()

先创建容量为3的进程池，然后将f(i)依次传递给它，运行脚本后利用ps aux | grep pool.py查看进程情况，会发现最多只会有三个进程执行。pool.apply_async()用来向进程池提交目标请求，pool.join()是用来等待进程池中的worker进程执行完毕，防止主进程在worker进程结束前结束。但必pool.join()必须使用在pool.close()或者pool.terminate()之后。其中close()跟terminate()的区别在于close()会等待池中的worker进程执行结束再关闭pool,而terminate()则是直接关闭。result.successful()表示整个调用执行的状态，如果还有worker没有执行完，则会抛出AssertionError异常.

利用multiprocessing下的Pool可以很方便的同时自动处理几百或者上千个并行操作，脚本的复杂性也大大降低.

—————————————————————————————————— 。

Python多进程并发(multiprocessing) 。

由于Python设计的限制(我说的是咱们常用的CPython)。最多只能用满1个CPU核心.

Python提供了非常好用的多进程包multiprocessing，你只需要定义一个函数，Python会替你完成其他所有事情。借助这个包，可以轻松完成从单进程到并发执行的转换.

1、新建单一进程 。

如果我们新建少量进程，可以如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
import multiprocessing
import time
 
def func(msg):
for i in xrange(3):
print msg
time.sleep(1)
 
if __name__ == "__main__":
p = multiprocessing.Process(target=func, args=("hello", ))</
p.start()
p.join()
print "Sub-process done."

2、使用进程池 。

是的，你没有看错，不是线程池。它可以让你跑满多核CPU，而且使用方法非常简单.

注意要用apply_async，如果落下async，就变成阻塞版本了.

processes=4是最多并发进程数量.

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
import
multiprocessing
import
time
 
def
func(msg):
   for
i
in
xrange(3):
     print
msg
     time.sleep(1)
 
if
__name__
==
"__main__":
   pool
=
multiprocessing.Pool(processes=4)
   for
i
in
xrange(10):
     msg
=
"hello
  %d"
%(i)
     pool.apply_async(func,
(msg,
))
   pool.close()
   pool.join()
   print
"Sub-process(es)
  done."

3、使用Pool，并需要关注结果 。

更多的时候，我们不仅需要多进程执行，还需要关注每个进程的执行结果，如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
import multiprocessing
 
import time
 
 
 
def func(msg):
 
for i in xrange(3):
 
print msg
 
time.sleep(1)
 
return "done " + msg
 
 
 
if __name__ == "__main__":
 
pool = multiprocessing.Pool(processes=4)
 
result = []
 
for i in xrange(10):
 
msg = "hello %d" %(i)
 
result.append(pool.apply_async(func, (msg, )))
 
pool.close()
 
pool.join()
 
for res in result:
 
print res.get()
 
print "Sub-process(es) done."

2014.12.25更新 。

根据网友评论中的反馈，在Windows下运行有可能崩溃(开启了一大堆新窗口、进程)，可以通过如下调用来解决:

?
1
multiprocessing.freeze_support()

简易worker multiprocessing.Pool 。

多任务模型设计是一个比较复杂的逻辑，但是python对于多任务的处理却有种种方便的类库，不需要过多的纠结进程/线程间的操作细节。比如multiprocessing.Pool就是其中之一.

官方给的范例也很简单.

?
1
2
3
4
5
6
7
8
9
10
from multiprocessing import Pool
 
def f(x):
   return x*x
 
if __name__ == '__main__':
   pool = Pool(processes=4)       # start 4 worker processes
   result = pool.apply_async(f, [10])  # evaluate "f(10)" asynchronously
   print result.get(timeout=1)      # prints "100" unless your computer is *very* slow
   print pool.map(f, range(10))     # prints "[0, 1, 4,..., 81]"

并未做太多的详细解释。正好我手头有一段代码，需要请求几百个url，解析html页面获取一些信息，单线程for循环效率极低，因此看到了这个模块，想用这个实现多任务分析，参考代码如下:

?
1
2
3
4
5
6
7
8
9
from multiprocessing import Pool
 
def analyse_url(url):
   #do something with this url
   return analysis_result
 
if __name__ == '__main__':
   pool = Pool(processes=10)
   result = pool.map(analyse_url, url_list)

确实比以前单线程for循环url_list列表，一个个请求analyse_url要快得多，但是带来的问题就是一旦pool.map没执行完就ctrl-c中断程序，程序就会异常，永远无法退出，参考stackoverflow的这个帖子，修改为以下代码

?
1
2
#result = pool.map(analyse_url, url_list)
result = pool.map_async(analyse_url, url_list).get(120)

至此问题完美解决.

以上这篇Python 多进程并发操作中进程池Pool的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我.

原文链接：http://blog.csdn.net/tao01230/article/details/46302053 。

最后此篇关于Python 多进程并发操作中进程池Pool的实例的文章就讲到这里了,如果你想了解更多关于Python 多进程并发操作中进程池Pool的实例的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。

25 4 0
文章推荐： 2020版Python学习路线图(附学习资料)
文章推荐： Python安装Numpy和matplotlib的方法(推荐)
文章推荐： python 3.0 模拟用户登录功能并实现三次错误锁定
文章推荐： 为MySQL安装配置代理工具Kingshard的基本教程
qq735679552
个人简介

我是一名优秀的程序员,十分优秀！

滴滴打车优惠券免费领取
滴滴打车优惠券
全站热门文章
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com