Python進程池Pool應(yīng)用實例分析
本文實例講述了Python進程池Pool應(yīng)用。分享給大家供大家參考,具體如下:
當(dāng)需要創(chuàng)建的子進程數(shù)量不多時,可以直接利用multiprocessing中的Process動態(tài)成生多個進程,但如果是上百甚至上千個目標(biāo),手動的去創(chuàng)建進程的工作量巨大,此時就可以用到multiprocessing模塊提供的Pool方法。
初始化Pool時,可以指定一個最大進程數(shù),當(dāng)有新的請求提交到Pool中時,如果池還沒有滿,那么就會創(chuàng)建一個新的進程用來執(zhí)行該請求;但如果池中的進程數(shù)已經(jīng)達(dá)到指定的最大值,那么該請求就會等待,直到池中有進程結(jié)束,才會用之前的進程來執(zhí)行新的任務(wù),請看下面的實例:
# -*- coding:utf-8 -*-
from multiprocessing import Pool
import os, time, random
def worker(msg):
t_start = time.time()
print("%s開始執(zhí)行,進程號為%d" % (msg,os.getpid()))
# random.random()隨機生成0~1之間的浮點數(shù)
time.sleep(random.random()*2)
t_stop = time.time()
print(msg,"執(zhí)行完畢,耗時%0.2f" % (t_stop-t_start))
po = Pool(3) # 定義一個進程池,最大進程數(shù)3
for i in range(0,10):
# Pool().apply_async(要調(diào)用的目標(biāo),(傳遞給目標(biāo)的參數(shù)元祖,))
# 每次循環(huán)將會用空閑出來的子進程去調(diào)用目標(biāo)
po.apply_async(worker,(i,))
print("----start----")
po.close() # 關(guān)閉進程池,關(guān)閉后po不再接收新的請求
po.join() # 等待po中所有子進程執(zhí)行完成,必須放在close語句之后
print("-----end-----")
運行結(jié)果:
----start----
0開始執(zhí)行,進程號為21466
1開始執(zhí)行,進程號為21468
2開始執(zhí)行,進程號為21467
0 執(zhí)行完畢,耗時1.01
3開始執(zhí)行,進程號為21466
2 執(zhí)行完畢,耗時1.24
4開始執(zhí)行,進程號為21467
3 執(zhí)行完畢,耗時0.56
5開始執(zhí)行,進程號為21466
1 執(zhí)行完畢,耗時1.68
6開始執(zhí)行,進程號為21468
4 執(zhí)行完畢,耗時0.67
7開始執(zhí)行,進程號為21467
5 執(zhí)行完畢,耗時0.83
8開始執(zhí)行,進程號為21466
6 執(zhí)行完畢,耗時0.75
9開始執(zhí)行,進程號為21468
7 執(zhí)行完畢,耗時1.03
8 執(zhí)行完畢,耗時1.05
9 執(zhí)行完畢,耗時1.69
-----end-----
multiprocessing.Pool常用函數(shù)解析:
- apply_async(func[, args[, kwds]]) :使用非阻塞方式調(diào)用func(并行執(zhí)行,堵塞方式必須等待上一個進程退出才能執(zhí)行下一個進程),args為傳遞給func的參數(shù)列表,kwds為傳遞給func的關(guān)鍵字參數(shù)列表;
- close():關(guān)閉Pool,使其不再接受新的任務(wù);
- terminate():不管任務(wù)是否完成,立即終止;
- join():主進程阻塞,等待子進程的退出, 必須在close或terminate之后使用;
進程池中的Queue
如果要使用Pool創(chuàng)建進程,就需要使用multiprocessing.Manager()中的Queue(),而不是multiprocessing.Queue(),否則會得到一條如下的錯誤信息:
RuntimeError: Queue objects should only be shared between processes through inheritance.
下面的實例演示了進程池中的進程如何通信:
# -*- coding:utf-8 -*-
# 修改import中的Queue為Manager
from multiprocessing import Manager,Pool
import os,time,random
def reader(q):
print("reader啟動(%s),父進程為(%s)" % (os.getpid(), os.getppid()))
for i in range(q.qsize()):
print("reader從Queue獲取到消息:%s" % q.get(True))
def writer(q):
print("writer啟動(%s),父進程為(%s)" % (os.getpid(), os.getppid()))
for i in "itcast":
q.put(i)
if __name__=="__main__":
print("(%s) start" % os.getpid())
q = Manager().Queue() # 使用Manager中的Queue
po = Pool()
po.apply_async(writer, (q,))
time.sleep(1) # 先讓上面的任務(wù)向Queue存入數(shù)據(jù),然后再讓下面的任務(wù)開始從中取數(shù)據(jù)
po.apply_async(reader, (q,))
po.close()
po.join()
print("(%s) End" % os.getpid())
運行結(jié)果:
(11095) start
writer啟動(11097),父進程為(11095)
reader啟動(11098),父進程為(11095)
reader從Queue獲取到消息:i
reader從Queue獲取到消息:t
reader從Queue獲取到消息:c
reader從Queue獲取到消息:a
reader從Queue獲取到消息:s
reader從Queue獲取到消息:t
(11095) End
更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python進程與線程操作技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進階經(jīng)典教程》、《Python+MySQL數(shù)據(jù)庫程序設(shè)計入門教程》及《Python常見數(shù)據(jù)庫操作技巧匯總》
希望本文所述對大家Python程序設(shè)計有所幫助。
相關(guān)文章
Django獲取該數(shù)據(jù)的上一條和下一條方法
今天小編就為大家分享一篇Django獲取該數(shù)據(jù)的上一條和下一條方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
pytorch中Transformer進行中英文翻譯訓(xùn)練的實現(xiàn)
本文主要介紹了pytorch中Transformer進行中英文翻譯訓(xùn)練的實現(xiàn),詳細(xì)闡述了使用PyTorch實現(xiàn)Transformer模型的代碼實現(xiàn)和訓(xùn)練過程,具有一定參考價值,感興趣的可以了解一下2023-08-08

