• day38——多进程Manager、进程池


    强大的Manage
    上一篇的数据共享的方式只有两种结构Value和Array。Python中提供了强大的Manage专门用来做数据共享的,其支持的类型非常多,包括,Value, Array,list,dict, Queue, Lock等。

     1 from multiprocessing import Process, Manager
     2 def func(dt, lt):
     3     for i in range(10):
     4         key = 'arg' + str(i)
     5         dt[key] = i * i
     6 
     7     lt += range(11, 16)
     8 if __name__ == "__main__":
     9     manager = Manager()
    10     dt = manager.dict()
    11     lt = manager.list()
    12 
    13     p = Process(target=func, args=(dt, lt))
    14     p.start()
    15     p.join()
    16     print(dt)
    17     print(lt)
    18 
    19 输出结果:
    20 {'arg8': 64, 'arg9': 81, 'arg0': 0, 'arg1': 1, 'arg2': 4, 'arg3': 9, 'arg4': 16, 'arg5': 25, 'arg6': 36, 'arg7': 49}
    21 [11, 12, 13, 14, 15]

    进程池

    Pool可以提供指定数量的进程,供用户调用,当有新的请求提交到pool中时,如果池还没有满,那么就会创建一个新的进程用来执行该请求;但如果池中的进程数已经达到规定最大值,那么该请求就会等待,直到池中有进程结束,才会创建新的进程。

    例子

     1 import multiprocessing
     2 import time
     3 def fun(msg):
     4     print("############start######{0}".format(msg))
     5     time.sleep(3)
     6     print("########end########{0}".format(msg))
     7 
     8 if __name__=="__main__":
     9     pool = multiprocessing.Pool(processes=3)
    10     for i in xrange(1,6):
    11         msg = "hell{0}".format(i)
    12         pool.apply_async(fun,(msg,))
    13     print("#########start main########")
    14     pool.close()
    15     pool.join()
    16     #调用join之前,先调用close函数,否则会出错。执行完close后不会有新的进程加入到pool,join函数等待所有子进程结束
    17     print("#########end main##############")
    18 
    19 输出结果:
    20 ########start main########
    21 ############start######hell1
    22 ############start######hell2
    23 ############start######hell3
    24 ########end########hell1
    25 ############start######hell4
    26 ########end########hell2
    27 ############start######hell5
    28 ########end########hell3
    29 ########end########hell4
    30 ########end########hell5
    31 #########end main##############

    进程池
    阻塞和非阻塞的区别:

    Pool.apply_async 非阻塞,定义的进程池进程最大数可以同时执行。

    Pool.apply 一个进程结束,释放回进程池,下一个进程才可以开始

  • 相关阅读:
    python3 爬虫继续爬笔趣阁 ,,,,,,,
    sql server 能按照自己规定的字段顺序展示
    文件下载功能django+js
    Django 实现文件下载
    队列,循环队列,乒乓队列区别
    文件系统常用操作(df, du)
    Raw与ProRes Raw(二、深入挖掘)
    图片格式入门(RAW, TIFF, JPEG)
    什么是ProRes Raw?(一、管中窥豹)
    linux的top命令分析
  • 原文地址:https://www.cnblogs.com/yangjinbiao/p/8030413.html
Copyright © 2020-2023  润新知