multiprocessing 英 /mʌltɪ'prəʊsesɪŋ/ n. [计][通信] 多重处理
1、multiprocessing 模块介绍
python中的多线程无法利用多核优势,如果想要充分地使用多核CPU的资源(os.cpu\_count()查看),在python中大部分情况需要使用多进程。
Python提供了multiprocessing。 multiprocessing模块用来开启子进程,并在子进程中执行我们定制的任务(比如函数),该模块与多线程模块threading的编程接口类似。multiprocessing模块的功能众多:支持子进程、通信和共享数据、执行不同形式的同步,>提供了Process、Queue、Pipe、Lock等组件。
需要再次强调的一点是:与线程不同,进程没有任何共享状态,进程修改的数据,改动仅限于该进程内。
2、Process类的介绍
创建进程的类:
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,可用来开启一个子进程 强调: 1. 需要使用关键字的方式来指定参数
2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
group参数未使用,值始终为None target表示调用对象,即子进程要执行的任务 args表示调用对象的位置参数元组,args=(1,2,'egon',) kwargs表示调用对象的字典,kwargs={'name':'egon','age':18} name为子进程的名称
方法介绍:
p.start():启动进程,并调用该子进程中的p.run()
p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
p.is_alive():如果p仍然运行,返回True
p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间。
属性介绍:
p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
p.name:进程的名称
p.pid:进程的pid
3、Process类的使用
注意:在windows中Process()必须放到# if __name__=='__main__':下:
创建并开启子进程的方式一:
方式一 from multiprocessing import Process import time,random def task(name): print(f"{name} is running") time.sleep(3) print(f"{name} is done") if __name__ == '__main__': # target表示调用对象,即子进程要执行的任务 # args 表示调用对象的位置参数元组,args = (1,2,) # name 位子进程的名称 实例化对象 p = Process(target=task,args=('子进程1',)) # 初始化对象 p.start() # 仅仅只是给操作系统发送一个信号 print('主进程') #----------------------------------------------------------- 主 子进程1 is running 子进程1 is done
创建并开启子进程的方式二:
import time import random from multiprocessing import Process class MyProcess(Process): def __init__(self,name): self.name = name super().__init__() self.name = name def run(self): print(f"{self.name} is running") time.sleep(random.randrange(1,3)) print(f"{self.name} id done") if __name__ == '__main__': p = MyProcess('子进程1') p.start() print('主')
4、练习题
4.1、思考开启进程的方式一和方式二各开启了几个进程?
一个主进程,一个子进程
4.2、进程之间的内存空间是共享的还是隔离的?下述代码的执行结果是什么?
from multiprocessing import Process n=100 #在windows系统中应该把全局变量定义在if __name__ == '__main__'之上就可以了 def work(): global n n=0 print('子进程内: ',n) if __name__ == '__main__': p=Process(target=work) p.start() print('主进程内: ',n)
输出:
主进程内: 100
子进程内: 0
4.3、基于多进程实现并发的套接字通信?
客户端:
import socket phone = socket.socket(socket.AF_INET,socket.SOCK_STREAM) phone.connect(('127.0.0.1',8080)) while True: msg = input('>>>').strip() if not msg:continue phone.send(msg.encode('utf-8')) # send 发给操作系统了 data = phone.recv(1024) print(data.decode('utf-8')) phone.close()
服务端:
import socket from multiprocessing import Process #由该类实例化得到的对象,可用来开启一个子进程 def talk(conn): while True: try: data = conn.recv(10240).decode('utf-8') print(data) conn.send(data.upper().encode('utf-8')) except Exception as e: print(e) break def server(ip_port): Server = socket.socket(socket.AF_INET, socket.SOCK_STREAM) Server.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1) # 解决端口占用情况,操作系统回收端口慢 Server.bind(('127.0.0.1', 8080)) Server.listen(5) while True: conn,addr = Server.accept() p = Process(target=talk, args=(conn,)) p.start() Server.close() if __name__ == '__main__': ip_port = ('127.0.0.1',8080) server(ip_port)
4.4、思考每来一个客户端,服务器就开启一个新的进程来服务它,这种实现方式有无问题?
这种实现方式会造成占用过多的系统资源。