• python并发编程之多进程(实现)


    一、multipricessing模块的介绍

         python中的多线程无法利用多核优势,如果想要充分的使用多核CPU资源,在python中大部分情况下需要用多线程,python提供了multiprocessing模块

         multiprocessing模块用来开启子进程,并在子进程中执行我们的任务(比如函数),该模块与多线程模块threading类的编程接口类似。

      multiprocessing模块的功能众多:支持子进程、通信和共享数据,执行不同形式的同步,提供了Process类,Queue类,Pipe类,Lock类等组件

    二、Process模块的介绍

    基本格式:

    1 from multiprocessing import Process         #导入模块
    2 
    3 def func(x):                                #定义一个函数(等待开一个新线程执行的函数)
    4     print(x)
    5 
    6 if __name__ == '__main__':                  #windows下一定要加上这句话才能运行
    7     p = Process(target=func,args=('传参',)) #实例化一个进程,将函数名作为参数传递,将需要传给函数的参数(元组形式)传递
    8     p.start()                               #(通知操作系统)开启此进程

    通过类的方式调用:

    from multiprocessing import Process     #调用模块
    
    class MyProcess(Process):               #定义一个类,必须要继承Process类
        def __init__(self,name):            #如果需要参数,一定要有init方法
            super().__init__()              #如果有init方法,一定要调用父类的init方法
            self.name = name
    
        def run(self):                      #一定要实现一个run方法来重写父类的run
            print('子进程%s已开启'%self.name)
    
    if __name__ == '__main__':
        p = MyProcess('aaa')                #实例化一个自定义类的对象
        p.start()                           #开启进行

    参数介绍:

    target表示调用对象,既子进程要执行的任务
    args表示调用对象的位置参数元组,如:args=(1,)或者args=(1,2)
    kwargs表示调用对象的字典,如:kwargs={'name':'fuyong'}

    方法介绍:

    p.start()    启动进程,并且调用该子进程的run()方法
    p.run()      进程启动时运行的方法,正式它去调用target指定的函数,我们自定义类的话一定要实现该方法
    P.terminate()强制终止程序p,不会进行任何清理操作,如果p创建了子进程,那么该子进程就成了‘僵尸进程
                 使用此方法时要特别小心,如果p还保留了一个锁,那么锁也不会被释放,进而导致了死锁
    p.is_alive() 判断p是否还在运行,在运行返回True
    p.join()     如果加上此方法,那么主线程将等着此线程运行完毕之后才会运行

    属性介绍:

    p.daemon 默认值为False,如果设置为True,则代表后台运行的守护进程,当p的父进程终止时,p也会随之终止
    
    p.name 进程名
    
    p.pid 进程的pid

    三、守护进程

    主进程创建守护进程
    
      其一:守护进程会在主进程代码执行结束后就终止
    
      其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
    
    注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止
    
    
    
    设置守护进程的方法:
    
    p.daemon = True
    p.daemon 默认值为False,如果设置为True,则代表后台运行的守护进程,当p的父进程终止时,p也会随之终止

    四、进程同步(锁)

    进程之间数据不共享,但是共享同一套文件系统,所以访问同一个文件,或同一个打印终端,是没有问题的,

    而共享带来的是竞争,竞争带来的结果就是错乱,如何控制,就是加锁处理

    加锁方式:

    1、导入Lock类

    2、实例化一个锁   lock = Lock()

    3、将lock作为参数传给子进程函数

    4、函数在需要枷锁的代码前加上lock.acquire()方法,在需要释放锁的地方加上lock.release()方法

    五、队列

       进程彼此之间互相隔离,要实现进程间通信(IPC),multiprocessing模块支持两种形式:队列和管道,这两种方式都是使用消息传递的

    from multiprocessing import Queue
    
    q = Queue(3)  #限制最多放3个  如果超过3个则会堵塞,需要等待拿出去1个之后才能继续放
    
    q.put(1)      #放数据(可以放任何数据类型)
    q.put(2)      #放数据(可以放任何数据类型)
    q.put(3)      #放数据(可以放任何数据类型)
    
    print(q.get()) #拿数据
    print(q.get()) #拿数据
    print(q.get()) #拿数据
  • 相关阅读:
    搭建本地源
    shell中tar加密打包
    mysql出现ERROR 1819 (HY000)的解决方法
    mysql 创建用户及授权(2)
    mysql 创建用户及授权(1)
    Redis 工具 redis-port 使用
    mysql中 drop、truncate和delete的区别
    dlerror和dlclose用法
    dlsym用法
    dlopen用法
  • 原文地址:https://www.cnblogs.com/fu-yong/p/8412654.html
Copyright © 2020-2023  润新知