• python多进程apply与apply_async的区别


    进程池Pool中的apply方法与apply_async的区别

    1. apply方法是阻塞的。
      意思就是等待当前子进程执行完毕后,在执行下一个进程。
      例如:


       
      image.png

      执行结果如下:


       
      image.png

      因为apply是阻塞的,所以进入子进程执行后,等待当前子进程执行完毕,在继续执行下一个进程。
      例如:
      有三个进程0,1,2。等待子进程0执行完毕后,在执行子进程1,然后子进程2,最后回到主进程执行主进程剩余部分,就像上面的执行结果一样。
      相当于:
       
      image.png

      这样好像跟单进程串行执行没什么区别了。

    2. apply_async 是异步非阻塞的。
      意思就是:不用等待当前进程执行完毕,随时根据系统调度来进行进程切换。
      例如:


       
      image.png

      执行结果如下:


       
      image.png

      完全没有等待子进程执行完毕,主进程就已经执行完毕,并退出程序。
    为什么会这样呢?

    因为进程的切换是操作系统来控制的,抢占式的切换模式。
    我们首先运行的是主进程,cpu运行很快啊,这短短的几行代码,完全没有给操作系统进程切换的机会,主进程就运行完毕了,整个程序结束。子进程完全没有机会切换到程序就已经结束了。

    apply是阻塞式的。

    首先主进程开始运行,碰到子进程,操作系统切换到子进程,等待子进程运行结束后,在切换到另外一个子进程,直到所有子进程运行完毕。然后在切换到主进程,运行剩余的部分。

    apply_async是异步非阻塞式的。

    首先主进程开始运行,碰到子进程后,主进程说:让我先运行个够,等到操作系统进行进程切换的时候,在交给子进程运行。以为我们的程序太短,然而还没等到操作系统进行进程切换,主进程就运行完毕了。

    想要子进程执行,就告诉主进程:你等着所有子进程执行完毕后,在运行剩余部分。


     
    image.png

    画红圈的地方及时我们要告诉主进程,你等着所有子进程运行完毕后在运行剩余部分。

    注意:close必须在join前调用。
    运行结果如下:
     
    image.png

    你看,因为apply_async是异步非阻塞式,不用等待当前进程执行完毕,随时跟进操作系统调度来进行进程切换。
    进程0没有执行完,就切换到进程1开始执行,进程1没有执行完,就切换到进程2,然后在切换回去。等待所有子进程运行完毕后,最后切换回主进程,执行剩余部分。

    异步非阻塞式:

    总耗时:3秒多。我们每个子进程休眠3秒,正因为是异步非阻塞式的,不用等待当前运行的子进程执行完毕,随时根据系统调度来进行进程切换。基本上主进程和三个子进程,四个进程是同时运行的。

    阻塞式:

    总耗时:9秒多。以为是阻塞式,需要等待当前子进程执行完毕后,在执行下一个子进程。每个子进程休眠3秒,三个子进程休眠9秒。基本上主进程加上子进程,四个进程就相当于在单进程中串行执行的。

    python官方建议:废弃apply,使用apply_async。




  • 相关阅读:
    二,redis常用的数据类型--list
    一,redis常用的数据类型--String
    redis连接超时--Exception in thread "main" redis.clients.jedis.exceptions.JedisConnectionException: Failed connecting to host xxxxx:6379
    Contos 7.5下搭建elasticsearch-7.6.2
    java List中相同的数据合并到一起
    booststrap select2的应用总结
    jquery和bootstrap获取checkbox选中的多行数据
    哈利法克斯(Halifax),布里格斯(Briggs)计算对数的方法-1620年
    Opencv实现频域理想滤波器
    CIELab颜色模型概述
  • 原文地址:https://www.cnblogs.com/wr13640959765/p/9428245.html
Copyright © 2020-2023  润新知