• Python并发编程-并发解决方案概述


           Python并发编程-并发解决方案概述

                           作者:尹正杰

    版权声明:原创作品,谢绝转载!否则将追究法律责任。

    一.并发和并行区别

    1>.并行(parallel)

      同时做某些事,可以互不干扰的同一个时刻做几件事。

    2>.并发(concurrency)

      也是同时做某些事,但是强调,一个时间段内有多少事情要处理。

    3>.举例

      高速公路的车道,双向4车道,所有车辆(数据)可以互不干扰的在自己的车道上行驶(传输)。
    
      在同一时刻,每条车道上可能同时又车辆在跑,是同时发生的概念,这是并行。
      在一段时间内,又这么多车要通过,这是并发。

    二.并发的常见解决方案

    "食堂打饭模型":
        中午12点,开饭啦,大家都涌向食堂,这就是并发。如果人很多,就是高并发。

    1>.队列,缓冲区

      假设只有一个状况,陆续涌入食堂的人,排队大财是比较好的方式。
    
      所以,排队(队列)是一种天然解决并发的办法。
    
      排队就是把人排成队列,先进先出,解决了资源使用的问题。
    
      排成的队列,其实就是一个缓冲地带,就是缓冲区。
    
      假设女生优先,每次都从这个队伍中优先选出女生来打饭,这就是优先队列。
    
      例如Queue模块的类Queue,LifoQueue,PriorityQueue(小顶堆实现)。

    2>.争抢

      只开一个这状况,有可能没有秩序,也就是谁挤进去就给谁打饭。
    
      挤到窗口的人占据窗口,直到打到饭菜离开。
    
      其他人继续争抢,会有一个人占据着窗口,可以视为锁定窗口,窗口就不能为其他人提供服务了。这就是一种锁机制。
    
      谁抢到资源就上锁,排他性的独占锁,其他人只能等候。
    
      争抢也是一种高并发解决方案,但是,这样可能不好,因为有可能有人很长时间抢不到。

    3>.预处理

      其实排队不是问题,就算2万人拍成一队等吃饭,如果能10分钟搞定也行。问题就是并处并发的速度太慢了。
    
      经过分析发现,本食堂主要是打菜等候时间太长,因为每个人都是现场点菜现做。
    
      食堂可以提前统计大多数人最爱吃的菜品,将最爱吃的80%的热门菜,提前做好,保证供应,20%的冷门菜,现做。
    
      这样大多数人,就算不排队采用争抢的方式锁定窗口,也很快达到饭菜走了,快速释放窗口。
    
      这是以中国提前加载用户需要的数据的思路,预处理思想,缓存常用。

    4>.并行

      成百上千人同时来吃饭,一个队伍搞不定的,多开打饭窗口形成多个队列,如同开多个车道一样,并行打菜。
    
      开窗口就得扩大食堂,得多古人再窗口提供服务,造成成本上升。高速公路的多车道是并行方案,多车道提高了通信效率,但是也意味着建造维护成本也高了。
    
      日常可以通过购买更多服务器,或多开进程,线程实现并行处理,来解决并发问题。
    
      注意这些都是水平扩展的思想。并行是解决并发手段之一。
    
      温馨提示:
        如果线程在单CPU上处理,就不是真并行了。
        但是,现在多数服务器都是多CPU的,至少也是单颗多核CPU,服务的部署往往是多机的,分布式的,这都是并行处理。

    5>.提速

      提高单个窗口的打饭速度,也是解决并发的方式。
    
      打饭人员提高工作技能,或为单个窗口配更多的服务人员,都是提速的办法。
    
      提高单个CPU性能,或单个服务器安装更多CPU。
    
      这是一种垂直扩展思想。

    6>.消息中间件

      在北京的上地,西二旗地铁站外九曲回肠的走廊,缓冲人流,进去之后再多口安检进站。
    
      常见的消息中间件又RabbitMQ,ActiveMQ(Apache),RocketMQ(阿里),kafka(Apache)等。
    
      当然海域哦其它手段解决并发问题,但是已经例举出了常用的解决方案,一般来说不同的场景用不同的策略,而策略可能是多种方式的优化组合。
    
      例如开食堂(多地),也可以把食堂建设到宿舍生活区(就近原则),所以说,技术来源于生活。
  • 相关阅读:
    架构思维—软件架构—系统架构—系统—大局观、系统观(结构与秩序)、还原论(分与合)
    微核架构的本质是微核掌握了更多的上下文-----微核架构 = 整体上下文 + 配置组成
    spring mvc的工作流程
    @getMapping和@postMapping,@RestController
    springTransaction Management
    Architecture of Spring Framework
    Tomcat 6 —— Realm域管理
    Tomcat模型结构
    spring的启动过程
    ServletContext、webApplicationContext、DispatcherServlet与容器
  • 原文地址:https://www.cnblogs.com/yinzhengjie/p/11870417.html
Copyright © 2020-2023  润新知