• 协程


    1.引子

    为什么有协程? 是为了使用单线程实现并发(多个任务看起来是同时运行的)的效果 , 即只用一个主线程(很明显可利用的cpu只有一个)情况下实现并发

    回顾下并发的本质:切换+保存状态

    多道技术
        切换+保存状态
        CPU两种切换
            1.程序遇到io
            2.程序长时间占用
    
    """
    进程 : 资源单位
    线程 : 执行单位
    协程 : 这个概念完全是程序员自己意淫出来的根本不存在
             单线程下实现并发
             我们程序员自己再代码层面上检测我们所有的Io操作
            旦遇到ro了我们在代码级别完成切换
            这样给CPU的感觉是你这个程序一直在运行没有Io
            从而提升程序的运行效率
            
    代码如何做到
    	切换+保存状态
    
    切换
    	切换不一定是提升效率也有可能是降低效率
    	io切         提升
    	没有io切   降低
    
    保存状态
    	保存上一次我执行的状态  下一次来接着上一次的操作继续往后执行
    	yield
    """
    

    通过我们自己写的代码 , 让我们的代码自动切换 , 用我们自己写的代码监听IO , 一旦遇到IO代码层面自动切换 , 给cpu的感觉是你一直在忙 , 欺骗cpu

    2.什么是协程

    """
    协程:是单线程下的并发,又称微线程,纤程。英文名Coroutine。
    一句话说明什么是协程:协程是一种用户态的轻量级线程,即协程是由用户程序自己控制调度的。
    """
    

    强调

    #1. python的线程属于内核级别的,即由操作系统控制调度(如单线程遇到io或执行时间过长就会被迫交出cpu执行权限,切换其他线程运行)
    
    #2. 单线程内开启协程,一旦遇到io,就会从应用程序级别(而非操作系统)控制切换,以此来提升效率(!!!非io操作的切换与效率无关)
    

    协程的优缺点

    #1. 协程的切换开销更小,属于程序级别的切换,操作系统完全感知不到,因而更加轻量级
    #2. 单线程内就可以实现并发的效果,最大限度地利用cpu
    
    #1. 协程的本质是单线程下,无法利用多核,可以是一个程序开启多个进程,每个进程内开启多个线程,每个线程内开启协程
    #2. 协程指的是单个线程,因而一旦协程出现阻塞,将会阻塞整个线程
    

    协程的特点

    1.必须在只有一个单线程里实现并发
    2.修改共享数据不需加锁
    3.用户程序里自己保存多个控制流的上下文栈
    

    既然要我们自己写的代码监听IO , 那怎么使用代码监听IO操作呢?gevent模块已经帮你封装好了

    3.gevent模块

    pip3 install gevent
    

    Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。

    #用法
    g1=gevent.spawn(func,1,,2,3,x=4,y=5)创建一个协程对象g1,spawn括号内第一个参数是函数名,如eat,后面可以有多个参数,可以是位置实参或关键字实参,都是传给函数eat的
    
    g2=gevent.spawn(func2)
    
    g1.join() #等待g1结束
    
    g2.join() #等待g2结束
    
    #或者上述两步合作一步:gevent.joinall([g1,g2])
    
    g1.value#拿到func1的返回值
    

    但是gevent只能检测自己模块下的一些io操作 , 无法检测一些常见的IO操作, 比如time.sleep() , sock.accept() , 需要使用者自己在前面加上一行代码

    举例 :

    from gevent import monkey;monkey.patch_all()  # 这是必须要加的一句话from gevent import spawnimport timedef heng():    print('哼')    # 模拟io    time.sleep(2)    print('哼')def ha():    print('哈')    # 模拟io    time.sleep(3)    print('哈')start_time = time.time()g1 = spawn(heng)  # 会监测heng函数里面的io操作,异步提交任务g2 = spawn(ha)g1.join()  # 等待被监测的任务执行完毕后再往后继续执行g2.join()# print(time.time()-start_time)   # 同步 5.017256021499634print(time.time() - start_time)  # 3.0250768661499023
    

    spawn监测两个任务的时候 , 首先会打印print('哼') . 然后瞬间要time.sleep(2) , 然后程序立马跳到ha() , 打印一个 print('哈') , 然后又瞬间要time.sleep(3) , 然后程序要切换回去 , 切换过去还是在睡 , 再切回来 , 来来回回一直在切换 , cpu的感知是你还在用我 , 然后直到2秒过去 , 再打印

    再加一个任务

    from gevent import monkey;monkey.patch_all()from gevent import spawnimport timedef heng():    print('哼')    # 模拟io    time.sleep(2)    print('哼')def ha():    print('哈')    # 模拟io    time.sleep(3)    print('哈')def heiheihei():    print('嘿嘿嘿')    # 模拟io    time.sleep(5)    print('嘿嘿嘿')start_time = time.time()g1 = spawn(heng)  # 会监测heng函数里面的io操作,异步提交任务g2 = spawn(ha)g3 = spawn(heiheihei)g1.join()  # 等待被监测的任务执行完毕后再往后继续执行g2.join()g3.join()print(time.time() - start_time)  # 5.014261245727539
    

    切换 + 保存状态 , 从而提升单线程下的cpu的利用率 , 开发项目也不需要你写这样的代码 , 做一个理论了解

    4.协程实现tcp并发

    服务端

    from gevent import monkey;monkey.patch_all()from gevent import spawnimport socket# 进行通信的任务函数def communication(conn):    while 1:        try:            msg = conn.recv(1024)            if not msg: break            print(msg.decode())            conn.send(msg.upper())        except Exception:            pass    conn.close()# 一直提供服务的任务函数def server(ip, port):    server_sock = socket.socket()    server_sock.bind((ip, port))    server_sock.listen(5)    while 1:        conn, addr = server_sock.accept()        spawn(communication, conn)if __name__ == '__main__':    g1 = spawn(server, '127.0.0.1', 8080)  # accept 和 recv一直在切换    g1.join()
    

    客户端

    from threading import Thread, current_threadimport socketdef x_client():    sock = socket.socket()    sock.connect(('127.0.0.1', 8080))    n = 0    while 1:        msg = f"{current_thread().name} say hello {n}"        n += 1        sock.send(msg.encode())        data = sock.recv(1024)        print(data.decode())if __name__ == '__main__':    for i in range(400):        t = Thread(target=x_client)        t.start()
    
  • 相关阅读:
    你应该掌握的七种回归技术
    jar包运行
    Spark常见问题汇总,spark相关错误和解决方法,,,,,,,,,
    shell把字符串中的字母去掉,只保留数字
    excel求和结果不对
    Matlab实现PCA
    Spring3.0 AOP 具体解释
    POJ 1422 Air Raid(二分图匹配最小路径覆盖)
    TCP、UDP和HTTP
    2014世界互联网乌镇峰会 马云演讲实录
  • 原文地址:https://www.cnblogs.com/xcymn/p/15721376.html
Copyright © 2020-2023  润新知