• 延时队列


    参考书籍:《redis深度历险:核心原理与应用实践》

    这节延时队列就是乘着上节的锁冲突处理的延时队列来的。

    但是在此之前我要讲一下我们如何编辑python文件,因为总是写在命令行不能保存代码,也不能修改。

    我们可以先vi  文件名.py这样就创建了一个.py文件

    然后我们到这个文件所在的位置打开这个文件就可以编辑了

    保存后在命令行到达文件所在的位置输入python 文件名.py就运行了刚才编辑的python代码

     redis的消息队列不是专业的消息队列,它没有非常多的高级特性,没有ack保证,如果对消息的可靠性有着极致的追求,那么它就不适合使用。

    redis的list数据结构常用来作为异步消息队列使用,客户端是通过队列的pop操作来获取消息然后进行处理。处理完了再接着获取消息,再进行处理,如此迭代,这就是作为队列消费者的客户端声明周期。但是如果队列空了,客户端会陷入pop的死循环,会浪费时间与空间。队列延迟指令可以有效的解决这一情况。blpop、brpop,这两个指令的前缀b代表的是blocking,也就是阻塞读。阻塞读在队列没有数据的时候会进入休眠状态,一旦数据到来,则立刻醒过来。消息延迟几乎为零。但是这里有一个问题,线程一直阻塞在那里,redis的客户端连接闲置太久,服务器一般会主动断开连接,减少闲置资源占用。这时blpop、brpop会抛出异常,所以编写客户端消费者的时候要小心,注意捕获异常,还要重试。

    延时队列可以通过redis的zset(有序列表)来实现。我们将消息序列化一个字符串作为zset的value这个消息的到期时间作为score,然后用多个线程轮询zset获取到期的任务进行处理,多个线程是为了保障可用性,万一挂了一个线程还有其他线程可以继续处理。因为有多个线程,所以需要考虑并发争抢任务,确保任务不能被多次执行。

    def delay(msg):
        msg.id=str(uuid.uuid4())
        value=json.dumps(msg)
        retry_ts=time.time()+5
        redis.zadd("delay-queue",retry_ts,value)
    
    
    def loop():
        while True:
            values=redis.zrangebyscore("delay-queue",0,time.time(),start=0,num=1)
            if not value:
                time.sleep(1)
                continue
            value=values[0]
    
            success=redis.zrem("delay-queue",value)
            if success:
                msg=json.loads(value)
                handle_msg(msg)

    redis的zrem方法是多线程多进程争抢任务的关键,它的返回值决定了当前实例有没有抢到任务,因为loop方法可能会被多个进程多个线程调用,同一个任务可能会被多个进程线程抢到,通过zrem来决定唯一的属主。同时我们要注意对handle_msg进行异常捕获,避免因为个别任务处理问题导致循环异常退出。

  • 相关阅读:
    反射、面向对象(基础篇)
    配置文件
    模块补充 、迭代器和 生成器
    模块
    正则表达式
    冒泡排序、递归和简单装饰器
    使用Apache Archiva管理Maven仓库
    AppScan9.0.3.5漏洞扫描记录
    Linux环境下安装Websphere8.5.5
    如何排查网络通讯状况
  • 原文地址:https://www.cnblogs.com/fromzore/p/10034229.html
Copyright © 2020-2023  润新知