参考书籍:《redis深度历险:核心原理与应用实践》
这节延时队列就是乘着上节的锁冲突处理的延时队列来的。
但是在此之前我要讲一下我们如何编辑python文件,因为总是写在命令行不能保存代码,也不能修改。
我们可以先vi 文件名.py这样就创建了一个.py文件
然后我们到这个文件所在的位置打开这个文件就可以编辑了
保存后在命令行到达文件所在的位置输入python 文件名.py就运行了刚才编辑的python代码
redis的消息队列不是专业的消息队列,它没有非常多的高级特性,没有ack保证,如果对消息的可靠性有着极致的追求,那么它就不适合使用。
redis的list数据结构常用来作为异步消息队列使用,客户端是通过队列的pop操作来获取消息然后进行处理。处理完了再接着获取消息,再进行处理,如此迭代,这就是作为队列消费者的客户端声明周期。但是如果队列空了,客户端会陷入pop的死循环,会浪费时间与空间。队列延迟指令可以有效的解决这一情况。blpop、brpop,这两个指令的前缀b代表的是blocking,也就是阻塞读。阻塞读在队列没有数据的时候会进入休眠状态,一旦数据到来,则立刻醒过来。消息延迟几乎为零。但是这里有一个问题,线程一直阻塞在那里,redis的客户端连接闲置太久,服务器一般会主动断开连接,减少闲置资源占用。这时blpop、brpop会抛出异常,所以编写客户端消费者的时候要小心,注意捕获异常,还要重试。
延时队列可以通过redis的zset(有序列表)来实现。我们将消息序列化一个字符串作为zset的value这个消息的到期时间作为score,然后用多个线程轮询zset获取到期的任务进行处理,多个线程是为了保障可用性,万一挂了一个线程还有其他线程可以继续处理。因为有多个线程,所以需要考虑并发争抢任务,确保任务不能被多次执行。
def delay(msg): msg.id=str(uuid.uuid4()) value=json.dumps(msg) retry_ts=time.time()+5 redis.zadd("delay-queue",retry_ts,value) def loop(): while True: values=redis.zrangebyscore("delay-queue",0,time.time(),start=0,num=1) if not value: time.sleep(1) continue value=values[0] success=redis.zrem("delay-queue",value) if success: msg=json.loads(value) handle_msg(msg)
redis的zrem方法是多线程多进程争抢任务的关键,它的返回值决定了当前实例有没有抢到任务,因为loop方法可能会被多个进程多个线程调用,同一个任务可能会被多个进程线程抢到,通过zrem来决定唯一的属主。同时我们要注意对handle_msg进行异常捕获,避免因为个别任务处理问题导致循环异常退出。