• 分布式限流策略


    以下只是一家之言:

      分布式限流和单机限流在本质上没有太多区别,只不过依赖的数据结构和数据要放在类似 redis 这种支持分布式存储的存储容器上

      redis 本身单线程对于办法请求的安全性,和基于内存和CPU的高效性 使得 他成为分布式存储容器的不二之选

      

    1. 单窗口限流

      即是简单的按时间单位计数,时间单位过完之后计数归零。比如说时间单位是 1 秒钟,并且限制这一秒钟 里的请求次数最多是 100 次,也就是 100 QPS

      那么在这一秒里,如果请求数超过 100,多出的请求将被抛弃。

      但是实际上,比如在 3分 58秒, 如果 100 个请求都在 58 秒的 最后的 1 ms 发给服务器,然后在 3 分 59 秒的前 1ms 又要 100 个请求发给 服务器,这些请求都是在允许范围之内的,实际上,58秒前半秒 和 59秒后半秒 这一秒 里就有 200 次请求打向服务器并且被接受, 和预期的100 QPS 限制不同。

    2. 粒度减小: 滑动窗口限流(多窗口法),假设将 1 秒 分成 5份,并且每秒最多接受 500 次请求

    做法是用一个 N 大小的 数组,实现滑动窗口,每个位置代表 200 ms(1s / 5),每个格子中的元素 代表该 200 ms 中请求的 处理次数

    当 count ,也就是总请求数 大于 500, 就限流。图中的指针每 200 ms 移动一次,并且移动到下一位置会把该位置上的数清理掉,并且从 count 上减掉,因为这个位置上的请求数已经是一秒前的数据了。

    清空出来的位置重新被使用,用来计请求数。

      

       

    就算有请求聚集的现象,假如红色深色部分代表 100 次请求,因为是聚集在 200 ms 为单位的两个格子里,所以相当于 400 ms 处理了 200 次请求

    3.令牌桶,提供服务方 根据自己的自身清空向桶中投放令牌,服务调用方只有从桶中得到令牌,才能真正调用到服务方,如果得不到,就会返回失败错误。

    具体令牌桶 可以用消息队列等支持分布式的中间件实现,或者直接嵌入到服务方代码中,视具体清空而定。

    4.漏斗桶。让服务方处理请求的速度从之前的 山脉连连,到平原走马,达到削峰填谷的效果。

     

  • 相关阅读:
    Flask 的 请求扩展 与 中间件
    Flask的配置文件 与 session
    django中的FBV和CBV
    Flask开启多线程、多进程
    WPF获取原始控件样式
    一个40岁老码农的总结,奋斗没有意义,选择大于努力
    FastText 分析与实践
    Flask的多app应用,多线程如何体现
    Python 远程调用MetaSploit
    GitLab 7.5.3 CentOS7安装和SMTP配置
  • 原文地址:https://www.cnblogs.com/lqlqlq/p/14052877.html
Copyright © 2020-2023  润新知