【Distributed】限流技巧

• 一、概述
  • 1.1 高并发服务限流特技
  • 1.2 为什么要互联网项目要限流
  • 1.3 高并发限流解决方案
• 二、限流算法
  • 2.1 计数器
  • 2.2 滑动窗口计数
  • 2.3 令牌桶算法
    • 使用RateLimiter实现令牌桶限流
  • 2.4 漏桶算法
• 三、应用级限流
  • 3.1 限流总并发/连接/请求数
  • 3.2 限流某个接口的总并发/请求数
  • 3.3 限流某个接口的时间窗请求数
  • 3.4 接入层限流

一、概述

1.1 高并发服务限流特技

• 在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流。
• 缓存的目的是提升系统访问速度和增大系统能处理的容量，可谓是抗高并发流量的银弹
• 而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉，待高峰或者问题解决后再打开；
• 而有些场景并不能用缓存和降级来解决，比如稀缺资源（秒杀、抢购）、写服务（如评论、下单）、频繁的复杂查询（评论的最后几页），因此需有一种手段来限制这些场景的并发/请求量，即限流。

1.2 为什么要互联网项目要限流

• 互联网雪崩效应解决方案:
• 服务降级: 在高并发的情况， 防止用户一直等待，直接返回一个友好的错误提示给客户端。
• 服务熔断：在高并发的情况，一旦达到服务最大的承受极限，直接拒绝访问，使用服务降级。
• 服务隔离: 使用服务隔离方式解决服务雪崩效应
  
• 服务限流: 在高并发的情况，一旦服务承受不了使用服务限流机制（计时器（滑动窗口计数）、 漏桶算法、令牌桶（Restlimite））

1.3 高并发限流解决方案

• 高并发限流解决方案限流算法(令牌桶、漏桶、计数器)、应用层解决限流（Nginx）

二、限流算法

• 常见的限流算法有：令牌桶、漏桶。计数器也可以进行粗暴限流实现。

2.1 计数器

• 它是限流算法中最简单最容易的一种算法，比如我们要求某一个接口，1分钟内的请求不能超过10次，我们可以在开始时设置一个计数器，每次请求，该计数器+1；如果该计数器的值大于10并且与第一次请求的时间间隔在1分钟内，那么说明请求过多，如果该请求与第一次请求的时间间隔大于1分钟，并且该计数器的值还在限流范围内，那么重置该计数器

限流-计数器

/**
 * 功能说明: 纯手写计数器方式<br>
 */
public class LimitService {
    
    private int limtCount = 60;// 限制最大访问的容量
    AtomicInteger atomicInteger = new AtomicInteger(0); // 每秒钟 实际请求的数量
    private long start = System.currentTimeMillis();// 获取当前系统时间
    private int interval = 60;// 间隔时间60秒
    
    public boolean acquire() {
        long newTime = System.currentTimeMillis();
        if (newTime > (start + interval)) {
            // 判断是否是一个周期
            start = newTime;
            atomicInteger.set(0); // 清理为0
            return true;
        }
        atomicInteger.incrementAndGet();// i++;
        return atomicInteger.get() <= limtCount;
    }
    
    static LimitService limitService = new LimitService();
    
    public static void main(String[] args) {

    ExecutorService newCachedThreadPool = Executors.newCachedThreadPool();
    for (int i = 1; i < 100; i++) {
        final int tempI = i;
        newCachedThreadPool.execute(new Runnable() {

            public void run() {
                if (limitService.acquire()) {
                    System.out.println("你没有被限流,可以正常访问逻辑 i:" + tempI);
                } else {
                    System.out.println("你已经被限流呢  i:" + tempI);
                }
            }
        });
    }
}
}

2.2 滑动窗口计数

• 滑动窗口计数有很多使用场景，比如说限流防止系统雪崩。相比计数实现，滑动窗口实现会更加平滑，能自动消除毛刺。
• 滑动窗口原理是在每次有访问进来时，先判断前 N 个单位时间内的总访问量是否超过了设置的阈值，并对当前时间片上的请求数 +1。

限流-滑动窗口

2.3 令牌桶算法

• 令牌桶算法是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌。令牌桶算法的描述如下：
• 假设限制2r/s，则按照500毫秒的固定速率往桶中添加令牌；桶中最多存放b个令牌，当桶满时，新添加的令牌被丢弃或拒绝；当一个n个字节大小的数据包到达，将从桶中删除n个令牌，接着数据包被发送到网络上；如果桶中的令牌不足n个，则不会删除令牌，且该数据包将被限流（要么丢弃，要么缓冲区等待）。

限流-令牌桶算法

使用RateLimiter实现令牌桶限流

• RateLimiter是guava提供的基于令牌桶算法的实现类，可以非常简单的完成限流特技，并且根据系统的实际情况来调整生成token的速率。
• 通常可应用于抢购限流防止冲垮系统；限制某接口、服务单位时间内的访问量，譬如一些第三方服务会对用户访问量进行限制；限制网速，单位时间内只允许上传下载多少字节等。
• 下面来看一些简单的实践，需要先引入guava的maven依赖。

<parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.0.0.RELEASE</version>
    </parent>
    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>25.1-jre</version>
        </dependency>
    </dependencies> 

/**
 * 功能说明:使用RateLimiter 实现令牌桶算法
 * 
 */
@RestController
public class IndexController {
    @Autowired
    private OrderService orderService;
    // 解释：1.0 表示 每秒中生成1个令牌存放在桶中
    RateLimiter rateLimiter = RateLimiter.create(1.0);

// 下单请求
@RequestMapping("/order")
public String order() {
    // 1.限流判断
    // 如果在500秒内 没有获取不到令牌的话，则会一直等待
    System.out.println("生成令牌等待时间:" + rateLimiter.acquire());
    boolean acquire = rateLimiter.tryAcquire(500, TimeUnit.MILLISECONDS);
    if (!acquire) {
        System.out.println("你在怎么抢，也抢不到，因为会一直等待的，你先放弃吧！");
        return "你在怎么抢，也抢不到，因为会一直等待的，你先放弃吧！";
    }

    // 2.如果没有达到限流的要求,直接调用订单接口
    boolean isOrderAdd = orderService.addOrder();
    if (isOrderAdd) {
        return "恭喜您,抢购成功!";
    }
    return "抢购失败!";
}

}
  

2.4 漏桶算法

• 漏桶作为计量工具（The Leaky Bucket Algorithm as a Meter）时，可以用于流量整形（Traffic Shaping）和流量控制（TrafficPolicing），漏桶算法的描述如下：
• 一个固定容量的漏桶，按照常量固定速率流出水滴；
• 如果桶是空的，则不需流出水滴；可以以任意速率流入水滴到漏桶；
• 如果流入水滴超出了桶的容量，则流入的水滴溢出了（被丢弃），而漏桶容量是不变的。
• 令牌桶和漏桶对比：
• 令牌桶是按照固定速率往桶中添加令牌，请求是否被处理需要看桶中令牌是否足够，当令牌数减为零时则拒绝新的请求；
• 漏桶则是按照常量固定速率流出请求，流入请求速率任意，当流入的请求数累积到漏桶容量时，则新流入的请求被拒绝；
• 令牌桶限制的是平均流入速率（允许突发请求，只要有令牌就可以处理，支持一次拿3个令牌，4个令牌），并允许一定程度突发流量；
• 漏桶限制的是常量流出速率（即流出速率是一个固定常量值，比如都是1的速率流出，而不能一次是1，下次又是2），从而平滑突发流入速率；
• 令牌桶允许一定程度的突发，而漏桶主要目的是平滑流入速率；
• 两个算法实现可以一样，但是方向是相反的，对于相同的参数得到的限流效果是一样的。
• 另外有时候我们还使用计数器来进行限流，主要用来限制总并发数，比如数据库连接池、线程池、秒杀的并发数；只要全局总请求数或者一定时间段的总请求数设定的阀值则进行限流，是简单粗暴的总数量限流，而不是平均速率限流。

限流-漏桶算法

三、应用级限流

3.1 限流总并发/连接/请求数

• 对于一个应用系统来说一定会有极限并发/请求数，即总有一个TPS/QPS阀值，如果超了阀值则系统就会不响应用户请求或响应的非常慢，因此我们最好进行过载保护，防止大量请求涌入击垮系统。
• 如果你使用过Tomcat，其Connector其中一种配置有如下几个参数：
• acceptCount：如果Tomcat的线程都忙于响应，新来的连接会进入队列排队，如果超出排队大小，则拒绝连接；
• maxConnections：瞬时最大连接数，超出的会排队等待；
• maxThreads：Tomcat能启动用来处理请求的最大线程数，如果请求处理量一直远远大于最大线程数则可能会僵死。
• 详细的配置请参考官方文档。另外如MySQL（如max_connections）、Redis（如tcp-backlog）都会有类似的限制连接数的配置。
• 限流总资源数
• 如果有的资源是稀缺资源（如数据库连接、线程），而且可能有多个系统都会去使用它，那么需要限制应用；可以使用池化技术来限制总资源数：连接池、线程池。比如分配给每个应用的数据库连接是100，那么本应用最多可以使用100个资源，超出了可以等待或者抛异常。

3.2 限流某个接口的总并发/请求数

• 如果接口可能会有突发访问情况，但又担心访问量太大造成崩溃，如抢购业务；这个时候就需要限制这个接口的总并发/请求数总请求数了；因为粒度比较细，可以为每个接口都设置相应的阀值。可以使用Java中的AtomicLong进行限流：
• 适合对业务无损的服务或者需要过载保护的服务进行限流，如抢购业务，超出了大小要么让用户排队，要么告诉用户没货了，对用户来说是可以接受的。而一些开放平台也会限制用户调用某个接口的试用请求量，也可以用这种计数器方式实现。这种方式也是简单粗暴的限流，没有平滑处理，需要根据实际情况选择使用；

3.3 限流某个接口的时间窗请求数

• 即一个时间窗口内的请求数，如想限制某个接口/服务每秒/每分钟/每天的请求数/调用量。如一些基础服务会被很多其他系统调用，比如商品详情页服务会调用基础商品服务调用，但是怕因为更新量比较大将基础服务打挂，这时我们要对每秒/每分钟的调用量进行限速

3.4 接入层限流

• 接入层通常指请求流量的入口，该层的主要目的有：负载均衡、非法请求过滤、请求聚合、缓存、降级、限流、A/B测试、服务质量监控等等。
• 对于Nginx接入层限流可以使用Nginx自带了两个模块：连接数限流模块ngx_http_limit_conn_module和漏桶算法实现的请求限流模块ngx_http_limit_req_module。还可以使用OpenResty提供的Lua限流模块lua-resty-limit-traffic进行更复杂的限流场景。
• limit_conn用来对某个KEY对应的总的网络连接数进行限流，可以按照如IP、域名维度进行限流。limit_req用来对某个KEY对应的请求的平均速率进行限流，并有两种用法：平滑模式（delay）和允许突发模式(nodelay)。