电商系统中进行流量控制

1. 概述

任意时间到来的请求往往是随机不可控的，而系统的处理能力是有限的。我们要根据系统的处理能力对流量进行控制。

流量控制的原理是监控应用的QPS或并发线程数等指标，当达到指定的阈值时对流量进行控制，以避免被瞬时的流量高峰冲垮，从而保障应用的高可用性

2. Sentinel简介

sentinel是面向分布式服务框架的轻量级流量控制框架,主要以流量为切入点,从流量控制,熔断降级,系统负载保护等多个维度来维护系统的稳定性

3. Sentinel流量控制简介

Sentinel 作为一个调配器，可以根据需要把随机的请求调整成合适的形状，如下图所示

流量控制有以下几个角度:

• 资源的调用关系，例如资源的调用链路，资源和资源之间的关系；

• 运行指标，例如 QPS、线程池、系统负载等；

• 控制的效果，例如直接限流、冷启动、排队等。

Sentinel 的设计理念是让您自由选择控制的角度，并进行灵活组合，从而达到想要的效果。

4. Sentinel流量控制功能的使用

接下来，以b2b2c电商系统Javashop为例，具体说明Sentinel流量控制功能的使用

 

1. pom.xml文件中引入依赖

   <dependency>
            <groupId>com.alibaba.csp</groupId>
            <artifactId>sentinel-transport-simple-http</artifactId>
            <version>1.8.0</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
            <version>0.2.0.RELEASE</version>
        </dependency>
        <dependency>
            <groupId>com.alibaba.csp</groupId>
            <artifactId>sentinel-spring-webmvc-adapter</artifactId>
            <version>1.8.0</version>
        </dependency>

2.application.yml加入sentinel配置

spring:
  cloud:
    sentinel:
      transport:
          #sentinel控制台地址（可有可无，不影响程序运行）
        dashboard: localhost:8080
sentinel:
  #true:限制所有资源  false:只限制resources下定义的资源
  limit-all: true
  #限流阈值，每秒钟限制的请求数
  count: 5
  #要限流的资源（若限制所有资源，此项配置无效）
  resources:
    - 'GET:/regions/{id}/children'
    - 'GET:/regions/depth/{depth}'

3.初始化限流规则

@Component
public class InitFlowRules implements ServletContextListener {

    @Autowired
    private RequestMappingHandlerMapping handlerMapping;
    @Autowired
    private SentinelConfig sentinelConfig;

    private final Logger logger = LoggerFactory.getLogger(this.getClass());

    @Override
    public void contextInitialized(ServletContextEvent sce) {
        List<String> resources = new ArrayList<>();


        //添加所有资源的规则
        if(sentinelConfig.isLimitAll()){
            Set<RequestMappingInfo> rmSet = handlerMapping.getHandlerMethods().keySet();
            for (RequestMappingInfo rm : rmSet) {
                try{
                    String path = rm.getPatternsCondition().toString();
                    String method = rm.getMethodsCondition().toString();
                    path = path.replace("[", "").replace("]", "");
                    method = method.replace("[", "").replace("]", "");
                    String resource = method + ":" + path;
                    resources.add(resource);
                }catch (Exception e){
                    e.printStackTrace();
                }
            }
        }else {
            resources = sentinelConfig.getResources();
        }

        if(!StringUtil.isNotEmpty(resources)){
            return;
        }

        List<FlowRule> rules = new ArrayList<>();
        Integer count = sentinelConfig.getCount();
        for(String resource : resources){
            FlowRule rule = new FlowRule();
            rule.setResource(resource);
            rule.setGrade(RuleConstant.FLOW_GRADE_QPS);
            rule.setCount(count);
            rules.add(rule);
            logger.info(resource);
        }
        FlowRuleManager.loadRules(rules);
    }

    @Override
    public void contextDestroyed(ServletContextEvent sce) {

    }
}

4.配置限流拦截器

@Configuration
public class SentinelWebMvcConfiguration implements WebMvcConfigurer {

    @Autowired
    private SentinelConfig sentinelConfig;


    @Override
    public void addInterceptors(InterceptorRegistry registry) {
        SentinelWebMvcConfig sentinelWebMvcConfig = new SentinelWebMvcConfig();
        //指定 请求方法 POST  GET 等等
        sentinelWebMvcConfig.setHttpMethodSpecify(true);
        //默认使用统一Web上下文   如果希望支持链路关系的流控策略则应该设置为false
        sentinelWebMvcConfig.setWebContextUnify(true);
        // 统一的 BlockException 处理  FlowException（BlockException） 会被 JVM 的 UndeclaredThrowableException 包裹一层  某种原因并不能捕获到异常
        sentinelWebMvcConfig.setBlockExceptionHandler(new DefaultBlockExceptionHandler());
        // 用来标识来源 可针对性的对特定客户端的请求进行流控   limitApp
//        sentinelWebMvcConfig.setOriginParser(request -> {
//            String remoteAddr = "default";
//            try {
//                remoteAddr = getIpAddress(request);
//            } catch (IOException e) {
//                e.printStackTrace();
//            }
//            return remoteAddr;
//        });
 //       sentinelWebMvcConfig.setOriginParser(request -> request.getParameter("app"));

        //对原始的URL进行处理，比如去掉锚点之类的    /foo/bar?a=3#title  ->   /foo/bar?a=3
//        sentinelWebMvcConfig.setUrlCleaner( );
        registry.addInterceptor(new SentinelWebInterceptor(sentinelWebMvcConfig)).addPathPatterns("/**");
    }

}

5.限流全局异常处理

public class DefaultBlockExceptionHandler implements BlockExceptionHandler {

    @Override
    public void handle(HttpServletRequest httpServletRequest, HttpServletResponse httpServletResponse, BlockException e) throws Exception {
        httpServletResponse.setStatus(500);
        httpServletResponse.setHeader("Content-Type", "application/json;charset=utf-8");
        httpServletResponse.getWriter().print("{"code":"500","message":"请求被限制，请稍后重试"}");
        httpServletResponse.getWriter().flush();
    }
}