• 如何提升springboot服务吞吐量


    背景

    生产环境偶尔会有一些慢请求导致系统性能下降,吞吐量下降,下面介绍几种优化建议。

    方案

    1、undertow替换tomcat

    电子商务类型网站大多都是短请求,一般响应时间都在100ms,这时可以将web容器从tomcat替换为undertow,下面介绍下步骤:

    1、增加pom配置

    <dependency>            <groupid>org.springframework.boot</groupid>            <artifactid>spring-boot-starter-web</artifactid>            <exclusions>                <exclusion>                    <groupid>org.springframework.boot</groupid>                    <artifactid>spring-boot-starter-tomcat</artifactid>                </exclusion>            </exclusions>        </dependency><dependency>            <groupid>org.springframework.boot</groupid>            <artifactid>spring-boot-starter-undertow</artifactid>        </dependency>

    2、增加相关配置

    server:  undertow:    direct-buffers: true    io-threads: 4    worker-threads: 160复制代码

    重新启动可以在控制台看到容器已经切换为undertow了

    2、缓存

    将部分热点数据或者静态数据放到本地缓存或者redis中,如果有需要可以定时更新缓存数据

    3、异步

    在代码过程中我们很多代码都不需要等返回结果,也就是部分代码是可以并行执行,这个时候可以使用异步,最简单的方案是使用springboot提供的@Async注解,当然也可以通过线程池来实现,下面简单介绍下异步步骤。

    1、pom依赖 一般springboot引入web相关依赖就行

    <dependency>            <groupid>org.springframework.boot</groupid>            <artifactid>spring-boot-starter-web</artifactid>        </dependency>

    2、在启动类中增加@EnableAsync注解

    @EnableAsync@SpringBootApplicationpublic class AppApplication{    public static void main(String[] args)    {        SpringApplication.run(AppApplication.class, args);    }}

    3、需要时在指定方法中增加@Async注解,如果是需要等待返回值,则demo如下

     @Async    public Future<string> doReturn(int i){        try {            // 这个方法需要调用500毫秒            Thread.sleep(500);        } catch (InterruptedException e) {            e.printStackTrace();        }        // 消息汇总        return new AsyncResult<>("异步调用");    }

    4、如果有线程变量或者logback中的mdc,可以增加传递

    import org.slf4j.MDC;import org.springframework.context.annotation.Configuration;import org.springframework.core.task.TaskDecorator;import org.springframework.scheduling.annotation.AsyncConfigurerSupport;import org.springframework.scheduling.annotation.EnableAsync;import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;import java.util.Map;import java.util.concurrent.Executor;/** * @Description: */@EnableAsync@Configurationpublic class AsyncConfig extends AsyncConfigurerSupport {    @Override    public Executor getAsyncExecutor() {        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();        executor.setTaskDecorator(new MdcTaskDecorator());        executor.initialize();        return executor;    }}class MdcTaskDecorator implements TaskDecorator {    @Override    public Runnable decorate(Runnable runnable) {        Map<string, string> contextMap = MDC.getCopyOfContextMap();        return () -> {            try {                MDC.setContextMap(contextMap);                runnable.run();            } finally {                MDC.clear();            }        };    }} 

    5、有时候异步需要增加阻塞

    import lombok.extern.slf4j.Slf4j;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;import java.util.concurrent.Executor;import java.util.concurrent.ThreadPoolExecutor;@Configuration@Slf4jpublic class TaskExecutorConfig {    @Bean("localDbThreadPoolTaskExecutor")    public Executor threadPoolTaskExecutor() {        ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor();        taskExecutor.setCorePoolSize(5);        taskExecutor.setMaxPoolSize(200);        taskExecutor.setQueueCapacity(200);        taskExecutor.setKeepAliveSeconds(100);        taskExecutor.setThreadNamePrefix("LocalDbTaskThreadPool");        taskExecutor.setRejectedExecutionHandler((Runnable r, ThreadPoolExecutor executor) -> {                    if (!executor.isShutdown()) {                        try {                            Thread.sleep(300);                            executor.getQueue().put(r);                        } catch (InterruptedException e) {                            log.error(e.toString(), e);                            Thread.currentThread().interrupt();                        }                    }                }        );        taskExecutor.initialize();        return taskExecutor;    }}

    4、业务拆分

    可以将比较耗时或者不同的业务拆分出来提供单节点的吞吐量

    5、集成消息队列

    有很多场景对数据实时性要求不那么强的,或者对业务进行业务容错处理时可以将消息发送到kafka,然后延时消费。举个例子,根据条件查询指定用户发送推送消息,这里可以时按时、按天、按月等等,这时就

    如何提升springboot服务吞吐量
  • 相关阅读:
    C++指针使用方法解惑
    2007中国手机网络游戏TOP10和2006中国手机网络游戏回顾
    美丽的诗
    三分钟就知道谁是你最爱的人
    基于先进思想指导的信息化
    Nginx 常见应用技术指南
    Web开发与设计之Google兵器谱Web开发与设计利器
    openssl建立证书,非常详细配置ssl+apache
    Nginx 二级子域名完美方案
    正则表达式30分钟入门教程
  • 原文地址:https://www.cnblogs.com/CQqfjy/p/12344420.html
Copyright © 2020-2023  润新知