生产环境中,如何提升springboot服务吞吐量

背景
生产环境偶尔会有一些慢请求导致系统性能下降,吞吐量下降,下面介绍几种优化建议。

方案
1、undertow替换tomcat
电子商务类型网站大多都是短请求,一般响应时间都在100ms,这时可以将web容器从tomcat替换为undertow,下面介绍下步骤:

1、增加pom配置

org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-starter-tomcat org.springframework.boot spring-boot-starter-undertow 2、增加相关配置

server:
undertow:
direct-buffers: true
io-threads: 4
worker-threads: 160
重新启动可以在控制台看到容器已经切换为undertow了

2、缓存
将部分热点数据或者静态数据放到本地缓存或者redis中,如果有需要可以定时更新缓存数据

3、异步
在代码过程中我们很多代码都不需要等返回结果,也就是部分代码是可以并行执行,这个时候可以使用异步,最简单的方案是使用springboot提供的@Async注解,当然也可以通过线程池来实现,下面简单介绍下异步步骤。

1、pom依赖

一般springboot引入web相关依赖就行

org.springframework.boot spring-boot-starter-web 2、在启动类中增加@EnableAsync注解

@EnableAsync
@SpringBootApplication
public class AppApplication
{
public static void main(String[] args)
{
SpringApplication.run(AppApplication.class, args);
}
}
3、需要时在指定方法中增加@Async注解,如果是需要等待返回值,则demo如下

@Async
public Future<string> doReturn(int i){
    try {
        // 这个方法需要调用500毫秒
        Thread.sleep(500);
    } catch (InterruptedException e) {
        e.printStackTrace();
    }
    // 消息汇总
    return new AsyncResult&lt;&gt;("异步调用");
}

4、如果有线程变量或者logback中的mdc,可以增加传递

import org.slf4j.MDC;
import org.springframework.context.annotation.Configuration;
import org.springframework.core.task.TaskDecorator;
import org.springframework.scheduling.annotation.AsyncConfigurerSupport;
import org.springframework.scheduling.annotation.EnableAsync;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;

import java.util.Map;
import java.util.concurrent.Executor;

/**

  • @Description:
    */
    @EnableAsync
    @Configuration
    public class AsyncConfig extends AsyncConfigurerSupport {
    @Override
    public Executor getAsyncExecutor() {
    ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
    executor.setTaskDecorator(new MdcTaskDecorator());
    executor.initialize();
    return executor;
    }
    }

class MdcTaskDecorator implements TaskDecorator {

@Override
public Runnable decorate(Runnable runnable) {
    Map<string, string> contextMap = MDC.getCopyOfContextMap();
    return () -&gt; {
        try {
            MDC.setContextMap(contextMap);
            runnable.run();
        } finally {
            MDC.clear();
        }
    };
}

}
5、有时候异步需要增加阻塞

import lombok.extern.slf4j.Slf4j;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;

import java.util.concurrent.Executor;
import java.util.concurrent.ThreadPoolExecutor;

@Configuration
@Slf4j
public class TaskExecutorConfig {

@Bean("localDbThreadPoolTaskExecutor")
public Executor threadPoolTaskExecutor() {
    ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor();
    taskExecutor.setCorePoolSize(5);
    taskExecutor.setMaxPoolSize(200);
    taskExecutor.setQueueCapacity(200);
    taskExecutor.setKeepAliveSeconds(100);
    taskExecutor.setThreadNamePrefix("LocalDbTaskThreadPool");
    taskExecutor.setRejectedExecutionHandler((Runnable r, ThreadPoolExecutor executor) -&gt; {
                if (!executor.isShutdown()) {
                    try {
                        Thread.sleep(300);
                        executor.getQueue().put(r);
                    } catch (InterruptedException e) {
                        log.error(e.toString(), e);
                        Thread.currentThread().interrupt();
                    }
                }
            }
    );
    taskExecutor.initialize();
    return taskExecutor;
}

}
4、业务拆分
可以将比较耗时或者不同的业务拆分出来提供单节点的吞吐量

5、集成消息队列
有很多场景对数据实时性要求不那么强的,或者对业务进行业务容错处理时可以将消息发送到kafka,然后延时消费。

举个例子,根据条件查询指定用户发送推送消息,这里可以时按时、按天、按月等等,这时就

生产环境中,如何提升springboot服务吞吐量

更多阅读:https://javawu.com/

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Spring Boot是一种基于Spring Framework的快速开发应用程序的工具,它能够在不需要大量配置的情况下快速搭建应用程序,为Java开发者提供了一个更优雅,更快捷的方式。 在现代化的web应用程序,高并发吞吐量的实现是非常重要的。Spring Boot作为一种轻量级的框架,提供了许多工具和技术来提高应用程序的并发吞吐量Spring Boot提升并发吞吐量的主要方法有: 1. 异步处理:Spring Boot有许多异步处理机制,如DeferredResult和CompletableFuture。采用异步处理可以大大提高应用程序的吞吐量,因为它不会阻塞主线程,允许处理更多的请求。 2. 缓存技术:Spring Boot提供了多种缓存技术,如Ehcache和Redis。使用缓存可以减少从数据库获取数据的次数,从而提高响应时间和吞吐量。 3. 数据库连接池:Spring Boot内置了Tomcat、Jetty等嵌入式服务器,这些服务器使用数据库连接池,能够更好地管理数据库连接,以提高应用程序的并发能力。 4. 并发编程:Spring Boot使用并发编程技术,如线程池来提高并发处理请求的性能。它提供了各种异步处理的技术,如多线程、分布式锁等。 5. 使用更高效的序列化方式:Spring Boot推荐使用更高效的序列化方式,如Jackson或Fastjson。这些序列化方式可以大大改善应用程序的性能,并减少网络带宽的使用。 总之,Spring Boot为Java开发者提供了很多提高应用程序并发吞吐量的工具和技术。为了更好地利用这些技术,开发者需要具备一定的并发编程知识,以更好地驾驭这些技术。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值