【生产事故】多线程性能优化的坑，99%的人都踩了.....

最新推荐文章于 2024-05-20 10:24:40 发布

程序员蜗牛g

最新推荐文章于 2024-05-20 10:24:40 发布

阅读量1.3k

点赞数 48

分类专栏：多线程文章标签： java 服务器 jvm spring boot 性能优化

本文链接：https://blog.csdn.net/weixin_45334346/article/details/135876641

版权

多线程专栏收录该内容

18 篇文章 0 订阅

订阅专栏

当我们在处理慢接口问题时，经常将能够并行处理的任务拆分到不同的线程中处理，等任务处理完成后，再收集各线程的处理结果

这样可以将并行部分的总耗时大大降低！

1.1. 案例

那比如说我们像这样的一个接口，在这个里面呢我们先查询用户姓名，查积分的一个系统，查用户券系统。所以说呢我们收集各个线程处理的一个结果，这样呢可以将我们的耗时呢大大降低。

但是在流量增大的一个过程中呢，我们的接口耗时却逐渐增大了，甚至远超串行处理的一个耗时。甚至有些请求呢直接抛出了拒绝执行异常。

那之前呢也给大家分享过这样的一个图，当我们的浏览器发送请求，比如说100个并发进入我们tom pad的服务器。然后呢我们后端服务器开启了多线程，其实是相当于我们这边有300的处理。

那今天呢我们从线程池的配置上入手，看能不能进一步优化。

那目前我们线程池的配置呢是这样子的配置如下：

int coreSize = Runtime.getRuntime().availableProcessors();  
executorService = new ThreadPoolExecutor(coreSize, coreSize * 5,  
        5L, TimeUnit.MINUTES,  
        new LinkedBlockingQueue<Runnable>(1024)  
        );

核心配置为：

核心线程数为 cpu 核数
最大线程数为 cpu 核数的 5 倍
空闲线程存活时间为 5 分钟
任务队列为 LinkedBlockingQueue 大小为 1024

在这个配置下，我们推演下线程池的执行流程！

1.2.1. 线程资源充足

主线程向线程池提交 Task
由于线程处于空闲状态，立即接受并处理问题
线程池线程处理完任务，将最终的处理结果写回到 Future
主线程等待所有任务执行完成，获取所有执行结果，然后执行后续流程

这正是想要的执行结果，任务被并行执行，大幅降低接口耗时。

1.2.2. 任务进入等待队列

随着流量的增加，所有的核心线程都处于忙碌状态，此时新任务将进入等待队列，具体如下：

整体流入如下：

主线程向线程池提交任务
由于没有核心线程可用，任务被放置到任务队列
主线程进入等待状态，等待时间包括两部分：
- 任务在队列中等待线程调度时间
- 任务分配到线程后，任务实际执行时间
如果前面等待的任务非常多，那等待时间将变的非常长

主线程等待时间 = 队列等待时间 + 任务执行时间。当任务队列非常长时，整体时间将远超串行执行时间。

1.2.3. 资源耗尽触发拒绝策略

流量继续增加，线程池的任务队列已满并且线程数量也达到上限，此时会触发拒绝策略，具体如下：

线程池默认拒绝策略为：AbortPolicy，直接抛出 RejectedExecutionException，从而触发接口异常。

还有更可怕的情况，就是部分提交，也就是主线程已经成功提交几个任务，如下图所示：

核心流程如下：

主线程已经成功提交两个任务
在提交第三个任务时，由于资源不够触发拒绝策略，抛出异常导致主线程提前结束
已经成功提交的任务仍旧会被线程执行，由于主线程已经退出，执行结果没有任何意义，从而白白浪费系统资源

2解决方案

前面已经分析的很清楚，问题的本质就是线程池资源分配不合理，核心参数设置错误：

队列设置错误。 在该场景下，需要充分利用线程资源，将任务放入队列会增加任务在队列的等待时间，队列长度越大对系统的伤害越大；
拒绝策略设置错误。 直接抛出异常会中断主流程，导致部分无效任务（无意义任务）提交，白白浪费系统资源；

除线程池参数问题外，还有个小问题：主线程完成任务提交后处于等待状态，未执行任何有意义的操作，存在资源浪费。

2.1. 线程池改进方案

改进线程池如下所示：

int coreSize = Runtime.getRuntime().availableProcessors();  
executorService = new ThreadPoolExecutor(coreSize, coreSize * 5,  
        5L, TimeUnit.MINUTES,  
        new SynchronousQueue<>(),  
        new ThreadPoolExecutor.CallerRunsPolicy()  
        );

线程池配置如下：

使用 SynchronousQueue 替代 LinkedBlockingQueue(1024)。SynchronousQueue 是一个特殊的队列，其最大容量是1。也就是说，任何一次插入操作都必须等待一个相应的删除操作，反之亦然。如果没有相应的操作正在进行，则该线程将被阻塞；
指定拒绝策略为 CallerRunsPolicy。当线程池资源不够时，由主线程来执行任务；

总体来说就一句话：线程池有资源可用，那就为主线程分担部分压力；如果没有资源可用，那就由主线程独自完成。