史上最强Tomcat8性能优化

• 执行器最佳实践

• 连接器参数说明

• • 通用属性(加粗是重点)

• 标准实现(加粗是重点)

• 连接器最佳实践

• 调整JVM参数进行优化

• • 设置并行垃圾回收器

• 查看gc日志文件

• 调整年轻代大小

• 设置G1垃圾回收器

• JVM配置最佳实践

• 总结

授人以鱼不如授人以渔

---

本博客的目的不在于给出最佳配置，而是带领开发者，能够从实际情况出发，通过不断的调节tomcat和jvm参数，去发现吞吐量，平均响应时间和错误率等信息的变化，同时根据服务器的cpu和内存等信息，结合接口的业务逻辑，最好是测试使用率最高，并发最大，或者是最重要的接口(比如下单支付接口)，设置最优的tomcat和jvm配置参数。

目的

---

通过Tomcat性能优化可以提高网站的并发能力。

Tomcat服务器在JavaEE项目中使用率非常高，所以在生产环境对Tomcat的优化也变得非常重要了。

对于Tomcat的优化，主要是从2个方面入手，一是Tomcat自身的配置，另一个是Tomcat所运行的jvm虚拟机的调优。

服务器资源

---

服务器所能提供CPU、内存、硬盘的性能对处理能力有决定性影响。硬件我们不说了，这个方面是钱越多越好是吧。

Tomcat配置优化

---

Linux环境安装运行Tomcat8

具体的安装步骤可以参考Linux（CentOS7）安装Tomcat与设置Tomcat为开机启动项

如果需要登录系统，必须配置tomcat用户，在安装完Tomcat后，进行如下操作

在/conf/tomcat-users.xml文件中的<tomcat-users>标签里面添加如下内容

如果是tomcat7，配置了tomcat用户就可以登录系统了，但是tomcat8中不行，还需要修改另一个配置文件，否则访问不了，提示403，打开webapps/manager/META-INF/context.xml文件

<?xml version="1.0" encoding="UTF-8"?>

打开浏览器进行访问10.172.0.202:8080

点击“Server Status”，输入用户名、密码进行登录，tomcat/tomcat

登录之后可以看到服务器状态等信息，主要包括服务器信息，JVM，ajp和http信息

AJP连接

在服务状态页面中可以看到，默认状态下会启用AJP服务，并且占用8009端口。

什么是AJP

AJP（Apache JServer Protocol）

AJPv13协议是面向包的。WEB服务器和Servlet容器通过TCP连接来交互；为了节省SOCKET创建的昂贵代价，WEB服务器会尝试维护一个永久TCP连接到servlet容器，并且在多个请求和响应周期过程会重用连接。

我们一般是使用Nginx+Tomcat的架构，所以用不着AJP协议，把AJP连接器禁用。

修改conf下的server.xml文件，将AJP服务禁用掉即可。

重启tomcat，查看效果。可以看到AJP服务已经不存在了。

执行器（线程池）

在tomcat中每一个用户请求都是一个线程，所以可以使用线程池提高性能。

修改server.xml文件：

<Executor name=“tomcatThreadPool” namePrefix=“catalina-exec-”

maxThreads=“500” minSpareThreads=“50” prestartminSpareThreads=“true” maxQueueSize=“100”/>

<Connector executor=“tomcatThreadPool” port=“8080” protocol=“HTTP/1.1”

connectionTimeout=“20000”

redirectPort=“8443” />

保存退出，重启tomcat，查看效果。

在页面中显示最大线程数为-1，这个是正常的，仅仅是显示的问题，实际使用的是指定的值。如果配置了一个Executor，则该属性的任何值将被正确记录，但是它将被显示为-1

3种运行模式

tomcat的运行模式有3种：

bio

性能非常低下，没有经过任何优化处理和支持

nio

nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。Tomcat8默认使用nio运行模式。

apr

安装起来最困难，但是从操作系统级别来解决异步的IO问题，大幅度的提高性能

对于每种协议，Tomcat都提供了对应的I/O方式的实现，而且Tomcat官方还提供了在每种协议下每种I/O实现方案的差异， HTTP协议下的处理方式如下表，详情可查看Tomcat官网说明

| | BIO | NIO | NIO2 | APR |

| :-- | — | :-- | :-- | :-- |

| 类名 | Http11Protocol | Http11NioProtocol | Http11Nio2Protocol | Http11AprProtocol |

| 引用版本 | ≥3.0 | ≥6.0 | ≥8.0 | ≥5.5 |

| 轮询支持 | 否 | 是 | 是 | 是 |

| 轮询队列大小 | N/A | maxConnections | maxConnections | maxConnections |

| 读请求头 | 阻塞 | 非阻塞 | 非阻塞 | 阻塞 |

| 读请求体 | 阻塞 | 阻塞 | 阻塞 | 阻塞 |

| 写响应 | 阻塞 | 阻塞 | 阻塞 | 阻塞 |

| 等待新请求 | 阻塞 | 非阻塞 | 非阻塞 | 非阻塞 |

| SSL支持 | Java SSL | Java SSL | Java SSL | Open SSL |

| SSL握手 | 阻塞 | 非阻塞 | 非阻塞 | 阻塞 |

| 最大链接数 | maxConnections | maxConnections | maxConnections | maxConnections |

推荐使用nio，在tomcat8中有最新的nio2，速度更快，建议使用nio2

设置nio2：

<Connector executor=“tomcatThreadPool” port=“8080” protocol=“org.apache.coyote.http11.Http11Nio2Protocol”

connectionTimeout=“20000”

redirectPort=“8443” />

可以看到已经设置为nio2了。

部署测试用的web项目

---

为了方便测试性能，我们将部署一个java web项目，这个项目本身和本博客没有什么关系，仅仅用于测试。

注意：这里在测试时，我们使用一个新的tomcat，进行测试，后面再对其进行优化调整，再测试。

查看服务器信息

说明一下我的测试服务器配置，不同的服务器配置对Tomcat的性能会有所影响。

| 配置参数 | 参数值 |

| — | — |

| Linux版本 | CentOS Linux release 7.2.1511 (Core) |

| 查看逻辑cpu个数 | 4 |

| 查看物理cpu个数 | 4 |

| 总内存 | 8G |

CentOS7服务器环境信息查看命令

查看Linux版本

查看Linux版本：cat /etc/centos-release

查看CPU个数

查看逻辑cpu个数：cat /proc/cpuinfo | grep “processor” | wc -l

查看物理cpu个数：cat /proc/cpuinfo | grep “physical id” | sort | uniq | wc -l

查看每个物理cpu的核数cores：cat /proc/cpuinfo | grep “cpu cores”

如果所有物理cpu的cores个数加起来小于逻辑cpu的个数，则该cpu使用了超线程技术。查看每个物理cpu中逻辑cpu的个数：cat /proc/cpuinfo | grep “siblings”

查看内存使用情况

查看内存占用情况：free -m

参数说明

Mem：内存的使用情况总览表。

total：机器总的物理内存 单位为：M

used：用掉的内存。

free：空闲的物理内存。

[root@localhost ~]# cat /etc/centos-release

CentOS Linux release 7.2.1511 (Core)

[root@localhost ~]# cat /proc/cpuinfo | grep “processor” | wc -l

4

[root@localhost ~]# cat /proc/cpuinfo | grep “physical id” | sort | uniq | wc -l

4

[root@localhost ~]# cat /proc/cpuinfo | grep “cpu cores”

cpu cores : 1

cpu cores : 1

cpu cores : 1

cpu cores : 1

[root@localhost ~]# free -m

total used free shared buff/cache available

Mem: 7825 850 6241 9 733 6714

Swap: 8063 0 8063

部署web应用

上传war包到linux服务器，然后进行部署

我的web应用的名字叫tomcat-optimization，主要是提供了一个查询用户列表的接口，该接口会去阿里云数据库查询用户列表，没有任务业务逻辑的处理。

删除tomcat的/webapps/ROOT目录的所有文件

cd /webapps/ROOT

rm -rf *

上传war包到tomcat的/webapps/ROOT，然后解压

jar -xvf tomcat-optimization.war

rm -rf tomcat-optimization.war

进入tomcat的/bin目录重启tomcat

cd /bin

./shutdown.sh

./startup.sh

访问接口地址： http://10.172.0.202:8080/user/listUser

[{

“id”: 1,

“account”: “lilei”,

“password”: “123456”,

“userName”: “李雷”,

“gender”: 1,

“age”: 15,

“birthday”: “2001-01-01 01:01:38”,

“createTime”: “2016-03-01 19:09:55”

}, {

“id”: 2,

“account”: “hanmeimei”,

“password”: “123456”,

“userName”: “韩梅梅”,

“gender”: 0,

“age”: 14,

“birthday”: “2002-01-01 01:01:38”,

“createTime”: “2016-03-01 19:09:55”

}, {

“id”: 3,

“account”: “lucy”,

“password”: “123456”,

“userName”: “露西”,

“gender”: 0,

“age”: 13,

“birthday”: “2003-01-01 01:01:38”,

“createTime”: “2016-03-01 19:09:55”

}]

使用Apache JMeter进行性能测试

Apache JMeter是Apache组织开发的基于Java的压力测试工具。 我们借助于此工具进行测试，将测试出tomcat的吞吐量等信息。

下载安装

下载地址：http://jmeter.apache.org/download_jmeter.cgi

注意：这里需要先安装好jdk8及其以上版本的环境，可以参考JDK安装与环境变量配置

直接将下载好的zip压缩包进行解压即可。

进入bin目录，找到jmeter.bat文件，双机打开即可启动。

JMeter启动页面

JMeter主页面

修改语言

默认的主题是黑色风格的主题并且语言是英语，这样不太方便使用，所以需要修改下语言。

设置语言为简体中文。

修改语言完成的界面

创建接口的测试用例

测试接口之前需要调整Windows环境配置，不然会报如下错误

JMeter java.net.BindException: Address already in use: connect

出现原因：

TCP/IP连接数不够或TIME_WAIT中存在很多链接，导致吞吐量低。

解决方案：

从问题的原因分析，有两种解决方案，一是增加预留给TCP/IP服务的临时端口的数量，二是加快被占用端口的释放速度。

解决办法：

1、打开注册表：regedit

2、HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\ Services\TCPIP\Parameters

3、新建 DWORD值，name：TCPTimedWaitDelay，value：30（十进制） –> 设置为30秒，默认是240秒

4、新建 DWORD值，name：MaxUserPort，value：65534（十进制） –> 设置最大连接数65534

5、重启系统

第一步：设置测试计划的名称

第二步：添加线程组，使用线程模拟用户的并发

1000个线程，每个线程循环10次，也就是tomcat会接收到10000个请求。

第三步：添加http请求

设置http请求

第四步：添加请求监控

启动与进行接口测试

查看测试报告

在聚合报告中，重点看吞吐量。

调整Tomcat参数进行优化

---

通过上面测试可以看出，tomcat在不做任何调整时，吞吐量为697次/秒。这个吞吐量跟接口的业务逻辑关系很大，如果业务逻辑复杂，需要比较长时间计算的，可能吞吐量只有几十次/秒，我这里测试的时候没有添加任务业务逻辑，才会出现吞吐量为697次/秒的情况。这里的吞吐量最好是经过多次测试取平均值，因为单次测试具有一定的随机性

禁用AJP连接

修改conf下的server.xml文件，将AJP服务禁用掉即可。

这里经过9次测试，测试结果如下704 730 736 728 730 727 714 708 735 平均是723

可以看到，禁用AJP服务后，吞吐量会有所提升。

当然了，测试不一定准确，需要多测试几次才能看出是否有提升。

设置线程池

通过设置线程池，调整线程池相关的参数进行测试tomcat的性能。有关线程池更多更详细的配置参考Tomcat官网提供的配置详解

最大线程数为150，初始为4

<Executor name=“tomcatThreadPool” namePrefix=“catalina-exec-”

maxThreads=“150” minSpareThreads=“4” prestartminSpareThreads=“true”/>

<Connector executor=“tomcatThreadPool” port=“8080” protocol=“HTTP/1.1”

connectionTimeout=“20000”

redirectPort=“8443” />

经过9次测试，测试结果如下705 725 702 729 733 738 735 728 平均是724

最大线程数为500，初始为50

<Executor name=“tomcatThreadPool” namePrefix=“catalina-exec-”

maxThreads=“500” minSpareThreads=“50” prestartminSpareThreads=“true”/>

<Connector executor=“tomcatThreadPool” port=“8080” protocol=“HTTP/1.1”

connectionTimeout=“20000”

redirectPort=“8443” />

测试结果：733 724 718 728 734 721 720 723 平均725

吞吐量为725次/秒，性能有所提升。

最大线程数为1000，初始为200

<Executor name=“tomcatThreadPool” namePrefix=“catalina-exec-”

maxThreads=“1000” minSpareThreads=“200” prestartminSpareThreads=“true”/>

<Connector executor=“tomcatThreadPool” port=“8080” protocol=“HTTP/1.1”

connectionTimeout=“20000”

redirectPort=“8443” />

吞吐量为732，性能有所提升。

测试结果 737 729 730 738 735 726 725 740 平均732

最大线程数为5000，初始为1000

是否是线程数最多，速度越快呢？ 我们来测试下。

<Executor name=“tomcatThreadPool” namePrefix=“catalina-exec-”

maxThreads=“5000” minSpareThreads=“1000” prestartminSpareThreads=“true”/>

<Connector executor=“tomcatThreadPool” port=“8080” protocol=“HTTP/1.1”

connectionTimeout=“20000”

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注Java获取）

写在最后

学习技术是一条慢长而艰苦的道路，不能靠一时激情，也不是熬几天几夜就能学好的，必须养成平时努力学习的习惯。所以：贵在坚持！

最后再分享的一些BATJ等大厂20、21年的面试题，把这些技术点整理成了视频和PDF（实际上比预期多花了不少精力），包含知识脉络 + 诸多细节，由于篇幅有限，上面只是以图片的形式给大家展示一部分。

Mybatis面试专题

MySQL面试专题

并发编程面试专题

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！
力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。[外链图片转存中…(img-2l6SvBTx-1712878461054)]

[外链图片转存中…(img-nyKfiGDZ-1712878461055)]

[外链图片转存中…(img-yUXC8tMb-1712878461055)]

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注Java获取）

写在最后

学习技术是一条慢长而艰苦的道路，不能靠一时激情，也不是熬几天几夜就能学好的，必须养成平时努力学习的习惯。所以：贵在坚持！

最后再分享的一些BATJ等大厂20、21年的面试题，把这些技术点整理成了视频和PDF（实际上比预期多花了不少精力），包含知识脉络 + 诸多细节，由于篇幅有限，上面只是以图片的形式给大家展示一部分。

[外链图片转存中…(img-VWyRjStI-1712878461056)]

Mybatis面试专题

[外链图片转存中…(img-70IoRAIR-1712878461056)]

MySQL面试专题

[外链图片转存中…(img-zlWnjZ4J-1712878461056)]

并发编程面试专题

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！