JVM入门级优化(四）基于tomcat8、jdk8调优

一、前戏

配置tomcat可以访问server status

正常启动的tomcat

访问server status 时需要账号密码

#进入tomcat/conf目录下 修改tomcat-user.xml文件
#写入如下内容：
<role rolename="manager"/>
<role rolename="manager-gui"/>
<role rolename="admin"/>
<role rolename="admin-gui"/>
<user username="tomcat" password="tomcat" roles="admin-gui,admin,manager-gui,manager"/>
#保存退出
#如果是tomcat7，配置了tomcat用户就可以登录系统了，但是tomcat8中不行，还需要修改另一个配置文件，否则访
问不了，提示403
vim webapps/manager/META-INF/context.xml
#将<Valve的内容注释掉
<Context antiResourceLocking="false" privileged="true" >
<!-- <Valve className="org.apache.catalina.valves.RemoteAddrValve"
    allow="127\.\d+\.\d+\.\d+|::1|0:0:0:0:0:0:0:1" /> -->
<Manager sessionAttributeValueClassNameFilter="java\.lang\.
(?:Boolean|Integer|Long|Number|String)|org\.apache\.catalina\.filters\.CsrfPreventionFi
lter\$LruCache(?:\$1)?|java\.util\.(?:Linked)?HashMap"/>
</Context>
#保存退出即可
#然后重启tomcat 就可以通过配置的用户登陆server status服务里面了

二、项目部署

略~

三、调优、优化

1、tomcat禁用ajp服务

修改conf下的server.xml文件，将AJP服务禁用掉即可。

2、tomcat执行器（线程池）

在tomcat中每一个用户请求都是一个线程，所以可以使用线程池提高性能。
修改server.xml文件：

<!--将注释打开-->
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
    maxThreads="500" minSpareThreads="50" prestartminSpareThreads="true"
maxQueueSize="100"/>
<!--
参数说明：
maxThreads：最大并发数，默认设置 200，一般建议在 500 ~ 1000，根据硬件设施和业务来判断
minSpareThreads：Tomcat 初始化时创建的线程数，默认设置 25
prestartminSpareThreads： 在 Tomcat 初始化的时候就初始化 minSpareThreads 的参数值，如果不等于
true，minSpareThreads 的值就没啥效果了
maxQueueSize，最大的等待队列数，超过则拒绝请求
-->
<!--在Connector中设置executor属性指向上面的执行器-->
<Connector executor="tomcatThreadPool"  port="8080" protocol="HTTP/1.1"
       connectionTimeout="20000"
       redirectPort="8443" />

3、tomcat运行模式

tomcat的运行模式有3种：

1. bio 默认的模式,性能非常低下,没有经过任何优化处理和支持.
2. nio nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是
   一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有
   比传统I/O操作(bio)更好的并发运行性能。
3. apr 安装起来最困难,但是从操作系统级别来解决异步的IO问题,大幅度的提高性能.
   推荐使用nio，不过，在tomcat8中有最新的nio2，速度更快，建议使用nio2.

<Connector executor="tomcatThreadPool"  port="8080"
protocol="org.apache.coyote.http11.Http11Nio2Protocol"
       connectionTimeout="20000"
       redirectPort="8443" />

监控调优

工具jmeter
无任何优化

禁用ajp服务

可以看到，禁用AJP服务后，吞吐量会有所提升。
当然了，测试不一定准确，需要多测试几次才能看出是否有提升。

设置线程池

最大线程数为500，初始为50

最大线程数为1000，初始为200

最大线程数为5000，初始为1000

可以看到，虽然最大线程已经设置到5000，但是实际测试效果并不理想，并且平均的响应时间也边长了，所以单纯靠提升线程数量是不能一直得到性能提升的。

设置最大等待队列数

默认情况下，请求发送到tomcat，如果tomcat正忙，那么该请求会一直等待。这样虽然可以保证每个请求都能请求到，但是请求时间就会边长。
有些时候，我们也不一定要求请求一定等待，可以设置最大等待队列大小，如果超过就不等待了。这样虽然有些请求是失败的，但是请求时间会虽短。

<!--最大等待数为100-->
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
    maxThreads="500" minSpareThreads="100" prestartminSpareThreads="true"
maxQueueSize="100"/>

结论：响应时间、吞吐量这2个指标需要找到平衡才能达到更好的性能。

设置nio2的运行模式

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
    maxThreads="500" minSpareThreads="50" prestartminSpareThreads="true"/>
<!-- 设置nio2 -->
<Connector executor="tomcatThreadPool" port="8080"
protocol="org.apache.coyote.http11.Http11Nio2Protocol"
       connectionTimeout="20000"
       redirectPort="8443" />

可以看到，平均响应时间有缩短，吞吐量有提升，可以得出结论：nio2的性能要高于nio。

调整JVM参数进行优化

设置并行垃圾回收器

#年轻代、老年代均使用并行收集器，初始堆内存64M，最大堆内存512M
JAVA_OPTS="-XX:+UseParallelGC -XX:+UseParallelOldGC -Xms64m -Xmx512m -
XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+PrintHeapAtGC -
Xloggc:../logs/gc.log"

查看gc日志文件

将gc.log文件上传到gceasy.io查看gc中是否存在问题。

在报告中显示，在5次GC时，系统所消耗的时间大于用户时间，这反应出的服务器的性能存在瓶颈，调度CPU等资源所消耗的时间要长一些。
问题二：

可以关键指标中可以看出，吞吐量表现不错，但是gc时，线程的暂停时间稍有点长。
问题三：

通过GC的统计可以看出：
年轻代的gc有74次，次数稍有多，说明年轻代设置的大小不合适需要调整
FullGC有8次，说明堆内存的大小不合适，需要调整
问题四：

从GC原因的可以看出，年轻代大小设置不合理，导致了多次GC。

调整年轻代大小

JAVA_OPTS="-XX:+UseParallelGC -XX:+UseParallelOldGC -Xms128m -Xmx1024m -XX:NewSize=64m
-XX:MaxNewSize=256m -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -
XX:+PrintHeapAtGC -Xloggc:../logs/gc.log"
#将初始堆大小设置为128m，最大为1024m
#初始年轻代大小64m，年轻代最大256m

从测试结果来看，吞吐量以及响应时间均有提升
查看gc日志：


可以看到GC次数要明显减少，说明调整是有效的。

设置G1垃圾回收器

#设置了最大停顿时间100毫秒，初始堆内存128m，最大堆内存1024m
JAVA_OPTS="-XX:+UseG1GC -XX:MaxGCPauseMillis=100 -Xms128m -Xmx1024m -XX:+PrintGCDetails
-XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+PrintHeapAtGC -
Xloggc:../logs/gc.log"

测试结果：


可以看到，吞吐量有所提升，评价响应时间也有所缩短。

总结

调优过程是非常缓慢的，不是一蹴而就的，需要一步一步的调试到机器合适的匹配参数，一般而言，调优的最终结果都是是系统稳定的运行，让用户时间占用比例提高，使GC频率降低，减少stw时间，避免full gc。
调优建议：
1、tomcat禁用ajp服务，原因，那个服务和我们关系不大。
2、设置tomcat的运行模式为nio2，io模式有多种，应该选择最优最合适的一个。
3、GC设置，现在基本都是采用G1垃圾回收器，G1只需要配置堆内存大小就行了，参数比较简单。
4、jvm参数和tomcat的连接数线程数等参数是缓慢调试出来的要有耐心。