Tomcat之性能优化

Tomcat是一款Java应用,那么的配置便与其运行性能密切相关,而优化的重点则集中在内存分配和GC策略的调整上,因为内存会直接影服务的运行效率和吞吐量,JVM垃圾回收机制则会不同程度的导致程序运行中断。可以据应用程序的特点,选择不同的垃圾回收策略,调整JVM垃圾回收策略,可以极大减少垃圾回收次数,提升垃圾回收效率,改善程序运行性能。

优化大纲

• JVM参数优化
• Tomcat配置优化

JVM参数优化

内存优化

Linux下修改TOMCAT_HOME/bin/catalina.sh，在其中加入，可以放在CLASSPATH=下面：

JAVA_OPTS="-server -XX:PermSize=512M -XX:MaxPermSize=1024m -Xms2048m -Xmx2048m"  

windows下修改TOMCAT_HOME/bin/catalina.bat，在其中加入，可以放在set CLASSPATH=下面：

set JAVA_OPTS=-server -XX:PermSize=512M -XX:MaxPermSize=1024m -Xms2048m -Xmx2048m  

-Xms：设置JVM初始内存大小(默认是物理内存的1/64)

　　 -Xmx：设置JVM可以使用的最大内存(默认是物理内存的1/4，建议：物理内存80%)

　　 -Xmn：设置JVM最小内存(128-256m就够了,一般不设置)

　　 默认空余堆内存小于40%时，JVM就会增大堆直到-Xmx的最大限制；空余堆内存大于70%时，JVM会减少堆直到-Xms的最小限制。因此服务器一般设置-Xms、-Xmx相等以避免在每次GC 后调整堆的大小。在较大型的应用项目中，默认的内存是不够的，有可能导致系统无法运行。常见的问题是报Tomcat内存溢出错误“java.lang.OutOfMemoryError:Java heap space”，从而

导致客户端显示500错误。　　

　　-XX:PermSize ：为JVM启动时Perm的内存大小　　

　　-XX:MaxPermSize ：为最大可占用的Perm内存大小(默认为32M)　

　　-XX:MaxNewSize，默认为16M
　　PermGen space的全称是Permanent Generationspace,是指内存的永久保存区域，这块内存主要是被JVM存放Class和Meta信息的,Class在被Loader时就会被放到PermGenspace中，它和存放类实例(Instance)的Heap区域不同,GC(GarbageCollection)不会在主程序运行期对PermGenspace进行清理，所以如果你的应用中有很CLASS的话,就很可能出现“java.lang.OutOfMemoryError:PermGen space”错误。

对于WEB项目，jvm加载类时，永久域中的对象急剧增加，从而使jvm不断调整永久域大小，为了避免调整)，你可以使用更多的参数配置。如果你的WEBAPP下都用了大量的第三方jar, 其大小超过了jvm默认的大小,那么就会产生此错误信息了。
其它参数：

　　-XX:NewSize ：默认为2M，此值设大可调大新对象区，减少FullGC次数

　　-XX:NewRatio ：改变新旧空间的比例，意思是新空间的尺寸是旧空间的1/8（默认为8）

　　-XX:SurvivorRatio ：改变Eden对象空间和残存空间的尺寸比例，意思是Eden对象空间的尺寸比残存空间大survivorRatio+2倍（缺省值是10）

垃圾回收器优化

　　-XX:userParNewGC 可用来设置并行收集【多CPU】

　　-XX:ParallelGCThreads 可用来增加并行度【多CPU】

　　-XXUseParallelGC 设置后可以使用并行清除收集器【多CPU】

我们可以随意调整参数来调整tomcat内存以及JVM其他配置，来保证Tomcat的优化。 

Tomcat配置优化

1. 禁用AJP协议

　　(1)通过禁用AJP协议，达到在集群的时候提高处理请求的时间。

      (2)启动tomcat后，不论从刚刚的管理员界面，还是从控制台上（如图1所示）都可以看出，AJP协议是开启的。我们要做的就是要将此协议禁用，禁用方法：在server.xml中，将　　

<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />注释掉，重新启动tomcat，可以看出控制台上已经不存在上图黑框中所示的。

2. 将BIO通讯模式修改为NIO通讯模式

　　(1)tomcat通讯协议支持http1.0和1.1，tomcat默认走的是BIO通讯模式，tomcat7和tomcat8之所以默认的都是效率低下的BIO通讯模式，是因为和前面的就项目做兼容。

　　(2)在控制台上（如图1所示）或者管理界面都可以看到，tomcat启动的通讯模式是bio的。

　　(3)应用场景：tomcat集群的时候，若项目比较新，都是1.5类库之前，即JDK版本大于1.5，可将集群中每一个tomcat的启动模式设置为高并发高性能的应答模式(NIO)。

　　(4)配置方法：在server.xml中 ，将 <Connector connectionTimeout="20000" port="8066" protocol="HTTP/1.1" redirectPort="8448"/> 改为：　　

<Connector connectionTimeout="20000" port="8066" protocol="org.apache.coyote.http11.Http11NioProtocol" redirectPort="8448"/>

　　其中，原来的protocol="HTTP/1.1"表示遵循http1.1协议，同时，也是一个最原始的未经优化的通信协议，修改之后的 protocol="org.apache.coyote.http11.Http11NioProtocol" ，表示以 NIO模式启动。

3. 启用外部连接池，来满足高并发已经复用的请求

　  　maxThreads：tomcat起动的最大线程数，即同时处理的任务个数，默认值为200。将　　

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="300" minSpareThreads="4"/>

　　注释打开，并修改maxThreads的值，然后在<Connector connectionTimeout="20000" port="8066" protocol="org.apache.coyote.http11.Http11NioProtocol"/>中加入 executor="tomcatThreadPool"，即最后为：　　

<Connector connectionTimeout="20000" port="8066" executor="tomcatThreadPool" protocol="org.apache.coyote.http11.Http11NioProtocol"/>

  根据业务场景和服务器硬件资源条件可以适当的加大线程连接池，根据第三方工具去开启并发测试来确定一个最好的连接池数。

4. 优化连接器

　　最佳实践：　　

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
        maxThreads="800" minSpareThreads="100" />

<Connector  executor="tomcatThreadPool" port="8080"
protocol="org.apache.coyote.http11.Http11NioProtocol"
            connectionTimeout="20000"
            redirectPort="8443" 
            enableLookups="false"
            maxPostSize="10485760"
            URIEncoding="UTF-8" 
            useBodyEncodingForURI="true"
            acceptCount="100"
            acceptorThreadCount="2"
            disableUploadTimeout="true" 
            maxConnections="10000"
            SSLEnabled="false"
    />

5.启用APR插件

Tomcat可以使用APR来提供超强的可伸缩性和性能，更好地集成本地服务器技术。

APR(Apache Portable Runtime)是一个高可移植库，它是Apache HTTP Server 2.x的核心。APR有很多用途，包括访问高级IO功能(例如sendfile,epoll和OpenSSL)，OS级别功能(随机数生成，系统状态等等)，本地进程管理(共享内存，NT管道和UNIX sockets)。这些功能可以使Tomcat作为一个通常的前台WEB服务器，能更好地和其它本地web技术集成，总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器。

在生产环境中，特别是直接使用Tomcat做WEB服务器的时候，应该使用Tomcat Native来提高其性能  要测APR给tomcat带来的好处最好的方法是在慢速网络上（模拟Internet），将Tomcat线程数开到300以上的水平，然后模拟一大堆并发请求。如果不配APR，基本上300个线程狠快就会用满，以后的请求就只好等待。但是配上APR之后，并发的线程数量明显下降，从原来的300可能会马上下降到只有几十，新的请求会毫无阻塞的进来。在局域网环境测，就算是400个并发，也是一瞬间就处理/传输完毕，但是在真实的Internet环境下，页面处理时间只占0.1%都不到，绝大部分时间都用来页面传输。如果不用APR，一个线程同一时间只能处理一个用户，势必会造成阻塞。所以生产环境下用apr是非常必要的。

使用 Undertow 来替代Tomcat 作为Web容器。Undertow 是 Red Hat 公司的开源产品, 它完全采用 Java 语言开发，是一款灵活的高性能 Web 服务器，支持阻塞 IO 和非阻塞 IO。由于 Undertow 采用 Java 语言开发，可以直接嵌入到 Java 项目中使用。同时， Undertow 完全支持 Servlet 和 Web Socket，在高并发情况下表现非常出色。