注意:调优tomcat需要了解使用的tomcat是什么版本,随着tomcat版本发展有新参数引入,同时有旧参数废弃。本文档以tomcat7为例进行调优
一. 线程池(Thread Pool)优化
编辑“Tomcat安装目录/conf/server.xml”文件,找到如下内容
<!-- <Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="150" minSpareThreads="4"/> --> |
取消注释,参数做如下调整
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="1000" minSpareThreads="25" maxIdleTime="600000" acceptCount="500"/> |
参数说明:
name 这个是线程池的名字,必须唯一,默认即可,我们在后面的配置里要用到这个东西
namePrefix 线程的名字前缀,用来标记线程名字的,这样每个线程就用这个前缀加上线程编号了,比如 catalina-exec-1 catalina-exec-2
maxThreads 线程池可以容纳的最大线程数,tomcat使用线程来处理接收的请求每一个线程处理一个请求,这个值决定了同时能够处理的最大请求数,缺省值为200
minSpareThreads 最小的保持活跃的线程数量,缺省值为4(tomcat5有此参数,而tomcat6无此参数,到了tomcat7又重新使用此参数,顺便提下5和7中这两个参数含义并不相同有兴趣可以查看官方文档)
maxIdleTime 关闭一个空闲线程之前允许空闲线程持续的时间,只有当前空闲线程数大于minSpareThread的值,才会关闭空闲线程
acceptCount 当所有可用的请求处理线程都被使用的时候,连接请求队列的最大长度。当该队列满了以后的所有请求都被拒绝,缺省值为10
顺便提下如下3个参数maxSpareThreads、maxProcessors和minProcessors
maxSpareThreads:允许存在的空闲线程的最大数量,tomcat5及以前版本才有的参数,tomcat6和tomcat7均无此参数 |
二. 连接器(Connector)优化
编辑“Tomcat安装目录/conf/server.xml”文件,找到如下内容将其注释掉
<Connector port="80" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" /> |
再找到如下内容,取消注释
<!-- <Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" /> --> |
参数做如下调整
<Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" URIEncoding="UTF-8" enableLookups="false" disableUploadTimeout="true" connectionTimeout="20000" keepAliveTimeout="15000" maxKeepAliveRequests="1000" useURIValidationHack="false" compression="on" compressionMinSize="2048" compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain" redirectPort="8443"/> |
AJP/1.3协议负责和其他HTTP服务器建立连接,监听的是8009端口,比如tomcat和apache或者iis集成时使用这个连接器,此时则需优化8009端口的Connector。
<!-- Define an AJP 1.3 Connector on port 8009 --> <Connector port="8009" protocol="AJP/1.3" URIEncoding="UTF-8" enableLookups="false" disableUploadTimeout="true" connectionTimeout="20000" keepAliveTimeout="15000" maxKeepAliveRequests="1000" useURIValidationHack="false" compression="on" compressionMinSize="2048" compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain" redirectPort="8443" /> |
参数说明:
executor="tomcatThreadPool" 在 Connector里指定使用共享线程池的名称
port="8080" 指定服务器端要创建的端口号,并在这个端口监听来自客户端的请求
protocol="HTTP/1.1" 负责建立HTTP连接,web应用通过浏览器访问tomcat服务器用的就是这个连接器,默认监听的是8080端口。所以我们优化的是8080端口的Connector
URIEncoding="UTF-8" URI解码所使用的字符集,只影响GET请求的URI解码,不影响post的解码
enableLookups="false" 禁用DNS查询,默认值为true,为了提高处理能力应设置为false
disableUploadTimeout="true" 允许servlet container在一个servlet执行的时候,使用一个不同的,更长的连接超时。最终的结果是给servlet更长的时间以便完成其执行,或者在数据上载的时候更长的超时时间。如果没有指定默认为false
connectionTimeout="20000" 在Connector接受一个连接以后,等待发生第一个请求的时间,单位毫秒。缺省值为60000(60秒)
keepAliveTimeout="15000" 在一个长连接中2次请求之间的最大间隔时间,超过此时间连接断开,单位毫秒
maxKeepAliveRequests="1000" 在server关闭连接之前,接受的HTTP请求的最大数目。如果该值设为1,会禁止HTTP/1.0保活,同时也会禁止HTTP/1.1保活和pipelining。如果没有指定默认值100。
useURIValidationHack="false" 减少它对一些url的不必要的检查从而减省开销
compression="on" 设为on开启Connector使用HTTP/1.1的GZIP压缩,可节省服务器带宽
compressionMinSize="2048" 启用压缩的输出内容大小,这里面设置为2KB
compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain" 压缩文件的类型
redirectPort="8443" 如果Connector支持非SSL请求,在收到一个要求使用SSL传输的请求以后,Catalina会自动将该请求重定向到这里指定的端口号
三. JAVA虚拟机(JVM)优化
注意调优JVM需要了解使用的JDK是什么版本,随着JDK版本发展有新参数引入,同时有旧参数废弃。本文档以JDK7为例进行调优
下图为JDK7及之前老JDK版本的JVM内存结构图,优化JVM前必须清楚它的内存结构,有兴趣可以多查资料了解,在此不做过多描述。
JDK7的JVM内存由Heap(堆空间)和Perm(持久代)组成. 其中Heap = {Old + young = { Eden , from, to } }
JDK8的JVM已经将Perm(持久代)从内存空间移除
Linux平台,编辑“Tomcat安装目录/conf/catalina.sh”文件,该文件开头是一大段由#包裹的注释,在注释的最后添加如下内容
export JAVA_OPTS="-server -Xms3072M -Xmx3072M -Xmn512M -Xss512k -XX:+AggressiveOpts -XX:+UseBiasedLocking -XX:PermSize=256M -XX:MaxPermSize=256M -XX:+DisableExplicitGC -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:CMSMaxAbortablePrecleanTime=5 -XX:+CMSClassUnloadingEnabled -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 -Djava.awt.headless=true" |
如果想要打印JVM运行日志信息,则可以再添加如下参数,-Xloggs指定日志路径
-Xloggc:/path/jvm.log -XX:+PrintGCDateStamps -XX:+PrintGCApplicationStoppedTime -XX:+PrintGCApplicationConcurrentTime -XX:+PrintGCDetails |
Windows平台,则编辑“Tomcat安装目录/conf/catalina.bat”文件
set JAVA_OPTS=-server -Xms3072M -Xmx3072M -Xmn512M -Xss512k -XX:+AggressiveOpts -XX:+UseBiasedLocking -XX:PermSize=256M -XX:MaxPermSize=256M -XX:+DisableExplicitGC -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:CMSMaxAbortablePrecleanTime=5 -XX:+CMSClassUnloadingEnabled -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 -Djava.awt.headless=true |
如果想要打印JVM运行日志信息,则可以再添加如下参数,-Xloggs指定日志路径
-Xloggc:D:\path\jvm.log -XX:+PrintGCDateStamps -XX:+PrintGCApplicationStoppedTime -XX:+PrintGCApplicationConcurrentTime -XX:+PrintGCDetails |
参数说明:
-server 指定JAVA虚拟机运行在server模式
-Xms 初始Heap内存大小,本文档设置了3G,需要结合服务器CPU核数,内存总量等实际情况来设置合适数值,此值并非越大越好,过大将增加垃圾回收的压力
-Xmx 最大Heap内存大小,本文档设置了3G,需要结合服务器CPU核数,内存总量等实际情况来设置合适数值,此值并非越大越好,过大将增加垃圾回收的压力
-Xmn 新生代内存大小
-Xss 每个线程的堆栈大小
-XX:+AggressiveOpts 启用JVM开发团队最新的调优成果,例如:编译优化,偏向锁,并行老年代收集,JDK5.6后引入,JDK6默认开启
-XX:+UseBiasedLocking 启用一个优化了的线程锁(偏向锁),JDK5.6后引入,JDK6默认开启
-XX:PermSize 初始持久代内存大小,需要注意永久代在JDK8中被完全的移除了,永久代的参数-XX:PermSize和-XX:MaxPermSize也被移除了
-XX:MaxPermSize 最大持久代内存大小,需要注意永久代在JDK8中被完全的移除了,永久代的参数-XX:PermSize和-XX:MaxPermSize也被移除了
-XX:+DisableExplicitGC 禁止显示的调用System.gc()方法进行GC
-XX:+UseConcMarkSweepGC 使用并发标记清除(CMS)垃圾收集器 它是对年老代进行垃圾收集的。CMS收集器通过多线程并发进行垃圾回收,尽量减少垃圾收集造成的停顿。采用这种垃圾收集器默认会开启-XX:+UseParNewGC参数对新生代使用Parallel GC(并行垃圾回收器)
-XX:+UseParNewGC 新生代使用Parallel GC(并行垃圾回收器),如果老年代使用了CMS垃圾回收期,则新生代默认就是这种垃圾回收器
-XX:+CMSParallelRemarkEnabled CMS垃圾回收器回收对象时,应用有2次停顿,第一次是初始标记,第二次是重新标记,开启并行remark可以降低重新标记停顿时间,
-XX:+UseCMSCompactAtFullCollection CMS不会整理堆碎片,为了防止堆碎片引起full gc,设置此参数使CMS垃圾回收时进行合并碎片,开启这个选项一定程度上会影响性能
-XX:CMSMaxAbortablePrecleanTime
-XX:+CMSClassUnloadingEnabled 开启CMS回收持久代,避免Perm区满引起的full gc
-XX:LargePageSizeInBytes 指定Java heap的分页页面大小
-XX:+UseFastAccessorMethods 将get(),set()方法转成本地代码,默认开启
-XX:+UseCMSInitiatingOccupancyOnly 只有达到-XX:CMSInitiatingOccupancyFraction指定的使用百分比才进行老年代的垃圾回收
-XX:CMSInitiatingOccupancyFraction 指定老年代在使用了多少百分比空间时开始进行垃圾回收,JDK5默认68%,JDK6默认92%
-Djava.awt.headless 解决J2EE工程中的图表工具在Linux/Unix环境下会导致图片显示不出来
-Xloggc 指定JVM日志输出到文件
-XX:+PrintGCDateStamps 打印GC发生的时间,JDK6和JDK7才支持,如果是JDK5请使用-XX:+PrintGCTimeStamps
-XX:+PrintGCApplicationStoppedTime 打印GC造成应用停顿的时间
-XX:+PrintGCApplicationConcurrentTime 打印GC时应用并发执行的时间
-XX:+PrintGCDetails 打印GC详细信息
四. 调整Tomcat Connector的运行模式
首先大致了解Tomcat Connector的三种运行模式:bio、nio和apr
bio
bio(blocking I/O),顾名思义,即阻塞式I/O操作,表示Tomcat使用的是传统的Java I/O操作(即java.io包及其子包)。Tomcat在默认情况下,就是以bio模式运行的。遗憾的是,就一般而言,bio模式是三种运行模式中性能最低的一种。我们可以通过Tomcat Manager来查看服务器的当前状态。
nio
nio(new I/O),是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio
包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O
的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。要让Tomcat以nio模式来运行也比较简单,我们只需要在Tomcat安装目录/conf/server.xml
文件中将如下配置:
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" /> |
中的protocol属性值改为org.apache.coyote.http11.Http11NioProtocol
即可
<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol" connectionTimeout="20000" redirectPort="8443" /> |
此时,我们就可以在Tomcat Manager中看到当前服务器状态页面的HTTP协议的Connector运行模式已经从http-bio-8080
变成了
apr
apr(Apache Portable Runtime/Apache可移植运行时),是Apache HTTP服务器的支持库。你可以简单地理解为,Tomcat将以JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作,从而大大地提高Tomcat对静态文件的处理性能。 Tomcat apr也是在Tomcat上运行高并发应用的首选模式。如果我们的Tomcat不是在apr模式下运行,在启动Tomcat的时候,我们可以在日志信息中看到类似如下信息:
2015-12-13 16:17:49 org.apache.catalina.core.AprLifecycleListener init 信息: The APR based Apache Tomcat Native library which allows optimal performance in production environments was not found on the java.library.path: xxx/xxx(这里是路径信息) |
Tomcat apr运行模式的配置是三种运行模式之中相对比较麻烦的一种。据官方文档所述,Tomcat apr模式需要安装以下三个组件:
• APR library[APR库]
• JNI wrappers for APR used by Tomcat (libtcnative) [在Windows操作系统上,就是一个名为tcnative-1.dll的动态链接库文件]
• OpenSSL libraries[OpenSSL库]
Tomcat6.x从6.0.32开始以及Tomcat7.x从7.0.30开始,Windows版的Tomcat已经在bin目录下自带了tcnative-1.dll
等文件,并且启动后默认就运行在apr模式下,因此对于Windows操作系统我们只需要下载最新版本的Tomcat直接使用即可。而Linux版的Tomcat在bin目录下自带的是tomcat-native.tar.gz,这个包是需要和APR库一起编译安装后才能使用的。
2015-12-13 15:17:05 org.apache.catalina.core.AprLifecycleListener init 信息: Loaded APR based Apache Tomcat Native library 1.1.20. 2015-12-13 15:17:05 org.apache.catalina.core.AprLifecycleListener init 信息: APR capabilities: IPv6 [true], sendfile [true], accept filters [false], random [true]. 2015-12-13 15:17:05 org.apache.coyote.http11.Http11AprProtocol init |
apr-iconv-1.2.1.tar.gz
apr-util-1.5.4.tar.gz
tar zxvf apr-1.5.2.tar cd apr-1.5.2 ./configure --prefix=/usr/local/apr make make install |
tar -zxvf apr-iconv-1.2.1.tar.gz cd apr-iconv-1.2.1 ./configure --prefix=/usr/local/apr-iconv --with-apr=/usr/local/apr make make install |
tar zxvf apr-util-1.5.4.tar.gz cd apr-util-1.5.4 ./configure --prefix=/usr/local/apr-util --with-apr=/usr/local/apr --with-apr-iconv=/usr/local/apr-iconv/bin/apriconv make make install |
tar zxvf tomcat-native-1.2.2-src.tar.gz cd tomcat-native-1.2.2-src/native ./configure --with-apr=/usr/local/apr --with-java-home=/usr/java/jdk1.7.0_80 --with-ssl=yes make make install |
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib
Jul 20, 2011 15:27:32 PM org.apache.catalina.core.AprLifecycleListener init INFO: Loaded APR based Apache Tomcat Native library 1.1.20. |