Tomcat性能调优

要完全发挥WEB服务器的性能，需要各方面的调整和测试，本文结合自己的使用经验和参考文档，围绕当前TOMCAT的配置来谈谈性能优化的问题。并简单给出Tomcat性能的测试、分析和调整优化的一些方法。

 

测量Web服务器的性能
要提高WEB服务器的性能，首先就得知道哪些地方能够提高，哪些方面影响了服务器的性能。所以各方面的测试时少不了的。

一、这里首先说的是服务器压力测试，首先得搞清楚以下问题（当然实际情况会更复杂）：　

1、客户端和服务器端是在同一台机器上吗？

2、服务器在测试的时候还运行着其它的什么程序吗？

3、客户端和服务器端的通讯是通过局域网，100baseT，10baseT还是使用调制解调器？

4、客户端是否一直重复请求相同的页面，还是随机地访问不同的页面？

5、（这些影响到了服务缓存的性能）客户端发送请求的有规律的还是突发的？

4、是在最终的配置环境下运行服务的还是在调试的配置环境下运行服务的？

5、客户端请求中包含图片还是只有HTML页面？

6、是否有请求是通过servlets和JSP的，CGI程序，服务端包含（Server-Side Includes ，SSI是一个可以让你使用动态HTML文件的技术）？

7、是否使用其他更先进的技术？

总之一句话就是我们的系统运行的实际环境是何种情况，我们必须得了如指掌。
二、选择好测试工具
　　“工欲善其事，必先利其器”，压力测试只有借助于一些工具才可得以实施。
　　目前已经存在的性能测试工具林林总总，数量不下一百种，从单一的开放源码的免费小工具如 Aapache 自带的 web 性能测试工具 Apache Benchmark、开源的Jmeter 到大而全的商业性能测试软件如 Mercury 的 LoadRunner 等等。任何性能测试工具都有其优缺点，我们可以根据实际情况挑选用最合适的工具。

列几个：http://www.softwareqatest.com

http://sd.csdn.net/subject/testtool.htm

大多数web压力测试工具的实现原理都是通过重复的大量的页面请求来模拟多用户对被测系统的并发访问，以此达到产生压力的目的。

要注意的是支持web应用服务认证才可以，要支持接收发送cookies，不仅如此Tomcat支持多种认证方式，比如基本认证、基于表单的认证、相互认证和客户端认证，而一些工具仅仅支持HTTP基本认证。真实地模拟用户认证是性能测试工具的一个重要的部分，因为认证机制将对一个web站点的性能特征产生重要的影响。 

 

运行环境的调整
　　一、JAVA虚拟机性能优化
　　1、可以给Java虚拟机设置使用的内存，但是如果你的选择不对的话，虚拟机不会补偿。可通过命令行的方式改变虚拟机使用内存的大小。如下表所示有两个参数用来设置虚拟机使用内存的大小。

参数

描述

-Xms<size>

JVM初始化堆的大小

-Xmx<size>

JVM堆的最大值
　　这两个值的大小一般根据需要进行设置。有的应用程序在大负载的情况下会急剧地占用更多的内存，此时这个参数就是显得非常重要，如果虚拟机启动时设置使用的内存比较小而在这种情况下有许多对象进行初始化，虚拟机就必须重复地增加内存来满足使用。由于这种原因，我们一般把-Xms和-Xmx设为一样大，而堆的最大值受限于系统使用的物理内存。一般使用数据量较大的应用程序会使用持久对象，内存使用有可能迅速地增长。当应用程序需要的内存超出堆的最大值时虚拟机就会提示内存溢出，并且导致应用服务崩溃。因此一般建议堆的最大值设置为可用内存的最大值的80%。
　　Tomcat默认可以使用的内存为128MB，在较大型的应用项目中，这点内存是不够的，需要调大。
　　Windows下，在文件{tomcat_home}/bin/catalina.bat，Unix下，在文件{tomcat_home}/bin/catalina.sh的前面，增加如下设置：
　　JAVA_OPTS='-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】'
　　需要把这个两个参数值调大。例如：
　　JAVA_OPTS='-Xms256m -Xmx512m'
　　表示初始化内存为256MB，可以使用的最大内存为512MB。
　　2、虚拟机的堆大小决定了虚拟机花费在收集垃圾上的时间和频度。收集垃圾可以接受的速度与应用有关，应该通过分析实际的垃圾收集的时间和频率来调整。如果堆的大小很大，那么完全垃圾收集就会很慢，但是频度会降低。如果你把堆的大小和内存的需要一致，完全收集就很快，但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间，如果系统花费很多的时间收集垃圾，请减小堆大小。一次完全的垃圾收集应该不超过 3-5 秒。如果垃圾收集成为瓶颈，那么需要指定代的大小，检查垃圾收集的详细输出，研究 垃圾收集参数对性能的影响。一般说来，你应该使用物理内存的 80% 作为堆大小。当增加处理器时，记得增加内存，因为分配可以并行进行，而垃圾收集不是并行的。 

3、Tomcat与其它web服务器整合使用
　　虽然tomcat也可以作web服务器,但其处理静态html的速度比不上apache,且其作为web服务器的功能远不如apache,因此我们想把apache和tomcat集成起来，将html与jsp的功能部分进行明确分工，让tomcat只处理jsp部分，其它的由apache,IIS等这些web服务器处理，由此大大节省了tomcat有限的工作“线程”。

4、负载均衡
　　在负载均衡的思路下，多台服务器为对称方式，每台服务器都具有同等的地位，可以单独对外提供服务而无须其他服务器的辅助。通过负载分担技术，将外部发送来的请求按一定规则分配到对称结构中的某一台服务器上，而接收到请求的服务器都独立回应客户机的请求。　　
　　负载均衡实现的方式大概有四种：第一是通过DNS，但只能实现简单的轮流分配，不能处理故障，第二如果是基于MS IIS，Windows 2003 server本身就带了负载均衡服务，第三是硬件方式，通过交换机的功能或专门的负载均衡设备可以实现，第四种是软件方式，通过一台负载均衡服务器进行，上面安装软件。使用Apache Httpd Server做负载平衡器，Tomcat集群节点使用Tomcat就可以做到以上第四种方式。这种方式比较灵活，成本相对也较低。另外一个很大的优点就是可以根据应用的情况和服务器的情况采取一些策略。

 

二、Tomcat自身优化

1. JVM参数调优：-Xms<size> 表示JVM初始化堆的大小，-Xmx<size>表示JVM堆的最大值。这两个值的大小一般根据需要进行设置。当应用程序需要的内存超出堆的最大值时虚拟机就会提示内存溢出，并且导致应用服务崩溃。因此一般建议堆的最大值设置为可用内存的最大值的80%。在catalina.bat中，设置JAVA_OPTS='-Xms256m -Xmx512m'，表示初始化内存为256MB，可以使用的最大内存为512MB。

2. 禁用DNS查询
　当web应用程序向要记录客户端的信息时，它也会记录客户端的IP地址或者通过域名服务器查找机器名转换为IP地址。DNS查询需要占用网络，并且包括可能从很多很远的服务器或者不起作用的服务器上去获取对应的IP的过程，这样会消耗一定的时间。为了消除DNS查询对性能的影响我们可以关闭DNS查询，方式是修改server.xml文件中的enableLookups参数值：
Tomcat4

<Connector className="org.apache.coyote.tomcat4.CoyoteConnector" port="80" minProcessors="5" maxProcessors="75" enableLookups="false" redirectPort="8443" acceptCount="100" debug="0" connectionTimeout="20000" useURIValidationHack="false" disableUploadTimeout="true" />

Tomcat5

<Connector port="80" maxThreads="150" minSpareThreads="25" maxSpareThreads="75" enableLookups="false" redirectPort="8443" acceptCount="100" debug="0" connectionTimeout="20000" disableUploadTimeout="true"/>

3. 调整线程数
通过应用程序的连接器（Connector）进行性能控制的的参数是创建的处理请求的线程数。Tomcat使用线程池加速响应速度来处理请求。在Java中线程是程序运行时的路径，是在一个程序中与其它控制线程无关的、能够独立运行的代码段。它们共享相同的地址空间。多线程帮助程序员写出CPU最大利用率的高效程序，使空闲时间保持最低，从而接受更多的请求。
    Tomcat4中可以通过修改minProcessors和maxProcessors的值来控制线程数。这些值在安装后就已经设定为默认值并且是足够使用的，但是随着站点的扩容而改大这些值。minProcessors服务器启动时创建的处理请求的线程数应该足够处理一个小量的负载。也就是说，如果一天内每秒仅发生5次单击事件，并且每个请求任务处理需要1秒钟，那么预先设置线程数为5就足够了。但在你的站点访问量较大时就需要设置更大的线程数，指定为参数maxProcessors的值。maxProcessors的值也是有上限的，应防止流量不可控制（或者恶意的服务攻击），从而导致超出了虚拟机使用内存的大小。如果要加大并发连接数，应同时加大这两个参数。web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。
      在Tomcat5对这些参数进行了调整，请看下面属性：
maxThreads    Tomcat使用线程来处理接收的每个请求。这个值表示Tomcat可创建的最大的线程数。
acceptCount    指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理。
connnectionTimeout    网络连接超时，单位：毫秒。设置为0表示永不超时，这样设置有隐患的。通常可设置为30000毫秒。
minSpareThreads    Tomcat初始化时创建的线程数。

maxSpareThreads     一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。
     最好的方式是多设置几次并且进行测试，观察响应时间和内存使用情况。在不同的机器、操作系统或虚拟机组合的情况下可能会不同，而且并不是所有人的web站点的流量都是一样的，因此没有一刀切的方案来确定线程数的值。

Tomcat使用线程池加速响应速度来处理请求。在Java中线程是程序运行时的路径，是在一个程序中与其
它控制线程无关的、能够独立运行的代码段。它们共享相同的地址空间。多线程帮助程序员写出CPU最
大利用率的高效程序，使空闲时间保持最低，从而接受更多的请求。
示例如下：
<Connector port="80" protocol="HTTP/1.1"
maxThreads="600" 最多运行线程数
minSpareThreads="100" 初始化创建的线程数
maxSpareThreads="500"
最多能创建的线程数,一旦创建的线程超过这个值，Tomcat就会关闭不再需要socket线程.
acceptCount="700" 指定当所有可以使用的处理请求的线程数都被使用时
可以放到处理队列中的请求数，超过这个数的请求将不予处理
connectionTimeout="20000"
enableLookups="false"
redirectPort="8443" />
4、APR库使用
Tomcat中使用APR库，其实就是在Tomcat中使用JNI的方式来读取文件以及进行网络传输。可以大大提升Tomcat对静态文件的处理性能，同时如果你使用了HTTPS方式传输的话，也可以提升SSL的处理性能。
一般在Windows下，可以直接下载编译好的二进制版本的dll库文件来使Tomcat启用APR，一般建议拷贝库文件tcnative-1.dll到Tomcat的bin目录下。而在Linux下，可以直接解压和安装bin目录下的tomcat_native.tar.gz文件，编译之前要确保apr库已经安装。
怎么才能判断Tomcat是否已经启用了APR库呢？方法是通过看Tomcat的启动日志：
如果没有启用APR，则启动日志一般有这么一条：
org.apache.coyote.http11.Http11Protocol start
如果启用了APR，则这条日志就会变成：
org.apache.coyote.http11.Http11AprProtocol start
tcnative-1.dll 下载地址：http://tomcat.heanet.ie/native/