【架构性能分析（3）】Tomcat 并发优化

首先先介绍一款知名的网站压力测试工具

Web Bench Homepage能测试处在相同硬件上，不同服务的性能以及不同硬件上同一个服务的运行状况。webbench的标准测试可以向我们展示服务器的两项内容：每分钟相应请求数和每秒钟传输数据量。webbench不但能具有便准静态页面的测试能力，还能对动态页面（ASP,PHP,JAVA,CGI）进 行测试的能力。还有就是他支持对含有SSL的安全网站例如电子商务网站进行静态或动态的性能测试,最多可以模拟3万个并发连接去测试网站的负载能力。

点击参看WebBench使用详解说明

注意，在优化配置和测试前，需要修改系统默认的最大线程数和最大进程数，相应的修改方法 请参考 linux ulimit

Tomcat 常用运行模式有3种

bio，nio，apr。生产环境建议用apr，从操作系统级别来解决异步的IO问题,大幅度的提高性能。

安装APR

sudoyum -y installapr apr-devel
tarzxvf tomcat-native.tar.gz //该文件在tomcat的bin目录下面
cdtomcat-native-1.1.24-src/jni/native
./configure--with-apr=/usr/bin/apr-1-config
make
makeinstall

安装完成之后 会出现如下提示信息

Libraries have been installed in:
/usr/local/apr/lib

安装成功后还需要对tomcat设置环境变量，方法是在catalina.sh文件中增加一 行

CATALINA_OPTS="-Djava.library.path=/usr/local/apr/lib"

修改8080端对应的

protocol="org.apache.coyote.http11.Http11AprProtocol"

启动tomcat之后，查看日志

more TOMCAT_HOME/logs/catalina.out

Tomcat 优化

JVM 调优，在TOMCAT_HOME/bin/catalina.sh 增加如下语句，具体数值视情况而定。

JAVA_OPTS="-Xms1024m -Xmx1024m -Xss1024K -XX:PermSize=64m -XX:MaxPermSize=128m"

参数详解

-Xms JVM初始化堆内存大小
-Xmx JVM堆的最大内存
-Xss 线程栈大小
-XX:PermSize JVM非堆区初始内存分配大小
-XX:MaxPermSize JVM非堆区最大内存

建议和注意事项:

-Xms和-Xmx选项设置为相同堆内存分配，以避免在每次GC 后调整堆的大小，堆内存建议占内存的60%~80%;非堆内存是不可回收内存，大小视项目而定;线程栈大小推荐256k.

关闭DNS反向查询

在Connector中加入如下参数 enableLookups=”false”

使用APR具体安装操作，见文章开头部分 优化tomcat参数

<Connector port="8080"
protocol="org.apache.coyote.http11.Http11AprProtocol"
connectionTimeout="20000"//链接超时时长
redirectPort="8443"
maxThreads="500"//设定处理客户请求的线程的最大数目，决定了服务器可以同时响应客户请求的数,默认200
minSpareThreads="20"//初始化线程数，最小空闲线程数，默认为10
acceptCount="1000"//当所有可以使用的处理请求的线程数都被使用时，可以被放到处理队列中请求数，请求数超过这个数的请求将不予处理，默认100
enableLookups="false"
URIEncoding="UTF-8"/>

优化网络参数，修改/etc/sysctl.cnf文件，增加如下内容，具体说明请查询资料

net.core.netdev_max_backlog = 32768
net.core.somaxconn = 32768
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.route.gc_timeout = 100
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 1200
net.ipv4.tcp_timestamps = 0
net.ipv4.tcp_synack_retries = 2
net.ipv4.tcp_syn_retries = 2
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.tcp_max_syn_backlog = 65536

保存退出，执行sysctl -p生效