Tomcat优化(内存、线程、IO)

Tomcat在各位JavaWeb从业者常常就是默认的开发环境,但是Tomcat的默认配置作为生产环境,尤其是内存和线程的配置,默认都很低,容易成为性能瓶颈.

幸好Tomcat还有很多的提升空间.下文介绍一下Tomcat优化,可以分为内存,线程,IO.

一:Tomcat内存优化

启动时告诉JVM我要一块大内存(调优内存是最直接的方式)
Windows 下的catalina.bat
Linux 下的catalina.sh 如:
-server 一定要作为第一个参数,在多个CPU时性能佳 (默认是-client)
-Xmx4000M 堆初始大小
-Xms4000M 堆最大大小(这两个值最好设成一样,避免 JVM 反复重新申请内存,导致性能大起大落)
-Xmn600M 新生代(xms的四分之一到三分之一,Eden区80%,两个Survivor各10%) 设置两个Survivor区最大的好处就是解决了碎片化
xms-xmn的差值就是 OLD区

-XX:PermSize=512M (1.8 MetaSpaceSIze)
永久保存区(持久代)初始大小,缺省值为64M
-XX:MaxPermSize=512M
最大值持久代内存大小
-XX:+DisableExplicitGC 在程序代码中不允许有显示的调用“System.gc()”
-XX:+UseConcMarkSweepGC 设置年老代为并发收集
-XX:+UseParNewGC 新生代采用多线程并行回收
-XX:+CMSParallelRemarkEnabled 在使用 UseParNewGC 的情况下,尽量减少 mark 的时间
-XX:+UseCMSCompactAtFullCollection 在使用 concurrent gc 的情况下,防止 memoryfragmention,对 live object 进行整理,使 memory 碎片减少
-XX:CMSFullGCsBeforeCompaction=5
-XX:+UseFastAccessorMethods 使用 get,set 方法转成本地代码,原始类型的快速优化
-XX:CMSInitiatingOccupancyFraction=80 当堆满之后,并行收集器便开始进行垃圾收集(调整GC)
说明老年代到 80% 满的时候开始执行对老年代的并发垃圾回收(CMS),就不会出现 promotion failed
(Xmx-Xmn)(100-CMSInitiatingOccupancyFraction)/100 >= Xmn 34000.2>600
-XX:+PrintClassHistogram
-XX:+PrintGCDetails
-XX:+PrintGCTimeStamps
-XX:+PrintHeapAtGC
-XX:+PrintGCApplicationStoppedTime

二:Tomcat 线程优化

在server.xml中 如:

maxThreads="X" 表示最多同时处理X个连接

minSpareThreads=“X” 初始化X个连接

maxSpareThreads=“X” 表示如果最多可以有X个线程,一旦超过X个,则会关闭不在需要的线程

acceptCount=“X” 当同时连接的人数达到maxThreads时,还可以排队,队列大小为X.超过X就不处理

三:Tomcat IO优化

1、各种Io

1:同步阻塞IO(JAVA BIO) 同步并阻塞,服务器实现模式为一个连接一个线程(one connection one thread 想想都觉得恐怖,线程可是非常宝贵的资源),当然可以通过线程池机制改善.
2:JAVA NIO:又分为同步非阻塞IO,异步阻塞IO 与BIO最大的区别one request one thread.可以复用同一个线程处理多个connection(多路复用).
3:,异步非阻塞IO(Java NIO2又叫AIO) 主要与NIO的区别主要是操作系统的底层区别.可以做个比喻:比作快递,NIO就是网购后要自己到官网查下快递是否已经到了(可能是多次),然后自己去取快递;AIO就是快递员送货上门了(不用关注快递进度)。

BIO方式适用于连接数目比较小且固定的架构,这种方式对服务器资源要求比较高,并发局限于应用中,JDK1.4以前的唯一选择,但程序直观简单易理解.
NIO方式适用于连接数目多且连接比较短(轻操作)的架构,比如聊天服务器,并发局限于应用中,编程比较复杂,JDK1.4开始支持.
AIO方式使用于连接数目多且连接比较长(重操作)的架构,比如相册服务器,充分调用OS参与并发操作,编程比较复杂,JDK7开始支持.

2、工作原理

在这里插入图片描述
LimitLatch 用来限流,可以控制最大连接个数,类似 J.U.C 中的 Semaphore 后面再讲
Acceptor 只负责【接收新的 socket 连接】
Poller 只负责监听 socket channel 是否有【可读的 I/O 事件】
一旦可读,封装一个任务对象(socketProcessor),提交给 Executor 线程池处理
Executor 线程池中的工作线程最终负责【处理请求】

3、消费逻辑

普通线程池,当队列满了才会创建救急线程。
tomcat线程池做了优化:
1.小于核心线程时直接加入队列,就会立马被核心线程消费。
2.当任务数大于核心线程又小于最大线程数时,会创建救急线程。
3.如果总线程数达到 maximumPoolSize,这时不会立刻抛 RejectedExecutionException 异常

而是再次尝试将任务放入队列,如果还失败,才抛出 RejectedExecutionException 异常
在这里插入图片描述

4、配置

1)connercot

在这里插入图片描述

2)Excutor

在这里插入图片描述
这里最大队列数最好不要设置这么大。

3)server.xml

这里面的配置 Excutor自己重新定义了名字的,会优先于connector.

四:大杀器APR

APR是从操作系统级别来解决异步的IO问题,大幅度的提高性能. (http://apr.apache.org/).
APR(Apache Portable Runtime)是一个高可移植库,它是Apache HTTP Server 2.x的核心.能更好地和其它本地web技术集成,总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器.

在产品环境中,特别是直接使用Tomcat做WEB服务器的时候,应该使用Tomcat Native来提高其性能.如果不配APR,基本上300个线程狠快就会用满,以后的请求就只好等待.但是配上APR之后,并发的线程数量明显下降,从原来的300可能会马上下降到只有几十,新的请求会毫无阻塞的进来.

在局域网环境测,就算是400个并发,也是一瞬间就处理/传输完毕,但是在真实的Internet环境下,页面处理时间只占0.1%都不到,绝大部分时间都用来页面传输.如果不用APR,一个线程同一时间只能处理一个用户,势必会造成阻塞。所以生产环境下用apr是非常必要的.

安装Apache Tomcat Native Library,直接启动就支持apr(http://tomcat.apache.org/native-doc/)它本身是基于APR的. 具体安装方法可以参考其他博客和文章. 排除代码问题Tomcat优化到这个层次,可以应对大部分性能需求.

五、禁用DNS查询

在这里插入图片描述

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值