Tomcat并发优化
参考及部分来源:tomcat8.0 基本参数调优配置, 普通但有效的JVM参数和命令, 配个GC日志呗,不然咋分析故障原因
-
Tomcat配置文件server.xml中<Connector …/>
minProcessors: 最小空闲连接线程数,用于提高系统处理性能,默认值为 10 maxProcessors: 最大连接线程数,即:并发处理的最大请求数,默认值为 75 acceptCount: 允许的最大连接数,应大于等于 maxProcessors ,默认值为 100 enableLookups: 是否反查域名,取值为: true 或 false,为了提高处理能力,应设置为false connectionTimeout: 网络连接超时,单位:毫秒。设置为 0 表示永不超时,这样设置有隐患的。通常可设置为 30000 毫秒,其中和最大连接数相关的参数为maxProcessors 和 acceptCount 。如果要加大并发连接数,应同时加大这两个参数。 web server允许的最大连接数还受制于操作系统的内核参数设置,通常 Windows 是 2000 个左右, Linux 是 1000 个左右。 maxThreads: 客户请求最大线程数 minSpareThreads: Tomcat初始化时创建的 socket 线程数 maxSpareThreads: Tomcat连接器的最大空闲 socket 线程数 redirectPort: 在需要基于安全通道的场合,把客户请求转发到基于SSL 的 redirectPort 端口 acceptAccount: 监听端口队列最大数,满了之后客户请求会被拒绝 (不能小于maxSpareThreads) URIEncoding: URL统一编码
-
正常配置
<Connector port="8080" protocol="HTTP/1.1" maxSwallowSize="-1" maxThreads="1000" minProcessors="100" maxProcessors="1000" minSpareThreads="100" maxSpareThreads="1000" enableLookups="false" URIEncoding="utf-8" acceptCount="1000" connectionTimeout="20000" disableUploadTimeout="ture" proxyPort="8443" redirectPort="8443" />
jvm内存调优
- java启动参数共分为三类
- 其一是标准参数(-),所有的JVM实现都必须实现这些参数的功能,而且向后兼容
- 其二是非标准参数(-X),默认jvm实现这些参数的功能,但是并不保证所有jvm实现都满足,且不保证向后兼容
- 其三是非Stable参数(-XX),此类参数各个jvm实现会有所不同,将来可能会随时取消,需要慎重使用
调试参数
-
打印启动参数:
可以查看默认参数 java -XX:+PrintCommandLineFlags -version ]# java -XX:+PrintCommandLineFlags -version -XX:InitialHeapSize=111329088 -XX:MaxHeapSize=1781265408 -XX:+PrintCommandLineFlags -XX:+UseCompressedClassPointers -XX:+UseCompressedOops openjdk version "1.8.0_181" OpenJDK Runtime Environment (build 1.8.0_181-b13) OpenJDK 64-Bit Server VM (build 25.181-b13, mixed mode)
-
打印ClassLoader日志
这个参数会在控制台打印所有类加载/卸载信息 -XX:+TraceClassLoading -XX:+TraceClassUnloading
-
OOM时Dump内存
-XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/crashes/my-heap-dump.hprof # OOM时执行脚本(比如重启,参考) -XX:OnOutOfMemoryError=/scripts/restart-myapp.sh
内存类
-
JVM设置内存的单位默认是字节
-Xmn256m -Xmn262144k -Xmn268435456
-
设置初始新生代大小:
-XX:NewSize=2G(也可以是2M)
-
设置最大新生代大小:
-XX:MaxNewSize=2G(也可以是2M)
- 注意:-Xmn优先级大于-XX:NewRatio
-
设置Eden/Survivor比例
-
表示两个Survivor和Edgen区的比,8表示两个Survivor:Eden=2:8,即一个Survivor占新生代的1/10。
# 计算方式为: Survivor Size(1) = Young Generation Size / (2+<SurvivorRatio) Eden Size = Young Generation Size / (2+SurvivorRatio) * SurvivorRatio
-
配置:
-XX:SurvivorRatio=8
-
-
设置老年代大小
-
老年代大小无法直接设置,只能通过堆大小+分配比例进行调整 `` #设置新老一代大小之间的比率。默认值为2。2表示New Size:Old Size=1:2,则新生代占堆大小的1/3,老年代占堆大小的2/3
# 计算方式为: New Size = Heap Size / NewRatio + 1 Old Size = (Heap Size / NewRatio + 1) * NewRatio
-
配置:
-XX:NewRatio=2
-
-
设置永久代(PermGen/MetaSpace)大小
#设置分配的Metaspace的大小,Metaspace将在首次超过垃圾收集时触发垃圾收集。 垃圾收集的阈值取决于使用的元数据量而增加或减少。 默认大小取决于平台。 -XX:MetaspaceSize=size #设置可以分配给Metaspace的最大本机内存。 默认情况下,大小不受限制。 应用程序的Metaspace量取决于应用程序本身,其他正在运行的应用程序以及系统上可用的内存量 -XX:MaxMetaspaceSize=size
调优典型设置
-
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k
- -Xmx3550m:设置JVM最大可用内存为3550M。
- -Xms3550m:设置JVM促使内存为3550m。此值可以设置与 -Xmx 相同,以避免每次垃圾回收完成后JVM重新分配内存。
- -Xmn2g:设置年轻代大小为2G。整个JVM内存大小=年轻代大小 + 年老代大小 + 持久代大小。持久代一般固定大小为64m,所以增大年轻代后,将会减小年老代大小。此值对系统性能影响较大,Sun官方推荐配置为整个堆的3/8。
- -Xss128k:设置每个线程的堆栈大小。JDK5.0以后每个线程堆栈大小为1M,以前每个线程堆栈大小为256K。更具应用的线程所需内存大小进行调整。在相同物理内存下,减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的,不能无限生成,经验值在3000~5000左右。
-
java -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4 -XX:MaxPermSize=16m -XX:MaxTenuringThreshold=0
- -XX:NewRatio=4:设置年轻代(包括Eden和两个Survivor区)与年老代的比值(除去持久代)。设置为4,则年轻代与年老代所占比值为1:4,年轻代占整个堆栈的1/5
- -XX:SurvivorRatio=4:设置年轻代中Eden区与Survivor区的大小比值。设置为4,则两个Survivor区与一个Eden区的比值为2:4,一个Survivor区占整个年轻代的1/6
- -XX:MaxPermSize=16m:设置持久代大小为16m。
- -XX:MaxTenuringThreshold=0:设置垃圾最大年龄。如果设置为0的话,则年轻代对象不经过Survivor区,直接进入年老代。对于年老代比较多的应用,可以提高效率。如果将此值设置为一个较大值,则年轻代对象会在Survivor区进行多次复制,这样可以增加对象再年轻代的存活时间,增加在年轻代即被回收的概论。
gc调优
打印内容
-
打印对象分布
-
分析 GC 时的晋升情况和晋升导致的高暂停:
-XX:+PrintTenuringDistribution
-
输出内容示例
Desired survivor size 59244544 bytes, new threshold 15 (max 15) - age 1: 963176 bytes, 963176 total - age 2: 791264 bytes, 1754440 total - age 3: 210960 bytes, 1965400 total - age 4: 167672 bytes, 2133072 total
-
-
GC 后打印堆数据
每次发生 GC 时,对比一下 GC 前后的堆内存情况,更直观 -XX:+PrintHeapAtGC
-
打印基本 GC 信息
-
打印 GC 日志参数:
-XX:+PrintGCDetails -XX:+PrintGCDateStamps
-
输出内容示例
{Heap before GC invocations=0 (full 0): garbage-first heap total 1024000K, used 324609K [0x0000000781800000, 0x0000000781901f40, 0x00000007c0000000) region size 1024K, 6 young (6144K), 0 survivors (0K) Metaspace used 3420K, capacity 4500K, committed 4864K, reserved 1056768K class space used 371K, capacity 388K, committed 512K, reserved 1048576K Heap after GC invocations=1 (full 1): garbage-first heap total 1024000K, used 21755K [0x0000000781800000, 0x0000000781901f40, 0x00000007c0000000) region size 1024K, 0 young (0K), 0 survivors (0K) Metaspace used 3420K, capacity 4500K, committed 4864K, reserved 1056768K class space used 371K, capacity 388K, committed 512K, reserved 1048576K }
-
-
打印 STW 时间
暂停时间是 GC 最重要的指标 -XX:+PrintGCApplicationStoppedTime Total time for which application threads were stopped: 0.0254260 seconds, Stopping threads took: 0.0000218 seconds
-
打印 safepoint 信息
-
进入STW阶段之前,需要要找到一个合适的 safepoint ,这个指标一样很重要(非必选,出现 GC 问题时最好加上此参数调试)
-XX:+PrintSafepointStatistics -XX:PrintSafepointStatisticsCount=1
-
输出内容示例
vmop [threads: total initially_running wait_to_block] [time: spin block sync cleanup vmop] page_trap_count 0.379: ParallelGCSystemGC [ 10 0 0 ] [ 0 0 0 0 16 ] 0
-
-
打印 Reference 处理信息
-
强引用/弱引用/软引用/虚引用/finalize 方法问题:
-XX:+PrintReferenceGC
-
输出内容示例
2021-02-19T12:41:30.462+0800: 5072726.605: [SoftReference, 0 refs, 0.0000521 secs] 2021-02-19T12:41:30.462+0800: 5072726.605: [WeakReference, 0 refs, 0.0000069 secs] 2021-02-19T12:41:30.462+0800: 5072726.605: [FinalReference, 0 refs, 0.0000056 secs] 2021-02-19T12:41:30.462+0800: 5072726.605: [PhantomReference, 0 refs, 0 refs, 0.0000059 secs] 2021-02-19T12:41:30.462+0800: 5072726.605: [JNI Weak Reference, 0.0000131 secs], 0.4635293 secs]
-
-
完整参数
# requireds -XX:+PrintGCDetails -XX:+PrintGCDateStamps -XX:+PrintTenuringDistribution -XX:+PrintHeapAtGC -XX:+PrintReferenceGC -XX:+PrintGCApplicationStoppedTime # optional -XX:+PrintSafepointStatistics -XX:PrintSafepointStatisticsCount=1
输出方式
-
JVM提供了几个用于分割 GC 日志的参数:
# GC日志输出的文件路径 -Xloggc:/path/to/gc.log # 开启日志文件分割 -XX:+UseGCLogFileRotation # 最多分割几个文件,超过之后从头开始写 -XX:NumberOfGCLogFiles=14 # 每个文件上限大小,超过就触发分割 -XX:GCLogFileSize=100M
- -Xloggc 方式指定的日志文件,是覆盖写的方式,每次启动都会覆盖,历史日志会丢失
- 当超过最大分割数后,会从第0个文件开始重新写入,而且是覆盖
- -XX:NumberOfGCLogFiles 并不能设置为无限
- **问题:**这个覆盖就有点恶心了,每次启动都会覆盖之前的历史日志
-
使用时间戳命名文件
# GC日志输出的文件路径 -Xloggc:/path/to/gc-%t.log # 开启日志文件分割 -XX:+UseGCLogFileRotation # 最多分割几个文件,超过之后从头开始写 -XX:NumberOfGCLogFiles=14 # 每个文件上限大小,超过就触发分割 -XX:GCLogFileSize=100M
gc典型设置
# 必备
-XX:+PrintGCDetails
-XX:+PrintGCDateStamps
-XX:+PrintTenuringDistribution
-XX:+PrintHeapAtGC
-XX:+PrintReferenceGC
-XX:+PrintGCApplicationStoppedTime
# 可选
-XX:+PrintSafepointStatistics
-XX:PrintSafepointStatisticsCount=1
# GC日志输出的文件路径
-Xloggc:/path/to/gc-%t.log
# 开启日志文件分割
-XX:+UseGCLogFileRotation
# 最多分割几个文件,超过之后从头文件开始写
-XX:NumberOfGCLogFiles=14
# 每个文件上限大小,超过就触发分割
-XX:GCLogFileSize=100M
tomcat-gc处理
-server -Xmn2048M -Xms5120M -Xmx5120M -Dfile.encoding=UTF-8 -XX:SurvivorRatio=8 -XX:MetaspaceSize=512m -XX:MaxMetaspaceSize=2048m -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=d:\gc\heap\gc.hprof -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -Xloggc:d:\gc\heap\gc.log"
-server -Xmn2730M -Xms8192M -Xmx8192M -XX:-UseLargePages -XX:SurvivorRatio=8 -Dfile.encoding=UTF-8 -XX:MetaspaceSize=512m -XX:MaxMetaspaceSize=512m -XX:-OmitStackTraceInFastThrow -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/data/java_heapdump.hprof -verbose:gc -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=10 -XX:GCLogFileSize=100M -Xloggc:/data/gm_gc.log