JVM虚拟机系列二

 

 

1、对象在Eden区完成内存分配

2、当Eden区满了，再创建对象，会因为申请不到空间，触发minorGC，进行young(eden+1survivor)区的垃圾回收

3、minorGC时，Eden不能被回收的对象被放入到空的survivor（Eden肯定会被清空），另一个survivor里不能被GC回收的对象也会被放入这个survivor，始终保证一个survivor是空的

4、当做第3步的时候，如果发现survivor满了，则这些对象被copy到old区，或者survivor并没有满，但是有些对象已经足够Old，也被放入Old区 XX:MaxTenuringThreshold

5、当Old区被放满的之后，进行fullGC

 

在知道垃圾回收机制以后，大家可以在对jvm中堆的各个参数进行优化设置，来提高性能。

 

 

Eden-伊甸园

Survior--幸存区

 

1.堆大小设置

　　JVM 中最大堆大小有三方面限制：相关操作系统的数据模型（32-bt还是64-bit）限制；系统的可用虚拟内存限制；系统的可用物理内存限制。32位系统下，一般限制在1.5G~2G；64为操作系统对内存无限制。我在Windows Server 2003 系统，3.5G物理内存，JDK5.0下测试，最大可设置为1478m。

 

　　典型设置：

 

　 *java -Xmx3550m -Xms3550m -Xmn2g -Xss128k

 

　　-Xmx3550m：设置JVM最大可用内存为3550M。

 

　　-Xms3550m：设置JVM促使内存为3550m。此值可以设置与-Xmx相同，以避免每次垃圾回收完成后JVM重新分配内存。

 

　　-Xmn2g：设置年轻代大小为2G。整个JVM内存大小=年轻代大小 + 年老代大小 + 持久代大小。持久代一般固定大小为64m，所以增大年轻代后，将会减小年老代大小。此值对系统性能影响较大，Sun官方推荐配置为整个堆的3/8。

 

　　-Xss128k：设置每个线程的堆栈大小。JDK5.0以后每个线程堆栈大小为1M，以前每个线程堆栈大小为256K。更具应用的线程所需内存大小进行调整。在相同物理内存下，减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的，不能无限生成，经验值在3000~5000左右。

 

　　*java -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4 -XX:MaxPermSize=16m -XX:MaxTenuringThreshold=0

 

　　-XX:NewRatio=4:设置年轻代（包括Eden和两个Survivor区）与年老代的比值（除去持久代）。设置为4，则年轻代与年老代所占比值为1：4，年轻代占整个堆栈的1/5

 

　　-XX:SurvivorRatio=4：设置年轻代中Eden区与Survivor区的大小比值。设置为4，则两个Survivor区与一个Eden区的比值为2:4，一个Survivor区占整个年轻代的1/6

 

　　-XX:MaxPermSize=16m:设置持久代大小为16m。

 

　　-XX:MaxTenuringThreshold=0：设置垃圾最大年龄。如果设置为0的话，则年轻代对象不经过Survivor区，直接进入年老代。对于年老代比较多的应用，可以提高效率。如果将此值设置为一个较大值，则年轻代对象会在Survivor区进行多次复制，这样可以增加对象再年轻代的存活时间，增加在年轻代即被回收的概论。

 

　　2.回收器选择

 

　　JVM给了三种选择：串行收集器、并行收集器、并发收集器，但是串行收集器只适用于小数据量的情况，所以这里的选择主要针对并行收集器和并发收集器。默认情况下，JDK5.0以前都是使用串行收集器，如果想使用其他收集器需要在启动时加入相应参数。JDK5.0以后，JVM会根据当前系统配置进行判断。

 

　　(1)吞吐量优先的并行收集器

 

　　如上文所述，并行收集器主要以到达一定的吞吐量为目标，适用于科学技术和后台处理等。

 

　　典型配置：

 

　　*java -Xmx3800m -Xms3800m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20

 

　　-XX:+UseParallelGC：选择垃圾收集器为并行收集器。此配置仅对年轻代有效。即上述配置下，年轻代使用并发收集，而年老代仍旧使用串行收集。

 

　　-XX:ParallelGCThreads=20：配置并行收集器的线程数，即：同时多少个线程一起进行垃圾回收。此值最好配置与处理器数目相等。

 

　　*java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20 -XX:+UseParallelOldGC

 

　　-XX:+UseParallelOldGC：配置年老代垃圾收集方式为并行收集。JDK6.0支持对年老代并行收集。

 

　　java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100

 

　　-XX:MaxGCPauseMillis=100:设置每次年轻代垃圾回收的最长时间，如果无法满足此时间，JVM会自动调整年轻代大小，以满足此值。

 

　　*java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100 -XX:+UseAdaptiveSizePolicy

 

　　-XX:+UseAdaptiveSizePolicy：设置此选项后，并行收集器会自动选择年轻代区大小和相应的Survivor区比例，以达到目标系统规定的最低相应时间或者收集频率等，此值建议使用并行收集器时，一直打开。

 

　　(2)响应时间优先的并发收集器

 

　　如上文所述，并发收集器主要是保证系统的响应时间，减少垃圾收集时的停顿时间。适用于应用服务器、电信领域等。

 

　　典型配置：

 

　　*java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:ParallelGCThreads=20 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC

 

　　-XX:+UseConcMarkSweepGC：设置年老代为并发收集。测试中配置这个以后，-XX:NewRatio=4的配置失效了，原因不明。所以，此时年轻代大小最好用-Xmn设置。

 

　　-XX:+UseParNewGC:设置年轻代为并行收集。可与CMS收集同时使用。JDK5.0以上，JVM会根据系统配置自行设置，所以无需再设置此值。

 

　　*java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC -XX:CMSFullGCsBeforeCompaction=5 -XX:+UseCMSCompactAtFullCollection

 

　　-XX:CMSFullGCsBeforeCompaction：由于并发收集器不对内存空间进行压缩、整理，所以运行一段时间以后会产生“碎片”，使得运行效率降低。此值设置运行多少次GC以后对内存空间进行压缩、整理。

 

　　-XX:+UseCMSCompactAtFullCollection：打开对年老代的压缩。可能会影响性能，但是可以消除碎片

 

　　3.辅助信息

 

　　JVM提供了大量命令行参数，打印信息，供调试使用。主要有以下一些：

 

　　*-XX:+PrintGC

 

　　输出形式：[GC 118250K->113543K(130112K), 0.0094143 secs]

 

　　[Full GC 121376K->10414K(130112K), 0.0650971 secs]

 

　　*-XX:+PrintGCDetails

 

　　输出形式：[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs]

 

　　[GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]

 

　　*-XX:+PrintGCTimeStamps -XX:+PrintGC：PrintGCTimeStamps可与上面两个混合使用

 

　　输出形式：11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]

 

　　*-XX:+PrintGCApplicationConcurrentTime:打印每次垃圾回收前，程序未中断的执行时间。可与上面混合使用

 

　　输出形式：Application time: 0.5291524 seconds

 

   *输出形式：Total time for which application threads were stopped: 0.0468229 seconds

 

　　*-XX:PrintHeapAtGC:打印GC前后的详细堆栈信息

 

　　输出形式：

 

　　34.702: [GC {Heap before gc invocations=7:

 

　　def new generation total 55296K, used 52568K [0x1ebd0000, 0x227d0000, 0x227d0000)

 

　　eden space 49152K, 99% used [0x1ebd0000, 0x21bce430, 0x21bd0000)

 

　　from space 6144K, 55% used [0x221d0000, 0x22527e10, 0x227d0000)

 

　　to space 6144K, 0% used [0x21bd0000, 0x21bd0000, 0x221d0000)

 

　　tenured generation total 69632K, used 2696K [0x227d0000, 0x26bd0000, 0x26bd0000)

 

　　the space 69632K, 3% used [0x227d0000, 0x22a720f8, 0x22a72200, 0x26bd0000)

 

　　compacting perm gen total 8192K, used 2898K [0x26bd0000, 0x273d0000, 0x2abd0000)

 

　　the space 8192K, 35% used [0x26bd0000, 0x26ea4ba8, 0x26ea4c00, 0x273d0000)

 

　　ro space 8192K, 66% used [0x2abd0000, 0x2b12bcc0, 0x2b12be00, 0x2b3d0000)

 

　　rw space 12288K, 46% used [0x2b3d0000, 0x2b972060, 0x2b972200, 0x2bfd0000)

 

　　34.735: [DefNew: 52568K->3433K(55296K), 0.0072126 secs] 55264K->6615K(124928K)Heap after gc invocations=8:

 

　　def new generation total 55296K, used 3433K [0x1ebd0000, 0x227d0000, 0x227d0000)

 

　　eden space 49152K, 0% used [0x1ebd0000, 0x1ebd0000, 0x21bd0000)

 

　　from space 6144K, 55% used [0x21bd0000, 0x21f2a5e8, 0x221d0000)

 

　　to space 6144K, 0% used [0x221d0000, 0x221d0000, 0x227d0000)

 

　　tenured generation total 69632K, used 3182K [0x227d0000, 0x26bd0000, 0x26bd0000)

 

　　the space 69632K, 4% used [0x227d0000, 0x22aeb958, 0x22aeba00, 0x26bd0000)

 

　　compacting perm gen total 8192K, used 2898K [0x26bd0000, 0x273d0000, 0x2abd0000)

 

　　the space 8192K, 35% used [0x26bd0000, 0x26ea4ba8, 0x26ea4c00, 0x273d0000)

 

　　ro space 8192K, 66% used [0x2abd0000, 0x2b12bcc0, 0x2b12be00, 0x2b3d0000)

 

　　rw space 12288K, 46% used [0x2b3d0000, 0x2b972060, 0x2b972200, 0x2bfd0000)

 

　　}

 

　　, 0.0757599 secs]

 

　　-Xloggc:filename:与上面几个配合使用，把相关日志信息记录到文件以便分析。

 

　　4.常见配置汇总

 

　　(1)堆设置

 

　　-Xms:初始堆大小

 

　　-Xmx:最大堆大小

 

　　-XX:NewSize=n:设置年轻代大小

 

　　-XX:NewRatio=n:设置年轻代和年老代的比值。如:为3，表示年轻代与年老代比值为1：3，年轻代占整个年轻代年老代和的1/4

 

　　-XX:SurvivorRatio=n:年轻代中Eden区与两个Survivor区的比值。注意Survivor区有两个。如：3，表示Eden：Survivor=3：2，一个Survivor区占整个年轻代的1/5

 

　　-XX:MaxPermSize=n:设置持久代大小

 

　　(2)收集器设置

 

　　-XX:+UseSerialGC:设置串行收集器

 

　　-XX:+UseParallelGC:设置并行收集器

 

　　-XX:+UseParalledlOldGC:设置并行年老代收集器

 

　　-XX:+UseConcMarkSweepGC:设置并发收集器

 

　　(3)垃圾回收统计信息

 

　　-XX:+PrintGC

 

　　-XX:+PrintGCDetails

 

　　-XX:+PrintGCTimeStamps

 

　　-Xloggc:filename

 

　　(4)并行收集器设置

 

　　-XX:ParallelGCThreads=n:设置并行收集器收集时使用的CPU数。并行收集线程数。

 

　　-XX:MaxGCPauseMillis=n:设置并行收集最大暂停时间

 

　　-XX:GCTimeRatio=n:设置垃圾回收时间占程序运行时间的百分比。公式为1/(1+n)

 

　　并发收集器设置

 

　　-XX:+CMSIncrementalMode:设置为增量模式。适用于单CPU情况。

 

　　-XX:ParallelGCThreads=n:设置并发收集器年轻代收集方式为并行收集时，使用的CPU数。并行收集线程数。

 

　　4、调优总结

 

　　(1)年轻代大小选择

 

　　*响应时间优先的应用：尽可能设大，直到接近系统的最低响应时间限制（根据实际情况选择）。在此种情况下，年轻代收集发生的频率也是最小的。同时，减少到达年老代的对象。

 

　　*吞吐量优先的应用：尽可能的设置大，可能到达Gbit的程度。因为对响应时间没有要求，垃圾收集可以并行进行，一般适合8CPU以上的应用。

 

　　(2)年老代大小选择

 

　　*响应时间优先的应用：年老代使用并发收集器，所以其大小需要小心设置，一般要考虑并发会话率和会话持续时间等一些参数。如果堆设置小了，可以会造成内存碎片、高回收频率以及应用暂停而使用传统的标记清除方式；如果堆大了，则需要较长的收集时间。最优化的方案，一般需要参考以下数据获得：

 

并发垃圾收集信息

持久代并发收集次数

传统GC信息

花在年轻代和年老代回收上的时间比例

减少年轻代和年老代花费的时间，一般会提高应用的效率

吞吐量优先的应用：一般吞吐量优先的应用都有一个很大的年轻代和一个较小的年老代。原因是，这样可以尽可能回收掉大部分短期对象，减少中期的对象，而年老代尽存放长期存活对象。

 

　　(3)较小堆引起的碎片问题

 

　　因为年老代的并发收集器使用标记、清除算法，所以不会对堆进行压缩。当收集器回收时，他会把相邻的空间进行合并，这样可以分配给较大的对象。但是，当堆空间较小时，运行一段时间以后，就会出现“碎片”，如果并发收集器找不到足够的空间，那么并发收集器将会停止，然后使用传统的标记、清除方式进行回收。如果出现“碎片”，可能需要进行如下配置：

 

　　-XX:+UseCMSCompactAtFullCollection：使用并发收集器时，开启对年老代的压缩。

 

　　-XX:CMSFullGCsBeforeCompaction=0：上面配置开启的情况下，这里设置多少次Full GC后，对年老代进行压缩

 

 

二：详细参数优化

1: heap size
a: -Xmx
指定jvm的最大heap大小，如：-Xmx=2g
b: -Xms
指定jvm的最小heap大小，如：-Xms=2g，高并发应用，建议和-Xmx一样，防止因为内存收缩/突然增大带来的性能影响。
c: -Xmn
指定jvm中New Generation的大小，如：-Xmn256m。这个参数很影响性能，如果你的程序需要比较多的临时内存，建议设置到512M，如果用的少，尽量降低这个数值，一般来说128/256足以使用了。
d: -XX:PermSize=
指定jvm中Perm Generation的最小值，如：-XX:PermSize=32m。这个参数需要看你的实际情况，可以通过jmap命令看看到底需要多少。
e: -XX:MaxPermSize=
指定Perm Generation的最大值，如：-XX:MaxPermSize=64m
f: -Xss
指定线程桟大小，如：-Xss128k，一般来说，webx框架下的应用需要256K。如果你的程序有大规模的递归行为，请考虑设置到512K/1M。这个需要全面的测试才能知道。不过，256K已经很大了。这个参数对性能的影响比较大的。
g: -XX:NewRatio=
指定jvm中Old Generation heap size与New Generation的比例，在使用CMS GC的情况下此参数失效，如：-XX:NewRatio=2
h: -XX:SurvivorRatio=
指定New Generation中Eden Space与一个Survivor Space的heap size比例，-XX:SurvivorRatio=8，那么在总共New Generation为10m的情况下，Eden Space为8m
i: -XX:MinHeapFreeRatio=
指定jvm heap在使用率小于n的情况下，heap进行收缩，Xmx==Xms的情况下无效，如：-XX:MinHeapFreeRatio=30
j: -XX:MaxHeapFreeRatio=
指定jvm heap在使用率大于n的情况下，heap 进行扩张，Xmx==Xms的情况下无效，如：-XX:MaxHeapFreeRatio=70
k: -XX:LargePageSizeInBytes=
指定Java heap的分页页面大小， 如：-XX:LargePageSizeInBytes=128m
2: garbage collector
a: -XX:+UseParallelGC
指定在New Generation使用parallel collector，并行收集，暂停，app threads，同时启动多个垃圾回收thread，不能和CMS gc一起使用。系统吨吐量优先，但是会有较长长时间的app pause，后台系统任务可以使用此 gc
b: -XX:ParallelGCThreads=
指定parallel collection时启动的thread个数，默认是物理processor的个数
c: -XX:+UseParallelOldGC
指定在Old Generation使用parallel collector
d: -XX:+UseParNewGC
指定在New Generation使用parallel collector，是UseParallelGC的gc的升级版本，有更好的性能或者优点，可以和CMS gc一起使用
e: -XX:+CMSParallelRemarkEnabled
在使用UseParNewGC的情况下，尽量减少mark的时间
f: -XX:+UseConcMarkSweepGC
指定在Old Generation使用concurrent cmark sweep gc、gc thread和app thread并行（在init-mark和remark时pause app thread）。app pause时间较短，适合交互性强的系统，如web server
g: -XX:+UseCMSCompactAtFullCollection
在使用concurrent gc的情况下，防止memory fragmention，对live object进行整理，使memory 碎片减少
h: -XX:CMSInitiatingOccupancyFraction=
指示在old generation 在使用了n%的比例后，启动concurrent collector，默认值是68，如：-XX:CMSInitiatingOccupancyFraction=70

有个bug，在低版本（1.5.09 and early）的jvm上出现，
http://bugs.sun.com/bugdatabase/view_bug.do?bug_id=6486089
i: -XX:+UseCMSInitiatingOccupancyOnly
指示只有在old generation在使用了初始化的比例后concurrent collector启动收集
3:others
a: -XX:MaxTenuringThreshold=
指定一个object在经历了n次young gc后转移到old generation区，在linux64的java6下默认值是15，此参数对于throughput collector无效，如：-XX:MaxTenuringThreshold=31
b: -XX:+DisableExplicitGC
禁止java程序中的full gc，如System.gc()的调用。最好加上么，防止程序在代码里误用了。对性能造成冲击。
c: -XX:+UseFastAccessorMethods
get、set方法转成本地代码
d: -XX:+PrintGCDetails
打应垃圾收集的情况如：
[GC 15610.466: [ParNew: 229689K->20221K(235968K), 0.0194460 secs] 1159829K->953935K(2070976K), 0.0196420 secs]
e: -XX:+PrintGCTimeStamps
打应垃圾收集的时间情况，如：
[Times: user=0.09 sys=0.00, real=0.02 secs]
f: -XX:+PrintGCApplicationStoppedTime
打应垃圾收集时，系统的停顿时间，如：
Total time for which application threads were stopped: 0.0225920 seconds
4: a web server product sample and process
JAVA_OPTS=" -server -Xmx2g -Xms2g -Xmn256m -XX:PermSize=128m -Xss256k -XX:+DisableExplicitGC -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 "

最初的时候我们用UseParallelGC和UseParallelOldGC，heap开了3G，NewRatio设成1。这样的配置下young gc发生频率约12、3秒一次，平均每次花费80ms左右，full gc发生的频率极低，每次消耗1s左右。从所有gc消耗系统时间看，系统使用率还是满高的，但是不论是young gc还是old gc，application thread pause的时间比较长，不合适 web 应用。我们也调小New Generation的，但是这样会使full gc时间加长。

后来我们就用CMS gc（-XX:+UseConcMarkSweepGC），当时的总heap还是3g，新生代1.5g后，观察不是很理想，改为jvm heap为2g新生代设置-Xmn1g，在这样的情况下young gc发生的频率变成7、8秒一次，平均每次时间40-50毫秒左右，CMS gc很少发生，每次时间在init-mark和remark（two steps stop all app thread）总共平均花费80-90ms左右。

在这里我们曾经New Generation调大到1400m，总共2g的jvm heap，平均每次ygc花费时间60-70ms左右，CMS gc的init-mark和remark之和平均在50ms左右，这里我们意识到错误的方向，或者说CMS的作用，所以进行了修改。

最后我们调小New Generation为256m，young gc 2、3秒发生一次，平均停顿时间在25毫秒左右，CMS gc的init-mark和remark之和平均在50ms左右，这样使系统比较平滑，经压力测试，这个配置下系统性能是比较高的。

在使用CMS gc的时候他有两种触发gc的方式：gc估算触发和heap占用触发。我们的1.5.0.09 环境下有次old 区heap占用在30%左右，她就频繁gc，个人感觉系统估算触发这种方式不靠谱，还是用 heap 使用比率触发比较稳妥。

这些数据都来自64位测试机，过程中的数据都是我在jboss log找的，当时没有记下来，可能存在一点点偏差，但不会很大，基本过程就是这样。
5: 总结
web server作为交互性要求较高的应用，我们应该使用Parallel+CMS，UseParNewGC这个在jdk6 -server上是默认的new generation gc，新生代不能太大，这样每次pause会短一些。CMS mark-sweep generation可以大一些，可以根据pause time实际情况控制。

 

三：GC回收

一：回收GC设置优化
i: -XX:MinHeapFreeRatio= <min percentage/百分比>
指定jvm heap在使用率小于n的情况下，heap进行收缩，Xmx==Xms的情况下无效，如：-XX:MinHeapFreeRatio=30
j: -XX:MaxHeapFreeRatio=
指定jvm heap在使用率大于n的情况下，heap 进行扩张，Xmx==Xms的情况下无效，如：-XX:MaxHeapFreeRatio=70

二：heap堆大小设置参考
a: -Xmx
指定jvm的最大heap大小，如：-Xmx=2g
b: -Xms
指定jvm的最小heap大小，如：-Xms=2g，高并发应用，建议和-Xmx一样，防止因为内存收缩/突然增大带来的性能影响。
c: -Xmn
指定jvm中New Generation的大小，如：-Xmn256m。这个参数很影响性能，如果你的程序需要比较多的临时内存，建议设置到512M，如果用的少，尽量降低这个数值，一般来说128/256足以使用了。
h: -XX:SurvivorRatio=
指定New Generation中Eden Space与一个Survivor Space的heap size比例，-XX:SurvivorRatio=8，那么在总共New Generation为10m的情况下，Eden Space为8m

三：查看linux系统GC回收情况命令,'pgrep java'为Pid
jstat -gcutil - h20 'pgrep java' ls

四：JDK1.5引入的新功能 Ergonomic Settings（自动优化的参数）
并行收集器设置
-XX:MaxGCPauseMillis=n:设置并行收集最大暂停时间
-XX:GCTimeRatio=n:设置垃圾回收时间占程序运行时间的百分比。公式为1/(1+n)

五：控制台、日志打印GC LOG
d: -XX:+PrintGCDetails
打应垃圾收集的情况如：
[GC 15610.466: [ParNew: 229689K->20221K(235968K), 0.0194460 secs] 1159829K->953935K(2070976K), 0.0196420 secs]
e: -XX:+PrintGCTimeStamps
打应垃圾收集的时间情况，如：
[Times: user=0.09 sys=0.00, real=0.02 secs]

 六：收集器设置
-XX:+UseSerialGC:设置串行收集器
-XX:+UseParallelGC:设置并行收集器
-XX:+UseParalledlOldGC:设置并行年老代收集器
-XX:+UseConcMarkSweepGC:设置并发收集器