G1垃圾回收器(学习笔记)
目录
G1的问世
为什么要推出G1?
由于应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有GC就不能保证应用程序的正常运行,而经常造成STW的GC有跟不上实际的需求,所以才会不断对GC进行优化。
G1(Garbage-First)垃圾回收器是在Java7 update4之后引入的一个新的垃圾回收器,是当今收集器技术发展的最前沿成果之一。
与此同时,为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间(pause time),同时兼顾良好的吞吐量。
官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起“全功能收集器”的重任与期望。【这里的全功能指的是:即可以收集新生代,又可以收集老年代】
为什么叫G1?
因为G1是一个并行回收器,它把堆内存分割为很多不相关的区域(Region)(物理上不连续的)。使用不同的Region来表示Eden、幸存者0区,幸存者1区,老年代等。
G1 GC有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。
由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以我们给G1一个名字:垃圾优先(Garbage First)。
简介
G1是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征。
在JDK1.7版本正式启用,移除了Experimental的标识,是JDK9以后的默认垃圾回收器,取代了CMS回收器以及Parallel+Parallel Old组合。被Oracle官方称为**“全功能的垃圾收集器”**。
G1的特点
并行与并发
- 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW。
- 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会再整个回收阶段发生完全阻塞应用程序的情况。
分代收集
- 从分代上看,G1依然属于分代型垃圾回收器,他会区分年轻代和老年代,年轻代依然有伊甸园区和幸存者区。但是从堆结构上看,它不要求整个伊甸园去、年轻代或者老年代都是连续的,也不再坚持固定大小和数量。
- G1将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代。
- G1同时兼顾年轻代和老年代。
空间整合
G1将内存划分为一个一个region。内存的回收是以region作为基本单位。region之间是复制算法,但整体哦实际可以看作标记-压缩算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到来纳许内存空间而提前触发下一次GC。尤其是当Java堆非常大时,G1的优势更明显。
可预测的停顿时间模型
G1除了追求低停顿外,还能建立可预测的停顿时间模型。它能够让使用者明确指定一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间布得超过N毫秒。
- 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。
- G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。保证了G1收集器在有限的时间内可以获取尽可能高的收集效率。
- 相比于CMS GC,G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多。
G1的缺点
相较于CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负载(overload)都要比CMS要高。
从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间。
Region的使用介绍
分区Region:化整为零
使用G1收集器时,它将整个Java堆划分成越2048个大小相同的独立Region块,每个Region块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB之间。所有的Region大小相同,且在JVM生命周期内不会改变。
G1虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续。
一个Region有可能属于Eden,Survivor或者Old/Tenured内存区域。但是一个Region只可能属于一个角色。图中的E表示该Region属于Eden内存区域,S表示属于Survivor内存区域,O表示属于Old内存区域。图中空白的表示未使用的内存空间。
G1垃圾收集器还增加了一种新的内存区域,叫做Humongous内存区域,如图中的H块。主要用于存储大对象,如果超过1.5个Region,就放到H区。
Humongous内存区域
对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待。
指针碰撞和TLAB
指针碰撞:在某一个Region内为对象分配内存时,采用的是指针碰撞
TLAB:在Region中单独为某一个线程分配内存空间,进而实现线程间的并行性,减少同步
记忆集与写屏障
分取存在的问题:
- 一个对象被不同区域应用的问题
- 一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确?
- 在其他的分代收集器,也存在这样的问题(因为G1主要针对大堆,所以此问题在G1上更突出)
- 回收新生代也不得不同时扫描老年代?这样的话会降低Minor GC的效率
解决办法:
- 无论G1还是其他分代收集器,JVM都是使用记忆集(Remembered Set)来避免全堆扫描
- 每个Region都有一个对应的记忆集(Remembered Set)
- 每次Reference类型数据写操作时,都会产生一个写屏障(Write Barrier)暂时中断操作,然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(其他收集器:检查老年代对象是否引用了新生代对象)
- 如果不同,通过卡表(CardTable)把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中
- 当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set,就可以保证不进行全局扫描,也不会有遗漏
G1的回收环节
G1 GC的垃圾回收过程主要包括三个环节:
- 年轻代GC(Young GC):Eden区用尽时开始,是一个并行的独占式回收过程
- 老年代并发标记过程(Concurrent Mark):堆内存达到一定值时开始
- 混合回收(Mixed GC):标记过程完成后开始
- 如果需要,单线程、高强度的Full GC是还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收。
Young GC
Eden区用尽时,G1会启动一次年轻代垃圾回收过程。(Survivor区满了是不会触发Young GC)
年轻代垃圾回收只会回收Eden区和Survivor区。
YGC时,G1首先停止应用程序的执行(STW),并创建回收集(Collection Set)。
- 回收集是指需要被回收的内存分段的集合,它包含年轻代Eden区和Survivor区所有的内存分段
细致过程:
- 第一阶段,扫描根
根是指GC Roots,根引用连同RSet记录的外部引用作为扫描存活对象的入口。 - 第二阶段,更新RSet
处理dirty card queue(脏卡表)中的card,更新RSet。此阶段完成后,RSet可以准确的反应老年代堆所在的内存分段中对象的引用。 - 第三阶段,处理RSet
识别被老年代对象指向的Eden中的对象,这些被指向的Eden中的对象被认为是存活的对象。 - 第四阶段,复制对象
- 此阶段,对象树被遍历,Eden区内存段中存活的对象会被复制到Survivor区中空的内存分段,Survivor区内存段中存活的对象
- 如果年龄未达阈值,年龄会加1,达到阀值会被会被复制到Old区中空的内存分段。
- 如果Survivor空间不够,Eden空间的部分数据会直接晋升到老年代空间。
- 第五阶段,处理引用
处理Soft,Weak,Phantom,Final,JNI Weak 等引用。最终Eden空间的数据为空,GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片。
关于Dirty Card Queue:
- 对于应用程序的引用赋值语句 oldObject.field(这个是老年代)=object(这个是新生代),JVM会在之前和之后执行特殊的操作以在Dirty Card Queue中入队一个保存了对象引用信息的card。在年轻代回收的时候,G1会对Dirty Card Queue中所有的card进行处理,以更新RSet,保证RSet实时准确的反映引用关系。
- 那为什么不在引用赋值语句处直接更新RSet呢?这是为了性能的需要,RSet的处理需要线程同步,开销会很大,使用队列性能会好很多
Concurrent Mark
细致过程:
- 初始标记
标记从根节点直接可达的对象,该阶段是STW的,并且会触发一次Young GC。 - 根区域扫描
G1扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在Young GC之前完成,因为Young GC会使用复制算法对Survivor区进行GC。 - 并发标记
- 在整个堆中进行并发标记(和应用程序并发执行),此过程可能被Young GC中断。
- 【实时回收】在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收。
- 同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)。
- 再次标记
由于应用程序持续进行,需要修正上一次的标记结果。是STW的。G1中采用了比CMS更快的原始快照算法:Snapshot-At-The-Beginning(SATB)。 - 独占清理
(这个阶段并不会实际上去做垃圾的收集)计算各个区域的存活对象和GC回收比例,并进行排序,识别可以混合回收的区域。为下阶段做铺垫。是STW的。 - 并发清理
识别并清理完全空闲的区域。
Mixed GC
当越来越多的对象晋升到老年代Old Region时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即Mixed GC,该算法并不是一个Old GC,除了回收整个Young Region,还会回收一部分的Old Region。这里需要注意:是一部分老年代,而不是全部老年代。可以选择哪些Old Region进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC。
细致过程:
- 并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分8次(可以通过
-XX:G1MixedGCCountTarget
设置)被回收。(意思就是一个Region会被分为8个内存段) - 混合回收的回收集(Collection Set)包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段。具体过程请参考上面的年轻代回收过程。
- 由于老年代中的内存分段默认分8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收。
XX:G1MixedGCLiveThresholdPercent
,默认为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。 - 混合回收并不一定要进行8次。有一个阈值
-XX:G1HeapWastePercent
,默认值为10%,意思是允许整个堆内存中有10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。
Full GC
G1的初衷就是要避免Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行(Stop-The-World),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间会很长。
要避免Full GC的发生,一旦发生Full GC,需要对JVM参数进行调整。什么时候会发生Full GC呢?比如堆内存太小,当G1在复制存活对象的时候没有空的内存分段可用,则会回退到Full GC,这种情况可以通过增大内存解决。
导致G1 Full GC的原因可能有两个:
- Evacuation的时候没有足够的to-space来存放晋升的对象
- 并发处理过程完成之前空间耗尽
补充
从Oracle官方透露出来的信息可获知,回收阶段(Evacuation)其实本也有想过设计成与用户程序一起并发执行,但这件事情做起来比较复杂,考虑到G1只是回一部分Region,停顿时间是用户可控制的,所以并不迫切去实现,**而选择把这个特性放到了G1之后出现的低延迟垃圾收集器(即ZGC)中。**另外,还考虑到G1不是仅仅面向低延迟,停顿用户线程能够最大幅度提高垃圾收集效率,为了保证吞吐量所以才选择了完全暂停用户线程的实现方案。
如何使用
启用G1
-XX:UseG1GC
手动指定使用G1收集器
相关参数
-XX:G1HeapRegionSize
:设置每个Region的大小。值是2的幂,范围是1MB~32MB,目标是根据Java堆大小划分出2048个区域。
- 默认为堆内存的1/2000。
-XX:MaxGCPauseMillis
:设置期望达到的最大GC停顿时间指标,JVM会尽量达到,但是不保证实现。
- 默认值为200(毫秒)
-XX:ParallelGCThread
:设置STW工作线程数的值。
- 最大值为8
-XX:ConcGCThreads
:设置并发标记的线程数。
- 通常为STW时GC线程的1/4
-XX:InitiatingHeapOccupancyPercent
:设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。
- 默认值是45。
如何调优
G1的设计原则时尽可能简化JVM性能调优,开发人员只需要3步既可完成调优:
- 开启G1垃圾收集器
- 设置堆的最大内存
- 设置最大停顿时间
调优建议
- 年轻代大小
避免使用-Xmn
或-XX:NewRatio
等相关选项显式设置年轻代大小,因为固定年轻代的大小会覆盖可预测的暂停时间目标。我们让G1自己去调整。 - 暂停时间目标不要太过严苛
G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾回收时间。
评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量。
使用场景
- 面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小的堆里表现并不惊喜)
- 最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方案;
- 如:在堆大小约6GB或更大时,可预测的暂停时间可以低于0.5秒(G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)。
- 用来替换掉JDK1.5中的CMS收集器;在下面的情况时,使用G1可能比CMS好:
- 超过50%的Java堆被活动数据占用;
- 对象分配频率或年代提升频率变化很大;
- GC停顿时间过长(长于0.5至1秒)
- HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器均使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程。