JVM学习笔记（二）—— 垃圾收集器与内存分配策略

1. 概述

程序计数器、虚拟机栈、本地方法栈（都是线程私有的）三个区域随线程而生，随线程而灭，栈中的栈帧随着方法的进入和退出而有条不紊地执行进栈出栈操作。每一个栈帧中分配多少内存基本上是在类结构确定下来时就已知的（尽管在运行期会由即时编译器进行一些优化，但大体上可以认为是编译器可知的），因此这几个区域的内存分配和回收都具备确定性。

而Java堆和方法区这两个区域则有着很显著的不确定性：一个接口的多个实现类需要的内存可能不一样，一个方法执行的不同条件分支所需要的内存也可能不一样，只有在运行期间，我们才能知道查询究竟会创建哪些对象，创建多少对象，所以这部分内存的分配和回收是动态的，垃圾收集器关注的也正是这部分内存区域。

2. 对象已死？

判断对象是否存活的方法，主要有引用计数算法和可达性分析算法。

2.1 引用计数算法

在对象中添加一个引用计数器，每当有一个地方引用它时，计数器值就加1；当引用失效时，计数器值就减1；任何时刻计数器为零的对象就是不可能再被使用的。

缺点：单纯的引用计数很难解决对象之间的相互循环引用的问题。

2.2 可达性分析算法

通过一系列称为“GC Roots”的根对象作为起始节点集，从这些节点开始根据引用关系向下搜索，搜索过程所走过的路径称为“引用链”，如果某个对象到GC Roots间没有任何引用链相连，或者用图论的话来说就是从GC Roots到这个对象不可达时，则证明此对象时不可能再被使用的。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-CqdbaUUy-1609293089197)(/Users/guisc/Documents/JVM/图片/可达性分析算法判定对象是否可回收.png)]

在Java中，固定可作为GC Roots的对象包括以下几种：

• 虚拟机栈（栈帧中的本地变量表）中引用的对象，如各个线程被调用的方法堆栈中使用到的参数、局部变量、临时变量等。
• 方法区中类静态属性引用的对象，如Java类的引用类型静态变量。
• 方法区中的常量引用的对象。
• 本地方法栈中JNI（Native 方法）引用的对象。
• Java虚拟机内部的引用，如基本的数据类型对应的Class对象。
• 所有被同步锁（Synchronized关键字）持有的对象。
• 反映Java虚拟机内部情况的JMXBean、JVMTI中注册的回调、本地代码缓存等。

2.3 再谈引用

强引用、软引用、弱引用、虚引用，引用强度依次逐渐减弱。

• 强引用：是指在程序代码之中普遍存在的引用赋值，即“ Object obj = new Object()”这种引用关系。无论任何情况下，只要强引用关系还存在，垃圾收集器就永远不会回收掉被引用的对象。
• 软引用：用来描述一些还有用，但非必须的对象。只被软引用关联着的对象，在系统将要发生内存溢出异常前，会把这些对象列进回收范围之中进行第二次回收，如果这次回收还没有足够的内存，才会抛出内存溢出异常。SoftReference类。
• 弱引用：被弱引用关联的对象只能生存到下一次垃圾收集发生为止。当垃圾收集器开始工作，无论当前内存是否足够，都会回收掉只被弱引用关联的对象。WeakReference类。
• 虚引用：也被称为“幽灵引用”或“幻影引用”。一个对象是否有虚引用的存在，完全不会对其生存时间构成影响，也无法通过虚引用来取得一个对象实例。为一个对象设置虚引用关联的唯一目的只是为了能在这个对象被收集器回收时收到一个系统通知。PhantomReference类。

2.4 finalize()方法是对象逃脱死亡命运的最后一次机会

即使在可达性分析算法中不可达的对象，也并非是“非死不可”，这时候它们暂时处于“缓刑”阶段，要真正宣告一个对象的死亡，至少要经历两次标记过程：如果对象在进行可达性分析后发现没有与GC Roots相连接的引用链，那它将会被第一次标记，随后进行一次筛选，筛选条件是此对象是否有必要执行finalize()方法。当对象没有覆盖finalize()方法，或者finalize()方法已经被虚拟机调用过，虚拟机将这两种情况都视为“没有必要执行”（finalize()方法不执行就不能自救了）。

如果这个对象被判定为确有必要执行finalize()方法，那么这个对象会被放置在F-Queue队列中，并在稍后由一个由虚拟机自动建立的、低优先级的Finalizer线程去执行它（调用finalize()方法）。执行是指触发这个方法，但不承诺会等待它运行结束，因为如果一个对象在F-Queue中执行缓慢，甚至发生死循环，很可能导致其他对象永久处于等待状态，甚至导致整个内存回收系统崩毁。finalize()方法是对象逃脱死亡命运的最后一次机会，稍后收集器将对F-Queue中的对象进行第二次小规模的标记，如果对象要在finalize()方法中拯救自己——只要重新与引用链上的任何一个对象建立关联即可，如把自己（this关键字）赋值给某个类变量或者对象的成员变量，那在第二次标记时它将被移出“即将回收”的集合；如果对象此时还没有逃脱，那基本上就真的要被回收了。

任何一个对象的finalize()方法都只会被系统自动调用一次，如果对象面临下一次回收，它的finalize()方法不会被再次执行，因此第二段代码的自救行动失败了。

2.5 回收方法区

方法区的垃圾收集主要回收两部分内容：废弃的常量和不再使用的类型。

废弃常量的回收与Java堆中对象的回收非常类似。

判定一个类型是否属于“不再被使用的类”，需要同时满足以下三个条件：

• 该类所有的实例都已经被回收（包括子类对象）。
• 加载该类的类加载器已经被回收。
• 该类对应的java.lang.Class对象没有在任何地方被引用，无法在任何地方通过反射访问该类的方法。

3. 垃圾收集算法

3.1 分代收集理论

1）弱分代假说：绝大多数对象都是朝生夕灭的。

2）强分代假说：熬过越多次垃圾收集过程的对象就越难以消亡。

收集器应该将Java堆划分出不同的区域，然后将回收对象依据其年龄（即对象熬过垃圾收集过程的次数）分配到不同的区域之中存储。如果一个区域中大多数对象都是朝生夕灭的，那么把它们集中放在一起，每次回收时只关注如何保留少量存活的；如果剩下的都是难以消亡的对象，那把它们集中放在一块，虚拟机便可以以较低的频率来回收这个区域。

仅使用弱分代假说和强分代假说的缺陷：对象不是孤立的，对象之间会存在跨代引用。假如现在要进行一次只局限于新生代区域内的收集，但新生代中的对象是完全有可能被老年代所引用的，为了找出该区域中的存活对象，不得不在固定的GC Roots之外，再额外遍历整个老年代中所有对象来确保可达性分析结果的正确性。

3）跨代引用假说：跨代引用相对于同代引用来说仅占极少数。

也就是说，存在互相引用关系的两个对象，是应该倾向于同时生存或者同时消亡的。举个例子，某个新生代对象存在跨代引用，由于老年代对象难以消亡，该引用会使得新生代对象在收集时同样得以存活，进而晋升到老年代中，这时跨代引用也就随即消除了。

依据跨代引用假说，我们就不应再为了少量的跨代引用去扫描整个老年代，也不必浪费空间专门记录每一个对象是否存在及存在哪些跨代引用，只需在新生代上建立一个全局的数据结构（记忆集），这个结构把老年代划分成若干小块，标识出老年代的哪一块内存会存在跨代引用。此后，当发生Minor GC时，只有包含了跨代引用的小块内存里的对象才会被加入到GC Roots中进行扫描，不过这个结构需要在对象改变引用关系时维护记录数据的正确性。

部分收集（Partial GC）：指目标不是完整收集整个Java堆的垃圾收集

• 新生代收集（Minor GC/Young GC）：目标只是新生代的垃圾收集
• 老年代收集（Major GC/Old GC）：目标只是老年代的垃圾收集。CMS收集器会有单独收集老年代的行为。
• 混合收集（Mixed GC）：目标是收集整个新生代以及部分老年代的垃圾收集。G1收集器会有这种行为。

整堆收集（Full GC）：收集整个Java堆和方法区的垃圾收集

3.2 标记-清除算法

算法分为“标记”和“清除”两个阶段：首先标记出所有需要回收的对象，在标记完成后，统一回收掉所有被标记的对象，也可以反过来，标记存活的对象，统一回收所有未被标记的对象。（标记过程就是对象是否属于垃圾的判定过程。）

该算法的两个缺点：1）执行效率不稳定，如果Java堆中包含大量对象，而且其中大部分是需要被回收的，这时必须进行大量标记和清除的动作，导致标记和清除两个过程的执行效率都随对象数量增长而降低；2）内存空间的碎片化问题，标记、清除之后会产生大量不连续的内存碎片，可能导致之后分配较大对象时无法找到足够的连续内存而不得不提前触发另一次垃圾收集动作。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UdT4f0Fn-1609293089200)(/Users/guisc/Documents/JVM/图片/标记-清除算法示意图.png)]

3.3 标记-复制算法

为了解决标记-清除算法面对大量可回收对象时执行效率低的问题。大多数虚拟机采用这种收集算法去回收新生代。

“半区复制”：将可用内存按容量划分成大小相等的两块，每次只使用其中的一块。当这一块的内存用完了，就将还存活着的对象复制到另外一块上面，然后再把已使用过的内存空间一次清理掉。

如果内存中多数对象都是存活的，这种算法将会产生大量的内存间复制的开销。但对于大多数对象都是可回收的情况，算法需要复制的就是少数的存活对象，而且每次都是针对整个半区进行内存回收，分配内存时也就不用考虑有空间碎片的复杂情况，只要移动堆顶指针，按顺序分配即可。这样实现简单，运行高效，但是代价是将可用内存缩小为原来的一半，空间浪费严重。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-5OGEkpyp-1609293089201)(/Users/guisc/Documents/JVM/图片/标记-复制算法示意图.png)]

内存使用缩小的解决办法（Appel式回收）：把新生代分为一块较大的Eden空间和两块较小的Survivor空间，每次分配内存只使用Eden和其中一块Survivor。发生垃圾收集时，将Eden和Survivor中仍然存活的对象一次性复制到另外一块Survivor空间上，然后直接清理掉Eden和已用过的那块Survivor空间。HotSpot虚拟机默认Eden和Survivor的大小比例是8:1。当Survivor空间不足以容纳一次Minor GC之后存活的对象时，就需要依赖其他内存区域（实际上大多就是老年代）进行分配担保。

3.4 标记-整理算法

标记-复制算法在对象存活率较高时就要进行较多的复制操作，效率将会降低，而且如果不想浪费50%的空间，就得有额外的空间进行分配担保，以应对被使用内存中所有对象100%存活的极端情况，所以老年代一般不能直接选用标记-复制算法。

标记-整理算法同样分为标记和整理两个过程，标记过程仍然与“标记-清除”算法一样，整理过程让所有存活的对象都向内存空间一端移动，然后直接清理掉边界以外的内存。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kgY0a8bL-1609293089203)(/Users/guisc/Documents/JVM/图片/标记-整理算法示意图.png)]

是否移动回收后的存活对象是一项优缺点并存的风险决策：1）缺点：移动存活对象，尤其是在老年代这种存活率高的区域，移动存活对象并更新所有引用这些对象的地方将会是一种极为负重的操作，而且这种对象移动操作必须全程暂停用户应用程序才能进行（最新的ZGC和Shenandoah收集器使用读屏障技术实现了整理过程与用户线程的并发执行）“Stop The World”。2）优点：如果跟标记-清除算法一样不考虑移动和整理存活对象的话，内存碎片化问题就只能依赖更为复杂的内存分配器和内存访问器来解决了，总吞吐量反而下来了。

HotSpot虚拟机中关注吞吐量的Parallel Old收集器是基于标记-整理算法的，而关注延迟的CMS收集器则是基于标记-清除算法的。

还有一种做法是让虚拟机平时多数时间都采用标记-清除算法，暂时容忍内存碎片的存在，直到内存空间的碎片化程度已经大到影响对象分配时，再采用标记-整理算法收集一次，以获得规整的内存空间。CMS收集器面临空间碎片过多时采用的就是这种处理方法。

4. HotSpot的算法细节实现

4.1 根节点枚举

固定可作为GC Roots的节点主要在全局性的引用（例如常量或类静态属性）与执行上下文（例如栈帧中的本地变量表）中。

迄今为止，所有收集器在根节点枚举这一步骤时都是必须暂停用户线程的，这是导致垃圾收集过程必须停顿所有用户线程的其中一个重要原因。

如何高效查找引用链：目前主流的JVM使用的都是准确式垃圾收集，所以当用户线程停顿下来之后，其实并不需要一个不漏地检查完所有执行上下文和全局的引用位置，虚拟机应当是有办法直接得到哪些地方存放着对象引用的。在HotSpot中，是使用一组称为OopMap的数据结构来达到这个目的。一旦类加载动作完成的时候，HotSpot就会把对象内什么偏移量上是什么类型的数据计算出来，在即时编译过程中，也会在特定的位置记录下栈里和寄存器里哪些位置是引用。这样收集器在扫描时就可以直接得知这些信息了，并不需要真正一个不漏地从方法区等GC Roots开始查找。

4.2 安全点

4.3 安全区域

4.4 记忆集与卡表

4.5 写屏障

4.6并发的可达性分析

5. 经典垃圾收集器

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-gosA8eP0-1609293089206)(/Users/guisc/Documents/JVM/图片/垃圾收集器的组合关系.png)]

新生代收集器：Serial GC ParNew GC Parallel Scavenge GC

老年代收集器：CMS GC Serial Old GC Paraller Old GC

混合收集器：G1

5.1 Serial 收集器

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nxzRx62R-1609293089208)(/Users/guisc/Documents/JVM/图片/Serial:Serial Old 收集器运行示意图.png)]

• 工作在新生代，采用标记-复制算法，与Serial Old收集器搭配使用
• 单线程工作，只使用一个处理器或一条收集器线程，而且在它进行垃圾收集时，必须暂停其他所有工作线程，直到它收集结束
• 依然是HotSpot虚拟机运行在客户端模式下的默认新生代收集器
• 简单高效：对于内存资源受限的环境，它是所有收集器里额外内存消耗最小的；对于单核或处理器核心较少的环境，Serial收集器由于没有线程交互的开销，专心做垃圾收集自然可以获得最高的单线程收集效率。

5.2 ParNew 收集器

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-1DXmviKW-1609293089209)(/Users/guisc/Documents/JVM/图片/ParNew:Serial Old 收集器运行示意图.png)]

• 工作在新生代，采用标记-复制算法，与CMS、Serial Old（JDK9及之后不行）收集器搭配使用
• Serial 收集器的多线程版本
• 除了同时使用多条线程进行垃圾收集之外，其余的行为包括Serial收集器可用的所有控制参数、收集算法、Stop The World、对象分配规则、回收策略等都与Serial收集器完全一致
• ParNew收集器是不少运行在服务端模式下的HotSpot虚拟机
• 除了Serial收集器（JDK9及之后不行），只有ParNew收集器可以与CMS收集器搭配使用
• ParNew收集器是激活CMS后（使用-XX:+UseConcMarkSweepGC选项）的默认新生代收集器

在谈论垃圾收集器的上下文语境中，

• 并行：描述的是多条垃圾收集器线程之间的关系，说明同一时间有多条这样的线程在协同工作，通常默认此时用户线程是处于等待状态。
• 并发：描述的是垃圾收集器线程与用户线程之间的关系，说明同一时间垃圾收集器线程与用户线程都在运行。

5.3 Parallel Scavenge 收集器

• 工作在新生代，采用标记-复制算法，与Parallel Old、Serial Old收集器搭配使用
• 能够并行收集的多线程收集器
• Parallel Scavenge 收集器的目标是达到一个可控制的吞吐量（因此老年代的Parallel Old收集器采用标记-整理算法），而CMS等收集器的关注点是尽可能地缩短垃圾收集时用户线程的停顿时间

吞吐量就是处理器用于运行用户代码的时间与处理器总消耗时间的比值，即：
$$吞吐量=运行用户代码时间/(运行用户代码时间+运行垃圾收集时间)$$
吞吐量越高，表示可以最高效率的利用处理器资源，适合后台运算而不需要太多交互的分析任务。停顿时间越短就越适合需要与用户交互或需要保证服务响应质量的程序。

5.4 Serial Old 收集器

• Serial收集器的老年代版本，单线程收集器，采用标记-整理算法
• 供客户端模式下的HotSpot虚拟机使用

5.5 Parallel Old 收集器

• Parallel Scavenge收集器的老年代版本，支持多线程收集，采用标记-整理算法
• JDK1.6之后才有，之前Parallel Scavenge只能与Serial Old收集器搭配，Serial Old是单线程的，不利于吞吐量
• 与Parallel Scavenge收集器搭配，“吞吐量优先”收集器终于有了比较名副其实的搭配组合

5.6 CMS 收集器

• 工作在老年代，采用标记-清除算法
• 以获取最短回收停顿时间为目标的收集器，广泛应用于较为关注服务的响应速度，希望系统停顿时间尽可能短以给用户带来良好的交互体验的应用
• 是HotSpot虚拟机中第一款真正意义上支持并发的垃圾收集器，它首次实现了让垃圾收集线程与用户线程（基本上）同时工作
• 并发低停顿收集器

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-OCa5hSHD-1609293089210)(/Users/guisc/Documents/JVM/图片/CMS 收集器运行示意图.png)]

运作过程：

1）初始标记：仍然需要“Stop The World”，仅仅标记一下GC Roots能直接关联到的对象，速度很快。

2）并发标记：从GC Roots的直接关联对象开始遍历整个对象图的过程，这个过程耗时较长但是不需要停顿用户线程，可以与垃圾收集线程一起并发运行。

3）重新标记：仍然需要“Stop The World”，这个阶段是为了修正并发标记期间，因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录（增量更新），这个阶段的停顿时间通常会比初始标记阶段稍长一些，但也远比并发标记阶段的时间短。

4）并发清除：清理删除掉标记阶段判断的已经死亡的对象，由于不需要移动存活对象，所以这个阶段也是可以与用户线程同时并发的。

由于在整个过程中耗时最长的并发标记和并发清除阶段中，垃圾收集线程都可以与用户线程一起工作，所以总体上来说，CMS收集器的内存回收过程是与用户线程一起并发执行的。

三个明显的缺点：

1. CMS收集器对处理器资源非常敏感。在并发阶段，它虽然不会导致用户线程停顿，但却会因为占用了一部分线程而导致应用程序变慢，降低总吞吐量。
2. 由于CMS收集器无法处理“浮动垃圾”，有可能出现“Concurrent Mode Failure”失败进而导致另一次完全“Stop The World”的Full GC的产生。在CMS的并发标记和并发清理阶段，用户线程是还在继续运行的，程序在运行自然就还会伴随有新的垃圾对象不断产生，但这一部分垃圾对象是出现在标记过程结束以后，CMS无法在当次收集中处理掉它们，只好留待下一次垃圾收集时再清理掉。这一部分垃圾就称为“浮动垃圾”。同样也是由于在垃圾收集阶段用户线程还需要持续运行，那就需要预留足够内存空间提供给用户线程使用，因此CMS收集器必须预留一部分空间供并发收集时的程序运作使用。要是CMS运行期间预留的内存无法满足程序分配新对象的需要，就会出现一次“并发失败”（Concurrent Mode Failure），这时候虚拟机将不得不启动后备预案：冻结用户线程的执行，临时启用Serial Old收集器来重新进行老年代的垃圾收集，但这样停顿时间就很长了。
3. CMS是基于标记-清除算法的收集器，这意味着在收集结束时会有大量空间碎片产生。

5.7 Garbage First 收集器

6. 低延迟垃圾收集器

7. 选择合适的垃圾收集器

8. 内存分配与回收策略

8.1 对象优先在Eden分配

大多数情况下，对象在新生代Eden区中分配。当Eden区没有足够空间进行分配时，虚拟机将发起一次Minor GC。

-XX:+PrintGCDetails 告诉虚拟机在发生垃圾收集行为时打印内存回收日志，并且在进程退出的时候输出当前的内存各区域分配情况。

8.2 大对象直接进入老年代

大对象就是指需要大量连续内存空间的Java对象。典型的大对象：很长的字符串，元素数量很庞大的数组。

大对象对虚拟机的内存分配来说是一个坏消息，经常出现大对象容易导致内存还有不少空间就提前触发垃圾收集以获取足够的连续空间存放它们，而复制对象时，大对象意味着高额的内存复制开销。

-XX:PretenureSizeThreshold 参数指定大于该设置值的对象直接在老年代分配，来避免在Eden区及两个Survivor区之间来回复制，产生大量的内存复制操作。

8.3 长期存活的对象将进入老年代

虚拟机给每个对象定义了一个对象年龄计数器，存储在对象头中。

如果对象在Eden出生并经过第一次Minor GC后仍然存活并且能被Survivor容纳的话，将被移动到Survivor空间中，并且对象年龄加1。对象在Survivor区中每熬过一次Minor GC，年龄就增加1岁，当年龄增加到一定程度(默认为15)，就会被晋升到老年代中。

-XX:MaxTenuringThreshold 设置对象晋升老年代的年龄阈值。

8.4 动态对象年龄判定

为了更好地适应不同程度的内存状况，虚拟机并不是永远要求对象年龄必须达到-XX:MaxTenuringThreshold才能晋升到老年代。

如果在Survivor空间中低于或等于某年龄的所有对象大小的总和大于Survivor空间的一半，年龄大于或等于该年龄的对象就可以直接进入老年代，而无须等到-XX:MaxTenuringThreshold中要求的年龄。

8.5 空间分配担保

在发生Minor GC之前，虚拟机必须先检查老年代最大可用的连续空间是否大于新生代所有对象总空间，如果这个条件成立，那这一次Minor GC可以确保是安全的。如果不成立，则虚拟机会先查看-XX:HandlePromotionFailure参数的设置值是否允许担保失败；如果允许，那会继续检查老年代最大可用的连续空间是否大于历次晋升到老年代对象的平均大小，如果大于，将尝试进行一次Minor GC，尽管这次Minor GC是有风险的；如果小于，或者-XX:HandlePromotionFailure设置不允许冒险，那这时就要改为进行一次Full GC。