[解密JVM-14] 垃圾回收：相关算法

1、前言

  在堆里存放着几乎所有的 Java 对象实例，在 GC 执行垃圾回收之前，首先需要区分出内存中哪些是存活对象，哪些是已经死亡的对象。只有被标记为已经死亡的对象，GC 才会在执行垃圾回收时，释放掉其所占用的内存空间，因此这个过程我们可以称之为垃圾标记阶段。

  那么，在 JVM 中，究竟是如何标记一个死亡对象呢？简单来说，当一个对象已经不再被任何的存活对象继续引用时，就可以宣判为已经死亡。

  判断对象存活一般有两种方式：引用计数算法、可达性分析算法。

  当成功区分出内存中存活对象和死亡对象后，GC 接下来的任务就是执行垃圾回收，释放掉无用对象所占用的内存空间，以便有足够的可用内存空间为新对象分配内存。

  JVM 中比较常见的三种垃圾收集算法：标记-清除算法（Mark-Sweep）、复制算法（Copying）、标记-压缩算法（Mark-Compact）。

2、标记阶段：引用计数算法

  引用计数算法比较简单，对每个对象都保存一整个的引用计数器属性。用于记录对象被引用的情况。

  对于一个对象 A，只要有任何一个对象引用了 A，则 A 的引用计数器就加 1；当引用失效时，引用计数器就减一。只要对象 A 的引用计数器的值为 0，即表示对象 A 不可能再被使用，可进行回收。

  优点：实现简单，垃圾对象便于辨识；判定效率高，回收没有延迟性。

  缺点：
  1、需要单独的字段存储计数器，这样的做法增加了存储空间的开销；
  2、每次赋值都需要更新计数器，伴随着加法和减法操作，增加了时间开销；
  3、无法处理循环引用的情况。

  因为无法处理循环引用，Java 的垃圾回收器没有使用这类算法。

  引用计数算法是很多语言的资源回收选择，例如 Python，它更是同时支持引用计数和垃圾收集机制。

  具体哪种最优是要看场景的，业界有大规模实践中仅保留引用计数机制，以提高吞吐量的尝试。

  既然 Java 因为循环引用问题而不采用引用计数，那为什么 Python 就能用呢？

  这是因为 Python 使用了手动解除和弱引用。
  手动解除很好理解，就是在适当的时机，解除引用关系。
  使用弱引用 weakref，它是 Python 提供的标准库，旨在解决循环引用。

3、标记阶段：可达性分析算法

  相对于引用计数算法而言，可达性算法不仅同样具备实现简单和执行高效等特点，更重要的是该算法可以有效地解决在引用技术算法中循环引用的问题，防止内存泄漏的发生。

  可达性分析算法是 Java、C# 选择的，这种类型的垃圾收集通常也叫做追踪垃圾收集。

  这个算法的基本思路就是通过一系列称为“GC Roots”的根对象作为起始节点集，从这些节点开始，根据引用关系向下搜索，搜索过程所走的路径称为“引用链”，如果某个对象到 GC Roots 间没有任何的引用链相连，或者用图论的话来说就是从 GC Roots 到这个对象不可达时，则证明此对象是不可能再被使用的。

  在 Java 技术体系里面，可以作为 GC Roots 的对象包括以下几种：
  1、在虚拟机栈（栈帧中的局部变量表）中引用的对象，比如各个线程被调用的方法堆栈中使用到的参数、局部变量、临时变量等；
  2、在方法区中类静态属性引用的对象，比如 Java 类的引用类型静态变量；
  3、在本地方法中常量引用的对象，比如字符串常量池里的引用；
  4、在本地方法栈中 JNI （通常所说的 Native ；
  5、JVM 内部的引用，如基本数据类型对应的 Class 对象，一些常驻的异常对象等，还有系统类加载器；
  6、所有被同步锁持有的对象；
  7、反映 JVM 内部情况的 JMXBean、JVMTI 中注册的回调、本地代码缓存等。

  除了这些固定的 GC Roots 集合以外，根据用户所选用的垃圾收集器以及当前回收的内存区域不同，还可以有其他对象“临时性”地假如，共同构成完整的 GC Roots 集合。比如：分代收集和局部回收。

  如果只针对 Java 堆区中某一区域进行垃圾回收（比如：只针对新生代），必须考虑到内存区域是 JVM 自己的实现细节，更不是孤立封闭的，这个区域的对象完全有可能被其他区域的对象所引用，这时需要一并将关联的区域对象也假如 GC Roots 集合中去考虑，才能保证可达性分析的准确性。

  小技巧：由于 Root 采用栈方式存放变量和指针，所以如果一个指针，它保存了堆内元素的对象，但是自己又不存放在堆内存里面，那它就是一个 Root。

  如果要使用可达性分析算法来判断内存是否可回收，那么分析工作必须在一个能保障一致性的快照中进行。这点不满足的话，分析阶段的结果的准确性就无法保证。

  这点也是导致 GC 进行时必须“Stop The World”的一个重要原因。

  即使是号称几乎不会发生停顿的 CMS 收集器中，枚举根结点也是需要停顿的。

4、对象的finalization机制

  Java 语言提供了对象终止（finalization）机制来允许开发人员提供对象被销毁之前的自定义处理逻辑。

  当垃圾回收器发现没有引用指向一个对象，即：垃圾回收此对象之前，总会先调用这个对象的 finalize() 方法。

  finalize() 方法运行在子类中被重写，用于在对象被回收时进行资源释放。通常在这个方法中进行一些资源释放和清理的工作，比如关闭文件、套接字和数据连接等。

  请注意，永远不要主动调用某个对象的 finalize() 方法，应该交给垃圾回收机制调用。理由包括下面几点：
  1、在 finalize() 时可能会导致对象复活；
  2、finalize() 方法什么时候执行是没有保障的，它完全由 GC 线程决定，在极端情况下，若不发生 GC，则 finalize() 方法将没有执行计划；
  3、一个糟糕的 finalize() 方法会严重影响 GC 的性能。

  从功能上来说，finalize() 方法与 C++ 中的析构函数比较相似，但是 Java 采用的是基于垃圾回收器的自动内存管理机制，所以 finalize() 方法在本质上不同于 C++ 中的析构函数。

  由于 finalize() 方法的存在，JVM 中的对象一般处于三种可能的状态：
  1、可触及的：从根结点开始，可以达到这个对象；
  2、可复活的：对象的所有引用都被释放，但是对象有可能在 finalize() 方法中复活；
  3、不可触及的：对象的 finalize() 方法被调用，并且没有复活，那么就会进入不可触及状态，不可触及状态不可能被复活，因为 finalize() 方法只会被调用一次。

  以上三种状态，是由于 finalize() 方法的存在，进行区分，只有在对象不可触及时才可以被回收。

  要判断一个对象 A 是否可以被回收，至少要经历两次标记过程：

  1、如果对象 A 到 GC Roots 没有引用链，则进行第一次标记；

  2、进行筛选，判断对象 A 是否有必要执行 finalize() 方法：
  2.1 如果对象 A 没有重写 finalize() 方法，或者 finalize() 方法已经被 JVM 调用过，则 JVM 视为“没有必要执行”，对象 A 被判定为不可触及的。
  2.2 如果对象 A 重写了 finalize() 方法，并且还未执行过，那么 A 会被插入到 F-Queue 队列中，有一个 JVM 自动创建的、低优先级的 Finalizer 线程来触发finalize() 方法执行。
  2.3 finalize() 方法是对象逃脱死亡的最后机会，稍后 GC 会对 F-Queue 队列中的对象进行第二次标记。如果 A 在finalize() 方法中与引用链上的任何一个对象建立了联系，那么在第二次标记时，A 会被移除“即将回收”集合。之后，对象会再次出现没有引用的存在的情况，在这个情况下，finalize() 方法不会再被调用，对象会直接变成不可触及的状态。

5、MAT与JProfiler的GC Roots溯源

  MAT 是 Memory Analizer Tools 的简称，他是一款功能强大的 Java 堆内存分析器，用于查找内存泄漏以及查看内存消耗情况。

  MAT 是基于 Eclipse 开发的，是一款免费的性能分析工具。

  下载地址：http://www.eclipse.org/mat/

  首先使用 jvisualvm 工具查看我们正在运行的程序。

  按照 1-3 顺序，点击 “堆 Dump”按钮，会生成一个 dump 文件。

  右键保存到本地，然后打开 MAT，选择：File -> Open File…打开保存的 dump 文件。

  选择 GC Roots 就可以看到对应的所有的 Roots：

  我们可以设置参数-XX:+HeapDumpOnOutOfMemoryError，当出现 OOM 时，就会自动创建 dump 文件，通过 MAT 来查看 dump 文件，找出问题所在。比如：是不是哪个大对象我已经没用了，但是它还在被某个对象引用着。

6、清除阶段：标记-清除算法

  标记-清除算法（Mark-Sweep）是一种非常基础和常见的垃圾收集算法，该算法被 J.McCarthy 等人在 1960 年提出并应用于 Lisp 语言。

  执行过程为：当堆中的有效空间（available memory）被耗尽的时候，就会停止整个程序（STW），然后进行两项工作：标记、清除。
  1、标记：Collector 从引用根结点开始遍历，标记所有被引用的对象。一般是在对象的 Header 中记录为可达对象；
  2、清除：Collector 对堆内存从头到尾进行线性的遍历，如果发现某个对象的 Header 中没有标记为可达对象，则将其回收。

  算法的缺点：
  1、效率不算高；
  2、在进行 GC 的时候，需要 STW，导致用户体验差；
  3、清理出来的空间不连续，产生内存碎片，需要维护一个空间列表。

  注意：这里所谓的清除不算把对应位置置空，而是把需要清除的对象地址保存在空闲的地址列表里，下次有新对象需要加载时，判断垃圾的位置空间是否足够，如果够，就存放。

7、清除阶段：复制算法

  为了解决标记-清除算法在垃圾收集效率方面的缺陷，M.L.Minsky 于 1963 年发表了著名的论文，“使用双存储区的 Lisp 语言垃圾收集器”。论文中描述的算法被人们称为复制算法，也被成功引入到了 Lisp 语言的一个实现版本中。

  复制算法的思想为：将或者的内存空间分为两块，每次只使用其中一块，在垃圾回收时，把正在使用的内存中存活对象复制到未被使用的内存块中，之后清除正在使用的内存中的所有对象，交换两个内存的角色，最后完成垃圾回收。

  优点：
  1、实现简单，运行高效；
  2、复制过去以后保证空间的连续性，不会出现“碎片”问题。

  缺点：
  1、需要两倍的内存空间；
  2、对于 G1 这种分拆成大量 region 的GC ，复制而不是移动，意味着 GC 需要维护 region 之间对象引用关系，不管是内存占用或者时间开销也不小。

  特别的：如果系统中的存活对象很多，复制算法不会很理想。因为复制算法需要复制的存活数量要非常低才行。

  应用场景：在新生代，对常规应用的垃圾回收，一次通常可以回收 70% - 99% 的内存空间。回收性价比很高。所以现在的商业虚拟机都是用复制算法来回收新生代。

8、清除阶段：标记-压缩算法

  复制算法的高效性是建立在存活对象少、垃圾对象多的前提下。这种情况在新生代经常发生，但是在老年代，更常见的情况是大部分对象都是存活对象。如果依然使用复制算法，复制成本会很高。因此，基于老年代的垃圾回收的特性，需要使用其他算法。

  标记-清除算法的确可以应用在老年代中，但是该算法不仅执行效率地下，而且在执行完内存回收后还会产生内存碎片，所以 JVM 的设计者需要在此基础上进行改进。

  1970 年前后，G.L.Steele 等研究者发布标记-压缩算法，在许多现代的垃圾收集器中，人们都使用了标记-压缩算法或其改进版本。

  第一阶段和标记-清除算法一样，从跟阶段开始标记所有被引用的对象；
  第二阶段将所有的存活对象压缩到内存的一端，按顺序排放。

  标记-压缩算法的最终效果等同于标记-清除算法执行完成后，再进行一次内存碎片整理，因此，也可以把它称为：标记-清除-压缩算法。

  二者的本质差异在于：标记-清除是一种非移动式的回收算法，标记-压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策。

  可以看到，标记的存活对象将会被整理，按照内存地址依次排列，而未被标记的内存会被清理掉。这样一来，当我们需要给新对象分配内存时，JVM 只需要持有一个内存的起始地址即可，这比维护一个空间列表显然少了许多开销。

  指针碰撞：如果内存空间以规整和有序的方式分布，即已用和未用的内存都各自一边，彼此之间维系着一个记录下一次分配起始点的标记指针，当为新对象分配内存时，只需要通过修改指针的偏移量将新对象分配在第一个空闲内存位置上，这种分配方式叫做指针碰撞。

  标记-压缩算法的优点：
  1、消除了内存碎片；
  2、没有内存减半的高额代价；

  缺点：
  1、从效率上讲，标记-压缩算法要低于复制算法；
  2、移动对象的同时，如果对象被其他对象引用，则还需要调整引用的地址；
  3、移动过程在，需要 STW。

9、补充

9.1 算法小结

	标记-清除	标记-压缩	复制
速度	中等	最慢	最快
空间开销	少（但会堆积碎片）	少（不堆积碎片）	减少一半
移动对象	否	是	是

  效率上来说，复制算法是当之无愧的老大，但是却浪费了太多内存。

  为了尽量兼顾上面提到的三个指标，标记-压缩算法相对来说更平滑一些，但是效率上不尽如人意，它比复制算法多了一个标记阶段，比标记-清除多了一个整理内存的阶段。

9.2 分代思想

  不同的对象的生命周期是不一样的，因此，不同生命周期的对象可以采取不同的收集方式，以提高回收效率。

  几乎所有的 GC 都是采用分代收集算法执行垃圾回收的。

  在 HotSpot 中，基于分代的概念，GC 所使用的内存回收算法必须结合年轻代和老年代各自的特点。

  年轻代的特点：对象生命周期短、存活率低、回收频繁；
  老年代的特点：对象生命周期长、存活率高、回收不频繁；

  Mark 阶段的开销与存货对象的数量成正比；
  Sweep 阶段的开销与所管理区域的大小成正比；
  Compact 阶段的开销与存活对象的数据成正比。

  以 HotSpot 中的 CMS 回收器为例，CMS 是基于 Mark-Sweep 实现的，对于对象的回收效益很高，而对碎片问题，CMS 采用基于 Mark-Compact 算法的 Serial Old 回收器作为补偿措施：当内存回收不佳，将采用 Serial Old 执行 Full GC 以达到对老年代内存的整理。

  分代思想被现有的虚拟机广泛使用，几乎所有的垃圾回收器都区分新生代和老年代。

9.3 增量收集

  增量收集：如果一次性将所有垃圾进行处理会造成系统长时间的停顿，那么就可以让垃圾收集线程和应用程序线程交替执行。每次，垃圾收集线程只收集一小片区域的内存空间，接着切换到应用程序线程，以此反复，直到垃圾收集完成。

  总的来说，增量收集算法的基础还是传统的标记-清除和复制算法，通过对线程间冲突的妥善处理，允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作。

  缺点在于：线程切换和上下文转换的消耗使得垃圾回收的总体成本上升，造成系统吞吐量的下降。

9.4 分区算法

  一般来说，在相同条件下，堆空间越大，一次 GC 所需要的的时间越长，有关 GC 产生的停顿也越长，为了更好地控制 GC 产生的停顿时间，将一块大的内存区域分割成多个小块，根据目标的停顿时间，每次合理地回收若干个小区间，而不是整个堆空间，从而减少一次 GC 所产生的的停顿。

  分代算法按照对象的生命周期长短划分成两个部分，分区算法将整个堆空间划分成连续不同小区间。

  每一个小区间都独立使用，独立回收，这种算法的好处是可以控制一次回收多少个小区间。

  上面的所有算法只是基本的算法思路，实际 GC 实现过程要复杂的多，目前还在发展中的前言 GC 都是复合算法，并且并行和并发兼备。