Java垃圾回收算法、垃圾收集器实现 及 内存分配与回收策略

一、垃圾回收算法

1、标记-清除算法

      “标记-清除”算法是最基础的垃圾回收算法，之所以说它是最基础的收集算法，是因为后续的收集算法都是基于这种思路并对其缺点进行改进得到的。

      该算法分为两个阶段：“标记”和“清除”，首先标记出所有需要回收的对象，然后在标记完成后统一回收掉所有被标记的对象。

      主要缺点有两个：

             一个是效率问题，标记和清除过程的效率都不高；

             另外一个是空间问题,标记清除之后会产生大量不连续的内存碎片，空间碎片太多可能会导致，当程序在以后的运行过程中需要分配较大对象时无法找到足够的连续内存而不得不提前触发另外一次垃圾回收动作。

       标记-清除算法的执行过程如下图所示：

2、复制算法

      为了解决效率问题，出现了“复制”的收集算法。

      思路是：将可用内存按容量划分为大小相等的两块，每次只使用其中的一块。当这一块的内存用完了，就将还存活着的对象复制到另外一块上面，然后再把已使用过的内存空间一次清理掉。

      优点是：内存分配时不用考虑内存碎片等复杂情况，实现简单，运行高效

      缺点是：可利用的内存空间缩小为原来的一半，内存利用率低。

      复制算法的执行过程如下：

               

注：现在的商业虚拟机中都采用这种回收算法来回收新生代（关于新生代、老年代参看：http://www.cnblogs.com/E-star/p/5556188.html）。IBM的专门研究表明，新生代中的对象98%是朝生夕死的，所以并不需要按照1:1的比例来划分内存空间，而是将内存分为一块较大的Eden空间和两块较小的Survivor空间，每次使用Eden和其中的一块Survivor。当回收时，将Eden和Survivor中还存活着的对象一次性地拷贝到另外一块Survivor空间上，最后清理掉Eden和刚才用过的Survivor的空间。HotSpot虚拟机默认Eden和Survivor的大小比例是8:1，也就是每次新生代中可用的内存空间为整个新生代容量的90%（80%+10%），只有10%的内存时会被“浪费”的。当然，实际中当Survivor空间不够用时，需要依赖其他内存（这里指老年代）进行分配担保（Handel Promotion）。

3、标记-整理算法（Mark-Compact）

      复制收集算法在对象存活率较高时就要执行较多的复制操作，效率将会变低。更关键的是，如果不想浪费50%的空间，就需要有额外的空间进行分配担保。

算法思路：标记过程仍然与“标记-清除”算法一样，但后续步骤不是直接对可回收对象进行清理，而是让所有存活的对象都向一端移动，然后直接清理掉端边界以外的内存。

算法示意图如下：

4、分代收集算法（Generational Collection）

       该算法只是根据对象存活周期的不同将内存划分为几块。一般是把Java堆分为新生代和老年代，这样就可以根据各个年代的特点采用最适合的收集算法。新生代中，每次来及收集时都发现有大批对象死去，只有少量存活，就选用复制算法。而老年代中因为对象存活率高、没有额外空间对它进行分配担保，就必须使用“标记-清理”或“标记-整理”算法来回收。

二、垃圾收集器实现 

     不同厂商、不同版本的虚拟机锁提供的垃圾收集器都可能会有很大的差别。并且一般都会提供参数供用户根据自己的应用特点和要求组合出各个年代所使用的收集器。

下图是HotSpot虚拟机1.6版Undate 22d的所有收集器：

注；如果两个收集器之间存在连线，就说明它们可以搭配使用。

1、Serial收集器

      Serial是一个新生代收集器，曾经是JDK1.3.1之前新生代唯一的垃圾收集器。采用复制算法。

      Serial是一个单线程收集器，会使用一个CPU、一条线程去完成垃圾回收，并且在进行垃圾回收的时候必须暂停其他所有的工作线程，直到垃圾收集结束（这被称为“Stop The World”）。

      Serial收集器仍然是虚拟机运行在Client模式下的默认新生代收集器。它的优点是：简单而高效（与其他收集器的单线程比）。对于限定单个CPU的环境来说，Seria收集器由于没有线程交互的开销，专心做垃圾收集自然可以获得最高的单线程收集效率。

      Serial/Serial Old收集器运行示意图如下：

 

      

2、ParNew收集器

     ParNew收集器也是一个新生代收集器，是Serial收集器的多线程版本。也采用复制算法。除了使用多条线程进行垃圾回收之外，其他行为与Serial收集器一样。

     ParNew收集器在单CPU的环境中效果不会比Serial收集器更好，甚至由于存在线程交互的开销，性能可能会更差。

     ParNew收集器在多CPU环境下是更高效的，它默认开启的收集线程数与CPU的数量相同。

     ParNew/Serial Old收集器运行示意图如下：

3、Parallel Scavenge收集器

        Parallel Scavenge收集器也是一个新生代收集器。也是用复制算法，同时也是并行的多线程收集器。

        Parallel Scavenge收集器的特点是关注点与其他收集器不同，Parallel Scavenge的关注点是“吞吐量（Throughput）”，吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值，即吞吐量=运行用户代码时间/(运行用户代码时间+垃圾收集时间)。其他收集器关注的是“垃圾收集时的停顿时间”。

       停顿时间越短就越适合需要与用户交互的程序，良好的响应速度能提升用户的体验； 而高吞吐量则可以最高效率地利用CPU时间，尽快地完成程序的运算任务，适合在后台运算不需要太多交互的任务。

       Parallel Scavenge收集器可以通过参数控制最大垃圾收集停顿时间和吞吐量大小。注意：GC停顿时间缩短是以牺牲吞吐量和新生代空间来换取的。因为：系统把新生代空间调小一些，收集的速度就快一些，也就导致垃圾收集要更频繁（空间不够用），比如原来10秒收集一次，一次停顿100毫秒，现在5秒收集一次，每次停顿70毫秒，停顿时间的确在下降，但吞吐量也降下来了。

       此外Parallel Scavenge收集器可通过参数开关控制GC自动动态调整参数来提供最合适的停顿时间或最大吞吐量，这种调节方式称为GC自适应的调节策略（GC Ergonomics）。

       自适应调节策略也是Parallel Scavenge收集器与ParNew收集器的一个重要区别。

注：Parallel Scavenge收集器无法与CMS收集器配合使用。（原因是Parallel Scavenge收集器及G1收集器都没有使用传统的GC收集器代码框架，而是另外独立实现的）

4、Serial Old收集器

       Serial Old是Serial收集器的老年代版本。同样是一个单线程收集器，使用“标记-整理”算法。这个收集器的主要意义是被Client模式下的虚拟机使用。在Server模式下，它主要还有两大用途：一个是在JDK1.5及以前的版本中与Parallel Scavenge收集器搭配使用，另外一个就是作为CMS收集器的后备预案，在并发收集发生Concurrent Mode Failure的时候使用。

5、Parallel Old收集器

       Parallel Old是Parallel Scavenge收集器的老年代版本。使用多线程和“标记-整理”算法。单线程的老年代Serial Old收集器在服务端性能比较差，即使新生代使用了Parallel Scavenge收集器也未必能在整体应用上获得吞吐量最大化的效果。

       在注重吞吐量及CPU资源敏感的场合，都可以优先考虑Parallel Scavenge收集器加上Parallel Old收集器组合使用。

Parallel Scavenge/ Parallel Old收集器运行示意图如下：

6、CMS收集器

        CMS(Concurrent Mark Sweep)收集器是一种以获取最短回收停顿时间为目标的收集器。最符合重视服务响应速度。希望系统停顿时间最短的应用。

该收集器是基于“标记-清除”算法实现的。过程分为4个步骤：

       初始标记（CMS initial mark）、并发标记（CMS concurrent mark）、重新标记（CMS remark）、并发清除（CMS concurrent sweep）.

       其中初始标记、重新标记这两个步骤仍然需要“Stop The World”。初始标记仅仅只是标记一下GC Roots能直接关联到的对象，速度很快，并发标记阶段就是进行GC Roots Tracing的过程，而重新标记阶段则是为了修正并发标记期间，因用户程序继续运行而导致标记产生变动的那一部分对象的标记记录，这个阶段的停顿时间一般会比初始标记阶段稍长一些，但远比并发标记的时间短。

       Concurrent Mark Sweep收集器运行示意图如下：



      CMS是以款并发收集、低停顿的收集器，缺点是：对CPU资源非常敏感、无法处理浮动垃圾、基于“标记-清除”算法导致收集结束会产生大量空间碎片。

7、G1收集器

        G1(Carbage First)收集器， 基于“标记-整理”算法， 同时能够非常精确地控制停顿。特点是：由于采用“标记-整理”算法所以不会产生空间碎片，可以精确控制停顿，几乎已经具有实时Java(RTSJ)的垃圾收集器特征；实现在基本不牺牲吞吐量的前提下完成第停顿的内存回收。

       实现思路：G1将整个Java堆（包括新生代、老年代）划分为多个大小固定的独立区域（Region），并且跟踪这些区域里面的垃圾堆积程序，在后台维护一个优先列表。每次根据允许的收集时间，有限回收垃圾最多的区域（这就是Garbage First名称的由来），通过这种机制保证了G1收集器在有限的时间内可以获得最高的收集效率。

三、内存分配与回收策略

1、规则一：对象优先在Eden分配

关于Minor GC 和 Full GC：

*** 新生代GC(Minor GC)是指发生在新生代的垃圾收集动作，因为Java对象大多都具有朝生夕灭的特性，所以Minor GC非常频繁，一般回收速度也比较快。

*** 老年代GC(Major GC / Full GC):值发生在老年代的GC, MajorGC的速度一般会比Minor GC慢10倍以上。



    大多数情况下，对象在新生代Eden区中分配，当Eden区没有足够的空间进行分配时，会触发一次MinorGC。MinorGC的执行过程是：先尝试将Eden区域和一个Survivor区域中所有或者的对象复制到另一块Survivor，如果成功就执行完成，否则，触发分配担保机制，将Eden和Survivor中活着的对象复制到老年代中，然后执行完成。

下例演示了这个过程：

public class TestMinorGC {

     private static final int _1MB = 1024 * 1024;

     /**

      * VM参数：-verbose:gc -Xms20M -Xmx20M -Xmn10M -XX:SurvivorRatio=8

      */

     public static void testAllocation() {

          byte[] allocation1, allocation2, allocation3, allocation4;

          allocation1 = new byte[2 * _1MB];

          allocation2 = new byte[2 * _1MB];

          allocation3 = new byte[2 * _1MB];

          allocation4 = new byte[4 * _1MB]; // 出现一次Minor GC

     }

     public static void main(String[] args) {

          TestMinorGC.testAllocation();

     }

}

设置指定的VM参数后，运行结果如下：

[GC (Allocation Failure) [DefNew: 7136K->489K(9216K), 0.0045882 secs] 7136K->6633K(19456K), 0.0046604 secs] [Times: user=0.00 sys=0.00, real=0.01 secs]

Heap

def new generation total 9216K, used 4667K [0x04a00000, 0x05400000, 0x05400000)

eden space 8192K, 51% used [0x04a00000, 0x04e14938, 0x05200000)

from space 1024K, 47% used [0x05300000, 0x0537a5f0, 0x05400000)

to space 1024K, 0% used [0x05200000, 0x05200000, 0x05300000)

tenured generation total 10240K, used 6144K [0x05400000, 0x05e00000, 0x05e00000)

the space 10240K, 60% used [0x05400000, 0x05a00030, 0x05a00200, 0x05e00000)

Metaspace used 1731K, capacity 2242K, committed 2368K, reserved 4480K

分析：

<1>、 总空间：

        新生代10M总空间中：Eden占8192K、from space 占1024K、to space占1024K，总共利用了9216K空间（因为理论上是90%的利用率）。

        老年代10M总空间中（tenured generation）总共占10240K空间。

<2>、程序执行时，allocation1、allocation2、allocation3都顺利在Eden上各分到了2M空间，此时Eden被使用了6M空间。

      当为allocation4分配需要的4M空间时，虚拟机发现Eden剩余空间不够（只剩3M(Eden:2M + Survivor:1M)）,所以触发一次Minor GC，我们上面提到MinorGC的执行过程，MinorGC发现无法将Eden和Survivor上活着的对象全部复制到另一块Survivor中，就触发了分配担保机制，直接将这些或者的对象复制到老年代中。

      这时，Eden已经空了，程序可以为allocation4分配4M的Eden空间。

      因此，这次Minor GC的结果是，新生代中占用了4M多空间（allocation4占用4M + 其他对象几百K空间），老年代中占用6M空间（就是allocation1、allocation2、allocation3占用的空间）。

2、规则二：大对象直接进入老年代

      所谓大对象就是指，需要大量连续内存空间的Java对象。

      虚拟机提供了一个-XX:PretenureSizeThreshold参数，令大于这个设置值的对象直接在老年代中分配。这样做的目的是避免在Eden区及两个Survivor区之间发生大量的内存拷贝。

     注：PretenureSizeThreshold参数只对Serial和ParNew两款收集器有效，Parallel Scavenge收集器不需要设置。

例如：

public class TestMinorGC {

     private static final int _1MB = 1024 * 1024;

     

     /**

      * VM参数：-verbose:gc -Xms20M -Xmx20M -Xmn10M -XX:SurvivorRatio=8

      */

     public static void testAllocation() {

          byte[] allocation1, allocation2, allocation3, allocation4;

          allocation1 = new byte[2 * _1MB];

          allocation2 = new byte[2 * _1MB];

          allocation3 = new byte[2 * _1MB];

          allocation4 = new byte[4 * _1MB]; // 出现一次Minor GC

     }

     

     public static void main(String[] args) {

          TestMinorGC.testAllocation();

     }

}

设置指定的VM参数后，运行结果如下：

[GC (Allocation Failure) [DefNew: 7136K->489K(9216K), 0.0045882 secs] 7136K->6633K(19456K), 0.0046604 secs] [Times: user=0.00 sys=0.00, real=0.01 secs]

Heap

 def new generation   total 9216K, used 4667K [0x04a00000, 0x05400000, 0x05400000)

  eden space 8192K,  51% used [0x04a00000, 0x04e14938, 0x05200000)

  from space 1024K,  47% used [0x05300000, 0x0537a5f0, 0x05400000)

  to   space 1024K,   0% used [0x05200000, 0x05200000, 0x05300000)

 tenured generation   total 10240K, used 6144K [0x05400000, 0x05e00000, 0x05e00000)

   the space 10240K,  60% used [0x05400000, 0x05a00030, 0x05a00200, 0x05e00000)

 Metaspace       used 1731K, capacity 2242K, committed 2368K, reserved 4480K

分析：

<1>、 总空间：

        新生代10M总空间中：Eden占8192K、from space 占1024K、to space占1024K，总共利用了9216K空间（因为理论上是90%的利用率）。

        老年代10M总空间中（tenured generation）总共占10240K空间。

<2>、程序执行时，allocation1、allocation2、allocation3都顺利在Eden上各分到了2M空间，此时Eden被使用了6M空间。

      当为allocation4分配需要的4M空间时，虚拟机发现Eden剩余空间不够（只剩3M(Eden:2M + Survivor:1M)）,所以触发一次Minor GC，我们上面提到MinorGC的执行过程，MinorGC发现无法将Eden和Survivor上活着的对象全部复制到另一块Survivor中，就触发了分配担保机制，直接将这些或者的对象复制到老年代中。

      这时，Eden已经空了，程序可以为allocation4分配4M的Eden空间。

      因此，这次Minor GC的结果是，新生代中占用了4M多空间（allocation4占用4M + 其他对象几百K空间），老年代中占用6M空间（就是allocation1、allocation2、allocation3占用的空间）。

2、规则二：大对象直接进入老年代

      所谓大对象就是指，需要大量连续内存空间的Java对象。

      虚拟机提供了一个-XX:PretenureSizeThreshold参数，令大于这个设置值的对象直接在老年代中分配。这样做的目的是避免在Eden区及两个Survivor区之间发生大量的内存拷贝。

     注：PretenureSizeThreshold参数只对Serial和ParNew两款收集器有效，Parallel Scavenge收集器不需要设置。

例如：

public class TestMinorGC2 {

     private static final int _1MB = 1024 * 1024;

     /**

      * VM参数：-verbose:gc -Xms20M -Xmx20M -Xmn10M -XX:SurvivorRatio=8

      * -XX:PretenureSizeThreshold=3145728

      */

     public static void testPretenureSizeThreshold() {

          byte[] allocation;

          allocation = new byte[4 * _1MB]; // 直接分配在老年代中

     }

     public static void main(String[] args) {

          TestMinorGC2.testPretenureSizeThreshold();

     }

}

  设置指定VM参数后，上述代码的执行结果显示，Eden空间几乎没有被占用，老年代空间被占用4M,也就是allocation对象直接分配在老年代中。

3、规则三：长期存活的对象将进入老年代

       虚拟机给每个对象定义了一个对象年龄（Age）计数器，如果对象在Eden出生并经过第一次Minor GC后仍然存活，并且能被Survivor容纳的话，将被移动到Survivor空间中，并将对象年龄设为1。对象在Survivor区中每熬过一次Minor GC，年龄就增加1岁，当它的年龄增加到一定程度（默认为15岁）时，就会被晋级到老年代中，对象晋级到老年大的年龄阈值，可以通过参数-XX:MaxTenuringThreshold来设置。

4、规则四：动态对象年龄判定

      虚拟机并不总是要求对象的年龄必须达到MaxTenuringThreshold才能晋升老年代，如果在Survivor空间中相同年龄所有对象大小的总和大于Survivor空间的一半，年龄大于或等于该年龄的对象就可以直接进入老年代，无需等到MaxTenuringThreshold中要求的年龄。

5、规则五：空间分配担保

     在发生Minor GC时，虚拟机会检查之前每次晋升到老年代的平均大小是否大于老年代的剩余空间大小，如果大于，则改为直接进行一次Full GC。如果小于，则查看HandlePromotionFailure参数设置是否允许担保失败：如果允许，那只会进行Minor GC；如果不允许，则也要改为进行一次Full GC来仍老年代腾出更多空间。

      在Minor GC发生前一共有多少对象会活下来，在实际完成内存回收之前是无法明确知道的，取之前每次回收晋升到老年代对象容量的平均大小值其实仍然是一种动态概率的手段。

       注：大部分情况下都应该将HandlePromotionFailure开关打开，避免Full GC过于频繁。

       就是当在新生代无法分配内存的时候，把新生代的对象转移到老生代，然后把新对象放入腾空的新生代。