Java Memory Management and Optimization

垃圾回收机制主要完成下面两件事情：

跟踪并监控每个Java对象，当某个对象处于不可达状态时，回收该对象所占用的内存；

清理内存分配，回收过程中产生的内存碎片。

实际上，垃圾回收机制不可能实时检测到每个Java对象的状态，因此当一个对象失去引用后，它也不会被立即回收，只有等垃圾回收运行时才会被回收。

对于一个垃圾回收器的设计算法来说，大致有如下可供选择的设计。

1. 串行回收(Serial)和并行回收(Parallel)：穿行回收就是不管系统有多少个CPU，始终只用一个CPU来执行垃圾回收操作；而并行回收就是把整个回收工作拆分成多个部分，每个部分由一个CPU负责，从而让多个CPU并行回收。并行回收的执行效率很高，但复杂度增加，另外也有其他一些副作用，比如内存碎片也会增加。
2. 并发执行(Concurrent)和应用程序停止(Stop-the-world)：Stop-the-world的垃圾回收方式在执行垃圾回收的同时会导致应用程序的暂停。并发执行的垃圾回收虽然不会导致应用程序的暂停，但由于并发执行垃圾回收需要解决和应用程序的执行冲突(应用程序可能会在垃圾回收的过程中修改对象)，因此并发执行垃圾回收的系统开销比stop-the-world更高，并且需要更多的堆内存。
3. 压缩和不压缩和复制：为了减小内存碎片，支持压缩的垃圾回收器会把所有的活对象搬迁到一起，然后将之前占用的内存全部回收。不压缩式的垃圾回收器只是回收内存，这样回收回来的内存不可能是连续的，因此将会有较多的内存碎片。较之压缩式的垃圾回收，不压缩式的垃圾回收回收内存块，而分配内存时就会更慢，而且无法解决内存碎片的问题。复制式的垃圾回收会将所有可达对象复制到另一块相同的内存中，这种方式的优点是垃圾回收过程不会产生内存碎片，但缺点也很明显，需要复制数据和额外的内存。

复制：将堆内分成两个相同空间，从根（有向图的起始节点）开始访问每一个关联的柯达对象，将空间A的柯达对象全部复制到空间B，然后一次性回收整个空间A。对于复制算法而言，因为只需访问所有的可达对象，将所有可达对象复制走之后就回收整个空间，完全不用理会那些不可达的对象，所以遍历空间的成本较小，但需要巨大的复制成本和较多的内存。

不压缩：标记清除(mark-sweep)，垃圾回收器从根开始访问所有柯达对象，将它们标记为可达状态，然后再遍历一次整个内存区域，把所有没有标记为可达的对象进行回收处理。标记清除无需进行大规模的复制操作，而且内存利用率高。但这些算法需要两次遍历堆内存空间，遍历的成本较大，因此造成应用程序暂停的事件随堆空间大小线性增大。而且垃圾回收回来的内存往往是不连续的，因此整理后堆内存里的碎片很多。

压缩：标记压缩(mark-sweep-compact)：这种方式充分利用上述两种算法的优点，垃圾回收器先从根开始访问所有可达对象，将它们标记为可达状态。接下来垃圾回收器会将这些活动对象搬迁在一起，这个过程也被称为内存压缩，然后垃圾回收机制再次回收那些不可达对象所占用的内存空间，这样就避免了回收产生的内存碎片。

现行的垃圾回收器用分代的方式来采用不同的回收设计。分代的基本思路是根据对象生存事件的长短，把堆内存分为3个代：

Young;Old;Permanent。

垃圾回收器会根据不同代的特点采用不同的回收算法，从而充分利用各种回收算法的优点。

分代回收的一个依据就是对象生存时间的长短，然后再根据不同代采取不同的垃圾回收策略。采用分代策略基于两个事实：

1. 绝大多数的对象不会被长时间引用，这些对象在其Young期间就会被回收。
2. 很老的对象(生存时间很长)和很新的对象(生存时间很短)之间很少存在相互引用的情况。

1. Young代

对于Young代采用复制算法只需遍历那些处于可达状态的对象，而且这些对象的数量较少，可复制成本也不大，因此可以充分发挥复制算法的优点。Young代由1个Eden区和2个Survivor区构成。绝大多数对象先分配到Eden区中，Survivor区中的对象都至少在Young代中经历过一次垃圾回收，所以这些对象在被转移到Old代之前会先保留在Survivor空间中。同一时间2个Survivor空间中有一个用来保存对象，而另一个是空的，用来在下次垃圾回收时保存Young代中的对象。每次复制就是将Eden和第一个Survivor的可达对象复制到第2个Survivor区，然后清空Eden与第1个Survivor区。Eden与 Survivor的比例通过-XX:SurvivorRatio附加选项来设定，默认为32.如果Survivor太大会产生浪费，太小则会使一些Young代的对象提前进入Old代。

2. Old代

如果Young代中对象经过数次垃圾回收依然还没有被回收掉，即这个对象经过足够长的时间还处于可达状态，垃圾回收机制就会将这个对象转移到Old代。Old代的空间比Yound代要大很多。

Old代的垃圾回收两个特征：

1.      Old代垃圾回收的执行频率无需太高，因为很少有对象会死掉。

2.      每次对Old代执行垃圾回收需要更长的时间来完成。

基于以上考虑，垃圾回收器通常会使用标记压缩算法。这种算法可以避免复制Old代的大量对象，而且Old代的对象不会很快死亡，回收过程不会大量地产生内存碎片，因此相对比较划算。

3. Permanent代

Permanent代主要用于装载Class，方法等信息，默认为64M，垃圾回收机制通常不会回收Permanent代中的对象。对于那些需要加载很多类的服务器程序，往往需要加大Permanent代内存，否则可能因为内存不足而导致程序终止。对于像Hibernate,Spring这类喜欢AOP动态生成类的框架，往往会生成大量的动态代理类，因此需要更多的Permanent代内存。如果遇到java.lang.OutOfMemoryError:PermGen space的错误，这就是由Permanent代内存耗尽所导致的错误。

当Young代的内存将要用完的时候，垃圾回收机制会对Young代进行垃圾回收，垃圾回收机制会采用较高的频率对Young代进行扫描和回收。因为这种回收的系统开销比较小，因此也被称为次要回收(MINOR collection)。当Old代的内存将要用完时，垃圾回收机制会进行全回收，也就是对Young代和Old代都要进行回收，此时回收成本就大得多了，因此也称为主要回收(Major Collection)。