Java-底层建筑-JVM-第4篇-堆（Heap-线程共享）

Java - 底层建筑 - JVM - 第4篇 - 堆

概述

• 是被线程共享的一块内存区域，创建的对象和数组都保存在 Java 堆内存中，也是垃圾收集器进行

• 垃圾收集的最重要的内存区域。由于现代 VM 采用分代收集算法, 因此 Java 堆从 GC 的角度还可以细分为: 新生代(Eden 区、From Survivor 区和 To Survivor 区)和老年代。
  

• 每个进程拥有一个JVM实例

• 一个JVM实例只存在一个堆内存，堆也是Java内存管理的核心区域

• Java堆区在JVM启动的时候即被创建。其空间大小也就确定了。是JVM管理的最大的一块内存空间

  • 堆内存的大小是可以调节的

• 《Java虚拟机规范》规定，堆可以处于物理上不连续的内存空间中，但是在逻辑上他应该是连续的

• 所有的线程共享Java堆，在这里还可以划分为线程私有缓冲区（Thread Local Allocation Buffer ，TLAB）

• 《Java虚拟机规范》中对Java堆的描述是：所有的对象实例以及数组都对应当在运行时分配在堆上，“几乎“所有的对象实例都在这里进行分配内存

• 数组和对象可能永远不会存储在栈上，因为栈帧中保存引用，这个引用指向对象或者数组在堆中的位置

• 在方法结束后，堆中的对象不会马上被移除，仅仅在垃圾收集的时候，才会被移除

• 堆，是GC（Garbage Collection 垃圾收集器）执行垃圾回收的重点区域

• 实例程序

public class SimpleHeap {
    private int id;

    public SimpleHeap(int id) {
        this.id = id;
    }

    public void show() {
        System.out.println("my id is:" + id);
    }

    public static void main(String[] args) {
        SimpleHeap s1 = new SimpleHeap(1);
        SimpleHeap s2 = new SimpleHeap(2);
        int[] arr = new int[10];
        Object[] arr1 = new Object[10];
    }
}

• 对应的内存图

堆空间大小的设置

• Java堆用来存储Java对象实例，那么堆的大小在JVM启动的时候就已经设定好了，可以通过选项设置 “-Xmx"和”-Xms"来进行设置 （设置的是年轻代+年老代的大小）
  • -Xms：表示堆区的启始内存大小，等价于 -XX:InitialHeapSize
  • -Xmx：表示堆区的最大内存，等价于 -XX:MaxHeapSize
  • 说明：-X是JVM的运行参数，ms是Memory Start的缩写
• 一旦堆区的内存大小超过 -Xmx 所指定的最大内存时，将会抛出 OutOfMemoryError异常
• 通过会将 -Xms 和 -Xmx两个参数设置为相同的值，为了能够在垃圾回收机制清理完堆区之后不需要重新分隔计算堆区的大小，从而提升性能
• 默认情况下
  • 初始内存大小：物理电脑内存大小 / 64
  • 最大内存大小 物理电脑内存大小 / 4

OutOfMemoryError 举例

• 常见的OOM和栈溢出已经总结到 Java基础篇/Java - 异常 - 进阶 - OOM异常.md

• 下面举例演示：Exception in thread “main” java.lang.OutOfMemoryError: Java heap space

/**
 * VM args: -Xms20m -Xmx20m
 * Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
 */
public class HeapOomCase {
    static class OomObject {

    }

    public static void main(String[] args) {
        ArrayList<OomObject> list = new ArrayList<>();
        while (true) {
            list.add(new OomObject());
        }
    }
}

新生代和老年代

• 存储在JVM中的Java对象可以被划分为两类
  • 一类是生命周期毕竟短的瞬时对象。这类对象的创建和消亡都非常迅速
  • 另外一类对象的生命周期却非常长，在某些极端的情况下还能与JVM的生命周期保持一致
• Java堆区进一步细分的话，可以划分为新生代（YoungGen）和老年代（OldGen）
• 其中新生代又可以分为Eden空间，Survivor0空间和Survivor1空间（有时也叫from区和to区）

• 下面的参数在开发中一般不会调整

  • Young：Old = 1：2
  • Eden：s0：s1 = 8：1：1

• 几乎所有的Java对象都是在Eden区被new出来的

• 绝大部分的Java对象的销毁都在新生代进行了

  • IBM公司的专门研究表明：新生代 80% 的对象都是”朝生夕死“的

• 可以使用 ”-Xmn“ 设置新生代的最大内存大小

  • 这个参数一般使用默认值即可

图解对象的分配过程

• 为新对象分配内存是一件非常严谨和复杂的任务，JVM的设计者们不仅仅需要考虑内存如何分配，在哪里分配等问题，并且由于内存分配算法与内存回收算法密切相关，所以还需要考虑GC执行完内存回收之后是否会在内存空间中产生内存碎片
  • new的对象先放在伊甸园区，此区没有大小限制
  • 当伊甸园区填满的时候，程序又需要创建新的对象，JVM的垃圾回收器将对伊甸园进行垃圾回收（Minor GC），将伊甸园区中的不不再被其他对象所引用的对象进行销毁，在加载新的对象放在伊甸园区
  • 然后将伊甸园区的幸存对象移动到幸存者0区
  • 如果再次触发垃圾回收，此时上次幸存下来的放到幸存者01区域的，如果没有回收，就放到幸存者1区
  • 如果再次经历垃圾回收，此时会重新放回幸存者0区，接着再去幸存者1区
    • 注意：只有Eden区满了之后才会触发YGC，而幸存者区满了不会触发YGC，但是会将Eden区和幸存者区一起回收
  • 当一个对象经历了15次 Minor GC之后，就会放到老年区
    • 可以设置参数：-XX:MaxTenuringThreshold=进行设置
  • 在老年代，相对悠闲，当老年代的内存不足的时候，再次触发GC：Major GC 进行老年代的内存清理
  • 如果老年代执行了Major GC之后依旧无法进行对象的保存，就会产生OOM异常

总结

• 针对幸存者s0，s1区的总结：复制之后有交换，谁空谁是to
• 关于垃圾回收：频繁在新生区收集，很少在老年代收集，几乎不在永久区/元空间收集

Minor GC、Major GC和Full GC

• JVM在进行GC的时候，并非每次都对上面三个内存区域一起回收的，大部分的时候回收都是指新生代
• 针对Hotspot VM的实现，它里面的GC按照回收区域又分为2种类型：一种是部分收集（Partial GC）一种是整堆收集（Full GC）
• 部分收集：不是完整的整个Java堆收集
  • 新生代收集（Minor GC 完全等价于 YGC）：只是在新生代的垃圾收集
  • 老年代收集（Major GC / Old GC）：只是对老年代的垃圾收集
    • 目前只有CMS GC 会有单独收集老年代的行为
    • 注意很多时候Major GC 和 Full GC 混淆使用，需要具体判别老年代回收还是整堆回收
  • 混合收集（Mixed GC）：收集整个新生代和部分老年代的垃圾收集
    • 目前 只有G1 GC 会有这种行为
• 整堆收集（Full GC）：收集整个Java堆和方法区的垃圾收集

年轻代GC（Minor GC/YGC）的触发机制

• 当年轻代空间不足的时候，就会触发Minor GC，这里的年轻代满指的是 Eden区满，而不是S0或者S1满。Servivor满不会触发Minor GC （但是每次Minor GC 会请i年轻代的内存，包括 Eden/S0/S1）
• 因为Java对象大多都具备朝生夕死的特性，所以Minor GC 非常频繁，一般回收速度也很快，
• Minor GC 会引发STW（Stop The World），暂停其他用户线程，等待垃圾回收结束，用户线程才恢复执行

老年代GC（Major GC / Full GC）的触发机制

• 指发生在老年代的GC，对象从老年代消失的时候，我们说”Major GC“ 或 ”Full GC“ 发生了
• 出现了Major GC ，经常会伴随至少一次的Minor GC（但是非绝对的，在Parallel Scavenge 收集器的收集策略里就有直接进行Major GC的策略选择过程）
  • 也就是在老年代空间不足的时候，会先尝试触发Minor GC。如果之后空间还不足，则触发Major GC
• Major GC 的速度会比Minor GC 慢十倍一样，STW的时间或更长
• 如果Major GC 之后，内存还不足，就报OOM了

Full GC 触发机制（后面细讲）

• 触发Full GC的情况有有下面五种
  • 调用System.gc()的时候，系统建议执行Full GC，但是不是必然执行的
  • 老年代空间不足
  • 方法区空间不足
  • 通过Minor GC 后进入老年代的平均大小大于老年代的可用内存
  • 由Eden区、Survivor space0（From Space）区向Survivor space1（To Space）区复制的时候，对象大小大于 To Space的可用内存，则把该对象转存到老年代。且老年代 的可用内存大小小于该对象大小
  • 说明：Full GC 是开发或者调优种尽量避免的，这样暂停的时间会短一些

堆空间分代思想

• 为啥需要把Java堆分代？不分代就不能工作了吗？
• 经过研究，不同对象的生命周期不同，70%~99% 都是临时对象
  • 新生代：由Eden、两块大小相同的Survivor（又称from/to，s0/s1） 构成，to总为空
  • 老年代：存放新生代中经历多次GC依然存活的对象

• 其实不分代也是完全可以的，分代的唯一理由就是优化GC性能，如果没有分代，那么所有的对象都在一起。GC的时候，就会对整堆进行全局扫描，然而很多对象都是朝生夕死 的，如果分代的话，把这些对象聚集在一起，GC先回收这部分，就会节省很多空间和资源

堆内存分配策略

• 对象提升（Promotion）规则

  • 如果对象在Eden出现并经过第一次Minor GC之后仍然存活，并且能被Survivor容纳的话，将被移动到Survivor 区中每熬过一次MinorGC，年龄就增加1岁，当他的年龄增加到一定的程度（默认为15岁）就会晋升到老年代
  • 对象晋升老年代的年龄，可以通过 ： -XX:MaxTenuringThreshold 来设置

• 针对不同的年龄段的对象分配原则如下所示

  • 优先分配待Eden
  • 大对象直接分配到老年代
    • 尽量避免程序中出现过多的大对象
  • 长期存活的对象分配到老年代
  • 动态对象年龄判断
    • 如果Survivor区中的相同年龄的所有的对象的总和大于Survivor空间的一半，年龄大于或者等于该年龄的对象可以直接进入老年代，无需等到MaxTenuringThreshold中要求的年龄
  • 空间分配担保
    • -XX:HandlePromotionFailure

为对象分配内存：TLAB

• 为什么要有TLAB（Thread Local Allocation Buffer）

  • 堆区是线程共享区域，任何线程都可以访问到堆区中的共享数据
  • 由于对象实例的创建在JVM中非常频繁。因此在并发环境下从堆区中划分内存空间是线程不安全的
  • 为避免多个线程操作同一个地址，需要使用加锁等机制，进而影响分配速度

• 什么是TLAB

  • 从内存模型而不是垃圾收集的角度，堆Eden区继续进行划分，JVM为每个线程分配了一个私有缓存区域，它包含在Eden区内
  • 多线程同时分配内存的时候，使用TLAB可以避免一系列的非线程安全问题。同时还能提升内存分配的吞吐量，因此我们可以将这种内存分配方式称为 快速分配策略
  • 几乎所有的OpenJDK衍生出来的JVM都提供了TLAB设计

• TLAB的再说明
  • 尽管不是所有的对象实例都能在TLAB中成功分配内存，但是 JVM确实把TLAB作为内存分配的首选
  • 在程序中，开发人员可以通过选项 ”-XX:UseTLAB“ 设置是否开启TLAB空间
  • 默认情况下，TLAB空间的内存非常小，仅仅占有整个Eden空间的1%。当然我们可以通过选项 ”-XX:TLABWasteTargetPercent“设置TLAB空间所占用的Eden空间的百分比大小
  • 一旦对象在TLAB空间分配内存失败的时候，JVM就会尝试使用 加锁机制来确保数据操作的原子性，从而在Eden区中直接分配内存

对象的分配过程

小结堆空间的参数设置

• -XX:+PrintFlagsInitial 查看所有参数的默认初始值
• -XX:+PrintFlagsFinal 查看所有参数的最终值（可能会存在修改，不再是初始值）
• -Xms：初始堆空间内存 （默认大小为 物理内存空间/64）
• -Xmx：最大堆空间内存（默认大小为 物理内存空间/4）
• -Xmn：设置新生代的大小（初始值和最大值）
• -XX:NewRatio 配置新生代与老年代在堆结构的占比
• -XX:SurvivorRatio 设置新生代中Eden和S0、S1空间的比例
• -XX:MaxTenuringThreshold 设置新生代垃圾打最大年龄
• -XX:+PrintGCDetails 输出详细的GC处理日志
• -XX:PrintGC 打印GC的简要信息 -verbose:gc
• -XX:HandlePromotionFailure 是否设置空间分配担保

---

• 在发生Minor GC之前，虚拟机会 检查老年代最大可用的连续空间是大于新生代所有对象的总空间
  • 如果大于，则此此Minor GC 是安全的
  • 如果小于，则虚拟机会查看 -XX:HandlePromotionFailure 设置值是否允许担保失败
    • 如果HandlePromotionFailure=true，那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小
      • 如果大于，则尝试进行一次Minor GC ，但这次Minor GC 仍然是有风险的
      • 如果小于，则改为一次Full GC
    • 如果HandlePromotionFailure=false 则改为进行一次 Full GC
• 在JDK6 Update24之后，HandlePromotionFailure参数不会再影响到虚拟机的空间分配担保策略，观察OpenJDK中的源码变化，虽然源码中定义了HandlePromotionFailure参数，但是在代码中已经不会使用它。在此版本之后规则变为 只要老年代的连续空间大于新生待对象总大小或者历次晋升的平均大小就会进行Minor GC，否则就执行Full GC

堆是分配对象存储的唯一选择吗？

• 在《深入理解Java虚拟机》中关于Java堆内存中有这样的一段描述
  • 随着JIT编译器的发展与逃逸分析技术逐渐成熟，栈上分配、标量替换优化技术将会导致一些微妙的变化，所有的对象都分配到堆上就渐渐变得不是那么绝对了
  • 在Java虚拟机中。对象是在Java堆中分配内存的，这是一个普遍的常识。但是有一种特殊情况，那就是 如果经过逃逸分析（Escape Analysis）后发现。一个对象并没有逃逸出方法的话，那么就有可能被优化成栈上分配，这样就无需再堆上分配内存，也无需进行垃圾回收了，这是最常见的对外存储技术。
  • 此外，前面提到的基于OpenJDK深度定制的TaoBaoVM，其中创新的GCIH（GC Invisible heap）技术实现 off-heap，将生命周期比较长的Java对象从heap移到heap外，并且GC不能管理GCIH内部的对象，以此达到降低GC的回收频率和提升GC的回收效率的目的

逃逸分析概述

• 如何将堆上的对象分配到栈，需要使用逃逸分析手段

• 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流的分析算法

• 通过逃逸分析，Java Hotspot编译器能够分析出一个新的对象的引用的适用范围从而觉得是否要将这个对象分配到堆上

• 逃逸分析的基本行为就是分析对象的动态作用域

  • 当一个对象在方法中被定义之后，对象只在方法内部使用。则认为没有发生逃逸
  • 当一个对象在方法中被定义后，它被外部的方法所引用，则认为发生逃逸，例如调用参数传递到其他方法中

• 快速判断是否发生逃逸分析

  • 就看new的对象是否可以在方法外部调用
  • 简而言之，是否只是在方法内部使用此对象

• JDK 6u23版本之后，Hotspot中默认开启了逃逸分析

• 如果使用较早的版本

  • 选项 ”-XX:+DoEscapeAnalysis“显示开启
  • 选项 ”-XX:+PrintEscapeAnalysis“查看逃逸分析筛选

• 结论：开发中能使用局部变量的，就不要在方法外进行定义