【JVM】之堆内存、逃逸分析、栈上分配、同步省略、标量替换详解

1 堆的核心概述

1.1 什么是堆内存

堆与进程、线程之间的关系

• 一个进程对应一个JVM实例
• 一个JVM实例对应一个堆空间
• 进程包含多个线程，所以线程之间共享同一个堆空间

对堆的认识

• 一个JVM实例只存在一个堆内存，堆也是Java内存管理的核心区域。

• Java堆区在JVM启动的时候即被创建，其空间大小也就确定了，堆是JVM管理的最大一块内存空间。

  • 堆内存的大小是可以调节的。

• 《Java虚拟机规范》规定，堆可以处于物理上不连续的内存空间中，但在逻辑上它应该被视为连续的。

• 所有的线程共享Java堆，在这里还可以划分线程私有的缓冲区（Thread Local Allocation Buffer，TLAB）。

• 《Java虚拟机规范》中对Java堆的描述是：所有的对象实例以及数组都应当在运行时分配在堆上。（The heap is the run-time data area from which memory for all class instances and arrays is allocated）

  • 从实际使用角度看的：“几乎”所有的对象实例都在这里分配内存。因为还有一些对象是在栈上分配的（逃逸分析，标量替换）

• 数组和对象可能永远不会存储在栈上，因为栈帧中保存引用，这个引用指向对象或者数组在堆中的位置。

• 在方法结束后，堆中的对象不会马上被移除，仅仅在垃圾收集的时候才会被移除。

  • 也就是触发了GC的时候，才会进行回收
  • 如果堆中对象马上被回收，GC线程就会频繁的调用，那么用户线程就会收到影响，因为有 STW（stop the word）

• 堆，是GC（Garbage Collection，垃圾收集器）执行垃圾回收的重点区域。

代码示例

public class SimpleHeap {
    private int id;//属性、成员变量

    public SimpleHeap(int id) {
        this.id = id;
    }

    public void show() {
        System.out.println("My ID is " + id);
    }
    public static void main(String[] args) {
        SimpleHeap sl = new SimpleHeap(1);
        SimpleHeap s2 = new SimpleHeap(2);

        int[] arr = new int[10];

        Object[] arr1 = new Object[10];
    }
}

1.2 设置并查看堆内存

• 设置JVM参数

  # 初始大小和最大大小均为10M
  -Xms10m -Xmx10m
  

  

  public class HeapDemo {
      public static void main(String[] args) {
          System.out.println("start...");
          try {
              Thread.sleep(1000000);
          } catch (InterruptedException e) {
              e.printStackTrace();
          }
  
          System.out.println("end...");
      }
  
  }
  

• 运行程序使其进入阻塞环节，使用jvisual工具查看进程
  

1.3 堆内存的细分

jdk1.7及以前

• Java 7及之前堆内存逻辑上分为三部分：新生区 + 养老区 + 永久区
  • Young Generation Space 新生区 Young/New
  • 又被划分为 Eden区 和 Survivor区
  • Tenure generation space 养老区 Old/Tenure
  • Permanent Space永久区 Perm

jdk1.8及以后

• Java 8及之后堆内存逻辑上分为三部分：新生区 + 养老区 + 元空间

  • Young/New Generation Space 新生区，又被划分为Eden区和Survivor区
  • Old/Tenure generation space 养老区
  • Meta Space 元空间 Meta

• 现在的堆空间只包括新生代和老年代

  • 永久代或者元空间是在方法区进行具体的落地实现
  • 以1.2为例，我们查看一下堆空间的组成
    
    

• 名称说明：

  • 新生区 == 新生代 == 年轻代
  • 养老区 == 老年代 == 老年代
  • 永久区 == 永久代

2 设置堆内存大小与OOM

2.1 设置堆内存大小并查看

常用命令

/**
 * 1. 设置堆空间大小的参数
 * -Xms 用来设置堆空间（年轻代+老年代）的初始内存大小
 *      -X 是 jvm 的运行参数
 *      ms 是 memory start
 * -Xmx 用来设置堆空间（年轻代+老年代）的最大内存大小
 *
 * 2. 默认堆空间的大小
 *      初始内存大小：物理电脑内存大小 / 64
 *      最大内存大小：物理电脑内存大小 / 4
 *
 * 3. 手动设置：-Xms600m -Xmx600m
 *     开发中建议将初始堆内存和最大的堆内存设置成相同的值。
 *
 * 4. 查看设置的参数：方式一： jps   /  jstat -gc 进程id
 *                 方式二：-XX:+PrintGCDetails
 */

代码示例

public class HeapSpaceInitial {
    public static void main(String[] args) {

        //返回Java虚拟机中的堆内存总量
        long initialMemory = Runtime.getRuntime().totalMemory() / 1024 / 1024;
        //返回Java虚拟机试图使用的最大堆内存量
        long maxMemory = Runtime.getRuntime().maxMemory() / 1024 / 1024;

        System.out.println("-Xms : " + initialMemory + "M");
        System.out.println("-Xmx : " + maxMemory + "M");
    }
}

• 设置初始内存
  
• 查看内存大小
  
• 为什么是575M，而不是600M
  • ips 查看当前运行程序的进程
    
  • jstat -gc 22728
    
• 结果分析
  

2.2 OOM举例

• 对象和数组存放再堆中，因此我们造一个大数组

  /**
   * -Xms600m -Xmx600m
   */
  public class OOMTest {
      public static void main(String[] args) {
          ArrayList<Picture> list = new ArrayList<>();
          while(true){
              try {
                  Thread.sleep(20);
              } catch (InterruptedException e) {
                  e.printStackTrace();
              }
              list.add(new Picture(new Random().nextInt(1024 * 1024)));
          }
      }
  }
  
  class Picture {
      private byte[] pixels;
  
      public Picture(int length) {
          this.pixels = new byte[length];
      }
  }
  

• 监控堆内存变化：Old 区域一点一点在变大，直到最后一次垃圾回收器无法回收垃圾时，堆内存被撑爆，抛出 OutOfMemoryError 错误
  

• 堆内存变化图
  

• 再抽样器中查看哪些数据比较多，结果是大对象导致堆内存溢出

3 年轻代与老年代

3.1 Java对象分类

• 存储在JVM中的Java对象可以被划分为两类：

  • 一类是生命周期较短的瞬时对象，这类对象的创建和消亡都非常迅速
  • 另外一类对象的生命周期却非常长，在某些极端的情况下还能够与JVM的生命周期保持一致

• Java堆区进一步细分的话，可以划分为年轻代（YoungGen）和老年代（oldGen）

  • 其中年轻代又可以划分为Eden空间、Survivor0空间和Survivor1空间（有时也叫做from区、to区）
    

3.2 配置新老比例

配置新生代与老年代的比例

配置新生代与老年代在堆结构的占比（下面这些参数在开发中一般不会调）

• 默认**-XX:NewRatio**=2，表示新生代占1，老年代占2，新生代占整个堆的1/3

  [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DHtOSNwW-1656947061367)(images/106688e2b71415cd3680e1688fec9863-16378545821549.png)]

• 可以修改**-XX:NewRatio**=4，表示新生代占1，老年代占4，新生代占整个堆的1/5

• 当发现在整个项目中，生命周期长的对象偏多，那么就可以通过调整老年代的大小，来进行调优

新生区中的比例细分

• 在HotSpot中，Eden空间和另外两个survivor空间缺省所占的比例是8 : 1 : 1

• 当然开发人员可以通过选项**-XX:SurvivorRatio**调整这个空间比例。

  # 官方默认比例是 8:1:1 ，但其实不是，需要自己设置
  -XX:SurvivorRatio=ratio
  

• 几乎所有的Java对象都是在Eden区被new出来的。

• 绝大部分的Java对象的销毁都在新生代进行了（有些大的对象在Eden区无法存储时候，将直接进入老年代）

  • IBM公司的专门研究表明，新生代中80%的对象都是“朝生夕死”的。

• 可以使用选项"-Xmn"设置新生代最大内存大小，但这个参数一般使用默认值就可以了

  • 如果和-XX:NewRatio 同时存在，则以-Xmn为准

• 新生区的对象默认生命周期超过 15 ，将进入老年代

代码示例

/**
 * -Xms600m -Xmx600m
 *
 * -XX:NewRatio ： 设置新生代与老年代的比例。默认值是2，即比例为 1:2
 * -XX:SurvivorRatio ：设置新生代中Eden区与Survivor区的比例。默认值是8,即比例为 2:8
 * -XX:-UseAdaptiveSizePolicy ：关闭自适应的内存分配策略  （暂时用不到）
 * -Xmn:设置新生代的空间的大小。 （一般不设置）
 */
public class EdenSurvivorTest {
    public static void main(String[] args) {
        System.out.println("我只是来打个酱油~");
        try {
            Thread.sleep(1000000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }
}

• 通过jvisual查看

• 通过命令行查看

  # 查看新生代与老年代的比例
  jps
  jinfo -flag NewRatios 进程id 
  # 查看新生区中伊甸园区与幸存者区的比例
  jps
  jinfo -flag SurvivorRatio 进程id 
  

  • 新生区中：伊甸园区 : 幸存者 0 区 : 幸存者 1 区 = 8 : 1 : 1
  • 新生区 : 老年区 = 1 : 2

4 图解对象分配过程

4.1 对象分配过程

为新对象分配内存是一件非常严谨和复杂的任务，JVM的设计者们不仅需要考虑内存如何分配、在哪里分配等问题，并且由于内存分配算法与内存回收算法密切相关，所以还需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片。

• new的对象先放伊甸园区。此区有大小限制。
• 当伊甸园的空间填满时，程序又需要创建对象，JVM的垃圾回收器将对伊甸园区进行垃圾回收（MinorGC），将伊甸园区中的不再被其他对象所引用的对象进行销毁。再加载新的对象放到伊甸园区。
• 然后将伊甸园中的剩余对象移动到幸存者0区。
• 如果再次触发垃圾回收，此时将伊甸园区和幸存者0区进行垃圾回收，剩下的对象就会放到幸存者1区。
• 如果再次经历垃圾回收，此时会重新放回幸存者0区，接着再去幸存者1区。
• 啥时候能去养老区呢？可以设置次数。默认是15次。可以设置新生区进入养老区的年龄限制，设置 JVM 参数：-XX:MaxTenuringThreshold=N 进行设置
• 在养老区，相对悠闲。当养老区内存不足时，再次触发GC：Major GC，进行养老区的内存清理
• 若养老区执行了Major GC之后，发现依然无法进行对象的保存，就会产生OOM异常。

4.2 图解对象分配(重要)

4.2.1 过程分析

我们创建的对象，一般都是存放在Eden区的，当我们的Eden区满了后，就会触发GC操作，一般被称为 YGC / Minor GC操作

1. 当我们进行第一次垃圾收集后，红色的对象将会被回收，而绿色的独享还被占用着，存放在S0(Survivor From)区。同时我们给每个对象设置了一个年龄计数器，经过一次回收后还存在的对象，将其年龄加 1。
   • 此时经过垃圾回收之后，伊甸园区是空的，数据全部存放在from区
     
2. 同时Eden区继续存放对象，当Eden区再次存满的时候，又会触发一个MinorGC操作，此时GC将会把 Eden和Survivor From中的对象进行一次垃圾收集，把存活的对象放到 Survivor To区，同时让存活的对象年龄 + 1
   • 此时S1区为from区，S0为to区，也就是说那个幸存者区空着，哪个区就是to区
     
3. 我们继续不断的进行对象生成和垃圾回收，当Survivor中的对象的年龄达到15的时候，将会触发一次 Promotion 晋升的操作，也就是将年轻代中的对象晋升到老年代中。
   

4.2.2 代码举例

代码举例

/**
 * -Xms600m -Xmx600m
 */
public class HeapInstanceTest {
    byte[] buffer = new byte[new Random().nextInt(1024 * 200)];

    public static void main(String[] args) {
        ArrayList<HeapInstanceTest> list = new ArrayList<HeapInstanceTest>();
        while (true) {
            list.add(new HeapInstanceTest());
            try {
                Thread.sleep(10);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    }
}

• 注意【伊甸园区、幸存者区、老年区】的内存变化趋势
  

4.2.3 总结

• 针对s0,s1区总结：复制之后有交换，谁空谁是to。
  • 永远有一个幸存者区是空的。
• 关于垃圾回收：频繁在新生区收集，很少在养老区收集，几乎不再永久区/元空间收集。

4.3 特殊情况

思考：幸存区满了咋办？

• 特别注意，在Eden区满了的时候，才会触发MinorGC，而幸存者区满了后，不会触发MinorGC操作
• 如果Survivor区满了后，将会触发一些特殊的规则，也就是可能直接晋升老年代

对象分配的特殊情况

• 如果来了一个新对象，先看看 Eden 是否放的下？

  • 如果 Eden 放得下，则直接放到 Eden 区
  • 如果 Eden 放不下，则触发 YGC ，执行垃圾回收，看看还能不能放下？放得下最好当然最好咯~~~

• 将对象放到老年区又有两种情况：

  • 如果 Eden 执行了 YGC 还是无法放不下该对象，那没得办法，只能说明是超大对象，只能直接怼到老年代
  • 那万一老年代都放不下，则先触发重 GC ，再看看能不能放下，放得下最好，但如果还是放不下，那只能报 OOM 啦~~~

• 如果 Eden 区满了，将对象往幸存区拷贝时，发现幸存区放不下啦，那只能便宜了某些新对象，让他们直接晋升至老年区
  

5 堆中的垃圾回收

5.1 Minor GC、Major GC、Full GC概述

Minor GC（等同于Young GC）、Major GC、Full GC

我们都知道，JVM调优的一个环节，也就是垃圾收集，我们需要尽量的避免垃圾回收，因为在垃圾回收的过程中，容易出现STW（Stop the World）的问题，而 Major GC 和 Full GC出现STW的时间，是Minor GC的10倍以上

JVM在进行GC时，并非每次都对上面三个内存( 新生代、老年代；方法区 )区域一起回收的，大部分时候回收的都是指新生代。

部分收集：不是完整收集整个Java堆的垃圾收集。其中又分为：

• 新生代收集（ Minor GC/Young GC ）：只是新生代( Eden、S0/S1 )的垃圾收集

• 老年代收集（ Major GC/Old GC ）：只是老年代的垃圾收集。

  • 目前，只有CMS GC会有单独收集老年代的行为。也就是说其它GC执行Maior GC的时候可不不会只说及老年代的垃圾。
  • 注意，很多时候Major GC会和Full GC混淆使用，需要具体分辨是 老年代回收还是整堆回收。

• 混合收集（Mixed GC）：收集整个新生代以及部分老年代的垃圾收集。

  • 目前，只有G1 GC会有这种行为

• 整堆收集（Full GC）：收集整个java堆和方法区的垃圾收集。

5.2 Young/Minor GC

• 当年轻代空间不足时，就会触发Minor GC，这里的年轻代满指的是Eden区满，Survivor区满不会触发GC。（每次Minor GC会清理年轻代的内存）

• 因为Java对象大多都具备朝生夕死的特性，所以Minor GC非常频繁，一般回收速度也

  比较快。这一定义既清晰又易于理解。

• Minor GC会引发STW，暂停其它用户的线程，等待垃圾回收线程结束，用户线程才用户线程才恢复运行
  

5.3 Major GC

老年代 GC（MajorGC/Full GC）触发机制

• 指发生在老年代的GC，对象从老年代消失时，我们说 “Major Gc” 或 “Full GC” 发生了

• 出现了MajorGc，经常会伴随至少一次的Minor GC

  • 但非绝对的，在Parallel Scavenge收集器的收集策略里就有直接进行Major GC的策略选择过程
  • 也就是在老年代空间不足时，会先尝试触发Minor GC，如果之后空间还不足，则触发Major GC

• Major GC的速度一般会比Minor GC慢10倍以上，STW的时间更长

• 如果Major GC后，内存还不足，就报OOM了

5.4 Full GC

Full GC 触发机制（后面细讲）

触发Full GC执行的情况有如下五种：

• 调用System.gc( )时，系统建议执行Full GC，但是不必然执行
• 老年代空间不足
• 方法区空间不足
• 通过Minor GC后进入老年代的平均大小 大于 老年代的可用内存
• 由Eden区、survivor space0（From Space）区 向survivor space1（To Space）区复制时，对象大小大于To Space可用内存，则把该对象转存到老年代，且老年代的可用内存 小于 该对象大小

说明：Full GC 是开发或调优中尽量要避免的。这样STW时间会短一些。

5.5 GC日志分析

/**
 * 测试MinorGC、MajorGC、FullGC
 * -Xms9m -Xmx9m -XX:+PrintGCDetails
 */
public class GCTest {
    public static void main(String[] args) {
        int i = 0;
        try {
            List<String> list = new ArrayList<>();
            String a = "atguigu.com";
            while (true) {
                list.add(a);
                a = a + a;
                i++;
            }

        } catch (Throwable t) {
            t.printStackTrace();
            System.out.println("遍历次数为：" + i);
        }
    }
}

• 参数设置：-Xms9m -Xmx9m -XX:+PrintGCDetails
  

• Full GC 会对新生代、老年代以及元空间进行垃圾回收

  • 在报OOM之前必然会经历一次 Full GC

    [Full GC (Ergonomics) [PSYoungGen: 1319K->0K(2560K)] 
    [ParOldGen: 6782K->4864K(7168K)] 
    8102K->4864K(9728K)
    [Metaspace: 3452K->3452K(1056768K)], 0.0050464 secs] 
    [Times: user=0.00 sys=0.00, real=0.01 secs] 
    

• [PSYoungGen: 1319K->0K(2560K)] ：年轻代总空间为 2560K ，当前占用 1319K ，经过垃圾回收后占用 0K

• [ParOldGen: 6782K->4864K(7168K)] ：老年代总空间为 7168K ，当前占用 6782K ，经过垃圾回收后占用 4864K

• 8102K->4864K(9728K)：堆内存总空间为 9728K ，当前占用 8102K ，经过垃圾回收后占用 4864K

• [Metaspace: 3452K->3452K(1056768K)] ：元空间总空间为 1056768K ，当前占用 3452K ，经过垃圾回收后占用 3452K

• 0.0050464 secs ：垃圾回收用时 0.0050464 secs

6 堆空间分代思想

为什么要把Java堆分代？不分代就不能正常工作了吗？

• 经研究，不同对象的生命周期不同。70%-99%的对象是临时对象。

  • 新生代：有Eden、两块大小相同的Survivor（又称为from/to，s0/s1）构成，to总为空。
  • 老年代：存放新生代中经历多次GC之后仍然存活的对象。

• 其实不分代完全可以，分代的唯一理由就是优化GC性能。

  • 如果没有分代，那所有的对象都在一块，就如同把一个学校的人都关在一个教室。GC的时候要找到哪些对象没用，这样就会对堆的所有区域进行扫描。

  • 而很多对象都是朝生夕死的，如果分代的话，把新创建的对象放到某一地方，当GC的时候先把这块存储“朝生夕死”对象的区域进行回收，这样就会腾出很大的空间出来。
    
    

7 内存分配策略

内存分配策略或对象提升（Promotion）规则

• 如果对象在Eden出生并经过第一次Minor GC后仍然存活，并且能被Survivor容纳的话，将被移动到Survivor空间中，并将对象年龄设为1。
• 对象在Survivor区中每熬过一次MinorGC，年龄就增加1岁，当它的年龄增加到一定程度（默认为15岁，其实每个JVM、每个GC都有所不同）时，就会被晋升到老年代
• 对象晋升老年代的年龄阀值，可以通过选项**-XX:MaxTenuringThreshold**来设置

针对不同年龄段的对象分配原则如下所示

• 优先分配到Eden

• 大对象直接分配到老年代

  • 尽量避免程序中出现过多的大对象
  • 更糟糕的是大对象还是朝生夕死

• 动态对象年龄判断

  • 如果Survivor区中相同年龄的所有对象大小的总和大于Survivor空间的一半，年龄大于或等于该年龄的对象可以直接进入老年代，无须等到MaxTenuringThreshold中要求的年龄。

• 空间分配担保

  • -XX:HandlePromotionFailure ，也就是经过Minor GC后，极端例子是所有（大量是否准确？）的对象都存活，因为Survivor比较小，所以就需要将Survivor无法容纳的对象，存放到老年代中。
  • 在发生Minor GC之前，虚拟机会检查老年代最大可用的连续空间是否 大于 新生代所有对象的总空间，

代码示例

/**
 * 测试：大对象直接进入老年代
 * -Xms60m -Xmx60m -XX:NewRatio=2 -XX:SurvivorRatio=8 -XX:+PrintGCDetails
 */
public class YoungOldAreaTest {
    public static void main(String[] args) {
        byte[] buffer = new byte[1024 * 1024 * 20]; //20m

    }
}

• 参数设置：-Xms60m -Xmx60m -XX:NewRatio=2 -XX:SurvivorRatio=8 -XX:+PrintGCDetails

• 整个过程并没有进行垃圾回收，并且 ParOldGen 区直接占用了 20MB 的空间，说明大对象直接怼到了老年代中。
  

8 TLAB - 线程私有

8.1 为什么有 TLAB？

问题：堆空间都是共享的么？

不一定，因为还有TLAB这个概念，在堆中划分出一块区域，为每个线程所独占

为什么有TLAB（Thread Local Allocation Buffer）？

• TLAB：Thread Local Allocation Buffer，也就是为每个线程单独分配了一个缓冲区
• 堆区是线程共享区域，任何线程都可以访问到堆区中的共享数据
• 由于对象实例的创建在JVM中非常频繁，因此在并发环境下从堆区中划分内存空间是线程不安全的
• 为避免多个线程操作同一地址，需要使用加锁等机制，进而影响分配速度。

什么是TLAB

• 从内存模型而不是垃圾收集的角度，对Eden区域继续进行划分，JVM为每个线程分配了一个私有缓存区域，它包含在Eden空间内。
• 多线程同时分配内存时，使用TLAB可以避免一系列的非线程安全问题，同时还能够提升内存分配的吞吐量，因此我们可以将这种内存分配方式称之为快速分配策略。
• 据我所知所有OpenJDK衍生出来的JVM都提供了TLAB的设计。
  

8.2 TLAB对象分配过程

• 尽管不是所有的对象实例都能够在TLAB中成功分配内存，但JVM确实是将TLAB作为内存分配的首选。
• 在程序中，开发人员可以通过选项“-XX:UseTLAB”设置是否开启TLAB空间。
• 默认情况下，TLAB空间的内存非常小，仅占有整个Eden空间的1%，当然我们可以通过选项-XX:TLABWasteTargetPercent设置TLAB空间所占用Eden空间的百分比大小。
• 一旦对象在TLAB空间分配内存失败时，JVM就会尝试着通过使用加锁机制确保数据操作的原子性，从而直接在Eden空间中分配内存。
  

9 堆空间参数设置总结

9.1 常用参数设置

官方文档：https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html

常规参数设置

• -XX:+PrintFlagsInitial：查看所有的参数的默认初始值
• -XX:+PrintFlagsFinal：查看所有的参数的最终值（可能会存在修改，不再是初始值）
• -Xms：初始堆空间内存（默认为物理内存的1/64）
• -Xmx：最大堆空间内存（默认为物理内存的1/4）
• -Xmn：设置新生代的大小（初始值及最大值）
• -XX:NewRatio：配置新生代与老年代在堆结构的占比
• -XX:SurvivorRatio：设置新生代中Eden和S0/S1空间的比例
• -XX:MaxTenuringThreshold：设置新生代垃圾的最大年龄
• -XX:+PrintGCDetails：输出详细的GC处理日志
• -XX:+PrintGC 或 -verbose:gc ：打印gc简要信息
• -XX:HandlePromotionFalilure：是否设置空间分配担保

调优就是尽可能降低垃圾回收频率

9.2 空间分配担保

在发生Minor GC之前，虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间。

• 如果大于，则此次Minor GC是安全的

• 如果小于，则虚拟机会查看-XX:HandlePromotionFailure设置值是否允许担保失败。

  • 如果HandlePromotionFailure=true，那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小

    • 如果大于，则尝试进行一次Minor GC，但这次Minor GC依然是有风险的，比如晋升对象大于平均值；
    • 如果小于，则进行一次Full GC。

  • 如果HandlePromotionFailure=false，则进行一次Full GC。

历史版本

• 在JDK6 Update 24之后 (JDK 7)，HandlePromotionFailure参数不会再影响到虚拟机的空间分配担保策略，观察openJDK中的源码变化，虽然源码中还定义了HandlePromotionFailure参数，但是在代码中已经不会再使用它。
• JDK6 Update 24之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行Minor GC，否则将进行Full GC。即 HandlePromotionFailure=true

10 致命面试题 - 所有的对象都在堆上吗？

堆是分配对象存储的唯一选择吗？

在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述：

• 随着JIT编译期的发展与逃逸分析技术`逐渐成熟，栈上分配、标量替换优化技术将会导致一些微妙的变化，所有的对象都分配到堆上也渐渐变得不那么“绝对”了。
• 在Java虚拟机中，对象是在Java堆中分配内存的，这是一个普遍的常识。但是，有一种特殊情况，那就是如果经过逃逸分析（Escape Analysis）后发现，一个对象并没有逃逸出方法的话，那么就可能被优化成栈上分配。这样就无需在堆上分配内存，也无须进行垃圾回收了。这也是最常见的堆外存储技术。
• 此外，前面提到的基于OpenJDK深度定制的TaoBao VM( 淘宝虚拟机 )，其中创新的GCIH（GC invisible heap）技术实现off-heap，将生命周期较长的Java对象从heap中移至heap外，并且GC不能管理GCIH内部的Java对象，以此达到降低GC的回收频率和提升GC的回收效率的目的。

10.1 逃逸分析

如何将堆上的对象分配到栈，需要使用逃逸分析手段。

• 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法。
• 通过逃逸分析，Java Hotspot编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上。
• 逃逸分析的基本行为就是分析对象动态作用域：
  • 当一个对象在方法中被定义后，对象只在方法内部使用，则认为没有发生逃逸。
  • 当一个对象在方法中被定义后，它被外部方法所引用，则认为发生逃逸。例如作为调用参数传递到其他地方中。

代码举例

• 没有发生逃逸的对象，则可以分配到栈上，随着方法执行的结束，栈空间就被移除

  public void my_method() {
      V v = new V();
      // use v
      // ....
      v = null;
  }
  

• 下面代码中的 StringBuffer sb 发生了逃逸

  public static StringBuffer createStringBuffer(String s1, String s2) {
      StringBuffer sb = new StringBuffer();
      sb.append(s1);
      sb.append(s2);
      return sb;
  }
  

• 逃逸分析的举例

  /**
   * 逃逸分析
   *
   * 如何快速的判断是否发生了逃逸分析，大家就看new的对象实体是否有可能在方法外被调用。
   */
  public class EscapeAnalysis {
  
      public EscapeAnalysis obj;
  
      /*
      方法返回EscapeAnalysis对象，发生逃逸
       */
      public EscapeAnalysis getInstance(){
          return obj == null? new EscapeAnalysis() : obj;
      }
  
      /*
      为成员属性赋值，发生逃逸
       */
      public void setObj(){
          this.obj = new EscapeAnalysis();
      }
      //思考：如果当前的obj引用声明为static的？ 仍然会发生逃逸。
  
      /*
      对象的作用域仅在当前方法中有效，没有发生逃逸
       */
      public void useEscapeAnalysis(){
          EscapeAnalysis e = new EscapeAnalysis();
      }
  
      /*
      引用成员变量的值，发生逃逸
       */
      public void useEscapeAnalysis1(){
          EscapeAnalysis e = getInstance(); //这个e对象，本身就是从外面的方法逃逸进来的
          //getInstance().xxx()同样会发生逃逸
      }
  }
  
  

逃逸分析参数设置

• 在JDK 1.7 版本之后，HotSpot中默认就已经开启了逃逸分析
• 如果使用的是较早的版本，开发人员则可以通过：
  • 选项“-XX:+DoEscapeAnalysis"显式开启逃逸分析
  • 通过选项“-XX:+PrintEscapeAnalysis"查看逃逸分析的筛选结果

结论

开发中能使用局部变量的，就不要使用在方法外定义。

逃逸分析之代码优化

使用逃逸分析，编译器可以对代码做如下优化：

• 栈上分配：将堆分配转化为栈分配。如果一个对象在子程序中被分配，要使指向该对象的指针永远不会发生逃逸，对象可能是栈上分配的候选，而不是堆上分配
• 同步省略：如果一个对象被发现只有一个线程被访问到，那么对于这个对象的操作可以不考虑同步。
• 分离对象或标量替换：有的对象可能不需要作为一个连续的内存结构存在也可以被访问到，那么对象的部分（或全部）可以不存储在内存，而是存储在CPU寄存器中。

10.1.1 优化 - 栈上分配

• JIT编译器在编译期间根据逃逸分析的结果，发现如果一个对象并没有逃逸出方法的话，就可能被优化成栈上分配。

• 分配完成后，继续在调用栈内执行，最后线程结束，栈空间被回收，局部变量对象也被回收。这样就无须进行垃圾回收了。

• 常见的栈上分配的场景：

  • 在逃逸分析中，已经说明了，分别是给成员变量赋值、方法返回值、实例引用传递。

代码举例

/**
 * 栈上分配测试
 * -Xmx256m -Xms256m -XX:-DoEscapeAnalysis -XX:+PrintGCDetails
 */
public class StackAllocation {
    public static void main(String[] args) {
        long start = System.currentTimeMillis();

        for (int i = 0; i < 10000000; i++) {
            alloc();
        }
        // 查看执行时间
        long end = System.currentTimeMillis();
        System.out.println("花费的时间为： " + (end - start) + " ms");
        // 为了方便查看堆内存中对象个数，线程sleep
        try {
            Thread.sleep(1000000);
        } catch (InterruptedException e1) {
            e1.printStackTrace();
        }
    }

    private static void alloc() {
        User user = new User(); //未发生逃逸
    }

    static class User {

    }
}

• 未开启栈上分配（逃逸分析）

  -Xmx256m -Xms256m -XX:-DoEscapeAnalysis -XX:+PrintGCDetails
  

  • 日志打印：发生了 GC ，耗时 74ms

    [GC (Allocation Failure) [PSYoungGen: 65536K->560K(76288K)] 65536K->568K(251392K), 0.0017179 secs] [Times: user=0.01 sys=0.00, real=0.00 secs] 
    [GC (Allocation Failure) [PSYoungGen: 66096K->464K(76288K)] 66104K->480K(251392K), 0.0017602 secs] [Times: user=0.00 sys=0.00, real=0.01 secs] 
    花费的时间为： 74 ms
    

  • 堆上面有好多 User 对象
    

• 开启逃逸分析情况

  -Xmx256m -Xms256m -XX:+DoEscapeAnalysis -XX:+PrintGCDetails
  

• 日志打印：并没有发生 GC ，耗时 3ms ，栈上分配是真的快啊，未发生GC
  

10.1.2 优化 - 同步省略

• 如果一个对象被发现只能从一个线程被访问到，那么对于这个对象的操作可以不考虑同步。

• 线程同步的代价是相当高的，同步的后果是降低并发性和性能。

• 在动态编译同步块的时候，JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有被发布到其他线程。

• 如果没有，那么JIT编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略，也叫锁消除。

• 例如下面的智障代码，根本起不到锁的作用

  public void f() {
      Object hellis = new Object();
      synchronized(hellis) {
          System.out.println(hellis);
      }
  }
  

  • 代码中对hellis这个对象加锁，但是hellis对象的生命周期只在f( )方法中，并不会被其他线程所访问到，所以在JIT编译阶段就会被优化掉，优化成：

    public void f() {
      	Object hellis = new Object();
    		System.out.println(hellis);
    }
    

字节码分析

/**
 * 同步省略说明
 * @author xiexu
 * @create 2020-11-27 7:01 下午
 */
public class SynchronizedTest {
    public void f() {
        Object hellis = new Object();
        synchronized(hellis) {
            System.out.println(hellis);
        }
    }
}

• 注意：字节码文件中并没有进行优化，可以看到加锁和释放锁的操作依然存在，同步省略操作是在解释运行时发生的
  

10.1.3 优化 - 分离对象（标量替换）

• 标量（scalar）是指一个无法再分解成更小的数据的数据。Java中的原始数据类型就是标量。

• 相对的，那些还可以分解的数据叫做聚合量（Aggregate），Java中的对象就是聚合量，因为他可以分解成其他聚合量和标量。

• 有的对象可能不需要作为一个连续的内存结构存在也可以被访问到，那么对象的部分（或全部）可以不完全存储在内存，而是存储在CPU寄存器中。

• 在JIT阶段，如果经过逃逸分析，发现一个对象不会被外界访问的话，那么经过JIT优化，就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。

标量替换举例

public static void main(String args[]) {
    alloc();
}
class Point {
    private int x;
    private int y;
}
private static void alloc() {
    Point point = new Point(1,2);
    System.out.println("point.x" + point.x + ";point.y" + point.y);
}

• 以上代码，经过标量替换后，就会变成

private static void alloc() {
    int x = 1;
    int y = 2;
    System.out.println("point.x = " + x + "; point.y=" + y);
}

结论：

• 可以看到，Point这个聚合量经过逃逸分析后，发现他并没有逃逸，就被替换成两个聚合量了。
• 那么标量替换有什么好处呢？就是可以大大减少堆内存的占用。因为一旦不需要创建对象了，那么就不再需要分配堆内存了。
• 标量替换为栈上分配提供了很好的基础。

标量替换参数设置

• 参数 -XX:+ElimilnateAllocations：开启了标量替换（默认打开），允许将对象打散分配在栈上。

• 代码示例

  /**
   * 标量替换测试
   * -Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-EliminateAllocations
   */
  public class ScalarReplace {
      public static class User {
          public int id;
          public String name;
      }
  
      public static void alloc() {
          User u = new User(); //未发生逃逸
          u.id = 5;
          u.name = "www.baidu.com";
      }
  
      public static void main(String[] args) {
          long start = System.currentTimeMillis();
          for (int i = 0; i < 10000000; i++) {
              alloc();
          }
          long end = System.currentTimeMillis();
          System.out.println("花费的时间为： " + (end - start) + " ms");
      }
  }
  
  

  • 未开启标量替换：-Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-EliminateAllocations

    • 日志打印：伴随着 GC 的垃圾回收，用时 84ms

      [GC (Allocation Failure)  25600K->536K(98304K), 0.0021681 secs]
      [GC (Allocation Failure)  26136K->536K(98304K), 0.0019547 secs]
      [GC (Allocation Failure)  26136K->472K(98304K), 0.0016708 secs]
      [GC (Allocation Failure)  26072K->536K(98304K), 0.0016899 secs]
      [GC (Allocation Failure)  26136K->584K(98304K), 0.0018258 secs]
      [GC (Allocation Failure)  26184K->568K(101376K), 0.0015689 secs]
      [GC (Allocation Failure)  32312K->461K(101376K), 0.0015208 secs]
      [GC (Allocation Failure)  32205K->461K(101376K), 0.0010466 secs]
      花费的时间为： 84 ms
      
      

• 开启标量替换：-Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:+EliminateAllocations

  • 日志分析：无垃圾回收，用时 5ms

10.2 逃逸分析参数设置总结

• 参数 -server：启动Server模式，因为在server模式下，才可以启用逃逸分析。
• 参数 -XX:+DoEscapeAnalysis：启用逃逸分析
• 参数 -Xmx10m：指定了堆空间最大为10MB
• 参数 -XX:+PrintGC：将打印GC日志。
• 参数 -XX:+EliminateAllocations：开启了标量替换（默认打开），允许将对象打散分配在栈上，比如对象拥有id和name两个字段，那么这两个字段将会被视为两个独立的局部变量进行分配

10.3 逃逸分析小节 - TODO

• 关于逃逸分析的论文在1999年就已经发表了，但直到JDK1.6才有实现，而且这项技术到如今也并不是十分成熟的。

• 其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的，这其实也是一个相对耗时的过程。一个极端的例子，就是经过逃逸分析之后，发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了。

• 虽然这项技术并不十分成熟，但是它也是即时编译器优化技术中一个十分重要的手段。注意到有一些观点，认为通过逃逸分析，JVM会在栈上分配那些不会逃逸的对象，这在理论上是可行的，但是取决于JVM设计者的选择。

• 据我所知，Oracle Hotspot JVM中并未这么做，这一点在逃逸分析相关的文档里已经说明，所以可以明确所有的对象实例都是创建在堆上。

• Oracle Hotspot JVM 是通过标量替换实现逃逸分析的

• 目前很多书籍还是基于JDK7以前的版本，JDK已经发生了很大变化，intern字符串的缓存和静态变量曾经都被分配在永久代上，而永久代已经被元数据区取代。但是intern字符串缓存和静态变量并不是被转移到元数据区，而是直接在堆上分配，所以这一点同样符合前面一点的结论：对象实例都是分配在堆上。

11 总结

• 年轻代是对象的诞生、成长、消亡的区域，一个对象在这里产生、应用，最后被垃圾回收器收集、结束生命。

• 老年代放置长生命周期的对象，通常都是从Survivor区域筛选拷贝过来的Java对象。

• 当然，也有特殊情况，我们知道普通的对象可能会被分配在TLAB上

• 如果对象较大，无法分配在 TLAB 上，则JVM会试图直接分配在Eden其他位置上

• 如果对象太大，完全无法在新生代找到足够长的连续空闲空间，JVM就会直接分配到老年代

• 当GC只发生在年轻代中，回收年轻代对象的行为被称为Minor GC

• 当GC发生在老年代时则被称为Major GC或者Full GC

• 一般的，Minor GC的发生频率要比Major GC高很多，即老年代中垃圾回收发生的频率将大大低于年轻代