JVM堆空间的相关知识（下）--逃逸分析和代码优化之栈上分配

首先我们先想一个问题：JVM的堆是分配对象的唯一选择吗？
在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述：随着JIT编译期的发展与逃逸分析技术逐渐成熟，栈上分配、标量替换优化技术将会导致一些微妙的变化，所有的对象都分配到堆上也渐渐变得不那么“绝对”了。
在Java虚拟机中，对象是在Java堆中分配内存的，这是一个普遍的常识。但是，有一种特殊情况，那就是如果经过逃逸分析（Escape Analysis)后发现，一个对象并没有逃逸出方法的话，那么就可能被优化成栈上分配。这样就无需在堆上分配内存，也无须进行垃圾回收了。这也是最常见的堆外存储技术。
 此外，前面提到的基于OpenJDK深度定制的TaoBaoVM,其中创新的GCIH(GCinvisible heap)技术实现off-heap,将生命周期较长的Java对象从heap中移至heap外，并且GC不能管理GCIH内部的Java对象，以此达到降低GC的回收频率和提升GC的回收效率的目的。

1、逃逸分析

• 如何将堆上的对象分配到栈？需要使用逃逸分析手段
• 这是一种可以有效减少java程序中同步负载接内存堆分配压力的夸函数全局程序流分析算法
• 通过逃逸分析，java Hostpot编译器可以分析出一个新的对象引用的使用范围，从而决定是否需要将这个对象分配到堆上
• 逃逸分析的基本行为就是分析对象动态作用域
  • 当一个对象在方法中被定义后，对象只存在方法内部使用，则认为没有发生逃逸。
  • 当一个对象在方法中被定义后，它被外部的方法引用，则认为发生了逃逸，例如作为调用参数传递到其他地方中。
• 如何快速的判断是否发生了逃逸分析，就看new的对象实体是否有可能在外部被调用
  代码分析1：

public void method(){
    V v = new V();
    //use V
    //......
    v = null;
}

没有发生逃逸的对象，则可以分配在栈上，原因如下：
1、 随着方法执行的结束、栈空间就会被移除
2、 虚拟机栈空间是线程私有的，不会被共享

代码分析2：

public static StringBuffer createStringBuffer(String s1,String s2){
    StringBuffer sb = new StringBuffer();
    sb.append(s1);
    sb.append(s2);
    return sb;
}

由于上述方法返回的sb在方法外被使用，发生了逃逸，上述代码如果想要StringBuffer sb不逃出方法，可以这样写：

public static String createStringBuffer(String s1,String s2){
    StringBuffer sb = new StringBuffer();
    sb.append(s1);
    sb.append(s2);
    return sb.toString();
}

代码分析3：

/**
 * 逃逸分析
 *
 *  如何快速的判断是否发生了逃逸分析，就看“new的对象实体”是否有可能在方法外被调用。
 */
public class EscapeAnalysis {

    public EscapeAnalysis obj;

    /*
    方法返回EscapeAnalysis对象，发生逃逸
     */
    public EscapeAnalysis getInstance(){
        return obj == null? new EscapeAnalysis() : obj;
    }
    /*
    为成员属性赋值，发生逃逸
     */
    public void setObj(){
        this.obj = new EscapeAnalysis();
    }
    //思考：如果当前的obj引用声明为static的？仍然会发生逃逸。

    /*
    对象的作用域仅在当前方法中有效，没有发生逃逸
     */
    public void useEscapeAnalysis(){
        EscapeAnalysis e = new EscapeAnalysis();
    }
    /*
    引用成员变量的值，发生逃逸
     */
    public void useEscapeAnalysis1(){
        EscapeAnalysis e = getInstance();
        //getInstance().xxx()同样会发生逃逸
    }
}

参数设置

• 在JDK 6u23版本之后，HotSpot中默认就已经开启了逃逸分析
• 如果使用了较早的版本，开发人员可以通过
  • -XX:DoEscapeAnalysis 显式开启逃逸分析
  • -XX:+PrintEscapeAnalysis查看逃逸分析的筛选结果
    结论：开发中能使用局部变量的，就不要使用在方法外定义

2、 代码优化理论

使用逃逸分析，编译器可以对代码做如下优化：

1. 栈上分配：将堆分配转化为栈分配。如果一个对象在子线程中被分配，要使指向该对象的指针永远不会逃逸，对象可能是栈分配的候选，而不是堆分配
2. 同步省略：如果一个对象被发现只能从一个线程被访问到，那么对于这个对象的操作可以不考虑同步。
3. 分离对象或标量替换：有的对象可能不需要作为一个连续的内存结构存在也可以北方问道，那么对象的部分（或全部）可以不存储在堆内存，而是存储在CPU寄存器中。

２、栈上分配

• JIT编译器在编译期间根据逃逸分析的结果，发现如果一个对象并没有逃逸出方法的话，就可能被优化成栈上分配。分配完成之后，继续在调用栈内执行，最后线程结束，栈空间被回收，局部变量对象也被回收。这样就无须机型垃圾回收了
• 常见的发生逃逸的场景：给成员变量赋值、方法返回值、实例引用传递

代码分析：
以下代码，关闭逃逸分析（-XX:-DoEscapeAnalysi），维护10000000个对象，
如果开启逃逸分析（-XX:+DoEscapeAnalysi），只维护少量对象（JDK7 逃逸分析默认开启）

/**
 * 栈上分配测试
 * -Xmx1G -Xms1G -XX:-DoEscapeAnalysis -XX:+PrintGCDetails
 */
public class StackAllocation {
    public static void main(String[] args) {
        long start = System.currentTimeMillis();

        for (int i = 0; i < 10000000; i++) {
            alloc();
        }
        // 查看执行时间
        long end = System.currentTimeMillis();
        System.out.println("花费的时间为： " + (end - start) + " ms");
        // 为了方便查看堆内存中对象个数，线程sleep
        try {
            Thread.sleep(1000000);
        } catch (InterruptedException e1) {
            e1.printStackTrace();
        }
    }

    private static void alloc() {
        User user = new User();//未发生逃逸
    }

    static class User {

    }
}

此外，若减小堆内存分配大小-Xmx256m -Xms256m -XX:-DoEscapeAnalysis -XX:+PrintGCDetails，则不开启逃逸分析的情况必然会发生GC。

2、2 同步省略

• 线程同步的代价是相当高的，同步的后果是降低并发性和性能
• 在动态编译同步块的时候，JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有被发布到其他线程。如果没有，那么JIT编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略，也叫 锁消除

/**
 * 同步省略说明
 */
public class SynchronizedTest {
    public void f() {
        Object hollis = new Object();
        synchronized(hollis) {
            System.out.println(hollis);
        }
    }
    //代码中对hollis这个对象进行加锁，但是hollis对象的生命周期只在f（）方法中
    //并不会被其他线程所访问控制，所以在JIT编译阶段就会被优化掉。
    //优化为 ↓
    public void f2() {
        Object hollis = new Object();
        System.out.println(hollis);
    }
}

注意：上述示例代码只是为了直观的说明 同步省略这一代码优化手段。代码本身是存在问题的。如下

public class SynchronizedTest {
    public void f() {
        Object hollis = new Object();
        synchronized(hollis) {
            System.out.println(hollis);
        }
    }
}

同步代码需要加锁，为不同线程的同步共享。但是要求所加的锁是同一个锁才有意义，上述同步代码块每次的锁对象hollos都是新new出来的，这并不符合加锁的同步效果。可以说是一个错误的代码。但能说明问题！

2、3 分离对象或标量替换

• 标量Scalar：是指一个无法在分解成更小的数据的数据。Java中的原始数据类型就是标量。
• 相对的，那些还可以分解的数据叫做 聚合量(Aggregate)，Java中对象就是聚合量，因为它可以分解成其他聚合量和标量。
• 在JIT阶段，如果经过逃逸分析，发现一个对象不会被外界访问的话，那么经过JIT优化，就会把这个对象拆解成若干个其中包含的若干个成员变量来替代。这个过程就是标量替换

代码示例1：

public class ScalarTest {
    public static void main(String[] args) {
        alloc();   
    }
    public static void alloc(){
        Point point = new Point(1,2);
    }
}
class Point{
    private int x;
    private int y;
    public Point(int x,int y){
        this.x = x;
        this.y = y;
    }
}

以上代码，经过标量替换后，就会变成

public static void alloc(){
    int x = 1;
    int y = 2;
}

可以看到，Point这个聚合量经过逃逸分析后，发现他并没有逃逸，就被替换成两个标量了。那么标量替换有什么好处呢？就是可以大大减少堆内存的占用。因为一旦不需要创建对象了，那么就不再需要分配堆内存了。
标量替换为栈上分配提供了很好的基础。

配置参数：-XX:+EliminateAllocations，开启标量替换。
示例代码2：

/**
 * 标量替换测试
 *  -Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-EliminateAllocations
 */
public class ScalarReplace {
    public static class User {
        public int id;//标量（无法再分解成更小的数据）
        public String name;//聚合量（String还可以分解为char数组）
    }

    public static void alloc() {
        User u = new User();//未发生逃逸
        u.id = 5;
        u.name = "www.atguigu.com";
    }

    public static void main(String[] args) {
        long start = System.currentTimeMillis();
        for (int i = 0; i < 10000000; i++) {
            alloc();
        }
        long end = System.currentTimeMillis();
        System.out.println("花费的时间为： " + (end - start) + " ms");
    }
}

可以测试对比一下，如果开启标量替换的性能提升，还是很巨大的。

2、4 逃逸分析小结

• 关于逃逸分析的论文在1999年就已经发表了，但直到JDK1.6才有实现，而且这项技术到如今也并不是十分成熟的。
• 其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的，这其实也是一个相对耗时的过程。
• 一个极端的例子，就是经过逃逸分析之后，发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了。
  虽然这项技术并不十分成熟，但是它也是即时编译器优化技术中一个十分重要的手段。
• 注意到有一些观点，认为通过逃逸分析，JVM会在栈上分配那些不会逃逸的对象，这在理论上是可行的，但是取决于JVM设计者的选择。据我所知，Oracle HotspotJVM中并未这么做，这一点在逃逸分析相关的文档里已经说明，所以可以明确所有的对象实例都是创建在堆上。回归本篇的提问：堆是分配对象的唯一选择么？一开始我们是否定的态度，现在我们又去肯定这一观点。这岂不是自相矛盾。。正所谓否定之否定的观点，通过这篇文章，我们还是有进步的，至少分离对象或标量替换这一点还是存在的，优化了代码运行的效率，减少了堆空间的占用，体现了栈上分配的思想。
• 目前很多书籍还是基于JDK7以前的版本，JDK已经发生了很大变化，intern字符串的缓存和静态变量曾经都被分配在永久代上，而永久代已经被元数据区取代。但是，intern字符串缓存和静态变量并不是被转移到元数据区，而是直接在堆上分配，所以这一点同样符合前面一点的结论：对象实例都是分配在堆上。
• 年轻代是对象的诞生、省长、消亡的区域，一个对象在这里产生、应用、最后被垃圾回收器收集、结束生命
• 老年代防止长生命周期对象，通常都是从Survivor区域筛选拷贝过来的Java对象。当然，也有特殊情况，我们知道普通的对象会被分配在TLAB上，如果对象较大，JVM会试图直接分配在Eden其他位置上；如果对象他打，完全无法在新生代找到足够长的连续空闲空间，JVM就会直接分配到老年代
• 当GC只发生在年轻代中，回收年轻对象的行为被称为MinorGC。当GC发生在老年代时则被称为MajorGC或者FullGC。一般的，MinorGC的发生频率要比MajorGC高很多，即老年代中垃圾回收发生的频率大大低于年轻代