《深入理解Java虚拟机》读书笔记8

第11章 晚期（运行期）优化

1. Java程序最初是通过解释器进行解释执行的，当虚拟机发现某个方法或代码块的运行特别频繁，就会把这些代码认定为“热点代码”（Hot Spot Code）。
2. 为了提高热点代码的执行效率，在运行时，虚拟机将会把这些代码编译成与本地平台相关的机器码，并进行各种层次的优化，完成这个任务的编译器成为即时编译器（Just In Time Compiler，JIT编译器）。
3. Java虚拟机规范并没有规定Java虚拟机必需要有即时编译器，更没有限定或知道即时编译器应该如何去实习。

11.2HotSpot虚拟机内的即时编译器

1、 许多主流的商用虚拟机，都同时包含解释器和编译器。

2、解释器与编译器

当程序需要快速启动和执行时 ，解释器首先发挥作用，省去编译的时间，立即执行；

当程序运行后，随着时间的推移，编译器逐渐发挥作用 ，把越来越多的代码编译成本地代码，可以提高执行效率。

3、当程序运行环境中内存资源限制较大（如部分嵌入式系统），可以使用解释执行节约内存，反之可以使用编译执行来提升效率。同时编译器还可以作为编译器激进优化时的一个“逃生门”，当激进优化不成立时，通过逆优化退回到解释状态继续执行。

4、HotSpot虚拟机中内置两个即时编译器，如上图。目前主流的HotSopt虚拟机中，默认采用解释器与其中一个编译器直接配合的工作方式（ 混合模式 ），选择那哪一个，取决于虚拟机运行模式。

5、 采用分层编译的原因：

即时编译器编译本地代码需要占用程序运行时间，要编译出优化程度更高的代码，所花费的时间可能越长，解释器可能还要替编译器收集性能监控信息，对解释执行的速度也有影响，所以逐渐启用分层编译策略。

6、分层编译器层次划分：

分层编译根据编译器编译、优化的规模和耗时，划分不同的编译层次，包括：

• 第0层：程序解释执行，解释器不开启性能监控（Profiling）功能，可出发第1层编译。
• 第1层：也称为C1编译，将字节码编译为本地代码，进行简单可靠的优化，如有必要加入性能监控的逻辑。
• 第2层：也称为C2编译，也是将字节码编译为本地代码，但是会启用一些编译耗时较长的优化，甚至会根据性能监控信息进行一些不可靠的激进优化。

实施分层编译后，Client Compiler和Server Compiler将会同时工作。用Client Compiler获取更高的编译速度，用Server Compiler获取更好的编译质量，在解释执行的时候也无须再承担收集性能监控信息的任务。

7、热点代码分类：被多次调用的方法；被多次执行的循环体

8、如何判断一段代码是不是热点代码？

要知道一段代码是不是热点代码，是不是需要触发即时编译，这个行为称为 热点探测 （Hot Spot Dectection）。

主要有两种方法：

• 基于采样的热点探测，虚拟机周期性检查各个线程的栈顶，如果发现某个方法经常出现在栈顶，那这个方法就是“热点方法”。实现简单高效，但是很难精确确认一个方法的热度，容易受线程阻塞或其他外界因素的影响而扰乱热点探测。
• 基于计数器的热点探测，虚拟机会为每个方法建立计数器，统计方法的执行次数，如果执行次数超过一定的阈值，就认为它是热点方法。（实现麻烦，但统计结果更加精确严谨）

9、HotSpot虚拟机使用第二种，因此它为每个方法准备了两个计数器：方法调用计数器和回边计数器

方法调用计数器 ： 统 计的是一个相对的执行频率，即一段时间内方法被调用的次数。当超过一定的 时间限度 ，如果方法的调用次数仍然不足以让它提交给即时编译器编译，那这个方法的调用计数器就会被减少一半，这个过程称为方法调用计数器的 热度衰减 ，这个时间就被称为 半衰周期 。

回边计数器： 用于统计循环体代码执行的次数。建立回边计数器统计的目的是为了触发OSR（栈上替换）编译。

11.3 编译优化技术

HotSpot虚拟机的即时编译器生成代码时采用的优化技术：

• 语言无关的经典优化技术之一：公共子表达式消除
• 语言相关的经典优化技术之一：数组范围检查消除
• 最重要的优化技术之一：方法内联
• 最前沿的优化技术之一：逃逸分析

公共子表达式消除

普遍应 用于各种编译器的经典优化技术，它的含义是：

如果一个表达式E已经被计 算过了，并且从先前的计算到现在E中所有变量的值都没有发生变化，那么E的这次出现就成了公共子表达式。没有必要重新计算，直接用前面计算过的表达式结果代替E就可以了。

分为：局部公共子表达式消除、全局公共子表达式消除

数组边界检查消除

因为Java会自动检查数组越界，每次数组元素的读写都带有一次隐含的条件判定操作，对于拥有大量数组访问的程序代码，这无疑是一种性能负担。

但常见的情况：数组访问发生在循环之中，并且使用循环变量来进行数组访问，如果编译器 只要通过数据流分析 就可以判定循环变量的取值范围永远在数组区间内，那么整个循环中就可以把数组的上下界检查消除掉，可以节省很多次的条件判断操作。

方法内联

作用：内联消除了方法调用的成本，还为其他优化手段建立良好的基础。

编译器在进行内联时，如果是非虚方法，那么直接内联。如果遇到虚方法，则会查询当前程序下是否有多个目标版本可供选择。

1）如果查询结果只有一个版本， 那么也可以内联，不过这种内联属于激进优化，需要预留一个逃生门（Guard条件不成立时的Slow Path），称为 守护内联。

2）若查询有多个版本 的目标方法可供选择，则编译器还会进行最后一次努力，使用 内敛缓存 方法来实现方法内联。

逃逸分析

逃逸分析并不是直接优化代码的手段，是为其他优化手段提供依据的分析技术。

逃逸分析的基本行为就是分析对象动态作用域： 当一个对象在方法里面被定义后，它可能被外部方法所引用，这种行为被称为方法逃逸。被外部线程访问到，被称为线程逃逸。

如果对象不会逃逸到方法或线程外，可以做什么优化？

• 栈上分配：一般对象都是分配在Java堆中的，对于各个线程都是共享和可见的，只要持有这个对象的引用，就可以访问堆中存储的对象数据。但是垃圾回收和整理都会耗时，如果一个对象不会逃逸出方法，可以让这个对象在栈上分配内存，对象所占用的内存空间就可以随着栈帧出栈而销毁。如果能使用栈上分配，那大量的对象会随着方法的结束而自动销毁，垃圾回收的压力会小很多。
• 同步消除：线程同步本身就是很耗时的过程。如果逃逸分析能确定一个变量不会逃逸出线程，那这个变量的读写肯定就不会有竞争，同步措施就可以消除掉。
• 标量替换：不创建这个对象，直接创建它的若干个被这个方法使用到的成员变量来替换。

Java与C/C++的编译器对比

1）即时编译器运行占用的是用户程序的运行时间，具有很大的时间压力。

2）Java语言虽然没有virtual关键字，但是使用虚方法的频率远大于C++，所以即时编译器进行优化时难度要远远大于C++的静态优化编译器。

3）Java语言是可以动态扩展的语言，运行时加载新的类可能改变程序类型的继承关系，使得全局的优化难以进行，因为编译器无法看见程序的全貌，编译器不得不时刻注意并随着类型的变化，而在运行时撤销或重新进行一些优化。

4）Java语言对象的内存分配是在堆上，只有方法的局部变量才能在栈上分配。C++的对象有多种内存分配方式。