《晚期(运行期)优化》笔记

周志明先生所著的《深入理解Java虚拟机：JVM高级特性与最佳实践》(购买地址:亚马逊链接)，对我学习Java、理解Java之道有非常大的帮助。至今已读过两遍，为了能够融会贯通，加深记忆(人老了记忆力差)，便在Blog上记录一些认为该记的东西。

     在部分商用虚拟机中，Java程序最初是通过解释器（Interpreter）进行解释执行的，当虚拟机发现某个方法或代码块的运行特别频繁，就会把这些代码认定为“热点代码”（Hot Spot Code），为了提高热点代码的执行效率，在运行时，虚拟机将会把这些代码编译成与本地平台相关的机器码，并进行各种层次的优化，完成这个任务的编译器称为即时编译器（Just In Time Complier）。

        

HotSpot虚拟机的即时编译器

解释器与编译器

         许多主流的虚拟机都同时包含解释器与编译器，两者各有优势：当程序需要迅速启动和执行的时候，解释器可以首先发挥作用，省去编译的时间，立即执行。当程序运行后，随着时间的推移，编译器逐渐发挥作用，把越来越多的代码编译成为本地代码，获取更高的执行效率。

         HotSpot中内置了两个即时编译器，称为Client Complier和Server Complier，或者简称C1编译器和C2编译器。为了在程序启动响应速度与运行效率之间达到最佳平衡，HotSpot将会逐渐启用分层编译（Tiered Compilation）的策略。分层编译的概念在JDK1.6时期出现，后来一直处于改进阶段，最终在JDK1.7的Server模式虚拟机中作为默认编译策略被开启。JKD1.7之前需要使用 –XX:+TieredCompilation参数来手动开启。

         分层编译根据编译器编译、优化的规模与耗时，划分出不同的编译层次，其中包括：

         第0层：程序解释执行，解释器不开启性能监控功能，可触发第1层编译。

         第1层：也称为C1编译，将字节码编译为本地代码，进行简单可靠的优化，如有必要将加入性能监控的逻辑。

         第2层（或2层以上）：也称为C2编译，也是将字节码编译为本地代码，但是会启用一些编译耗时较长的优化，甚至会根据性能监控信息进行一些不可靠的激进优化。（若代码的激进优化失败，虚拟机会将该代码退回到解释执行）

 

编译对象与触发条件

         在运行过程中被即时编译器编译的“热点代码”有两类：被多次调用的方法；被多次执行的循环体。

         要知道一段代码是不是热点代码，是不是需要触发即时编译，这个行为称为热点探测，目前主要的热点探测判定方式有两种：

         1、基于采样的热点探测：虚拟机会周期性地检查各个线程的栈顶，如果发现某个（或某些）方法经常出现在栈顶，那这个方法就是“热点方法”。基于采样的热点探测优点是实现简单高效；缺点是结果不精准。（比如某个线程阻塞了，栈顶一直是方法A，虚拟机周期性采样都只是探测到这个方法A……）

         2、基于计数器的热点探测：采用这种方法的虚拟机会为每个方法（甚至是代码块）建立计数器，统计方法的执行次数，如果执行次数超过一定的阈值就认定它是“热点方法”。

HotSpot虚拟机中使用的是第二种——基于计数器的热点探测方法，因此它为每个方法准备了两个计数器：方法调用计数器和回边计数器。在确定了虚拟机运行参数的前提下，这两个计数器都有一个确定的阈值，当计数器超过了阈值，就会触发JIT编译。

 

编译过程

         在默认设置下，无论是方法调用产生的即时编译请求还是OSR编译请求，虚拟机在代码编译器还未完成之前，都仍然将按照解释方式继续执行，而编译动作则在后台的编译线程中进行。用户可以通过参数-XX:-BackgroundCompilation来禁止后台编译，禁止后台编译后，当达到JIT编译条件，执行线程向虚拟机提交编译请求后将会一直等待，直到编译过程完成后再开始执行编译器输出的代码。

         Client Complier的编译过程，是一个简单快速的三段式编译器，主要关注点在于局部性的优化，而放弃了许多耗时较长的全局优化。

         第一阶段，一个平台独立（平台无关）的前端将字节码构造成一种高级中间代码表示（High-Level Intermediate Representaion，HIR）。在此之前编译器会在字节码上完成一部分基础优化，如方法内联、常量传播等优化。

         第二阶段，一个平台相关的后端从HIR中产生低级中间代码表示（Low-Level Intermediate Representaion，LIR）。而在此之前也会在HIR上完成另外一些优化，如空值检查消除，范围检查消除等，以便让LIR达到更高效的代码表示形式。

         第三阶段，在平台相关的后端使用线性扫描算法（Linear Scan Register Allocation）在LIR上分配寄存器，并在LIR上做窥孔（Peephole）优化，然后产生机器码。

 

         Sever Compiler 则是专门面向服务端的典型应用并为服务端的性能配置特别调整过的编译器，也是一个充分优化过的高级编译器，它会执行所有的经典的优化动作，如：无用代码消除（Dead Code Elimination）、循环展开（Loop Unrolling）、循环表达式外提（Loop Expression Hoisting）等。另外还能根据解释器或C1编译器提供的性能监控信息，进行一些不稳定的激进优化，如守护内联、分支频率预测等。