执行引擎详解

1. 执行引擎概述

1.1 组成

执行引擎主要包括解释器，即时编译器和垃圾回收器

 JVM的任务就是将字节码文件装载到内部。而执行引擎的任务就是将字节码文件的字节码指令翻译为能够在机器上运行的本地机器指令（不同平台的指令也不同）。

解释器：当Java虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行，将每条字节码文件中的内容“翻译”为对应平台的本地机器指令执行。

JIT（Just In Time Compiler）编译器：就是虚拟机将源代码直接编译成和本地机器平台相关的机器语言。

1.2 解释器

JVM设计者们的初衷仅仅只是单纯地为了满足Java程序实现跨平台特性，由于字节码文件，解释器的出现也就是为了维护这一种特性。避免了直接将代码编译成本地机器指令。而是先将代码编译成字节码文件，再由解释器对字节码文件进行逐行解释。

 解释器承担的角色更像是一个翻译者：将字节码中的内容翻译成本地机器指令。当一条字节码指令被解释执行完成后，接着再根据PC寄存器中记录的下一条需要被执行的字节码指令执行解释操作。

分类：

字节码解释器：在执行时通过纯软件代码模拟字节码的执行，效率非常低下。

模板解释器：而模板解释器将每一条字节码和一个模板函数相关联，模板函数中直接产生这条字节码执行时的机器码，从而很大程度上提高了解释器的性能。

目前，基于解释器执行已经沦落为低效的代名词。为了解决这个问题，JVM平台支持一种叫作即时编译的技术。即时编译的目的是避免函数被解释执行，而是将整个函数体编译成为机器码，每次函数执行时，只执行编译后的机器码即可，这种方式可以使执行效率大幅度提升。

1.3 JIT编译器

HotSpot VM是目前市面上高性能虚拟机的代表作之一。它采用解释器与即时编译器并存的架构。

运行输出的本地机器指令存放在元空间的方法区中。

既然HotSpot VM中已经内置JIT编译器了，那么为什么还需要再使用解释器来“拖累”程序的执行性能呢？

首先明确： 当程序启动后，解释器可以马上发挥作用，省去编译的时间，立即执行。 编译器要想发挥作用，把代码编译成本地代码，需要一定的执行时间。但编译为本地代码后，执行效率高。

所以： 尽管JRockit VM中程序的执行性能会非常高效，但程序在启动时必然需要花费更长的时间来进行编译。对于服务端应用来说，启动时间并非是关注重点，但对于那些看中启动时间的应用场景而言，或许就需要采用解释器与即时编译器并存的架构来换取一个平衡点。在此模式下，当Java虚拟器启动时，解释器可以首先发挥作用，而不必等待即时编译器全部编译完成后再执行，这样可以省去许多不必要的编译时间。随着时间的推移，编译器发挥作用，把越来越多的代码编译成本地代码，获得更高的执行效率。

1.3.1 HotSpotVM中 JIT 分类

• -client：指定Java虚拟机运行在Client模式下，并使用C1编译器；C1编译器会对字节码进行简单和可靠的优化，耗时短，以达到更快的编译速度。在不同的编译器上有不同的优化策略，C1编译器上主要有方法内联、去虚拟化、冗余消除。

• -server：指定Java虚拟机运行在server模式下，并使用C2编译器。C2进行耗时较长的优化，以及激进优化，但优化的代码执行效率更高。C2的优化主要是在全局层面，逃逸分析（前面讲过，并不成熟）是优化的基础。

分层编译（Tiered Compilation）策略：程序解释执行（不开启性能监控）可以触发C1编译，将字节码编译成机器码，可以进行简单优化，也可以加上性能监控，C2编译会根据性能监控信息进行激进优化。

一般来讲，JIT编译出来的机器码性能比解释器高。C2编译器启动时长比C1慢，系统稳定执行以后，C2编译器执行速度远快于C1编译器

1.4 编译器分类

前端编译器

把.java文件转变成.class文件的过程，Sun的Javac、Eclipse JDT中的增量式编译器（ECJ）。

 后端运行期编译器（JIT编译器，Just In Time Compiler）

把字节码转变成机器码的过程。HotSpot VM的C1、C2编译器。

 静态提前编译器（AOT编译器，Ahead of Time Compiler）

AOT编译指的则是，在程序运行之前，便将字节码转换为机器码的过程。GNU Compiler for the Java（GCJ）、Excelsior JET。

好处：

Java虚拟机加载已经预编译成二进制库，可以直接执行。不必等待及时编译器的预热，减少Java应用给人带来“第一次运行慢” 的不良体验

缺点：

破坏了 java “ 一次编译，到处运行”的理念，必须为每个不同的硬件，OS编译对应的发行包

降低了Java链接过程的动态性，加载的代码在编译器就必须全部已知。

还需要继续优化中，最初只支持Linux X64 java base

1.5 流程 

执行引擎在执行的过程中执行的指令是完全依靠PC寄存器的，当前的指令经过执行引擎执行完毕以后，PC寄存器就会更新下一条需要执行的指令。

并且在执行的过程中执行引擎也会通过存储在局部变量表中的对象引用准确定位到存储在Java堆区中的对象实例信息，以及通过对象头中的元数据指针定位到目标对象的类型信息。

1.6 HotSpot JVM执行方式

当虚拟机启动的时候，解释器可以首先发挥作用，而不必等待即时编译器全部编译完成再执行，这样可以省去许多不必要的编译时间。并且随着程序运行时间的推移，即时编译器逐渐发挥作用，根据热点探测功能，将有价值的字节码编译为本地机器指令，以换取更高的程序执行效率。

• -Xint：完全采用解释器模式执行程序；

• -Xcomp：完全采用即时编译器模式执行程序。如果即时编译出现问题，解释器会介入执行

• -Xmixed：采用解释器+即时编译器的混合模式共同执行程序。

2. JAVA的代码编译和执行过程

橙色部分：由Java源码编译器（前端编译器）来完成

绿色部分：执行引擎的解释器执行，对字节码采用逐行解释的方式执行

蓝色部分：执行引擎的即时编译器执行，将源代码直接编译成和本地机器平台相关的机器语言。

 2.1 为什么Java是半编译半解释型语言

 现在在JVM执行Java代码的时候，解释执行和编译执行是二者集合起来进行的。就像上图分析的那样，有解释部分也有编译部分。

 3. 热点代码和探测技术

3.1 热点代码

如果一段代码被调用的频率超过阈值，则我们称之为“热点代码”，JIT编译器会对热点代码进行优化，将其直接编译成本地机器指令，下次调用的时候不需要解释运行而直接调用本地机器指令。

一个被多次调用的方法，或者是一个方法体内部循环次数较多的循环体都可以被称之为“热点代码”。因此都可以通过JIT编译器编译为本地机器指令。由于这种编译方式发生在方法的执行过程中，因此被称之为栈上替换，或简称为OSR（On Stack Replacement）编译。

 3.2 热点探测

我们知道了什么是热点代码，那么成为热点代码的这个阈值怎么设置，代码执行次数又怎么跟踪呢？

目前HotSpot VM所采用的热点探测方式是基于计数器的热点探测。HotSpot VM将会为每一个方法都建立2个不同类型的计数器，分别为方法调用计数器（Invocation Counter）和回边计数器（Back Edge Counter）。

• 方法调用计数器用于统计方法的调用次数

• 回边计数器则用于统计循环体执行的循环次数

3.2.1 方法调用计数器

 统计方法被调用次数

默认阈值：

        Client：1500

        Server：10000

参数修改：-XX:CompileThreshold

 当一个方法被调用会先检查是否被JIT编译过，如果没有则将该方法计数器加一，然后判断方法调用计数器与回边计数器值之和是否超过方法调用计数器的阀值。

 3.2.2 热点衰减

方法调用计数器统计的是方法调用在一段时间内的次数，也就是频率。如果在一段时间内方法的调用仍然不足达到阈值，那么这个方法调用计数器的统计的调用次数会减少一半。

如果关闭热度衰减，那么只要程序运行的时间足够长，则一定会达到阈值。（因为次数一直在累加）

这个过程称为方法调用计数器的衰减。-XX:-UseCounterDecay 来关闭热度衰减

这段时间则称为半衰周期。-XX:CounterHalfLifeTime参数设置半衰周期的时间，单位是秒。

3.2.3 回边计数器

用来统计方法内循环体代码执行的次数。执行向后跳的指令称为回边。