学习笔记（第11天）JVM-执行引擎

概述

• 执行引擎是Java虚拟机核心的组成部分之一。虚拟机的执行引擎是由软件自行实现的，因此可以不受物理条件制约地定制指令集与执行引擎的结构体系，能够执行那些不被硬件直接支持的指令集格式。
• 执行引擎的任务就是将字节码指令解释/编译为对应平台上的本地机器指令。简单来说，JVM的执行引擎充当了将高级语言翻译为机器语言的译者。
  工作过程
• 执行引擎在执行的过程中究竟需要执行什么样的字节码指令完全依赖于PC寄存器。
• 方法在执行的过程中，执行引擎有可能会通过存储在局部变量表中的对象引用精确定位到存储在Java堆区中的对象实例信息，以及通过对象头中的元数据指针定位到目标对象的类型信息。
• 从外观上来看，所有的Java虚拟机的执行引擎输入，输出都是一致的：输入的是字节码二进制流，处理过程是字节码解析执行的等效过程，输出的是执行结果。

解释器

1.概念：
当Java虚拟机启动时会根据预定义的规范堆字节码采用逐行解释的方法执行，将每条字节码文件中的内容“翻译”为对应平台的本地机器指令。

2.分类：
在Java的发展历史里，一共有两套解释执行器，即古老的字节码解释器和现在普遍使用的模板解释器。

• 字节码解释器在执行时通过纯软件代码模拟字节码的执行，效率非常低下。
• 模板解释器将每一条字节码和一个模板函数相关联，模板函数中直接产生这条字节码执行时的机器码，从而很大程度上提高了解释器的性能。

在HotSpot VM中，解释器主要由Interpreter模块和code模块构成。

• Interpreter模块：实现了解释器的核心功能。
• Code模块：用于管理HotSpot VM在运行时生成的本地机器指令。

3.现状：
由于解释器在设计和实现上非常简单，除Java外，许多高级语言同样也是基于解释器执行。但在今天，基于解释器执行依旧沦落为低效的代名词。
为了解决这个问题，JVM平台支持即时编译技术，其目的是避免函数被解释执行，而是将整个函数体编译为机器码，每次函数执行时，只执行编译后的机器码即可，这种方法可以使执行效率大幅提升。

即时编译器（JIT编译器）

1.概念：

• 就是虚拟机将源代码直接编译成和本地机器平台相关的机器语言。
• Java语言的“编译期”其实是一段“不确定的”操作过程，因为它可能是指一个前端编译器（准确叫编译期的前端）把 .java文件转变为
  .class文件的过程。
• 也可能是指虚拟机的后端运行期编译器（JIT）把字节码转变成机器码的过程。
• 还可能是指使用静态提前编译器（AOT编译器）直接把 .java文件编译成本地机器代码的过程。

2.热点代码及探测方式：

• 是否需要启动JIT编译器将字节码直接编译为对应平台的本地机器指令，则需要根据代码被调用执行的频率而定，关于那些需要被编译为本地代码的字节码，也被称之为“热点代码”，JIT编译器在运行时会针对那些频繁被调用的热点代码做出深度优化，将其直接编译为对应平台的本地机器指令，以此提升Java程序的执行性能。
• 一个被多次调用的方法，或者是一个方法体内部循环次数较多的循环体都可以被称为“热点代码”，因此都可以通过JIT编译器编译为本地机器指令，由于这种编译方式发生在方法的执行过程中，因此也被称为栈上替换（或简称为OSR编译）
• 一个方法究竟要被调用多少次（或者一个循环体要执行多少次循环）才是热点代码，主要依靠热点探测功能来识别。
• 目前HotSpot VM所采用的热点探测方式是基于计数器的热点探测。
• 采用基于计数器的热点探测，HotSpot将会为每个方法都建立2个不同类型的计数器，分别为方法调用计数器和回边计数器。
  方法调用计数器用于统计方法的调用次数
  默认阈值在client模式下是1500次，在Server模式下是10000次。超过整个值就会触发JIT编译。
  这个阈值可以通过参数：-XX：CompileThreShold来设定。
  当一个方法被调用时，会先检查该方法是否存在被JIT编译过的版本，如果存在，则优先调用编译后的本地代码来执行；若不存在，则将次方法的调用计数器+1，然后判断方法调用计数器与回边计数器值之和是否超过方法调用计数器的阈值。如果超过，将会向即时编译器提交一个该方法的代码编译请求。
  热度衰减：
  如果不做任何设置，方法调用计数器统计的并不是方法被调用的绝对次数，而是一个相对的执行频率，即一段时间内方法被调用的次数。当超过一定的时间限度，如果方法的调用次数仍然不足以让它提交给即时编译器编译，那该方法的调用计数器就会被减少一半，这个过程称之为热度衰减。而这段时间被称为方法统计的半衰周期。
  进行热度衰减的动作是在虚拟机进行垃圾回收时顺便进行的，可以使用虚拟机参数
  -XX:UseCounterDecay来关闭热度衰减，让方法计数器统计方法的绝对次数。这样，只要运行时间够长，绝大多数方法都会被编译成本地代码。
  另外，可以使用 -XX：CounterHalfLifeTime参数设置半衰周期的时间，单位是秒。
  回边计数器则用于统计循环体执行的循环次数。
  在字节码中遇到控制流向后跳转的指令称为“回边”。显然，建立回边计数器统计的目的就是为了触发OSR编译。

3.HotSpot VM中JIT分类：
在HotSpot VM中内嵌有两个JIT编译器，分别为Client Compiler和Server Compiler，但大多数情况下简称为C1编译器和C2编译器。可以通过命令显示指定虚拟机在运行时使用哪种编译器（64位操作系统只能使用Server）：

• -client：指定虚拟机运行在Client模式下，并使用C1编译器
  C1编译器会对字节码进行简单和可靠的优化，耗时短，以达到更快的编译速度。

• -server：指定虚拟机运行在Server模式下，并使用C2编译器
  C2进行耗时较长的优化，以及激进优化，但优化的代码执行效率更高。

C1和C2编译器不同的优化策略：
C1编译器主要有方法内联，去虚拟化，冗余消除。

• 方法内敛：将引用的函数代码编译到引用点处，这样可以减少栈帧的生成，减少参数传递以及跳转过程。
• 去虚拟化：对唯一的实现类进行内联。
• 冗余消除：在运行期间把一些不会执行的代码折叠掉。

C2的优化主要是在全局布局，逃逸分析（只能在server模式下）是优化的基础。

• 标量替换：用标量值代替聚合对象的属性值。
• 栈上分配：对于未逃逸的对象分配在栈而不是堆
• 同步消除：清除同步操作，通常指synchronized

分层编译策略：程序解释执行（不开启性能监控）可以触发C1编译，将字节码编译成机器码，可以进行简单优化，也可以机上性能监控，C2编译会根据性能监控信息进行激进优化。
在java7版本后，一旦开发人员在程序中显式指定命令“-server”，默认将会开启分层编译策略，由C1编译器和C2编译器相互协共同来执行编译任务。

总结：
一般来讲，JIT编译出来的机器码性能比解释器高。
C2编译器启动时长比C1编译器慢，系统稳定执行以后，C2编译器执行速度远远快于C1编译器。

补充：
JDK10以后，HotSpot加入一个全新的即时编译器：Graal编译器（与上文C1,C2编译器同级）。编译效果这几年逐步追平C2编译器，很可能成为未来虚拟机发展方向。目前，需要使用开关参数 -XX:+UnlockExperimentalVMoptions -XX:+UserJVMCICompiler激活，才可以使用。

JDK9引入了AOT编译器（静态提前编译器，与JIT同级）。所谓AOT编译，是与即时编译相对立的一个概念。即时编译指的是在程序的运行过程在，讲字节码转换为可在硬件上直接运行的机器码，并部署至托管环境中的过程。而AOT编译器指的是，在程序运行之前，便将字节码转换为机器码的过程，并存放至生成的动态共享库中。

• 好处：Java虚拟机加载已经预编译成二进制库，可以直接执行。不必等待即时编译器的预热，减少Java应用给人带来“第一次运行慢”的不良体验。
• 坏处： 破坏了java“一次编译，到处运行”，必须为每个不同硬件，OS编译对应的发行包。
  降低了Java链接过程的动态性，加载的代码在编译期就必须全部已知。 还需继续优化，最初只支持Linux x64 java base。

垃圾回收器

(1)GC的分类
针对HotSpot VM的实现，GC按照回收区域可分为两大种类：部分收集（Partial GC）和整堆收集（Full GC）

部分收集：不是完整收集整个Java堆的垃圾收集。

• 新生代收集（Minor GC / Young GC）：只是新生代的垃圾收集。JVM大部分回收都是指新生代。
• 老年代收集（Major GC/ Old GC)：只是老年代的垃圾收集。
  a.目前，只有CMS GC会有单独收集老年代的行为。
  b.注：很多时候Major GC会和Full GC混淆使用，需要具体分 辨是老年代回收还是整堆回收。
  c.出现Major GC时，经常会伴随至少一次的Minor GC，（即先尝试触发Minor GC，如果空间还不足，再触发Major GC）但并非绝对。
  d.Major GC的速度一般会比Minor GC慢10倍以上，STW（stop the world的时间更长。
• 混合收集（Mixed GC）：收集整个新生代以及部分老年代的垃圾收集。

整堆收集（Full GC）：收集整个java堆和方法区的垃圾收集。Full GC 是开发或调优中尽量要避免的，这样暂停时间会短一些。
触发该GC的情况有5种。
a.调用System.gc()时，系统建议执行Full GC，但不必然执行。
b.老年代空间不足
c.方法区不足
d.通过Minor GC后进入老年代的平均大小大于老年代的可用内存
e.由Eden区，s0区向S1区（或反过来）复制时，对象大小大于To Space可用内存，则把内存转存到老年代，且老年代的可用内存小于该对象大小。