【Java 虚拟机探索之路系列】:JIT编译器

原创 2015年07月08日 14:09:56

作者:郭嘉
邮箱:allenwells@163.com
博客:http://blog.csdn.net/allenwells
github:https://github.com/AllenWell

为什么会Java虚拟机会同时存在解释器和编译器呢?

这是为了兼顾启动效率和执行效率两个方面。Java程序最初是通过解释器进行解释执行的,当虚拟机返现某个方法或代码块的运行特别频繁时,就会把这段代码标记为热点代码,为了提供热点代码的执行效率,在运行时,虚拟机就会把这些代码编译成与本地平台相关的机器码,并进行各种层次的优化。

当编译器做的激进优化不成立,不如加载了新类后类型继承结构出现变化,出现了罕见陷阱时可以进行逆优化退回到解释状态继续执行。

以上描述的两种配合关系如下图所示:

这里写图片描述

一 编译模式

HotSpot JVM内置了两个编译器,分别是Client Complier和Server Complier,虚拟机默认是Client模式,我们也可以通过

  • -client:强制虚拟机运行Client模式
  • -server:强制虚拟机运行Server模式

而无论是Client模式还是Server模式,虚拟机都会运行在解释器和编译器配合使用的混合模式下,可以通过

  • -Xint:强制虚拟机运行于解释模式
  • -Xcomp:强制虚拟机运行于编译模式

以上描述的运行模式如下图所示:

这里写图片描述

二 分层编译

为什么会存在分层编译?

这是因为编译器编译本机代码需要占用程序运行时间,要编译出优化程度更高的代码锁花费的时间可能更长,而且想要编译出优化程度更高的代码,解释器可能还要替编译器收集性能监控信息,这对解释执行的速度也有影响。为了在程序启动响应速度和运行效率之间寻找平衡点,因此采用分层编译的策略。

分层策略如下所示:

  • 第0层:程序解释执行,解释器不开启性能监控功能,可触发第1层编译。
  • 第1层:即C1编译,将字节码编译为本地代码,进行简单和可靠的优化,如有必要将加入性能监控的逻辑。
  • 第2层:即C2编译,将字节码编译为本地代码,同时启用一些编译耗时较长的优化,甚至会根据性能监控信息进行一些不可靠的激进优化。

三 编译对象

编译对象即为会被编译优化的热点代码,有以下两类:

  • 被多次调用的方法
  • 被多次执行的循环体

四 触发条件

上面描述中使用多次这个概念,那么什么算多次呢?

这就牵扯到触发条件这个概念,判断一段代码是否是热点代码,是否需要触发即时编译,这种行为成为热点探测(Spot Dectection)。

热点探测有两种手段:

4.1 基于采样的热点探测(Sample Based Hot Spot Dectection)

虚拟机会周期性的检查各个线程的栈顶,如果发现某些方法经常性的出现在栈顶,那么这个方法就是热点方法。

4.2 基于计数器的热点探测(Counter Based Hot Spot Dectection)

虚拟机会为每个方法或代码块建立计数器,统计方法的执行次数,如果执行次数超过一定的阈值就认为他是热点方法。

HotSpot JVM使用第二种方法基于计数器的热点探测方法,它为每个方法准备了两类计数器:

4.2.1 方法调用计数器

这个阈值在Client模式下是1500次,在Server模式下是10000此,这个阈值可以通过参数-XX:CompileThreadhold来人为设定。

如果不做任何设置,方法调用次数统计的并不是方法被调用的绝对次数,而是相对的执行频率,即一段时间内方法被调用的次数,当超过一定时间限度,如果方法的调用次数仍然不足以让它提交给即时编译器编译,那这个方法的调用计数器会被减少一半,这个过程被称为方法调用计数器的热度衰减(Counter Decay),而这段时间就称为此方法统计的半衰周期(Counter Half Life Time)。同样也可以使用参数-XX:-UseCounterDecay来关闭热度衰减。

方法调用计数器触发即时编译的整个流程如下图所示:

这里写图片描述

4.2.2 回边计数器

什么是回边?
在字节码遇到控制流向后跳转的指令称为回边(Back Edge)。

回边计数器是用来统计一个方法中循环体代码执行的次数,回边计数器的阈值可以通过参数-XX:OnStackReplacePercentage来调整。

  • 虚虚拟机运行在Client模式下,回边计数器阂值计算公式为:
方法调用计数器闭值( CompileThreshold) xOSR比率(OnStackReplacePercentage) / 100

其中OnSlackReplacePercentage默认值为933,如果都取默认值.那Client模式虚拟机的回边计数器的阂值为13995.

  • 虚拟机运行在Servo模式下,回边计数器阂值的itm公式为:
方法调用计数器阂值(CompileThmshold) x (OSR比率(OnStackReplacePercentage) - 解释器监控比率(InterpreterProffePercentage) / 100

其中OnStackReplacePementage默认值为140. InterpreterPmfilePercenmgc默认值为33.
如果都取默认值,BF Server模式虚拟机回边计数器的阑值为10700。

回边计数器触发即时编译的流程如下图所示:

这里写图片描述

回边计数器与方法调用计数器不同的是,回边计数器没有热度衰减,因此这个计数器统计的就是循环执行的绝对次数。

五 编译流程

在默认设置下,无论是方法调用产生的即时编译请求,还是OSR编译请求,虚拟机在代码编译器还未完成之前,都仍然按照解释方式继续进行,而编译动作则在后台的编译线程中继续进行。也可以使用-XX:-BackgroundCompilation来禁止后台编译,则此时一旦遇到JIT编译,执行线程向虚拟机提交请求后会一直等待,直到编译完成后再开始执行编译器输出的本地代码。

那么在后台编译过程中,编译器做了什么事呢?

Server Compiler和Client Compiler的后台编译过程是不一样的,我们来分别看一下。

5.1 Client Compiler编译流程

  1. 第一阶段:一个平台独立的前端将字节码构造成一种高级中间码表示(High Level Infermediate Representaion),HIR使用静态单分配的形式来表示代码值,这可以使得一些的构造过程之中和之后进行的优化动作更容易实现,在此之前编译器会在字节码上完成一部分基础优化,如方法内联、常量传播等。
  2. 第二阶段:一个平台相关的后端从HIR中产生低级中间代码表示(Low Level Intermediate Representation),而在此之前会在HIR上完成另一些优化,如空值检查消除、范围检查消除等,以便让HIR达到更高效的代码表示形式。
  3. 第三阶段:在平台相关的后端使用线性扫描算法(Linear Scan Register Allocation)在LIR上分配寄存器,并在LIR上做窥孔优化(Peephole)优化,然后产生机器码。

整个过程如下图所示:

这里写图片描述

5.1 Server Compiler编译流程

Server Compiler是专门面向服务端的典型应用并为服务器的性能配置特别调整过的编译器,它会执行所有经典的优化动作,如下所示:

  • 无用代码消除
  • 循环展开
  • 循环表达式外提
  • 消除公共子表达式
  • 常量传播
  • 基本块重排序
  • 范围检查消除
  • 空值检查消除
  • 守护内联
  • 分支频率预测
版权声明:希望我们对技术的投入不是让人们更加的依赖网络这种虚拟的东西,而是去方便人们的生活,从而让人们有更多的时间去关心周围的人。

相关文章推荐

【深入Java虚拟机】之七:Javac编译与JIT编译

转载请注明出处:http://blog.csdn.net/ns_code/article/details/18009455 编译过程     不论是物理机还是虚...

我看Java虚拟机(4)---Javac编译器

编译过程分为三个部分: 解析与填充符号表 插入式注解处理器的注解处理过程 分析和字节码的生成 解析与填充符号表 词法语法分析,生成抽象语法树(AST,Abstract Syntax Tr...

我看Java虚拟机(7)---解释器和JIT编译器

Java是被定为为解释性语言,JIT编译器并不是强制需要的,也并非所有的虚拟机都是用解释器+编译器的并存架构。但主流的商用虚拟机如Hotspot、J9等都采用这种并存的架构。解释器和编译器比较解释器优...

Java性能优化指南系列(三):理解JIT编译器

即时编译器概述 编译器在编译过程中通常会考虑很多因素。比如:汇编指令的顺序。假设我们要将两个寄存器的值进行相加,执行这个操作一般只需要一个CPU周期;但是在相加之前需要将数据从内存读到寄存器中,...

深入理解java虚拟机(十三) Java 即时编译器JIT机制以及编译优化

在部分的商用虚拟机中,Java 程序最初是通过解释器( Interpreter )进行解释执行的,当虚拟机发现某个方法或代码块的运行特别频繁的时候,就会把这些代码认定为“热点代码”。为了提高热点代码的...

【Android Dalvik虚拟机探索之路系列】之二:Dalvik汇编语言

一 Dalvik指令格式1.1 位描述Dalvik汇编代码由Dalvik指令组成,指令语法由指令的位描述与指令格式辨识来决定。位描述的约定如下所示: 每16位的字采用空格分隔开来; 每个字母表示四位,...

Android深入浅出系列课程---Lesson13 LLY110529_虚拟机概述,JIT概述

大家好,上一讲我们介绍了Android.Framework源码下载及编译,这一讲我们将进入虚拟机概述,JIT概述         课程目标: 知道虚拟机的概念,JVM , JIT        ...

RyuJIT:下一代的JIT编译器

整个世界正在向64位计算转移,即使它并不总是比32位更快或更有效率。当前的.NET JIT编译器就是一个使得64位计算机上有时导致程序速度减慢的的例子。但是,这将会被改变:一个新的,下一代x64的JI...

深入java虚拟机(七)--Javac编译与JIT编译

编译过程     不论是物理机还是虚拟机,大部分的程序代码从开始编译到最终转化成物理机的目标代码或虚拟机能执行的指令集之前,都会按照如下图所示的各个步骤进行:          其中绿...

深入Java虚拟机:Javac编译与JIT编译

编译过程     不论是物理机还是虚拟机,大部分的程序代码从开始编译到最终转化成物理机的目标代码或虚拟机能执行的指令集之前,都会按照如下图所示的各个步骤进行:          其中绿色的模块可以选...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:【Java 虚拟机探索之路系列】:JIT编译器
举报原因:
原因补充:

(最多只允许输入30个字)