【Java 虚拟机探索之路系列】:JIT编译器

原创 2015年07月08日 14:09:56

作者:郭嘉
邮箱:allenwells@163.com
博客:http://blog.csdn.net/allenwells
github:https://github.com/AllenWell

为什么会Java虚拟机会同时存在解释器和编译器呢?

这是为了兼顾启动效率和执行效率两个方面。Java程序最初是通过解释器进行解释执行的,当虚拟机返现某个方法或代码块的运行特别频繁时,就会把这段代码标记为热点代码,为了提供热点代码的执行效率,在运行时,虚拟机就会把这些代码编译成与本地平台相关的机器码,并进行各种层次的优化。

当编译器做的激进优化不成立,不如加载了新类后类型继承结构出现变化,出现了罕见陷阱时可以进行逆优化退回到解释状态继续执行。

以上描述的两种配合关系如下图所示:

这里写图片描述

一 编译模式

HotSpot JVM内置了两个编译器,分别是Client Complier和Server Complier,虚拟机默认是Client模式,我们也可以通过

  • -client:强制虚拟机运行Client模式
  • -server:强制虚拟机运行Server模式

而无论是Client模式还是Server模式,虚拟机都会运行在解释器和编译器配合使用的混合模式下,可以通过

  • -Xint:强制虚拟机运行于解释模式
  • -Xcomp:强制虚拟机运行于编译模式

以上描述的运行模式如下图所示:

这里写图片描述

二 分层编译

为什么会存在分层编译?

这是因为编译器编译本机代码需要占用程序运行时间,要编译出优化程度更高的代码锁花费的时间可能更长,而且想要编译出优化程度更高的代码,解释器可能还要替编译器收集性能监控信息,这对解释执行的速度也有影响。为了在程序启动响应速度和运行效率之间寻找平衡点,因此采用分层编译的策略。

分层策略如下所示:

  • 第0层:程序解释执行,解释器不开启性能监控功能,可触发第1层编译。
  • 第1层:即C1编译,将字节码编译为本地代码,进行简单和可靠的优化,如有必要将加入性能监控的逻辑。
  • 第2层:即C2编译,将字节码编译为本地代码,同时启用一些编译耗时较长的优化,甚至会根据性能监控信息进行一些不可靠的激进优化。

三 编译对象

编译对象即为会被编译优化的热点代码,有以下两类:

  • 被多次调用的方法
  • 被多次执行的循环体

四 触发条件

上面描述中使用多次这个概念,那么什么算多次呢?

这就牵扯到触发条件这个概念,判断一段代码是否是热点代码,是否需要触发即时编译,这种行为成为热点探测(Spot Dectection)。

热点探测有两种手段:

4.1 基于采样的热点探测(Sample Based Hot Spot Dectection)

虚拟机会周期性的检查各个线程的栈顶,如果发现某些方法经常性的出现在栈顶,那么这个方法就是热点方法。

4.2 基于计数器的热点探测(Counter Based Hot Spot Dectection)

虚拟机会为每个方法或代码块建立计数器,统计方法的执行次数,如果执行次数超过一定的阈值就认为他是热点方法。

HotSpot JVM使用第二种方法基于计数器的热点探测方法,它为每个方法准备了两类计数器:

4.2.1 方法调用计数器

这个阈值在Client模式下是1500次,在Server模式下是10000此,这个阈值可以通过参数-XX:CompileThreadhold来人为设定。

如果不做任何设置,方法调用次数统计的并不是方法被调用的绝对次数,而是相对的执行频率,即一段时间内方法被调用的次数,当超过一定时间限度,如果方法的调用次数仍然不足以让它提交给即时编译器编译,那这个方法的调用计数器会被减少一半,这个过程被称为方法调用计数器的热度衰减(Counter Decay),而这段时间就称为此方法统计的半衰周期(Counter Half Life Time)。同样也可以使用参数-XX:-UseCounterDecay来关闭热度衰减。

方法调用计数器触发即时编译的整个流程如下图所示:

这里写图片描述

4.2.2 回边计数器

什么是回边?
在字节码遇到控制流向后跳转的指令称为回边(Back Edge)。

回边计数器是用来统计一个方法中循环体代码执行的次数,回边计数器的阈值可以通过参数-XX:OnStackReplacePercentage来调整。

  • 虚虚拟机运行在Client模式下,回边计数器阂值计算公式为:
方法调用计数器闭值( CompileThreshold) xOSR比率(OnStackReplacePercentage) / 100

其中OnSlackReplacePercentage默认值为933,如果都取默认值.那Client模式虚拟机的回边计数器的阂值为13995.

  • 虚拟机运行在Servo模式下,回边计数器阂值的itm公式为:
方法调用计数器阂值(CompileThmshold) x (OSR比率(OnStackReplacePercentage) - 解释器监控比率(InterpreterProffePercentage) / 100

其中OnStackReplacePementage默认值为140. InterpreterPmfilePercenmgc默认值为33.
如果都取默认值,BF Server模式虚拟机回边计数器的阑值为10700。

回边计数器触发即时编译的流程如下图所示:

这里写图片描述

回边计数器与方法调用计数器不同的是,回边计数器没有热度衰减,因此这个计数器统计的就是循环执行的绝对次数。

五 编译流程

在默认设置下,无论是方法调用产生的即时编译请求,还是OSR编译请求,虚拟机在代码编译器还未完成之前,都仍然按照解释方式继续进行,而编译动作则在后台的编译线程中继续进行。也可以使用-XX:-BackgroundCompilation来禁止后台编译,则此时一旦遇到JIT编译,执行线程向虚拟机提交请求后会一直等待,直到编译完成后再开始执行编译器输出的本地代码。

那么在后台编译过程中,编译器做了什么事呢?

Server Compiler和Client Compiler的后台编译过程是不一样的,我们来分别看一下。

5.1 Client Compiler编译流程

  1. 第一阶段:一个平台独立的前端将字节码构造成一种高级中间码表示(High Level Infermediate Representaion),HIR使用静态单分配的形式来表示代码值,这可以使得一些的构造过程之中和之后进行的优化动作更容易实现,在此之前编译器会在字节码上完成一部分基础优化,如方法内联、常量传播等。
  2. 第二阶段:一个平台相关的后端从HIR中产生低级中间代码表示(Low Level Intermediate Representation),而在此之前会在HIR上完成另一些优化,如空值检查消除、范围检查消除等,以便让HIR达到更高效的代码表示形式。
  3. 第三阶段:在平台相关的后端使用线性扫描算法(Linear Scan Register Allocation)在LIR上分配寄存器,并在LIR上做窥孔优化(Peephole)优化,然后产生机器码。

整个过程如下图所示:

这里写图片描述

5.1 Server Compiler编译流程

Server Compiler是专门面向服务端的典型应用并为服务器的性能配置特别调整过的编译器,它会执行所有经典的优化动作,如下所示:

  • 无用代码消除
  • 循环展开
  • 循环表达式外提
  • 消除公共子表达式
  • 常量传播
  • 基本块重排序
  • 范围检查消除
  • 空值检查消除
  • 守护内联
  • 分支频率预测

【Java代码保护探索之路系列:代码签名】之一:代码签名开篇

作者:郭嘉 邮箱:allenwells@163.com 博客:http://blog.csdn.net/allenwells github:https://github.com/AllenWel...
  • AllenWells
  • AllenWells
  • 2015年06月04日 17:06
  • 415

【深入Java虚拟机】之七:Javac编译与JIT编译

如今,基于物理机、虚拟机等的语言,大多都遵循这种基于现代经典编译原理的思路,在执行前先对程序源码进行词法解析和语法解析处理,把源码转化为抽象语法树。对于一门具体语言的实现来说,词法和语法分析乃至后面的...
  • mmc_maodun
  • mmc_maodun
  • 2014年01月15日 00:07
  • 30590

《探索式测试-实践之路》--读书笔记

《探索式测试-实践之路》--读书笔记 注:
  • ggf123456789
  • ggf123456789
  • 2015年01月27日 16:54
  • 544

我看Java虚拟机(7)---解释器和JIT编译器

Java是被定为为解释性语言,JIT编译器并不是强制需要的,也并非所有的虚拟机都是用解释器+编译器的并存架构。但主流的商用虚拟机如Hotspot、J9等都采用这种并存的架构。解释器和编译器比较解释器优...
  • qq_26268527
  • qq_26268527
  • 2015年12月20日 14:09
  • 1188

探索推荐引擎内部的秘密系列文章

探索推荐引擎内部的秘密,第 1 部分: 推荐引擎初探 探索推荐引擎内部的秘密,第 2 部分: 深入推荐引擎相关算法 - 协同过滤 探索推荐引擎内部的秘密,第 3 部分: 深...
  • hmy1106
  • hmy1106
  • 2015年02月14日 16:07
  • 1492

关于java JIT(即时编译器)的基本认识

在看深入java虚拟机的时候遇到个JNI,疑惑了,然后找了些它的资料。 1.JIT的工作原理图  工作原理  当JIT编译启用时(默认是启用的),JVM读入.class文件解释后,将...
  • bnna8356586
  • bnna8356586
  • 2016年04月19日 18:54
  • 1538

解释器与JIT编译器

本文转自http://book.51cto.com/art/201504/472756.htm 早在Java1.0版本的时候,Sun公司发布了一款名为Sun Classic VM的Java虚拟机,...
  • qq_16811963
  • qq_16811963
  • 2016年04月11日 08:47
  • 911

坚持#第207天~慕课网的云计算了解完了,接下来是腾讯课堂

慕课网之学习之路:Docker入门,学习来源http://www.imooc.com/learn/896 Docker是什么?为什么要使用Docker?如何使用Docker? Docker就是轻量...
  • libanxian9527
  • libanxian9527
  • 2017年10月09日 22:56
  • 85

【Android Dalvik虚拟机探索之路系列】之一:Dalvik虚拟机简介

一 Dalvik虚拟机的特点Android Dalvik虚拟机出自于Dan Bomstein之手,它作为Android平台的核心组件,具有以下几个方面的特点。 体积小,占用内存空间小; 专有的DEX可...
  • AllenWells
  • AllenWells
  • 2015年05月05日 10:22
  • 748

java工程师成神之路

路漫漫其修远兮,吾将上下而求索。 技术之路还有很长的路要走,关键要找到方向,知道重点,坚持下去。 终将由一个小小的斗者,成为斗神。 一、基础篇   1.1 JVM  ...
  • xuefengmiao
  • xuefengmiao
  • 2016年03月13日 12:43
  • 570
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:【Java 虚拟机探索之路系列】:JIT编译器
举报原因:
原因补充:

(最多只允许输入30个字)