对于java程序员来说,在虚拟机自动内存管理机制的帮助下,不在需要为每一个new操作去写配对的delete/free代码,不容易出现内存泄漏和内存溢出的问题,由虚拟机管理内存这一切看起来都很美好。不过也正是因为Java程序员把没存控制的权利交给了java虚拟机,一旦出现内存泄漏和溢出方面的问题,如果不了解虚拟机是的怎样使用内存的,那么排查错误将会成为一项异常艰难的工作。
一、运行时数据区域
Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若干不同的数据区域。这些区域都有各自的用途,以及创建和销毁的时间,有的区域随着虚拟机进程的启动而存在,有的区域则依赖用户线程启动和结束而建立和销毁。根据《Java虚拟机规范(Java SE 7版)》的规定,Java虚拟机所管理的内存将会包含以下几个运行时数据区域,
1.1程序计数器
程序计数器(Program Counter Register)是一块较小的内存空间,它可以看作是当前线程所执行的字节码的行号指示器。
在虚拟机的概念模型中,字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令,分支、循环、跳转、异常处理、线程恢复的呢过基础功能都需要依赖这个计数器来完成。
由于java虚拟机的多线程是通过线程轮流切换并分配处理器执行时间的方式来实现的,在任何一个确定的时间,一个处理器都只会执行一条线程中的指令。因此,为了线程切换后能恢复到正常的执行位置,每条线程都需要一个独立的程序计数器,各条线程之间的计数器互不影响,独立存储,我们称这类内存区域为“线程私有的”内存。
如果线程正在执行的是一个Java方法,这个计数器记录的是正在执行的虚拟机字节码指令的地址;如果正在执行的是Native方法,这个计数器值则为空(Undefined)。
此内存区域是唯一一个在Java虚拟机规范中没有规定任何OutOfMemoryError情况的区域。
1.2Java虚拟机栈
Java虚拟机栈也是线程私有的,它的生命周期与线程相同。虚拟机栈描述的是Java方法执行的内存模型:每个方法在执行的同时都会创建一个栈帧(Stack Frame)用于存储局部变量表、操作数栈、动态链接、方法出口等信息。每个方法从调用直至执行完的过程,就对应着一个栈帧在虚拟机栈入栈到出栈的过程。
局部变量表存放了编译器可知的各种基本数据类型(boolean、byte、char、short、int、float、long、double)、对象引用(reference类型,它不等同于对象本身,可能是一个指向对象起始地址的引用指针,也可能是指向一个代表对象的句柄或其他与此对象相关的位置)和returnAddress类型(指向了一条字节码指令的地址)。
其中64位的long和double类型的数据会占用2个局部变量空间(slot),其余的数据类型只占用1个。局部变量表所需的内存空间在编译期间完成分配。
在java虚拟机规范中,对这个区域有两种异常状况:如果线程请求的栈深度大于虚拟机所允许的深度。将抛出StackOverflowError异常;如果虚拟机可以动态扩展,扩展时无法申请足够的内存,将会抛出OutOfMemoryError异常。
方法执行的时候需要将局部变量表的变量加载到操作数栈上进行操作,参考http://wangwengcn.iteye.com/blog/1622195
1.3本地方法栈
本地方法栈(Native Method Stack)与虚拟机栈所发挥的作用是非常类似的,他们之间的区别不过是虚拟机栈为执行java方法服务,本地方法栈则为虚拟机使用到的Native方法服务。
在虚拟规范中堆本地方法栈中的方法使用的语言、使用方式和数据结构并没有强制规定,因此具体的虚拟机可以自由的实现它。
与虚拟机栈一样,本地方法栈区域也会抛出StackOverflowError和OutOfMemoryError异常。
1.4Java堆
Java堆是被所有线程共享的一块内存区域,在虚拟机启动时创建。此内存区域唯一的目的就是存放对象实例,几乎所有的对象实例都在这里分配内存。随着JIT编译器的发展与逃逸分析逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象分配在堆上也渐渐变得不是那么绝对了。
Java堆是垃圾回收器管理的主要区域,因此很多时候也被称作“GC堆”(Garbage Collected Heap)。
从内存回收的角度来看,由于在收集器基本都采用分代收集算法,所以Java堆中可以细分为:新生代和老年代;在细致一点的有Eden空间、From Survivor空间、To Survivor空间等。
从内存分配的角度来看,线程共享的java堆中可能划分出多个线程私有的分配缓冲区(Thread Local Allocation Buffer,TLAB)。
当前主流的虚拟机都是按照可扩展来实现的(通过-Xmx和-Xms控制)。
在堆中没有内存完成实例分配,并且堆也无法再扩展,将会抛出OutOfMemoryError异常。
1.5方法区
方法区(Method Area)与Java堆一样,是各个线程共享的内存区域,它用于存储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。
这个区域的内存回收目标主要是针对常量池的回收和堆类型的卸载,一般来说,这个区域的回收“成绩”比较难以令人满意,尤其是类型的卸载,条件相当苛刻,但是这部分区域的回收 是有必要的。
当方法区不满足分配需求时,将抛出OutOfMemoryError异常。
1.6运行时常量池
运行时常量池(Runtime Constant Pool)是方法区的一部分。Class文件中除了有类的版本、字段、方法、接口等描述信息外,还有一项信息是常量池(Constant Pool Table),用于存放编译期生成的各种字面量和符号引用,这部分内容将在类加载后进入方法区的运行时常量池中存放。
对于运行时常量池,java虚拟机规范没有做任何细节的要求,不同的提供商实现的虚拟机可以按照自己的需要来吸收实现这个内存区域。
运行时常量池相对于Class文件常量池的另外一个特征是具备动态性,Java语言并不要求常量一定在编译期才能产生,也就是并非预置入Class文件都是中的常量池的内容才能进入方法区运行时常量池,运行期间也可能将新的常量放入池中,这种特性被开发人员利用的比较多的是String类的Intern()方法。
当常量池无法再申请到内存时会抛出OutOfMemoryError异常。
1.7直接内存
直接内存(Direct Memory)并不是虚拟机运行时数据区的一部分,也不是虚拟机规范中定义的内存区域。
在JDK1.4中新加入的NIO(New Input/Output)与缓冲区(Buffer)的I/O方式,它可以使用Native函数库直接分配堆外内存,然后通过一个存储在java堆中的DirectByteBuffer对象作为这块内存的医用进行操作。
服务器管理员在配置虚拟机参数时,会根据实际内存设置-Xmx等参数信息,但经常忽略直接内存,使得各个内存区域总和大于物理内存限制,从而导致动态扩展时出现OutOfMemoryError异常。
二、HotSpot虚拟机对象揭秘
书中以常用的虚拟界HotSpot和常用的内存区域Java堆为例,深入探讨HotSpt虚拟机在Java堆中对象分配、布局和访问的全过程。
2.1对象的创建
创建对象,在java语言层面上,通常仅仅是new关键字而已,在虚拟机中对象使得怎样创建的呢?
虚拟机遇到new指令时,首先将会检查这个指令的参数是否能在常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已被加载、解析和初始化过。
在加载检查通过后,接下来虚拟机将为新生对象分配内存。对象所需内存的大小在类加载完成后便可完全确定,为对象分配空间的任务等同于把一块确定大小的内存从java堆中划分出来。
指针碰撞(Bump the Pointer):假设Java堆中的内存是绝对规整的,所有用过的内存都放在一边,空闲的内存放在另一边,中间放着一个指针作为分界点的指示器,那所分配内存就仅仅把那个指针向空闲空间那边挪动一段与对象大小相等的距离。
空闲列表(Free List):如果Java堆中的内存并不是规整的,已使用的内存和空闲内存相互交错,那就没有办法简单地进行指针碰撞了,虚拟机就必须维护一个列表,记录上哪块内存使得可用的,在分配的时候从列表中找到一块足够大的空间分给对象实例,并更新列表上的记录。
选择哪种分配方式由Java堆是否规整决定,而Java堆是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定。因此,在使用Serial、ParNew等带Compact过程的收集器时,系统采用的分配算法是指针碰撞,而使用CMS这张给予Mark-Sweep算法的收集器时,通常采用空闲列表。
除了如何划分可用空间以外,还有一个需要考虑的问题:对象创建在虚拟机中是非常频繁的行为,即使是仅仅修改一个指针所指向的位置,在并发的情况下也并不是线程安全的,可能出现正在给对象A分配内存,指针还没来得及修改,对象B又同时使用了原来的指针来分配内存的情况。
解决这个问题有两种方案:
一种是对分配内存空间的动作进行同步处理——实际上虚拟机此采用CAS配上失败重试的方式来保证更新操作的原子性;
另一种是把内存分配的动作按照线程划分在不同的空间之中进行,即每个线程在java堆中预先分配一小块内存,称之为本地线程缓冲内存(Thread Local Allocation Buffer,TLAB)。哪个线程分配内存,就在哪个线程的TLAB上分配,只有TLAB用完并分配新的TLAB时,才需要同步锁定。虚拟机是否使用TLAB,可以通过-XX:+/-UseTLAB参数来设定。
内存分配完成后,虚拟机需要将分配到的内存空间初始化为零值(不包括对象头),如果使用TLAB,这一工作过程也可以提前至TLAB分配时进行。这一步操作保证了对象的实例字段在java代码中的可以不赋初始值就可以直接使用,程序能访问到这些字段的数据类型所对应的零值。
接下来,虚拟机要对对象进行必要的设置,例如这个对象是哪个类的实例、如何才能找到类的元数据信息、对象的哈希码、对象的GC分代年龄等信息。这些信息存放在对象的对象头(Object Header)之中。根据虚拟机当前的运行状态的不同,如是启用偏向锁等,对象头会有不同的设置方式。
在上面工作都完成之后,从虚拟机的视角来看,一个新的对象已经产生了,但从Java程序测角度来看,对象创建才刚刚开始——<init>方法还没有执行,所有的字段还都是零。所以,一般来说(由字节码中是否跟随invokespecial指令所决定),执行new指令之后会接着执行<init>方法,把对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算完全产生出来。
2.2对象的内存布局
HotSpot虚拟机中,对象在内存中的布局可以分为3块区域:对象头(Header)、实例数据(Instance Data)和对齐填充(Padding)。
对象头报刊两部分信息:
第一部分用于存储对象自身的运行时数据,如哈希码(hashCode),GC分代年龄、锁状态标志、线程持有的锁、偏向线程ID、偏向时间戳等,这部分数据的长度在32位和64位虚拟机中分别为32bit和64bit,官方称他为“Mark Word”。对象头信息是与对象自身定义的数据无关的额外的存储成本,考虑到虚拟机的空间效率,Mark Word被设计成为一个非固定的数据结构以便在极小的空间内存储尽量多的信息,它会根据对象的状态服用自己的存储空间。例如,在32位的HotSpot虚拟机中,如果对象处于未被锁定状态下,那么Mark Word的32bit空间中的25bit用于存储对象的哈希码,4bit用于存储对象分代年龄,2bit用于存储锁标志位,1bit固定为0,而在其他状态(轻量级锁定、重量级锁定、GC标志、可偏向)下对象的存储内容见
第二部分是类型指针,即对象指向它的类元数据的指针,虚拟机通过这个指针来确定这个对象是哪个类的实例。并不是所有虚拟机实现搜必须在对象数据上保留类型指针。另外,如果对象是一个Java数组,那在对象头中还必须有一块用于记录数组长度的数据,因为虚拟机可以通过普通Java对象的元数据信息确定Java对象的大小,但是得从数组的元数据中却无法确定数组的大小。
实例数据部分是真正存储的有效信息,也是在程序代码中所定义的各种类型的字段信息。
无论是从父类继承下来的,还是在子类中定义的,都需要记录下来。这部分的存储顺序会受到虚拟机分配策略参数(FiledsAllocationStyle)和字段在Java源码中定义顺序的影响。HotSpot虚拟机默认的分配策略为longs/doubles、ints、shorts/chars、bytes/booleans、oops(Ordinary Object Pointers),从分配策略中可以看出,相同宽度的字段总是被分配在一起 。在满足这个前提条件下,在父类中定义的变量会出现在子类之前。如果CompactFields参数值为true(默认为true),那么子类中较窄的变量可能会插入到父类变量的空隙中。
对齐填充并不是必然存在的,也没有特别的含义,它仅仅起着占位符的作用。对象的大小必须是8字节的整数倍。因此,当对象实例数据部分没有对齐时,就需要通过对齐填充来补全。
2.3对象的访问定位
建立对象是为了使用对象,我们的java程序员需要通过栈上的reference数据来操作堆上的具体对象。由于reference类型在Java虚拟机规范中只规定了一个指向对象的引用,并没有定义这个引用应该通过何种方式去定位、访问堆中的对象的具体位置,所以对象访问方式也是取决于虚拟机实现而定的。
目前主流的访问方式有使用句柄和直接指针两种。
如果使用句柄访问的话,那么Java堆中将会划分出一块内存来作为句柄池,reference中存储的就是对象的句柄地址,而句柄中包含了对象实例数据和类型数据各自的具体地址信息。
如果使用直接指针访问,那么Java堆对象的布局中必须考虑如何放置访问类型数据的相关信息,而reference中存储的直接就是对象地址。
这两种对象访问方式各有优势,使用句柄来访问的最大好处是reference中存储的是稳定的句柄地址,在对象被移动时,只会改变句柄中的实例数据指针,而reference本身不需修改。
使用直接指针访问方式的最大好处就是速度更快,它节省了一些指针定位胆额时间开销,由于对象的访问在Java中非常频繁,因此这来开销积少成多后也是一项非常可观的执行成本。
Sun HotSpot而言,是使用第二种方式进行对象访问的。
总结:
1.程序计数器,虚拟机栈是线程私有的,生命周期与线程相同;堆,方法区是线程共享的。
2.每个方法在执行的同时都会创建一个栈帧用于存储局部变量表、操作数栈、动态链接、方法出口等信息。每个方法从调用直至执行完成的过程,就对应着一个栈帧贼虚拟机栈入栈到出栈的过程。
3.方法区用于存储类信息、常量、静态变量、即时编译器编译后的代码等。
4.直接内存不是虚拟机运行时内存区的一部分,也不是虚拟机规范中的内存区域。
5.虚拟机层面对象的创建过程是虚拟机在遇到new指令时,首先会检查这个指令的参数是否在常量池中找到一个类的符号引用,并且还会检查这个符号引用所代表的类信息是否已被加载、解析和初始化过。在类加载检查后,虚拟机将会给新对象分配内存。内存大小在类加载完之后就确定了,分配内存只是将固定大小的内存从java堆中划分出来。
6.在给对象分配内存时有两个问题:一是如何划分内存空间,一是如何保证多个线程同时分配空间不冲突。解决前一个问题有两个方法:指针碰撞和空闲列表;解决第二个问题有两个方法:一个是对分配内存空间的动作进行同步处理,一个是为每个线程分配本地线程缓冲内存,在缓冲内存不够用,重新扩展内存时才会产生内存分配动作的同步处理。
7.对象的布局:对象头,实例数据,对齐填充。
8.对象访问定位:一是符号引用存储对象句柄地址,对象句柄存放对象地址,好处是不用改变符号引用地址,只需改变句柄存放的对象的地址;一是符号引用直接存放对象地址,好处是速度快;
参考书籍:《深入理解虚拟机:JVM高级特性与最佳实践》(第二版)