深入理解java虚拟机------第二章Java内存区域与内存溢出异常

Java与C++之间有一堵由内存动态分配和垃圾收集技术所围成的"高墙",墙外面的人想进去,墙里面的人却想出来。

2.1 概述

对于Java程序员来说,在虚拟机自动内存管理机制的帮助下,不需要为每一个new操作去写配对的delete/free代码,不容易出现内存泄漏和内存溢出问题,但也因此把内存控制的权利交给了Java虚拟机,一旦出现内存泄漏和溢出方面的问题,排查错误将成为一项异常艰难的工作

2.2运行时数据区域

Java虚拟机所管理的内存包括以下几个运行时数据区域:

2.2.1 程序计数器

1.程序计数器(Program Counter Register)是一块较小的内存空间,它可以看做是当前线程所执行的字节码的行号指示器,在虚拟机的概念模型里(仅是概念模型,各种虚拟机可能回通过更高效的方式去实现),字节码解释器就是通过改变这个计数器的值来选取下一条需要执行的字节码指令,分支,循环,跳转,异常处理,线程回复等基础功能都需要依赖这个计数器完成

2.Java虚拟机的多线程是通过线程轮流切换并分配处理器执行时间的方式来实现的,在任何一个确定的时刻,一个处理器(对于多核处理器来说是一个内核)都只会执行一条线程中的指令,因此,为了线程切换后能恢复到正确的执行位置,每条线程都需要有一个独立的程序计数器,各条线程之间计数器互不影响,独立存储,我们称这类内存区域为"线程私有"的内存

3.如果线程正在执行的是一个Java方法,这个计数器记录的是正在执行的虚拟机字节码指令的地址,如果正在执行的是Native方法,这个计数器值则为空,此内存区域是唯一一个在Java虚拟机规范中没有规定任何OutOfMemoryError情况的区域

2.2.2 Java虚拟机栈

1.与程序计数器是一样的,Java虚拟机栈(Java Virtual Machine Stacks)也是线程私有的,它的生命周期与线程相同,虚拟机栈描述的是Java方法执行的内存模型,每个方法在执行的同时都会创建一个栈帧用于存储局部变量表,操作数栈,动态链接,方法出口灯信息,每一个方法从调用直至执行完成的过程,就对应着一个栈帧在虚拟机栈中入栈到出栈的过程

2.局部变量表存放了编译器可知的各种基本数据类型(boolean,bytechar,short,int,float,long,double),对象引用(reference类型,它不等同于对象本身,可能是一个指向对象起始地址的引用指针,也可能是指向一个代表对象的句柄或其他与此对象相关的位置)和returnAddress类型(指向了一条字节码指令的地址)

3.其中64位长度的long和double类型的数据会占用两个局部变量空间,其余的数据类型只占用一个,局部变量表所需的内存空间在编译期间完成,当进入一个方法时,这个方法需要在帧中分配多大的局部变量空间是完全确定的,在方法运行期间不会改变局部变量表的大小

4.在Java虚拟机规范中,对这个区域规定了两种异常情况,如果线程请求的栈深度大于虚拟机所允许的深度,将抛出StackOverflowError异常;如果虚拟机可以动态扩展,如果扩展时无法申请到足够的内存,就会抛出OutOfMemoryError异常

2.2.3 本地方法栈

本地方法栈与虚拟机栈所发挥的作用是非常相似的,他们之间的区别是,虚拟机栈为虚拟机执行Java方法(也就是字节码)服务,而本地方法栈则为虚拟机使用到的Native方法服务,有的虚拟机直接把本地方法栈和虚拟机合二为一.与虚拟机栈一样,本地方法栈区域也会抛出StackOverflowError和OutOfMemoryError异常

2.2.4 Java堆

1.对于大多数应用来说,Java堆(Java Heap)是Java虚拟机所管理的内存中最大的一块

2.Java堆是被多有线程共享的一块内存区域(可能划分出多个线程私有的分配缓冲区),在虚拟机启动时创建

3.堆内存区域唯一的目的就是存放对象实例,几乎所有的对象实例都在这里分配内存,Java虚拟机规范中的描述是:所有的对象实例以及数组都要在堆上分配(但随着JIT编译器的发展与逃逸分析技术逐渐成熟,栈上分配,标量替换优化技术将会导致一些微妙的变化发生,所有的对象都分配在堆上也不是那么绝对了)

4.Java堆是垃圾收集器管理的主要区域,因此很多时候也被称作"GC堆"

5.Java堆可以处于物理上不连续的内存空间中,只要逻辑上是连续的即可,并且当前主流的虚拟机都是按照可扩展来实现的,如果在堆中内有内存完成实例分配,并且堆再也无法扩展时,将会抛出OutOfMemoryError异常

2.2.5 方法区

1.方法区(Method Area)与Java堆一样,是各个线程共享的内存区域,它用于存储已被虚拟机加载的类信息,常量,静态变量,即时编译器编译后的代码等数据

2.方法区和Java堆一样不需要连续的内存和可以选择固定大小和可扩展外,还可以选择不实现垃圾收集,垃圾收集行为在这个区域比较少出现,回收目标主要是针对常量池的回收和堆类型的卸载

3.根据Java虚拟机规范的规定,当方法区无法满足内存分配需求时,将抛出OutOfMemoryError异常

2.2.6 运行时常量池

1.运行时常量池(Runtime Constant Pool)是方法区的一部分,Class文件中除了有类的版本,字段,方法,接口等描述信息外,还有一项信息是常量池,用于存放编译器生成的各种字面量和符号引用,这部分内容将在类加载后进入方法区的运行时常量池中存放

2.一般来说,除了保存Class文件中描述的符号引用外,还会把翻译出来的直接引用也存储在运行时常量池中

3.运行时常量池相对于Class文件常量池的另外一个重要特征是具备动态性,Java语言并不要求常量一定只有编译期才能产生,也就是并非预置入Class文件中常量池的内容才能进入方法区运行时常量池,运行期间也可能将新的常量放入池中,这种特性被开发人员利用比较多的就是String类的intern()

4.当常量池无法再申请到内存时将抛出OutOfMemoryError异常

 2.2.7 直接内存

1.直接内存并不是虚拟机运行时数据区的一部分,也不是Java虚拟机规范中定义的内存区域

2.在JDK1.4中新加入了NIO(New Input/Output)类,引入了一种基于通道(Channel)与缓冲区(Buffer)的I/O方式,它可以使用Native函数库直接分配堆外内存,然后通过一个存储在Java堆中的DirectByteBuffer对象作为这块内存的引用进行操作,这样能在一些场景中显著提高性能,因为避免了在Java堆和Native堆中来回复制数据

3.在配置虚拟机参数时,会根据实际内存设置-Xmx等参数信息,但经常忽略直接内存,使得各个内存区域总和大于物理内存限制(包括物理的和操作系统级的限制),从而导致动态扩展时出现OutOfMemoryError异常

2.3 HotSpot虚拟机对象探秘

以下以虚拟机HotSpot和常用的内存区域Java堆为例,深入探讨HotSpot虚拟机在Java堆中对象分配,布局和访问的过程

2.3.1 对象的创建

1.虚拟机遇到一条new指令时,首先将去检查这个指令的参数是否能在常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已被加载,解析和初始化过,如果没有,那必须先执行相应的类加载过程。

2.在类加载检查通过后,接下来虚拟机将为新生对象分配内存,对象所需内存的大小在类加载完成后便可完全确定,为对象分配空间的任务等同于把一块确定大小的内存从Java堆中划分出来。

3.如果Java堆中内存是绝对规整的,所有用过的内存都放在一边,空闲的内存放在另一边,中间放着一个指针作为分界点的指示器,那所分配内存就仅仅是把那个指针向空闲空间那边挪动一段与对象大小相等的距离,这种分配方式成为"指针碰撞"

   如果Java堆中的内存并不是规整的,已使用的内存和空闲的内存相互交错,那就没办法简单地进行指针碰撞,虚拟机必须维护 一个列表,记录哪些内存是可用的,在分配的时候从列表中找到一块足够大的空间划分给对象实例,并更新列表上的记录,这种分配方式成为"空间列表"，使用哪种分配方式由Java堆是否规整决定,而Java堆是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定。

4.即使仅仅修改一个指针所指向的位置,在并发情况下也并不是线程安全的,可能出现正在给对象A分配内存,指针还没来得及修改,对象B又同时使用了原来的指针来分配内存的情况,解决这个问题有两种方案：

 1）一种是对分配内存空间的动作进行同步处理,实际上虚拟机采用CAS配上失败重试的方式保证更新操作的原子性；

2）另一种是把内存分配的动作按照线程划分在不同的空间之中进行,即每个线程在Java堆中预先分配一小块内存,称为本地线程分配缓冲,哪个线程要分配内存,就在哪个线程的TLAB上分配,只有TLAB用完并分配新的TLAB时,才需要同步锁定。

 5.内存分配完成后,虚拟机需要将分配到的内存空间都初始化为零值(不包括对象头),如果使用TLAB,这一工作过程也可以提前至TLAB分配时进行,这一步操作保证了对象的实例字段在Java代码中可以不赋初始值就直接使用,程序能访问到这些字段的数据类型所对应的零值。

6.虚拟机对对象进行必要的设置,例如这个对象是哪个类的实例,如何才能找到类的元数据信息,对象的哈希码,对象的GC分代年龄等信息,这些信息存放在对象的对象头(Object Header)之中。

7.完成以上步骤后,从虚拟机视角,一个新的对象已经产生了,但从Java程序的视角来看,对象的init方法还没有执行,所有的字段都还为零,执行完init方法后,一个可用的对象才被完全创建出来。

 2.3.2对象的内存布局

1.在HotSpot虚拟机中,对象在内存中存储的布局可以分为3块区域:对象头,实例数据和对齐填充

2.对象头包括两部分信息,第一部分用于存储对象自身的运行时数据,如哈希码,GC分代年龄,锁状态标志,线程持有的锁,偏向 锁ID,偏向时间戳等，另一部分是类型指针,即对象指向它的元数据的指针,虚拟机通过这个指针来确定这个对象是哪个类的实例,并不是所有的虚拟机实现都必须在对象数据上保留类型指针,换句话说,查找对象的元数据信息并不一定要经过对象本身,如果对象是一 个Java数组,那么对象头中还必须有一块用于记录数组长度的数据,因为虚拟机可以通过普通Java对象的元数据信息确定 Java对象的大小,但是从数据的元数据中却无法确定数组的大小

3.实例数据部分是对象真正存储的有效信息,也是在程序代码中所定义的各种类型的字段内容,无论是从父类继承下来的还是 在子类中定义的,都需要记录下来

4.对齐填充并不是必然存在的,它仅仅起着占位符的作用,HotSpot自动内存管理系统要求对象起始地址必须是8字节的整数倍,换句话说,就是对象的大小必须是8字节的整数倍而对象头部分正好是8字节的倍数(1倍或者2倍),因此,当对象实例 数据部分没有对齐时,就需要通过对齐填充来补全

2.3.3 对象的访问定位

Java程序需要通过栈上的reference数据来操作堆上的具体对象,由于reference类型在Java虚拟机规范中只规定了一个指向对象的引用,并没有定义这个引用应该通过何种方式去定位,访问堆中的对象的具体位置,所以对象访问方式也是取决于虚拟机实现而定的,目前主流的访问方式有使用句柄和直接指针两种

1.句柄访问:Java堆中会划分一块内存来作为句柄池,reference中存储的就是对象的句柄地址,而句柄中包含了对象实例数据与类型数据各自的具体地址信息。

2.直接指针访问:Java堆对象的布局中必须考虑如何放置访问类型数据的相关信息,而reference中存储的直接就是对象地址。

两种对象访问方式各有优势,使用句柄来访问的最大好处是reference中存储的是稳定的句柄地址,在对象被移动(垃圾收集时移动对象是非常普遍的行为)时只会改变句柄中的实例数据指针,而reference本身不需要修改，使用直接指针访问的最大好处是速度快,它节省了一次指针定位的时间开销,由于对象的访问在Java中非常频繁,因此这类开销积少成多后也是一项非常可观的执行成本,Sun HotSpot使用第二种方式进行对象访问

2.4 实战:OutOfMemoryError异常

在Java虚拟机规范的描述中,除了程序计数器外,虚拟机内存的其他几个运行时区域都有发生OutOfMemoryError异常的可能

2.4.1 Java堆溢出

Java堆用于存储对象实例,只要不断的创建对象,并且保证GC Roots到对象之间有可达路径来避免垃圾回收机制清除这些对象,那么在对象数量达到最大堆的容量限制后就会产生内存溢出异常

// Java堆内存溢出异常测试
public class HeapOOM {
 
    static class OOMObject{
    }
 
    public static void main(String[] args) {
        List<OOMObject> list = new ArrayList<OOMObject>();
        while (true){
            list.add(new OOMObject());
        }
    }
}

当Java堆内存溢出时,异常堆栈信息"java.lang.OutOfMemoryError"和"Java heap space"提示

要解决这个问题,重点是确认内存中的对象是否是必要的,也就是先分析是出现了内存泄漏还是内存溢出

如果是内存泄漏,可通过工具查看泄漏对象到GC Roots的引用链,于是就能找到泄漏对象是通过怎样的路径与GC Roots相关联并导致垃圾收集器无法自动回收它们,掌握了泄漏对象的类型信息及GC Roots引用链的信息,就可以比较准确的定位出泄漏代码的位置

如果不存在泄漏,换句话说,就是内存中的对象确实都还必须存货着,那就应该检查虚拟机的堆参数(-Xmx 与 -Xms),与机器物理内存对比看是否还可以调大,从代码上检查是否存在某些对象生命周期过长,持有状态时间过长的情况,尝试减少程序运行期的内存消耗

2.4.2 虚拟机栈和本地方法栈溢出

HotSpot虚拟机并不区分虚拟机栈和本地方法栈,关于虚拟机栈和本地方法栈,在Java虚拟机规范中描述了两种异常:

1.如果线程请求和栈深度大于虚拟机所允许的最大深度,将抛出 StackOverflowError异常

2.如果虚拟机在扩展栈时无法申请到足够的内存空间,则抛出 OutOfMemoryError 异常

 在单线程下,无论是由于栈帧太大还是虚拟机栈容量太小,当内存无法分配时,虚拟机抛的都是 StackOverflowError异常

// 虚拟机和本地方法栈OOM单线程测试,结果抛出java.lang.StackOverflowError
public class JavaVMStackSOF {
    private int stackLength = 1;
    public void stackLeak(){
        stackLength++;
        stackLeak();
    }
 
    public static void main(String[] args)throws Throwable {
        JavaVMStackSOF oom = new JavaVMStackSOF();
        try{
            oom.stackLeak();
        }catch (Throwable e){
            System.out.println("Stack length:"+oom.stackLength);
            throw e;
        }
    }
}

通过不断的建立线程可以产生内存溢出异常,但这样产生的内存溢出异常和栈空间是否足够大并不存在任何联系,在这种情况下,为每个线程的栈分配的内存越大,反而容易产生内存溢出异常,主要是因为操作系统分配给每个进程的内存是有限制的,每个线程分配到的栈容量越大,可以建立的线程数量就越少,所以有时候可以通过减少每个线程所分内存的大小来解决内存溢出
 

// 创建多线程导致内存溢出异常,运行结果报 java.lang.OutOfMemoryError
public class JavaVMStackSOF {
 
    public void dontStop(){
        while(true){
        }
    }
    
    public void stackLeakByThread(){
        while (true){
            Thread thread = new Thread(new Runnable() {
                @Override
                public void run() {
                    dontStop();
                }
            });
            thread.start();       
        }
    }
    
    
 
    public static void main(String[] args)throws Throwable {
        JavaVMStackSOF oom = new JavaVMStackSOF();
        oom.stackLeakByThread();
    }
}

2.4.3 方法区和运行时常量池溢出

运行时常量池是方法区的一部分,方法区用于存放Class的相关信息,如类名,访问修饰符,常量池,字段描述,方法描述等,方法区溢出也是一种常见的内存溢出异常,一个类要被垃圾收集器回收掉,判定条件是比较苛刻的,在经常动态生成大量的Class的应用中,需要特别注意类的回收状况,这类场景包括CGLib字节码增强和动态语言,大量JSP或动态产生JSP文件的应用(JSP第一次运行时需要编译为Java类),基于OSGi的应用(即使是同一个类文件,被不同的加载器加载也会视为不同的类)等

2.4.4 本机直接内存溢出

DirectMemory容量可以通过-XX:MaxDirectMemorySize指定,如果不指定,则默认与Java堆最大值(-Xmx指定)一样,申请分配内存的方法是unsafe.allocateMemory

// 使用unsafe分配本机内存
public class DirectMemoryOOM {
 
    private static final int _1MB = 1024*1024;
 
    public static void main(String[] args) {
        Field unsafeField = Unsafe.class.getDeclaredFields()[0];
        unsafeField.setAccessible(true);
        Unsafe unsage = null;
        try {
            unsage = (Unsafe)unsafeField.get(null);
        } catch (IllegalAccessException e) {
            e.printStackTrace();
        }
        while (true){
            unsage.allocateMemory(_1MB);
        }
 
    }
}

由DirectMemory导致的内存溢出,一个明显的特征是在Heap Dump文件中不会看见明显的异常,如果发现OOM之后Dump文件很小,而程序中又直接或间接使用了NIO,那么就可以考虑检查一下这方面的原因