关于栈上分配和TLAB的理解

引言

我们知道，一般在java程序中，new的对象是分配在堆空间中的，但是实际的情况是，大部分的new对象会进入堆空间中，而并非是全部的对象，还有另外两个地方可以存储new的对象，我们称之为栈上分配以及TLAB

---

栈上分配

为什么需要栈上分配

在我们的应用程序中，其实有很多的对象的作用域都不会逃逸出方法外，也就是说该对象的生命周期会随着方法的调用开始而开始，方法的调用结束而结束，对于这种对象，是不是该考虑将对象不在分配在堆空间中呢？

因为一旦分配在堆空间中，当方法调用结束，没有了引用指向该对象，该对象就需要被gc回收，而如果存在大量的这种情况，对gc来说无疑是一种负担。

什么是栈上分配

因此，JVM提供了一种叫做栈上分配的概念，针对那些作用域不会逃逸出方法的对象，在分配内存时不在将对象分配在堆内存中，而是将对象属性打散后分配在栈（线程私有的，属于栈内存）上，这样，随着方法的调用结束，栈空间的回收就会随着将栈上分配的打散后的对象回收掉，不再给gc增加额外的无用负担，从而提升应用程序整体的性能

栈上分配如何开启

栈上分配需要有一定的前提

• 开启逃逸分析 (-XX:+DoEscapeAnalysis)

逃逸分析的作用就是分析对象的作用域是否会逃逸出方法之外，再server虚拟机模式下才可以开启（jdk1.6默认开启）

• 开启标量替换 (-XX:+EliminateAllocations)

标量替换的作用是允许将对象根据属性打散后分配再栈上，默认该配置为开启

如何查看逃逸分析的筛选结果

可以通过配置 -XX:+PrintEscapeAnalysis 开启打印逃逸分析筛选结果

---

TLAB

可能很多人会有疑惑，已经提供了栈上分配，为什么还要有什么TLAB，甚至混淆了两者之间的差别，包括我自己，之前也存在很多疑惑，下面为大家揭开原因

为什么需要TLAB

我们知道，对象分配在堆上，而堆是一个全局共享的区域，当多个线程同一时刻操作堆内存分配对象空间时，就需要进行同步，而同步带来的效果就是对象分配效率变差（尽管JVM采用了CAS的形式处理分配失败的情况），但是对于存在竞争激烈的分配场合仍然会导致效率变差。

什么是TLAB

全称叫做：Thread Local Allocation Buffer 即线程本地分配缓存

那么能不能构造一种线程私有的堆空间，哪怕这块堆空间特别小，但是只要有，就可以每个线程在分配对象到堆空间时，先分配到自己所属的那一块堆空间中，避免同步带来的效率问题，从而提高分配效率

如何开启TLAB

JVM默认开启了TLAB功能，也可以使用-XX: +UseTLAB 显示开启

如何观察TLAB使用情况

JVM提供了-XX:+PrintTLAB 参数打开跟踪TLAB的使用情况

如何调整TLAB默认大小

-XX:TLABSize 通过该参数指定分配给每一个线程的TLAB空间的大小

总结一下TLAB：

需要TLAB的原因就是提高对象在堆上的分配效率而采用的一种手段，就是给每个线程分配一小块私有的堆空间，即TLAB是一块线程私有的堆空间（实际上是Eden区中划出的）

---

栈上分配和TLAB对比

名称	针对点	处于对象分配流程的位置
栈上分配	避免gc无谓负担	1
TLAB	加速堆上对象的分配	2

---

对象分配流程图

图片摘自实战Java虚拟机一书

对象分配流程图

 

2. 栈上分配

    2.1 本质：Java虚拟机提供的一项优化技术

    2.2 基本思想： 将线程私有的对象打散分配在栈上

    2.3 优点：

       2.3.1 可以在函数调用结束后自行销毁对象，不需要垃圾回收器的介入，有效避免垃圾回收带来的负面影响

       2.3.2 栈上分配速度快，提高系统性能

    2.4 局限性： 栈空间小，对于大对象无法实现栈上分配

    2.4 技术基础： 逃逸分析

        2.4.1 逃逸分析的目的： 判断对象的作用域是否超出函数体[即:判断是否逃逸出函数体]

//user的作用域超出了函数setUser的范围,是逃逸对象
//当函数结束调用时，不会自行销毁user
private User user;
public void setUser(){
    user = new User();
    user.setId(1);
    user.setName("blueStarWei");
}

//u只在函数内部生效，不是逃逸对象
//当函数调用结束，会自行销毁对象u
public void createUser(){
    User u = new User();
    u.setId(2);
    u.setName("JVM");
}

 

    2.5 栈上分配示例

package com.blueStarWei.templet;

public class AllotOnStack {

    public static void main(String[] args) {
        long start = System.currentTimeMillis();
        for (int i = 0; i < 100000000; i++) {
            alloc();
        }
        long end = System.currentTimeMillis();
        System.out.println(end - start);
    }

    private static void alloc() {
        User user = new User();
        user.setId(1);
        user.setName("blueStarWei");
    }
}

        2.5.1 上述代码调用了1亿次alloc()，如果是分配到堆上，大概需要1.5GB的堆空间，如果堆空间小于该值，必然会触发GC。

        2.5.2 使用如下参数运行，发现不会触发GC

-server -Xmx15m -Xms15m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-UseTLAB -XX:+EliminateAllocations

       2.5.3 使用如下参数（任意一行）运行，会发现触大量ＧＣ

//不使用逃逸分析
-server -Xmx15m -Xms15m -XX:－DoEscapeAnalysis -XX:+PrintGC -XX:-UseTLAB -XX:+EliminateAllocations

//不使用标量替换
-server -Xmx15m -Xms15m -XX:＋DoEscapeAnalysis -XX:+PrintGC -XX:-UseTLAB -XX:－EliminateAllocations

        2.5.3.1 可以发现：栈上分配依赖于逃逸分析和标量替换 

    2.5.4 GC日志

[GC (Allocation Failure)  4095K->528K(15872K), 0.0025208 secs]
[GC (Allocation Failure)  4624K->552K(15872K), 0.0012518 secs]
[GC (Allocation Failure)  4648K->608K(15872K), 0.0009262 secs]
......(省略)
3718

        2.5.4.1 GC日志解析

参数	作用	备注
GC	用来区分是 Minor GC 还是 Full GC 的标志(Flag).	这里的 GC 表明本次发生的是 Minor GC.
Allocation Failure	引起垃圾回收的原因.	本次GC是因为年轻代中没有任何合适的区域能够存放需要分配的数据结构而触发的.
4095K->528K	在本次GC之前和之后的年轻代内存使用情况.	本次GC前，年轻代使用空间4095K, GC后年轻代使用空间为528K
(15872K)	年轻代的总的大小
0.0025208 secs	本次GC使用时间（单位：秒）

      2.5.5 JVM参数解析

参数	作用	备注
-server	使用server模式	只有在server模式下，才可以弃用逃逸分析
-Xmx15m	设置最大堆空间为15m	如果在堆上分配，必然触发大量GC
-Xms15m	设初始对空间为15m
-XX:+DoEscapeAnalysis	启用逃逸分析	默认启用
-XX:-DoEscapeAnalysis	关闭逃逸分析
-XX:+PrintGC	打印ＧＣ日志
-XX:-UseTLAB	关闭TLAB	TLAB(Thread Local Allocation Buffer) 线程本地分配缓存区
-XX:+EliminateAllocations	启用标量替换，允许对象打散分配到栈上	默认启用
-XX:-EliminateAllocations	关闭标量替换

 

3. TLAB 分配

　　TLAB，全称Thread Local Allocation Buffer, 即：线程本地分配缓存。这是一块线程专用的内存分配区域。TLAB占用的是eden区的空间。在TLAB启用的情况下（默认开启），JVM会为每一个线程分配一块TLAB区域。

    3.1 为什么需要TLAB？

　　这是为了加速对象的分配。由于对象一般分配在堆上，而堆是线程共用的，因此可能会有多个线程在堆上申请空间，而每一次的对象分配都必须线程同步，会使分配的效率下降。考虑到对象分配几乎是Java中最常用的操作，因此JVM使用了TLAB这样的线程专有区域来避免多线程冲突，提高对象分配的效率。

    3.2 局限性： TLAB空间一般不会太大（占用eden区），所以大对象无法进行TLAB分配，只能直接分配到堆上。

    3.3 分配策略：

　　一个100KB的TLAB区域，如果已经使用了80KB，当需要分配一个30KB的对象时，TLAB是如何分配的呢？

　   此时，虚拟机有两种选择：第一，废弃当前的TLAB（会浪费20KB的空3.4 间）；第二，将这个30KB的对象直接分配到堆上，保留当前TLAB（当有小于20KB的对象请求TLAB分配时可以直接使用该TLAB区域）。

　　JVM选择的策略是：在虚拟机内部维护一个叫refill_waste的值，当请求对象大于refill_waste时，会选择在堆中分配，反之，则会废弃当前TLAB，新建TLAB来分配新对象。

　　【默认情况下，TLAB和refill_waste都是会在运行时不断调整的，使系统的运行状态达到最优。】

    3.4 JVM参数解析

参数	作用	备注
-XX:+UseTLAB	启用TLAB	默认启用
-XX:TLABRefillWasteFraction	设置允许空间浪费的比例	默认值：64，即：使用1/64的TLAB空间大小作为refill_waste值
-XX:-ResizeTLAB	禁止系统自动调整TLAB大小
-XX:TLABSize	指定TLAB大小	单位：B

4. 附件 

    4.1 User类

packagepackag  com.blueStarWei.templet;

public class User {

    private int id;
    
    private String name;

    public int getId() {
        return id;
    }

    public void setId(int id) {
        this.id = id;
    }

    public String getName() {
        return name;
    }

    public void setName(String name) {
        this.name = name;
    }
    
    
}

5. 参考文献

    5.1 《实战Java虚拟机 - JVM故障诊断与性能优化》

    5.2  栈上分配、TLAB ： https://blog.csdn.net/yangsnow_rain_wind/article/details/80434323

    5.3  快速解读GC日志 ： https://blog.csdn.net/renfufei/article/details/49230943