Android StringBuffer 内存碎片优化

前言

在java代码中,字符串拼接是经常存在的事情,使用最多的地方也就是日志输出了。在手机设备上,日志的重要性可能没那么多,但是在iOT设备上,日志往往是救命稻草,因为设备种类多,最重要的是绝大部分厂商不会给你adb入口,因此,像手机领域一些删除日志指令的优化,显然不太合适。

关于内存碎片

我们知道,同一类型的对象反复创建和销毁会产生一定的内存碎片,如果回收速度较快且创建速度慢的话会出现明显的内存抖动,如果回收速度不理想,会朝着OutOfMemoryError的终极目标走去。说到这里,如果回收速度很快,是不是觉得内存抖动也没什么?显然是不正确的,事实是,任何内存碎片都是有危害的,只不过影响程度不同罢了。对于一些需要连续地址的大对象,危害最大。

注意:内存碎片触发OutOfMemoryError并不一定是内存空间不够了,也有可能是没有找到连续的内存地址。

我们来举个例子: 一些超密集任务情况下LinkedList会频繁创建Node,但是相比ArrayList频繁扩容以及元素变少的时候仍然不释放内存相比,显然前者更好。但是如果任务最大数量和ArrayList容量一样,那么后者显然要比前者好得多。

因此,内存碎片中危害最大的显然是大对象。

注意: 我们这里所说的内存碎片实际上是虚拟内存地址,在实际开发中,物理内存不连续是必然的事,因为涉及内存的分配其实是很复杂的,操作系统有自身的机制去处理这种问题。虚拟内存的不连续是影响app直接因素,因为用户态申请内存往往都是申请虚拟内存。补充一个知识点:在linux中,虚拟内存是可以大于物理内存的,只有写操作时才会真正申请物理内存,这就是为什么malloc申请内存后需要memset填充0或1这种数据的原因。

什么是大对象

大对象确切的说不是包含成员内存总量,而是单一对象除去引用部分超过一定阈值就称为大对象,当超过一定阈值时,就会直接分配到老年代内存区域,一般来说这个阈值默认是12K,而一般能超过此阈值的不是数组就是字符串。

但是,能方便优化的的数组类型只有8种基本类型和常量字符串。

在Android中,你使用最多的非基本类型对象就是字符串了,前面我们说过,字符串一般都有大对象的潜力,在JDK 1.7之后,对字符串常量池进行了特殊的堆空间优化,将其存储位置改为堆空间,同时对intern进行了改造,1.7之前调用intern会复制对象到常量池,1.7之后会将对象的引用添加到常量池中,以此来减少字面量字符串,也就是我们所说的字符串常量。这仅仅做到了对字符串常量的优化。然而,非常量的字符串依旧没有取得较好的优化方法。

不过在Android中,String类是空实现,google在指令执行阶段应该会做一些优化。

对于数组而言,如果他的分配过程内存不连续,相比连续内存的分配危害可能并不大,而连续地址的分配不仅耗时,而且还需要收集各种地址信息。

字符串和数组的特性就是内存连续的,因此数组碎片相比普通碎片更容易造成OOM。

StringBuffer 内存碎片问题

我们知道,javac和kotlinc负责对代码的前端编译,主要是转换代码为字节码,但是对于String的“加法(str1+ str2 … )”对象的处理会按两种情况处理:

常量传播:

对于无引用常量直接合并为新的字符串,对于有引用的final常量同样进行合并,但是这里有个前提,只限于常量,对于final修饰的引用类型,除了字符串字面量外,包括非常量字符串在类的其他对象不进行优化。

后续我们来说常量传播,因为常量传播还涉及类和对象的初始化,会有很多面试题的解法。

final String m = "10";  
String b = "a" + "b" + 15 + m;

等价于下面代码

String b = "ab1510";

对字符串直接合并,另外m一般也会优化,因为m的已经没有存在的意义了,因此会对m进行擦除,这个优化法叫做:“常量字段消除”

通过StringBuilder拼接:

我们稍微改下,就能产生不同的效果

String m = "10";   // 或者 String m = new String("10"); 
String b = "a" + "b" + 15 + m;

等价下面代码

String m = "10";
(new StringBuilder()).append("ab15").append(m).toString();

为什么会出现这种情况呢? 我们知道,String是不可变对象(不可变对象和是不是常量不是绝对关系),但是如果其本身是引用类型,为了防止引用类型多次变动,因此是不会常量传播的,必然会通过保守方式产生String才行。前端编译中,javac和kotlinc使用了StringBuilder来实现这个目的。

很多关于String加法的优化中,使用StringBuilder来代替加法,这种情况显然是还要考虑另外一种情况,如果加法连续是一整句,那么其性能是高于多句的情况。

一般来说建议写成下面的

  String str = "a="+a+", b="+b+", c="+c;

而不是

  String str = "a="+a;
  str + = ", b="+b;
  str += ", c="+c;

显然前者没必要优化,因为javac/kotlinc会帮助处理。但是后者问题就比较大大了,在整个逻辑执行完成总共需要创建3个StringBuilder,那么显然造成了不必要的内存碎片。

StringBuilder 内存碎片问题

理论上来说,普通对象的内存碎片危害可能没有那么大,因为其内存分配本身就是不需要地址连续,但是StringBuilder是不同的,我们在StringBuilder源码中就能发现,其本身持有了char数组,那么内存地址需要连续,其扩容会造成较大的内存岁。有些情况,数组可能不大,但是连续的申请空间会提高OOM的概率,

这里补充一点,char类型占2个字节,每一个字符意味着需要占2个bytes

StringBuilder 内存碎片优化

享元模式

我们知道,优化内存碎片最好的方式就是内存复用,比如Bitmap解码时的inBitmap机制,比如Message对象消息池。

不过,这里仍然有个问题,单线程中任意复出问题的机率很低,但是对于String加法这种情况,可能产生多线程竞争问题,因此,合理的调用机制非常重要。很好,你一定想到了ThreadLocal了吧,显然使用ThreadLocal是可以的,还有使用WeakHashMap也是可以的,不过这里我们使用ThreadLocal,因为这种实现逻辑会更简单,毕竟你更熟悉ThreadLocal而不是WeakHashMap。

另外,我们要知道,解决内存复用的最佳手段是“享元模式”,因此,我们这里利用享元模式来实现StringBuilder的复用。

public class StringBuilderFactory {
    final static ThreadLocal<LinkedList<StringBuilder>> pool = new ThreadLocal<LinkedList<StringBuilder>>() {
        @Nullable
        @Override
        protected LinkedList<StringBuilder> initialValue() {
            //懒加载机制,get时会判断要不要创建
            return new LinkedList<StringBuilder>();
        }
    };
    //每个线程最大持有的StringBuilder缓存数量
    public static final int MAX_ITEM_EACH_THREAD = 5;
    //被复用的StringBuilder容量不能小于10字节
    public static final int MIN_CAPACITY = 5;
   //被复用的StringBuilder容量不能大于512k,实际情况以你项目为准
    public static final int MAX_CAPACITY = 128 * 1024;

    public static StringBuilder obtain() {
        LinkedList<StringBuilder> builders = pool.get();
        if (builders == null || builders.isEmpty()) {
            return new StringBuilder();
        }
        return builders.pop();
    }
// 回收方法
    public static void recycle(StringBuilder sb) {
        if (sb == null || sb.capacity() < MIN_CAPACITY || sb.capacity() > MAX_CAPACITY) {
            return;  //小于MIN_CAPACITY的容量的对象,不回收了,意义不大
        }
        LinkedList<StringBuilder> builders = pool.get();
        if (builders.size() < MAX_ITEM_EACH_THREAD) { 
            //缓存池超过的不回收
            sb.setLength(0);
            builders.offer(sb);
        }
    }
}

替换问题

作为一个开发人员,我想你也一样,把String➕String的写法显然已经当成了一种习惯,如果让你主动去替换那么多String➕String,你心情肯定不会好。

可变参数方法

怎么办?封装成可变长方法?

我们以下面的方法为例子

public static String $(Object... arrs) {
    if (arrs != null && arrs.length != 0) {
        StringBuilder obtain = StringBuilderFactory.obtain();

        for(int i = 0; i < arrs.length; ++i) {
            obtain.append(i);
        }

        String s = obtain.toString();
        StringBuilderFactory.recycle(obtain);
        return s;
    } else {
        return null;
    }
}

那么用法

String str = $("a=",a,"b=",b,"c=",c)

这种方法显然是可以的,虽然➕变成了逗号,总之还能用。

但是,仍然不够最优:

假设我们再新增一个方法$(Object[] arrs),那么此时会编译报错,显然,Object… arrs只不过是Object数组的变形,而字节码方法恰好说明了这点。

public varargs $S([Ljava/lang/Object;)Ljava/lang/String;

这就好比你传参数的时候又创建了数组,显然这种做法并不是最优的方法。另外我们传入的Object数组,如果走的方式是String.append(Object),那么其性能也不太理想,不过,话说回来在一些简单的情况下,这种方法也是可以的。

但是你会发现,仍然没有写String➕String写的顺手,你大概率也不喜欢这种苦差事。

那么有没有更好的办法呢 ?

再谈StringBuilder扩展问题

其实作为一个开发者,一般情况下使用StringBuilder的情况是少于String➕String的,但是由于Javac和kotlinc的编译优化,使得StringBuilder用法比源代码要多很多。

那么有办法优化StringBuilder么?

一个悲观的消息是,StringBuilder是被final修饰,而其基类只有同包名可以访问,在java中,一些final的修饰使得一些类可扩展性很差,就比如URL类也是封装的很差劲,但你想去改造却非常困难。

因此,我们的优化就得另类一些了,这里我们可以通过ASM替换指令。为什么这么做呢,主要原因是编译前替换难度是比较大的,最好还是编译后替换。

基于ASM 方法替换

我们其实可以创建一个普通对象,让其代理持有StringBuilder即可,为什么这种方法可行呢?我们从前面看到,生成的代码中,以构造方法开始,以toString结束,实际上这个是非常有规律的,我们只需要在new 对象的时候替换为 StringBuilderFactory.obtain()来创建StringBuilder,在toString时进行回收即可。

String m = "10";
(new StringBuilder()).append("ab15").append(m).toString();

接下来,我们定义一个StringBuilderDelegate,下面方法没有那么完整,只实现了部分方法。

public class StringBuilderDelegate {
    StringBuilder stringBuilder;

    public StringBuilderDelegate() {
        this.stringBuilder = StringBuilderFactory.obtain();
    }
    public StringBuilderDelegate(String str) {
        this.stringBuilder = StringBuilderFactory.obtain();
        append(str);
    }
   
    public StringBuilderDelegate(int c) {
        this.stringBuilder = StringBuilderFactory.obtain();
        // 这里我们忽略自带容量的构造方法,避免太复杂的筛选
    }

    public StringBuilderDelegate append(Object obj) {
        this.stringBuilder.append(obj);
        return this;
    }

    public StringBuilderDelegate append(String str) {
        this.stringBuilder.append(str);
        return this;
    }

    public StringBuilderDelegate append(int value) {
        this.stringBuilder.append(value);
        return this;
    }
    
    //一些其他方法,因篇幅有限,你自己实现吧

    @Override
    public String toString() {
        String msg = stringBuilder.toString();
        StringBuilderFactory.recycle(stringBuilder);
        return msg;
    }
}

下一步,字节码替换,我们通过asm将StringBuilder的调用替换为StringBuilderDelegate的即可。

这里我们可以使用来实现

com.android.build.api.instrumentation.AsmClassVisitorFactory

不过,我们涉及到要替换的方法比较多,比如new StringBuilder() 也需要处理:

  • 构造方法有多个 (负责obtain)
  • 所有的StringBuilder公开方法
  • toString方法 (负责回收)

我们使用asm工具实现,那么转换结果要达到StringBuilder替换为StringBuilderDelegate

我们以StrinjavagBuilder#append(String str) 为例子

if (opcode == Opcodes.INVOKEVIRTUAL && owner == "java/lang/StringBuilder" && name == "append" && descriptor == "(Ljava/lang/String;)Ljava/lang/StringBuilder;") {
    mv.visitMethodInsn(
        Opcodes.INVOKESTATIC,
        "opcode/kit/StringBuilderDelegate",
        "append",
        "(Ljava/lang/String;)Lopcode/kit/StringBuilderDelegate;",
        false
    )
}

风险防范

实际上这里有一些比较大的风险就是方法逃逸,如果方法返回的是StringBuilder对象,该如何处理? 另外我们使用StringBuilderDelegate也会产生内存碎片,这个怎么处理?另外,如果多次toString调用,那第后续是不是没有数据了?

  • 对于第一个问题,这种风险很大,如果这种情况,风险其实很大,稍有处理不当就会出现问题。因此,我们需要限制替换范围,同时优化编码,减少方法逃逸。当然,private方法理论上是最安全的,只要不存在逃逸问题。
  • 对于第二个问题,StringBuilderDelegate不属于大对象,内存分配不需要连续的地址,即便不使用StringBuilderDelegate也会有StringBuilder 创建。
  • 第三个问题显然也是风险点,只能从编码角度处理

适用范围

  • 存在大量拼接的的情况,循环体、方法体、线程上存在很多拼接写入的日志,这个时候要尽可能做到StringBuilder 内存复用
  • 内存小或回收慢的情况

疑问解答

Q: StringBuilder在方法体中使用后就会回收,为什么还要优化呢?
A: StringBuilder中数据是通过char类型数组存储,需要连续的内存地址,但连续的内存地址如果快速申请或者申请多个不释放,比如一个方法体内创建多个StringBuilder对象,再去申请就很容易OOM

Q: 使用ThreadLocal 遇上线程池会有内存泄露的bug ?
A: ThreadLocal内存泄露的原因并不是ThreadLocal本身的问题,而是用法的问题,ThreadLocal泄露的两种处理方法是线程销毁或者ThreadLocal销毁。那遇上线程池本篇的用途是不是就没用了?恰恰相反,在一个app优化中,线程收敛是很重要的,理论上不应该担心这些问题,除非你一直在创建线程且无法销毁和收敛,导致内存泄露,这显然是app开发者自身的问题。正常情况下,能使用StringBuilder的线程池,下次使用StringBuilder的机率仍然很大,不会因为线程池的使用内存无限增大的。

不过对于线程池优化没有任何概念的开发者而言,我们假设线程他知道一些线程名称,可以对未知的线程通过白名单屏蔽。

public static void recycle(StringBuilder sb) {

  if(!inThreadWhiteList(Thread.currentThread())){
     return;
  }

        if (sb == null || sb.capacity() < MIN_CAPACITY || sb.capacity() > MAX_CAPACITY) {
            return;  //小于MIN_CAPACITY的容量的对象,不回收了,意义不大
        }
        LinkedList<StringBuilder> builders = pool.get();
        if (builders.size() < MAX_ITEM_EACH_THREAD) { 
            //缓存池超过的不回收
            sb.setLength(0);
            builders.offer(sb);
        }
    }
}

另外,如果实在不放心,也未必一定要使用ThreadLocal,我们可以使用一个普通的数据链表,在不同线程中使用,要记住的是是obtain和recycle需要和android.os.Message一样: 使用时加锁即可。

Q: 使用本方案后代码变长了 ?
A:我不知道是不是说StringBuilderDelegate比StringBuilder长?实际上在字节码执行时,是没有这个长短概念,不过包体积优化可能会有影响,如果纯粹追求更短的代码,开启混淆或者重命名StringBuilderDelegate为更短的不就行了?

最后

如果想要成为架构师或想突破20~30K薪资范畴,那就不要局限在编码,业务,要会选型、扩展,提升编程思维。此外,良好的职业规划也很重要,学习的习惯很重要,但是最重要的还是要能持之以恒,任何不能坚持落实的计划都是空谈。

如果你没有方向,这里给大家分享一套由阿里高级架构师编写的《Android八大模块进阶笔记》,帮大家将杂乱、零散、碎片化的知识进行体系化的整理,让大家系统而高效地掌握Android开发的各个知识点。
img
相对于我们平时看的碎片化内容,这份笔记的知识点更系统化,更容易理解和记忆,是严格按照知识体系编排的。

欢迎大家一键三连支持,若需要文中资料,直接扫描文末CSDN官方认证微信卡片免费领取↓↓↓(文末还有ChatGPT机器人小福利哦,大家千万不要错过)

PS:群里还设有ChatGPT机器人,可以解答大家在工作上或者是技术上的问题
图片

  • 27
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值