字节跳动：IO优化是怎么做的，使用 SharedPreferences为什么这么卡，mmkv原理是什么

2301_82257730

于 2024-05-09 19:15:05 发布

阅读量363

点赞数 3

分类专栏：程序员文章标签： jvm

本文链接：https://blog.csdn.net/2301_82257730/article/details/138627487

版权

程序员专栏收录该内容

237 篇文章 1 订阅

订阅专栏

我们很愉快地提供了 Ashmem MMKV 的功能。

数据加密

不像 iOS 提供了硬件层级的加密机制，在 Android 环境里，数据加密是非常必须的。

MMKV 使用了 AES CFB-128 算法来加密/解密。我们选择 CFB 而不是常见的 CBC 算法，

主要是因为 MMKV 使用 append-only 实现插入/更新操作，流式加密算法更加合适。

数据有效性

1.3性能对比

我们将 MMKV 和 SharedPreferences、SQLite 进行对比, 重复读写操作 1k 次。相关测试代码在 Android/MMKV/mmkvdemo/。结果如下图表。

单进程性能

可见，MMKV 在写入性能上远远超越 SharedPreferences & SQLite，在读取性能上也有相近或超越的表现。

可见，MMKV 无论是在写入性能还是在读取性能，都远远超越 MultiProcessSharedPreferences & SQLite & SQLite， MMKV 在 Android 多进程 key-value 存储组件上是不二之选。

1.3 MMKV 原理

内存准备 通过 mmap 内存映射文件，提供一段可供随时写入的内存块，App 只管往里面写数据，由操作系统负责将内存回写到文件，不必担心 crash 导致数据丢失。
数据组织 数据序列化方面我们选用 protobuf 协议，pb 在性能和空间占用上都有不错的表现。
写入优化 考虑到主要使用场景是频繁地进行写入更新，我们需要有增量更新的能力。我们考虑将增量 kv 对象序列化后，append 到内存末尾。这样同一个 key 会有新旧若干份数据，最新的数据在最后；那么只需在程序启动第一次打开 mmkv 时，不断用后读入的 value 替换之前的值，就可以保证数据是最新有效的。
空间增长 使用 append 实现增量更新带来了一个新的问题，就是不断 append 的话，文件大小会增长得不可控。我们需要在性能和空间上做个折中。以内存 pagesize 为单位申请空间，在空间用尽之前都是 append 模式；当 append 到文件末尾时，进行文件重整、key 排重，尝试序列化保存排重结果；排重后空间还是不够用的话，将文件扩大一倍，直到空间足够。
数据有效性 考虑到文件系统、操作系统都有一定的不稳定性，我们另外增加了 crc 校验，对无效数据进行甄别。

更详细的设计原理参考 MMKV 原理。

1.4 快速上手

dependencies {

implementation ‘com.tencent:mmkv:1.0.23’

// replace “1.0.23” with any available version

}

MMKV的使用非常简单，所有变更立马生效，无需调用 sync、apply。在 App 启动时初始化 MMKV，设定 MMKV 的根目录 (默认/data/data/xxx.xxx/files/mmkv/) (sp存储在/data/data/xxx.xxx/shared_prefs/)

支持从SP迁移数据importFromSharedPreferences

MMKV 还额外实现了一遍 SharedPreferences、SharedPreferences.Editor 这两个 interface

// 可以跟SP用法一样

SharedPreferences.Editor editor = mmkv.edit();

// 无需调用 commit()

//editor.commit();

MMKV 的使用非常简单，所有变更立马生效，无需调用 sync、apply。在 App 启动时初始化 MMKV，设定 MMKV 的根目录（files/mmkv/），例如在 MainActivity 里：

protected void onCreate(Bundle savedInstanceState) {

super.onCreate(savedInstanceState);

String rootDir = MMKV.initialize(this);

System.out.println("mmkv root: " + rootDir);

//……

}

MMKV 提供一个全局的实例，可以直接使用：

import com.tencent.mmkv.MMKV;

//……

MMKV kv = MMKV.defaultMMKV();

kv.encode(“bool”, true);

boolean bValue = kv.decodeBool(“bool”);

kv.encode(“int”, Integer.MIN_VALUE);

int iValue = kv.decodeInt(“int”);

kv.encode(“string”, “Hello from mmkv”);

String str = kv.decodeString(“string”);

使用完毕的几个方法

public native void clearAll();

// MMKV’s size won’t reduce after deleting key-values

// call this method after lots of deleting f you care about disk usage

// note that clearAll has the similar effect of trim

public native void trim();

// call this method if the instance is no longer needed in the near future

// any subsequent call to the instance is undefined behavior

public native void close();

// call on memory warning

// any subsequent call to the instance will load all key-values from file again

public native void clearMemoryCache();

// you don’t need to call this, really, I mean it

// unless you care about out of battery

public void sync() {

sync(true);

}

1.5 补充适用建议

如果使用请务必做code19版本的适配，这个在github官网有说明

依赖下面这个库，然后对19区分处理

implementation ‘com.getkeepsafe.relinker:relinker:1.3.1’

if (android.os.Build.VERSION.SDK_INT == 19) {

MMKV.initialize(relativePath, new MMKV.LibLoader() {

@Override

public void loadLibrary(String libName) {

ReLinker.loadLibrary(context, libName);

}

});

} else {

MMKV.initialize(context);

}

1.6 限制

可看到，一个键会存入多分实例，最后存入的就是最新的。

MMKV 在大部分情况下都性能强劲，key/value 的数量和长度都没有限制。

然而 MMKV 在内存里缓存了所有的 key-value，在总大小比较大的情况下（例如 100M+），App 可能会爆内存，触发重整回写时，写入速度也会变慢。

支持大文件的 MMKV 正在开发中，有望在下一个大版本发布。

1.7 多进程使用

1.7.1锁 lock unlock tryLock

注意如果一个进程lock住，另一个进程mmkvWithID获取MMKV时就阻塞住，直到持有进程释放。

// get the lock immediately

MMKV mmkv2 = MMKV.mmkvWithID(LOCK_PHASE_2, MMKV.MULTI_PROCESS_MODE);

mmkv2.lock();

Log.d(“locked in child”, LOCK_PHASE_2);

Runnable waiter = new Runnable() {

@Override

public void run() {

//阻塞住直到其他进程释放

MMKV mmkv1 = MMKV.mmkvWithID(LOCK_PHASE_1, MMKV.MULTI_PROCESS_MODE);

mmkv1.lock();

Log.d(“locked in child”, LOCK_PHASE_1);

}

};

注意：如果其他进程有进行修改，不会立即触发onContentChangedByOuterProcess，

checkLoadData如果变化，会clearMemoryState，重新loadFromFile。//数据量大时不要太频繁

读取decodeXXX会阻塞住，先回调onContentChangedByOuterProcess，再返回值，保证值是最新的。

1.7.2 mmkvWithAshmemID 匿名共享内存

可以进行进程间通信，可设置pageSize

// a memory only MMKV, cleared on program exit

// size cannot change afterward (because ashmem won’t allow it)

1.7.3 测试结果

write速度： mmkv > cryptKV >> sp

最后

简历首选内推方式，速度快，效率高啊！然后可以在拉钩，boss，脉脉，大街上看看。简历上写道熟悉什么技术就一定要去熟悉它，不然被问到不会很尴尬！做过什么项目，即使项目体量不大，但也一定要熟悉实现原理！不是你负责的部分，也可以看看同事是怎么实现的，换你来做你会怎么做？做过什么，会什么是广度问题，取决于项目内容。但做过什么，达到怎样一个境界，这是深度问题，和个人学习能力和解决问题的态度有关了。大公司看深度，小公司看广度。大公司面试你会的，小公司面试他们用到的你会不会，也就是岗位匹配度。

面试过程一定要有礼貌！即使你觉得面试官不尊重你，经常打断你的讲解，或者你觉得他不如你，问的问题缺乏专业水平，你也一定要尊重他，谁叫现在是他选择你，等你拿到offer后就是你选择他了。

另外，描述问题一定要慢！不要一下子讲一大堆，慢显得你沉稳、自信，而且你还有时间反应思路接下来怎么讲更好。现在开发过多依赖ide，所以会有个弊端，当我们在面试讲解很容易不知道某个方法怎么读，这是一个硬伤…所以一定要对常见的关键性的类名、方法名、关键字读准，有些面试官不耐烦会说“你到底说的是哪个？”这时我们会容易乱了阵脚。正确的发音+沉稳的描述+好听的嗓音决对是一个加分项！

最重要的是心态！心态！心态！重要事情说三遍！面试时间很短，在短时间内对方要摸清你的底子还是比较不现实的，所以，有时也是看眼缘，这还是个看脸的时代。

希望大家都能找到合适自己满意的工作！

进阶学习视频

附上：我们之前因为秋招收集的二十套一二线互联网公司Android面试真题 （含BAT、小米、华为、美团、滴滴）和我自己整理Android复习笔记（包含Android基础知识点、Android扩展知识点、Android源码解析、设计模式汇总、Gradle知识点、常见算法题汇总。）

《Android学习笔记总结+移动架构视频+大厂面试真题+项目实战源码》，点击传送门，即可获取！
的，所以，有时也是看眼缘，这还是个看脸的时代。

希望大家都能找到合适自己满意的工作！

进阶学习视频

[外链图片转存中…(img-RoBQDvlD-1715253294102)]

[外链图片转存中…(img-uHHNSFog-1715253294103)]
《Android学习笔记总结+移动架构视频+大厂面试真题+项目实战源码》，点击传送门，即可获取！

2301_82257730

关注

3
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
字节跳动：IO优化是怎么做的，使用 SharedPreferences为什么这么卡，mmkv原理是什么

简历首选内推方式，速度快，效率高啊！然后可以在拉钩，boss，脉脉，大街上看看。简历上写道熟悉什么技术就一定要去熟悉它，不然被问到不会很尴尬！做过什么项目，即使项目体量不大，但也一定要熟悉实现原理！不是你负责的部分，也可以看看同事是怎么实现的，换你来做你会怎么做？做过什么，会什么是广度问题，取决于项目内容。但做过什么，达到怎样一个境界，这是深度问题，和个人学习能力和解决问题的态度有关了。大公司看深度，小公司看广度。大公司面试你会的，小公司面试他们用到的你会不会，也就是岗位匹配度。面试过程一定要有礼貌！
复制链接

扫一扫