mysql写放大_透明压缩技术如何缓解数据库中写放大

本文探讨了数据库中的写放大问题,特别是在MySQL和RocksDB中,分析了其来源并提出透明压缩技术如何有效减少写放大。透明压缩可以在不消耗额外CPU资源的情况下,减少NAND的实际写入数据量,从而降低写放大,延长SSD寿命。实验结果显示,透明压缩能将MySQL和MyRocks的写放大降低一半以上。
摘要由CSDN通过智能技术生成

27edb9e80fe1bdc71066ad581c76b220.png

作者为ScaleFlux系统团队郑宁,王欢、许树堃。

55e7da07f3ae9a3a695ae86d60ba98d3.png

1●数据库中的写放大在数据库的使用过程(包括其它多种应用)中,我们通常会关注一些系统指标,比如CPU的使用率,内存的占用量,或者IO的带宽消耗等等。这些系统指标可以帮助我们评估应用对系统资源的占用情况,进而找到应用进一步优化的方向。当前常见的一些数据库,例如MySQL,MariaDB,PostgreSQL,RockDB等等,从设计思路上可以分为图1【1】所示的两大类:基于B/B+树的结构——这种结构通过B/B+树上的节点管理和组织数据库内的记录,当记录有增减时,树里的节点可以进行相应的分裂与合并。

基于日志结构合并(LSM,log structure merge)树的结构——这种结构将数据库内的记录存储在多个level中,level之间通过相应的合并来适应数据库记录的增减以及维持树的形状。

cc9b5c28b3bbc14a1d6411de162e2d39.png

(a) B+树

04a09b996b4fe647934a454189f1a097.png

(b)LSM树

图1. B+树结构和LSM树结构

通常在数据库运行的时候,其占用的写带宽是远远大于上层所能看到的TPS(transactions per second,每秒事务数)折算后所需要的带宽的。例如,对于记录大小为1KB,TPS为1K的情况,理想情况下写带宽的占用是1KB * 1K/s = 1MB/s,但实际中带宽的占用可能是十数MB/s甚至数十MB/s。这是因为在数据库(包括更底层的软件栈)中,为了保证数据的安全性和一致性,以及设计上的简洁性和高效性,不可避免地引入了写放大问题。写放大带来的最直接的问题就是写入带宽的占用量大幅增长,另一个问题就是SSD寿命的快速消耗。在SSD中,受NAND擦写物理条件的限制,新的数据总是写在新的地方,而NAND总的擦写次数是有限的,这就造成了写入的数据量越多,NAND越容易被写满,进而需要更频繁的擦除和垃圾回收,因此寿命消耗地也越快。写放大问题对于即将量产的QLC(每个NAND cell对应4个比

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值