Rust 练手项目—实现 MVCC 多版本并发控制

本文提到的完整源码地址: https://github.com/rosedblabs/rust-practice

事务及 MVCC

数据库的事务是一个经久不衰的话题,相信大家都已经耳熟能详了,事务是指数据库中单一逻辑工作单元的操作集合。这些操作要么全部成功执行,要么全部失败,从而确保数据库的一致性和完整性。

事务有 ACID 四个特性,分别是:

  1. 原子性(Atomicity):事务应该被视为不可分割的最小执行单元。这意味着事务中的所有操作要么全部完成,要么全部失败回滚。如果事务中的任何一部分操作失败,整个事务将会被回滚到初始状态,不会留下部分执行的结果。
  2. 一致性(Consistency):事务在执行前后,数据库应该保持一致性状态,不会破坏数据库的完整性。
  3. 隔离性(Isolation):事务的执行应该相互隔离,使得每个事务感觉自己在操作数据库时是独立的。这意味着并发执行的事务之间不应该相互影响,即使它们同时访问相同的数据。这样可以防止并发执行时出现数据不一致或者丢失的问题。
  4. 持久性(Durability):一旦事务被提交,其结果应该是永久性的。即使系统崩溃或发生故障,已经提交的事务所做的改变也应该被永久保存在数据库中,不会丢失。

其中原子性一般是通过预写日志来保证,持久性是通过预写日志和存储管理完成,隔离性常用的方式有多版本并发控制(MVCC)、两阶段锁等等。

隔离性是这其中稍微复杂的,其他的几个特性其实都不难理解,这篇文章将会使用 Rust 代码,实现一个最基础的 MVCC 事务,让一些重要概念不仅仅存在于理论层面,而是让大家上手实践,这样才能够加深理解并完全掌握。

我们知道数据库的隔离性其实又分为了四种,分别是

  • 读未提交(Read Uncommitted)
  • 读提交(Read Committed)
  • 可重复读(Repeatable Read)
  • 串行化(Serializable)

image.png
总体来说 MVCC 是实现事务隔离性的手段,通过 MVCC 可以很方便的实现可重复读。
MVCC 是建立在数据多版本的基础之上的,当写入一条数据的时候,会带上一个版本号,这个版本号一般是事务的唯一标识,修改数据的时候,不会直接原地去修改数据,而是新增一条新的数据,并且带上一个新的版本号。
这样一条数据实际上就会在物理存储上存在多个版本,当读取数据的时候,会找到第一个满足条件的数据并返回。
这样的好处是:读不会阻塞写,写也不会阻塞读, 最大限度提升了数据库的并发性能。

如下所示,横轴表示数据库中的 key,竖轴表示事务开始的时间顺序。

Time
 5
 4  a4          
 3      b3      x
 2            
 1  a1      c1  d1
    a   b   c   d   Keys

事务 T2 启动的时候,它看到的值是 a=a1,c=c1,d=d1。
随后又有几个事务修改了 a(将 a1 改为 a4),新增了 b=b3,并且删除了 d。
这时候事务 T5 开始,它看到的值是 a=a4,b=b3,c=c1。
可以看到对数据的修改并不是原地的,而是新增加一个版本的数据,删除数据的时候,其实也不是真正的将其删除掉,而是通过标记的方式。

接下来通过具体的代码来进行更进一步的了解。

需要说明的是,出于演示的便利性,代码全部使用了基于内存的数据结构,所以严格意义上来说并不满足事务的原子性、持久性,但这并不妨碍我们去理解 MVCC 的精髓。

事务定义

事务的定义使用一个单独的结构体来表示,分别包含了存储数据的底层 KV,事务的版本号,以及活跃事务列表。
active_xid 是一个事务私有的数据结构,保存了在这个事务启动时,其他活跃的(未提交)事务集合,这是实现可重复读的关键,保证就算其他事务提交了,也不会影响到当前的事务。

// MVCC 事务
pub struct Transaction {
    // 底层 KV 存储引擎
    kv: Arc<Mutex<KVEngine>>,
    // 事务版本号
    version: u64,
    // 事务启动时的活跃事务列表
    active_xid: HashSet<u64>,
}

再来看一下事务的具体操作。

开启事务

首先是开启事务,这里是申请一个全局唯一的事务版本号,并且保存当前活跃事务列表。

// 开启事务
pub fn begin(kv: Arc<Mutex<KVEngine>>) -> Self {
    // 获取全局事务版本号
    let version = acquire_next_version();

    let mut active_txn = ACTIVE_TXN.lock().unwrap();
    // 这个 map 的 key 就是当前所有活跃的事务
    let active_xid = active_txn.keys().cloned().collect();

    // 添加到当前活跃事务 id 列表中
    active_txn.insert(version, vec![]);

    // 返回结果
    Self {
        kv,
        version,
        active_xid,
    }
}

写入数据

然后是写入数据,需要判断当前写入的 key 是否和其他的事务发生了冲突,如果是的话,则需要返回错误,通知调用者进行重试。
这里判断冲突主要的逻辑是扫描最后一个 key 及其对应的版本,并判断其可见性:

  • 如果最后一个 key 可见,说明是当前事务自己写入的,或者是比自己更早的已经提交的事务的写入的,可见。
  • 如果 key 的版本号存在于活跃事务列表中(其他事务修改了,并且没提交),或者版本号比自身大(有新的事务修改了数据并提交),说明存在并发写入冲突。

如果没有冲突,则写入数据,也分为了两个步骤,一是记录了当前 version 写入了哪些 key(主要保证回滚时可以将数据删除掉),二是实际向存储引擎写入对应的数据。

fn write(&self, key: &[u8], value: Option<Vec<u8>>) {
    // 判断当前写入的 key 是否和其他的事务冲突
    // key 是按照 key-version 排序的,所以只需要判断最近的一个 key 即可
    let mut kvengine = self.kv.lock().unwrap();
    for (enc_key, _) in kvengine.iter().rev() {
        let key_version = decode_key(enc_key);
        if key_version.raw_key.eq(key) {
            if !self.is_visible(key_version.version) {
                panic!("serialization error, try again.");
            }
            break;
        }
    }

    // 写入 TxnWrite
    let mut active_txn = ACTIVE_TXN.lock().unwrap();
    active_txn
        .entry(self.version)
        .and_modify(|keys| keys.push(key.to_vec()))
        .or_insert_with(|| vec![key.to_vec()]);

    // 写入数据
    let enc_key = Key {
        raw_key: key.to_vec(),
        version: self.version,
    };
    kvengine.insert(enc_key.encode(), value);
}

可以看到写入数据的时候,需要将原始的 key 加上当前版本号。

提交事务

提交事务的逻辑比较简单,因为所有需要写入的数据实际上都已经写入完成了,这时候只需要将这个事务的版本号从全局的活跃事务列表中删除就可以了。

// 提交事务
pub fn commit(&self) {
    // 清除活跃事务列表中的数据
    let mut active_txn = ACTIVE_TXN.lock().unwrap();
    active_txn.remove(&self.version);
}

这样后续新开启的事务可以看到这个事务的修改,而其他未提交的事务,仍然看不到这个事务的修改。

回滚事务

回滚事务的逻辑和提交事务有些类似,唯一的区别是,需要将写入的数据重新删除掉。
这样做的目的是确保事务的一致性,因为事务回滚之后,原来已经写入的数据不能对后续的事务可见,所以需要全部删除掉。

// 回滚事务
pub fn rollback(&self) {
    // 清除写入的数据
    let mut active_txn = ACTIVE_TXN.lock().unwrap();
    if let Some(keys) = active_txn.get(&self.version) {
        let mut kvengine = self.kv.lock().unwrap();
        for k in keys {
            let enc_key = Key {
                raw_key: k.to_vec(),
                version: self.version,
            };
            let res = kvengine.remove(&enc_key.encode());
            assert!(res.is_some());
        }
    }

    // 清除活跃事务列表中的数据
    active_txn.remove(&self.version);
}

读取数据

读取数据的逻辑比较简单,因为数据 key 是按照 version 排序的,所以只需要从后往前遍历,找到第一个可见的记录,就是当前事务能够得到的对应 key 的结果。
需要说明的是,这里的处理逻辑稍微有点冗余,因为直接遍历了整个 map 去查找对应的 key,但实际上因为我们写入的 key 都是有序的,所以只需要前缀遍历即可。

// 读取数据,从最后一条数据进行遍历,找到第一条可见的数据
pub fn get(&self, key: &[u8]) -> Option<Vec<u8>> {
    let kvengine = self.kv.lock().unwrap();
    for (k, v) in kvengine.iter().rev() {
        let key_version = decode_key(k);
        if key_version.raw_key.eq(key) && self.is_visible(key_version.version) {
            return v.clone();
        }
    }
    None
}

总结

MVCC 的核心是“多版本”,即同一个 key 在写入、更新、查询的时候,都会和当前版本号相关,通过事务的版本号来判断数据的可见性。
并且存储的时候,同一个 key 在物理上会有多份,分别对应不同的版本,本质上是一种通过空间冗余的方式来提升并发性能,让每一个事务都“看起来像”是单独执行,不受其他并发事务的影响,做到了读写互不阻塞。

通过上面的理论知识讲解和代码实战,相信你能够对 MVCC 理论有了一个更加深入的理解了。


完整源码地址:

https://github.com/rosedblabs/rust-practice

本文由 mdnice 多平台发布

  • 21
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
你可以使用Rust编程语言来实现文件并发下载接口,并从数据库中获取文件信息。下面是一个基本的实现示例: 1. 首先,你需要在你的项目中添加所需的依赖。可以在你的 Cargo.toml 文件中添加以下内容: ```toml [dependencies] tokio = { version = "1", features = ["full"] } reqwest = "0.11" sqlx = { version = "0.5", features = ["runtime-tokio"] } ``` 2. 创建一个 main.rs 文件,并导入所需的模块: ```rust use std::fs::File; use std::io::{self, Write}; use sqlx::postgres::PgPool; use tokio::fs; use tokio::io::AsyncWriteExt; use tokio::task; #[tokio::main] async fn main() -> Result<(), Box<dyn std::error::Error>> { // 初始化数据库连接池 let pool = PgPool::connect("your_database_url").await?; // 获取文件列表 let files = get_files_from_database(&pool).await?; // 创建任务列表 let mut tasks = Vec::new(); // 并发下载文件 for file in files { let task = task::spawn(download_file(file.url, file.filename)); tasks.push(task); } // 等待所有任务完成 for task in tasks { task.await?; } Ok(()) } async fn get_files_from_database(pool: &PgPool) -> Result<Vec<FileRecord>, sqlx::Error> { // 查询数据库获取文件列表 let files = sqlx::query_as!( FileRecord, r#" SELECT url, filename FROM files "#, ) .fetch_all(pool) .await?; Ok(files) } async fn download_file(url: String, filename: String) -> Result<(), Box<dyn std::error::Error>> { // 发起 HTTP 请求下载文件 let mut response = reqwest::get(&url).await?; // 创建文件 let mut file = fs::File::create(filename).await?; // 下载文件并写入磁盘 while let Some(chunk) = response.chunk().await? { file.write_all(&chunk).await?; } Ok(()) } #[derive(sqlx::FromRow)] struct FileRecord { url: String, filename: String, } ``` 在上述示例代码中,我们使用了 `tokio` 库进行并发任务的处理,`reqwest` 库用于发起 HTTP 请求,`sqlx` 库用于与 PostgreSQL 数据库交互。 请确保将 `your_database_url` 替换为你的实际数据库连接 URL,并根据你的数据库模式和表结构调整查询语句。 这只是一个简单的示例,你可以根据实际需求进行进一步的优化和扩展。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值