大白话解析LevelDB: TableBuilder

Howard0o0

已于 2024-01-23 21:46:15 修改

阅读量1.2k

点赞数 26

分类专栏：大白话解析LevelDB 文章标签：数据库 c++

于 2023-12-17 11:52:42 首次发布

本文链接：https://blog.csdn.net/sinat_38293503/article/details/135043003

版权

大白话解析LevelDB 专栏收录该内容

29 篇文章 11 订阅

订阅专栏

文章目录

TableBuilder

TableBuilder

LevelDB将MemTable生成SST的相关操作封装成了TableBuilder类，TableBuilder类的定义如下：

class LEVELDB_EXPORT TableBuilder {
   public:
    // Options对象包含了一些配置选项，
    // WritableFile对象是用于写入SSTable的文件。
    TableBuilder(const Options& options, WritableFile* file);

    TableBuilder(const TableBuilder&) = delete;
    TableBuilder& operator=(const TableBuilder&) = delete;

    ~TableBuilder();

    // 改变TableBuilder的配置选项。注意，只有部分配置选项可以在构造后改变。
    Status ChangeOptions(const Options& options);

    // 向`Data Block`中添加`Key-Value`，并同步更新其他`Block`，
    // 如`Filter Block`、`Index Block`。
    // 只是添加到`Block`的缓冲区，还没有写入到文件。
    // 最后再通过调用`Finish()`方法将各个`Block`缓冲区中的内容写入到文件中。
    void Add(const Slice& key, const Slice& value);

    // 该函数名有点容易让人误解成刷盘，其实不是的。
    // Flush只是结束当前`Data Block`的构建，并开辟一个新的`Data Block`。
    // 当前`Data Block`满后，会调用`Flush()`。
    void Flush();

    // 如果中途只要发生过一次错误，就会返回error。
    Status status() const;

    // Finish()方法会将各个Block的内容写入到文件中，并且在文件的尾部添加一个`Footer`。
    // 结束该`SST`文件的构建。
    Status Finish();

    // 放弃SSTable的构建。在调用此方法后，之前添加到TableBuilder中的所有键值对都将被丢弃。
    void Abandon();

    // 一共添加了多少 Key-Value 对
    uint64_t NumEntries() const;

    // SST的当前大小。
    uint64_t FileSize() const;

   private:
    bool ok() const { return status().ok(); }

    struct Rep;
    Rep* rep_;
};

其中Rep是"Representation"的缩写，是一种常用的C++手法，用于实现类的 Pimpl（Pointer to Implementation）模式。具体移步参考大白话解析LevelDB：Pimpl模式。

`TableBuilder`的使用姿势

我们来简单看下TableBuilder的使用姿势：

// 创建SST文件
WritableFile* file;
s = env->NewWritableFile(fname, &file);
if (!s.ok()) {
    return s;
}

// 创建一个TableBuilder对象，
// 用于将MemTable中的数据写入到SST文件中
TableBuilder* builder = new TableBuilder(options, file);

// 通过TableBuilder对象将
// 所有kv先写入到各个`Block`缓冲区里。
Slice key;
for (; iter->Valid(); iter->Next()) {
    key = iter->key();
    builder->Add(key, iter->value());
}

// 将各个`Block`缓冲区里的内容写入到文件中，
// 该`SST`文件构建完成。
builder->Finish();
delete builder;

SST的格式

移步参考[大白话解析LevelDB：数据格式(SST)]https://blog.csdn.net/sinat_38293503/article/details/134739340?csdn_share_tail=%7B%22type%22%3A%22blog%22%2C%22rType%22%3A%22article%22%2C%22rId%22%3A%22134739340%22%2C%22source%22%3A%22sinat_38293503%22%7D#SST_92

`TableBuilder`的代码实现

`TableBuilder`的构造函数

TableBuilder::TableBuilder(const Options& options, WritableFile* file)
    : rep_(new Rep(options, file)) {
    // 如果options中指定了filter polacy配置选项，
    // rep_就会按照filter polac初始化一个新的filter block,
    // 此时rep_->filter_block就不为nullptr了。
    if (rep_->filter_block != nullptr) {
        // 初始化一个新的filter block.
        rep_->filter_block->StartBlock(0);
    }
}

构造TableBuilder的时候，会把LevelDB的Option与SST的文件句柄file传入到TableBuilder对象中。

Option里可以配置filter policy，比如BloomFilterPolicy，给每个SST都配置一个Bloom Filter，用于加速key的查找。不了解Bloom Filter的同学可以自行搜索一下哈。

如果配置了filter policy，TableBuilder会初始化一个filter block，并且调用filter block的StartBlock()方法，构建一个新的filter block。

TableBuilder::Add(const Slice& key, const Slice& value)

此处的key指的是Internal Key，即User Key + Sequence Number | Value Type。

TableBuilder::Add(const Slice& key, const Slice& value)的职责是将key和value添加到SST中，具体来讲，是更新SST中的Data Block，Index Block，Filter Block。

SST中Data Block的大小是有上限的。往当前Data Block插入一对Key-Value后，如果当前的Data Block大小超过上限了，就需要结束当前Data Block的构建，开始构建下一个Data Block。

并且结束当前Data Block的构建后，还需要将当前Data Block的Index添加到Index Block里。

每添加一个Key-Value，都要把这个Key添加到Filter Block里，如果Option里配置了Filter Policy的话。

void TableBuilder::Add(const Slice& key, const Slice& value) {
    Rep* r = rep_;
    assert(!r->closed); // 检查当前 Build 过程是否已经结束
    if (!ok()) return;
    if (r->num_entries > 0) {
        // 检查当前 key 是否大于 last_key
        assert(r->options.comparator->Compare(key, Slice(r->last_key)) > 0);
    }

    // 当r->pending_index_entry为true时，
    // 表示上一个`Data Block`已经构建完了，需要把它(上一个`Data Block`)的`Index`添加到`Index Block`里。
    if (r->pending_index_entry) {
        assert(r->data_block.empty());

        // `FindShortestSeparator`用于计算上一个`Key`和当前`Key`的分隔符，
        // 即`Last Key` <= `Seperator` < `Current Key`，用于上一个`Data Block`的最大Key。
        // 我们先说下分隔符`Separator`的作用，再说为什么不直接使用上一个`Data Block`的最后一个Key作为分隔符。
        // 当LevelDB在查找某个`Key`的时候，会先定位到是哪个`SST`，然后再到`SST`内部查找。
        // 我们可以直接对`SST`二分查找，但还可以更快，就是将`SST`里的`Key-Value`按照`Data Block`分组。
        // 每个`Data Block`的大小固定，先定位目标`Key`在哪个`Data Block`，然后再到该`Data Block`内部查找。
        // SST里有一个`Index Block`，是用来存放`Data Block`的索引的，它长这样：
        // 
        // +------------------------+
        // | Key1 | Offset1 | Size1 |
        // +------------------------+
        // | Key2 | Offset2 | Size2 |
        // +------------------------+
        // | Key3 | Offset3 | Size3 |
        // +------------------------+
        // |          ....          |
        // +------------------------+
        //
        // `Index Block`里一行{ Key-Offset-Size }就代表了一个`Data Block`。
        // 其中，`Key1`代表了`Data Block 1`里`Key`的最大值。
        // `Offset`代表了`Data Block 1`在SST里的偏移量，`Size`表示`Data Block 1`的大小。
        // (Key1, Key2]就代表了`Data Block 2`里`Key`的取值范围。
        //
        // `FindShortestSeparator`就是用来生成`Data Block`对应于`Index Block`里的`Key`的。
        // 
        // 那为什么不直接用`Data Block 2`里最后一个`Key`作为`Index Block`里的`Key2`呢？
        // 还要通过`FindShortestSeparator`生成。
        // 为了压缩`Index Block`的空间，用一个最短的`Seperator`表示`Data Block`的`Upper Bound`。
 
        r->options.comparator->FindShortestSeparator(&r->last_key, key);

        // `handle_encoding`里存放的就是`Data Block`的`Offset`和`Size`。
        std::string handle_encoding;
        r->pending_handle.EncodeTo(&handle_encoding);

        // 将上一个Data Block的`Key-Offset-Size`追加到`Index Block`里。
        r->index_block.Add(r->last_key, Slice(handle_encoding));

        // 上一个`Data Block`的`Index`已经添加到`Index Block`里了，
        // 把`pending_index_entry`置为false，表示当前没有待添加`Index`的`Data Block`。
        r->pending_index_entry = false;
    }

    // 如果配置了`Filter`，就将`Key`添加到`Filter Block`里。
    // 此处的`Key`为`Internal Key`，即`User Key + Sequence Number | Value Type`。
    // 为什么添加到`Filter Block`里的是`Internal Key`而不是`User Key`呢？
    // 为了支持多版本控制。
    // 举个例子，当用户创建了一个快照，然后把某个`Key`删除了，此时从快照里查找这个`Key`，
    // 如果`Filter Block`里存放的是`User Key`，就没法去查找快照版本的`Key`，只能
    // 查找最新版本的，结果就是`Key`已经不存在了。
    if (r->filter_block != nullptr) {
        r->filter_block->AddKey(key);
    }

    // 更新last_key，用于下一个`Data Block`的`FindShortestSeparator`。
    r->last_key.assign(key.data(), key.size());

    // 更新`SST`里的`Key-Value`数量。
    r->num_entries++;
    
    // 将`Key-Value`添加到`Data Block`里。
    r->data_block.Add(key, value);

    // `options.block_size`为`Data Block`的大小的上限，
    // 默认为4KB，当`Data Block`的大小超过这个值时，就需要结束当前
    // `Data Block`的构建，开始构建下一个`Data Block`。
    const size_t estimated_block_size = r->data_block.CurrentSizeEstimate();
    if (estimated_block_size >= r->options.block_size) {
        // `TableBuilder::Flush()`会结束当前`Data Block`的构建，生成`Block Handle`，
        // 并且把`pending_index_entry`置为`true`，表示当前有一个待添加`Index`的`Data Block`。
        // 等到添加下一个`Key`时，就会把这个满的`Data Block`的`Index`添加到`Index Block`里。
        Flush();
    }
}

r->options.comparator->FindShortestSeparator(&r->last_key, key)的实现详情请移步大白话解析LevelDB：Comparator。

r->index_block.Add(r->last_key, Slice(handle_encoding))的实现详情请移步大白话解析LevelDB: BlockBuilder。

r->filter_block->AddKey(key)的实现详情请移步大白话解析LevelDB: FilterBlockBuilder。

r->data_block.Add(key, value);的实现详情请移步大白话解析LevelDB: BlockBuilder。

TableBuilder::WriteBlock

WriteBlock将 Data Block 压缩后写入到 SST 文件中，并生成 Block Handle。

block->Finish获取 Block 里的全部数据。
port::Snappy_Compress对 Block 的数据进行压缩，如果压缩率大于 12.5% 就使用压缩后的结果，否则使用原始数据。
WriteRawBlock将压缩后对 Block 数据、压缩类型写入到文件中。

void TableBuilder::WriteBlock(BlockBuilder* block, BlockHandle* handle) {
    assert(ok());
    Rep* r = rep_;

    // 获取 Block 里的全部数据
    Slice raw = block->Finish();

    Slice block_contents;

    // 默认压缩方式为 kSnappyCompression
    CompressionType type = r->options.compression;
    switch (type) {
        case kNoCompression:
            block_contents = raw;
            break;

        case kSnappyCompression: {
            std::string* compressed = &r->compressed_output;

            // 进行 snappy 压缩，并且只有在压缩率大于 12.5% 时才会选用压缩结果.
            if (port::Snappy_Compress(raw.data(), raw.size(), compressed) &&
                compressed->size() < raw.size() - (raw.size() / 8u)) {
                block_contents = *compressed;
            } else {
                // 配置了 Snappy 但是没有找到 Snapp 的库，或者是使用 snappy 压缩时压缩率低于 12.5% */
                block_contents = raw;
                type = kNoCompression;
            }
            break;
        }
    }
    // 将处理后的 block contents、压缩类型写入到文件中，
    // 并且填充 block handle 
    WriteRawBlock(block_contents, type, handle);

    // 清空压缩缓冲区
    r->compressed_output.clear();
    // 该 block 已经写入到文件中了，不再需要了，清空
    block->Reset();
}

TableBuilder::WriteRawBlock

TableBuilder::WriteRawBlock将压缩后的 Block 数据、压缩类型以及 CRC 校验码写入到文件中，并且填充 block handle。

handle->set_offset填充 block handle 的 offset 字段，表示当前 block 在 SST 文件中的偏移量。
handle->set_size填充 block handle 的 size 字段，表示当前 block 的大小。
r->file->Append(block_contents)将 block contents 追加到 SST 文件中。
生成tailer，tailer的格式为：1-byte Type + 32-bit CRC。
r->file->Append(Slice(trailer, kBlockTrailerSize))将tailer追加到 SST 文件中。

void TableBuilder::WriteRawBlock(const Slice& block_contents, CompressionType type,
                                 BlockHandle* handle) {
    Rep* r = rep_;
    // 填充 block handle，
    //   - offset: 当前 block 在 SST 文件中的偏移量
    //   - size: block 的大小
    handle->set_offset(r->offset);
    handle->set_size(block_contents.size());

    // 将 block contents 写入到 SST 文件中
    r->status = r->file->Append(block_contents);
    if (r->status.ok()) {
        // 1-byte Type + 32-bit CRC
        char trailer[kBlockTrailerSize];
        
        // block_contents 的压缩类型
        //  - kNoCompression: 0
        //  - kSnappyCompression: 1
        trailer[0] = type;

        // 先算出 block contents 的 crc32
        uint32_t crc = crc32c::Value(block_contents.data(), block_contents.size());
        // 再扩展下 block contents 的 crc32，
        // 相当于计算 block contents + type 的 crc32c。
        // 因为 block contents 和 type 不是存放在一起的，所以
        // 需要使用 Extend 的方式计算二者的 crc32c。
        crc = crc32c::Extend(crc, trailer, 1);  // Extend crc to cover block type
        EncodeFixed32(trailer + 1, crc32c::Mask(crc));
        // 将 trailer 部分追加到 SST 文件
        r->status = r->file->Append(Slice(trailer, kBlockTrailerSize));
        if (r->status.ok()) {
            r->offset += block_contents.size() + kBlockTrailerSize;
        }
    }
}

TableBuilder::Flush()

TableBuilder::Flush()会结束当前 Data Block 的构建，并为下一个 Data Block 的构建做好准备。

WriteBlock将 Data Block 压缩后写入到 SST 文件中，并生成 Block Handle。
filter_block->StartBlock为下一个 Data Block 先创建对应的 filter。

void TableBuilder::Flush() {
    Rep* r = rep_;
    assert(!r->closed);
    if (!ok()) return;
    if (r->data_block.empty()) return;
    assert(!r->pending_index_entry);

    // 对 Data Block 进行压缩然后写入到 SST 文件中，并生成 Block Handle
    WriteBlock(&r->data_block, &r->pending_handle);
    if (ok()) {
        // 设置 pending_index_entry 为 true，下一次写入 Data Block 时，
        // 再把这个满的 Data Block 的 Index 添加到 Index Block 里。
        r->pending_index_entry = true;
        // 将`file->buffer`里的数据刷到内核缓冲区。
        r->status = r->file->Flush();
    }
    if (r->filter_block != nullptr) {
        // 这里应该叫 StartFilter 比较合适，
        // filter_block 里有多个 filter，每个 filter 对应一个 Data Block。
        // 当前 Data Block 构建完了，就要开始构建下一个 Data Block 了，
        // 在这之前先构建下一个 Data Block 对应的 filter。
        r->filter_block->StartBlock(r->offset);
    }
}

TableBuilder::Finish

TableBuilder::Finish会将各个 Block 的内容写入到文件中，并且在文件的尾部添加一个Footer，结束该 SST 文件的构建。

Flush()将最后一个 Data Block 写入 SST。
WriteRawBlock(r->filter_block->Finish(), kNoCompression, &filter_block_handle)将 Meta Block 写入 SST。
WriteBlock(&meta_index_block, &metaindex_block_handle)将 Meta Index Block 写入 SST。
WriteBlock(&r->index_block, &index_block_handle)将 Index Block 写入 SST。
r->file->Append(footer_encoding)将 Footer 写入 SST。Footer 包含：
- Meta Index Block 的 Block Handle
- Index Block 的 Block Handle

Status TableBuilder::Finish() {
    Rep* r = rep_;

    // 将最后一个 Data Block 写入 SST
    Flush();
    assert(!r->closed);
    r->closed = true;

    BlockHandle filter_block_handle, metaindex_block_handle, index_block_handle;

    // 写完 Data Block 后，写 Meta Block。
    // 目前 Meta Block 只有 Filter Block 一种。
    // 将 Filter Block 写入 SST。
    if (ok() && r->filter_block != nullptr) {
        WriteRawBlock(r->filter_block->Finish(), kNoCompression, &filter_block_handle);
    }

    // 写完 Meta Block 后，写 Meta Index Block。
    if (ok()) {
        BlockBuilder meta_index_block(&r->options);
        if (r->filter_block != nullptr) {
            // Add mapping from "filter.Name" to location of filter data
            std::string key = "filter.";
            // 若使用 Bloom Filter，key 的值为
            // filter.leveldb.BuiltinBloomFilter2
            key.append(r->options.filter_policy->Name());
            std::string handle_encoding;
            filter_block_handle.EncodeTo(&handle_encoding);
            meta_index_block.Add(key, handle_encoding);
        }

        // 将 Meta Index Block 写入 SST。
        WriteBlock(&meta_index_block, &metaindex_block_handle);
    }

    // 写完 Meta Index Block 后，写 Index Block。
    if (ok()) {
        // 先看下有没有 pending_index_entry，如果有的话，就把它添加到 Index Block 里。
        if (r->pending_index_entry) {
            r->options.comparator->FindShortSuccessor(&r->last_key);
            std::string handle_encoding;
            r->pending_handle.EncodeTo(&handle_encoding);
            r->index_block.Add(r->last_key, Slice(handle_encoding));
            r->pending_index_entry = false;
        }
        // 将 Index Block 写入 SST。
        WriteBlock(&r->index_block, &index_block_handle);
    }

    // 最后写 Footer
    //   - metaindex_handle: Meta Index Block 的 Block Handle
    //   - index_handle: Index Block 的 Block Handle
    if (ok()) {
        Footer footer;
        // 将 Meta Index Block 的 Block Handle 写入 Footer
        footer.set_metaindex_handle(metaindex_block_handle);
        // 将 Index Block 的 Block Handle 写入 Footer
        footer.set_index_handle(index_block_handle);
        std::string footer_encoding;
        footer.EncodeTo(&footer_encoding);
        // 将 Footer 写入 SST。
        r->status = r->file->Append(footer_encoding);
        if (r->status.ok()) {
            r->offset += footer_encoding.size();
        }
    }
    return r->status;
}

看完TableBuilder::Finish，我们就很清楚 SST 的格式了。

              +---------------------+
      +-----> |   Data Block 1      |
      |       +---------------------+
      |       |   Data Block 2      |
      |       +---------------------+
      |       |        ...          |
      |       +---------------------+
      |       |   Data Block N      |
      |       +---------------------+
+-----------> |   Meta Block 1      |
|     |       +---------------------+
|     |       |        ...          |
|     |       +---------------------+
|     |       |   Meta Block K      |
|     |       +---------------------+
+-------------+ Metaindex Block     | <-----------+
      |       +---------------------+             |
      +-------+   Index Block       | <---------------------+
              +---------------------+             |         |
              |      Footer         +-------------+---------+
              +---------------------+

整个 SST 其实就包含两类数据，是数据本身与指针。

并且指针是逐层关联的。

Footer
│
├── Meta Index Block 的地址
│   └── 各个 Meta Block 的地址
│       ├── Meta Block 1 的地址
│       ├── Meta Block 2 的地址
│       ├── ...
│       └── Meta Block N 的地址
│
└── Index Block 的地址
    └── 各个 Data Block 的地址
        ├── Data Block 1 的地址
        ├── Data Block 2 的地址
        ├── ...
        └── Data Block M 的地址

至此，TableBuilder的主要成员函数我们都分析完了，还剩下一些辅助的成员函数，感兴趣的同学可以继续往下看。

TableBuilder::Abandon()

在 LevelDB 中，TableBuilder::Abandon 方法的使用场景主要涉及到放弃当前 SST (Sorted String Table) 文件构建的情况。这种情况通常发生在以下几个方面：

写入过程中遇到错误：
- 如果在构建 SST 文件的过程中遇到了不可恢复的错误，例如磁盘写入错误或数据损坏，TableBuilder::Abandon 会被调用。
- 使用 Abandon 方法可以确保不会尝试完成或关闭已经遭遇错误的 SST 文件。
数据库关闭或异常中断：
- 在数据库关闭过程中或由于某些异常（如崩溃、断电等）导致的突然中断，可能需要放弃当前正在构建的 SST 文件。
- 在这种情况下，TableBuilder::Abandon 用于放弃当前的 SST 文件构建，以保证数据库的一致性和完整性。

void TableBuilder::Abandon() {
    Rep* r = rep_;
    assert(!r->closed);
    // 将 closed 置为 true，表示当前 Table 的构建已经结束。
    r->closed = true;
}

TableBuilder::NumEntries

返回 SST 文件中的 Key-Value 对数量。

uint64_t TableBuilder::NumEntries() const { return rep_->num_entries; }

TableBuilder::FileSize

返回 SST 文件的大小。

uint64_t TableBuilder::FileSize() const { return rep_->offset; }