Ceph的BlueStore总体介绍

最新推荐文章于 2023-11-09 14:48:10 发布
最新推荐文章于 2023-11-09 14:48:10 发布
阅读量1.1w 收藏 17
点赞数 1
分类专栏： DistributedSystem 文章标签： ceph bluestore
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010487568/article/details/79572390
版权
Ceph的BlueStore是一个直接管理裸设备的存储引擎，尤其针对SSD进行了优化。其核心模块包括RocksDB，用于存储各种元数据和 omap 数据；BlueRocksEnv作为与RocksDB交互的接口；BlueFS则是一个小型文件系统，实现RocksDB的数据存储。此外，BlueStore还包括缓存模块、FreelistManager和Allocator模块。在I/O处理上，BlueStore分别有处理大、小写I/O的操作，并详细规定了读写映射逻辑。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

整体架构

bluestore的诞生是为了解决filestore自身维护一套journal并同时还需要基于系统文件系统的写放大问题，并且filestore本身没有对SSD进行优化，因此bluestore相比于filestore主要做了两方面的核心工作：
  • 去掉journal，直接管理裸设备
  • 针对SSD进行单独优化
bluestore的整体架构如下图所示：

通过Allocator实现对裸设备的管理，直接将数据保存到设备上；同时针对metadata使用RocksDB进行保存，底层自行封装了一个BlueFS用来对接RocksDB与裸设备。

模块划分

核心模块

  • RocksDB： 存储预写式日志、数据对象元数据、Ceph的omap数据信息、以及分配器的元数据（分配器负责决定真正的数据应在什么地方存储）
  • BlueRocksEnv&
最低0.47元/天 解锁文章
Ceph集群升级，存储引擎改用了bluestore，创建wal&db分区,并创建OSD,指定wal&db使用分区作高速缓存
阿啄debugIT
06-16 3848
目录 前言： DB WAL分区 wal & db 的大小问题 创建wal & db分区 创建OSD 其他 前言： ceph集群分别有两个HDD和SSD存储池，一般来说，缓存层构建在昂贵/速度更快的SSD磁盘上，这样才能为客户提供更好的I/O性能。在缓存池后端通常是存储层，它由复制或者erasure类型的HDD组成。在这种类型的设置中，客户端将I/O请求提交到缓存池，不管它是一个读或写操作，它的请求都能够立即获得响应。速度更快的缓存层为客户端请求提供服务。一段时间后，缓存.
ceph bluestore中的磁盘空间管理
梦幻之巅
08-28 6495
ceph bluestore摒弃了传统的本地文件系统，而直接使用裸磁盘作为OSD的存储介质，因而需要自行管理磁盘空间的分配与回收 概述 一个设计良好的磁盘空间管理器，需要兼顾空间和时间效率；bluestore中提供了空间管理器FreelistManager来支持空间管理，当前提供了一种基于位图的实现，包含：位图持久化以及内存分配器Allocator两部分。其中，位图的持久化是指将空间分配（置1）和回收（置0）的位图状态持久化到磁盘中，基于rocksdb实现；内存分配器是磁盘位图的一致性视图，用来加速空间.
Ceph--存储引擎BlueStore
laiyuhua120的博客
10-07 996
又因为产生了新PG，需要存储到OSD中，因为原先老PG存放到OSD中时已经做了负载均衡，新PG的数据又是从老PG迁移过来的，所以新PG存放的OSD就和老PG相同，以减少数据的跨OSD迁移造成性能的损耗。BlueStore提供的读写接口都是基于PG粒度的，通过其提供的接口来操作PG下的某个对象，首先需要找到BlueStore中对应PG上下文和对象上下文，这两类上下文保存了关键的PG和对象的元数据信息，而且BlueStore通过KVDB固化这两类上下文至磁盘，接下来我们需要谅解这两类上下文的磁盘数据结构。
Ceph存储引擎BlueStore简析
shuningzhang的专栏
06-04 1296
前文我们创建了一个单节点的Ceph集群，并且创建了2个基于BlueStore的OSD。同时，为了便于学习，这两个OSD分别基于不同的布局，也就是一个OSD是基于3中不同的存储介质（这里是模拟的，并非真的不同介质），另外一个OSD所有内容放在一个裸设备上。 什么是BlueStore 在老版本的Ceph当中FileStore是默认的对象存储引擎，但FileStore最大的问题是写放大的问题。同时由于需...
CEPH Mimic版本 - Bluestore io过程、延迟分析及优化建议
jiangbb8686的博客
05-09 1180
本文章向大家介绍CEPH Mimic版本 - Bluestore io过程、延迟分析及优化建议，主要包括CEPH Mimic版本 - Bluestore io过程、延迟分析及优化建议使用实例、应用技巧、基本知识点总结和需要注意事项，具有一定的参考价值，需要的朋友可以参考一下。 ##CEPH Mimic版本 - Bluestore io过程、延迟分析及优化建议## Ceph bluestore与filestore相比较， 除了bluestore不需要写journal，就IO过程（流程）来讲大体上是类似的，
BlueStore压缩性能
最新发布
HHFQ的博客
11-09 546
使用BlueStore OSD后端，Red Hat Ceph Storage获得了一种称为“动态数据压缩”的新功能，有助于节省磁盘空间。可以对在BlueStore osd上创建的每个Ceph池启用或禁用压缩。除此之外，使用Ceph CLI可以随时更改压缩算法和模式，而不管池中是否包含数据。在本文中，我们将深入探讨BlueStore的压缩机制，并了解其对性能的影响。BlueStore中的数据是否被压缩由压缩模式和与写操作相关的任何提示的组合决定。
Ceph热点技术介绍
11-22
总体而言，Ceph作为一个成熟且先进的分布式存储解决方案，正不断融入新的技术以应对不断增长的存储需求，并在云存储领域发挥其关键作用。通过引入Intel Optane技术，Ceph正在尝试进一步优化性能，尤其是针对那些对...
ceph存储引擎bluestore解析
lvlei19911108的博客
09-17 174
ceph后端支持多种存储引擎，以插件式的方式来进行管理使用，目前支持filestore，kvstore，memstore以及最新的bluestore，目前默认使用的filestore，但是因为filestore在写数据前需要先写journal，会有一倍的写放大，并且filestore一开始只是对于机械盘进行设计的，没有专门针对ssd做优化考虑，因此诞生的bluestore初衷就是为了减少写放大，并...
网易数帆 Ceph EC 纠删码在线存储性能优化实践
热门推荐
NetEaseResearch的博客
01-12 1万+
写在前面 术语说明 EC 的全称是Erasure Code——纠删码，是一种编码理论，EC 介绍链接 如下是和本文档相关的一些术语： EC 策略：一般就是我们常说的(K+M)，K 个数据块，M 个校验块 条带（stripe）：和磁盘阵列中的条带类似，是把连续的数据分割成相同大小的数据块，把每块数据分别写入到 Ceph EC 中的不同磁盘上，EC 会针对这些数据块计算校验块，1 个条带包含多数据块和多个校验块，数据块的个数一般称为 K，校验块的个数称为 M，每个条带包含 (K + M) 块 Ceph中 其他
分布式文件系统 bluestore简介-ceph backend
blood_sucker的博客
01-25 5686
bluestore : a faster backend for ceph—–sage weil 的公开课导读ceph创始人sage大叔前些日子介绍了bluestore，用以作为ceph的存储后端，本文主要以sage的presentation： “bluestore - a new faster storage backend for ceph“ 为蓝本做bluestore介绍
ceph bluestore相关配置
qq_30339341的博客
12-15 6601
bluestore 分区： block.wal:用于BlueStore的内部日志或写前日志 ssd block.db:用于存储BlueStore的内部元数据,基于RocksDB实现，类似索引提高性能 ssd 根分区:1.一个小的分区使用XFS进行格式化，并包含OSD的基本元数据。这个数据目录包含关于OSD的信息(它的标识符，它属于哪个集群，以及它的私有密匙环)。 2.设备的其余部分通常是一
ceph配置文件
qq_23929673的博客
01-27 2553
#控制是否可以复用osd创建资源池。0、不支持复用，1、支持复用 $osd_reuse = 0; #系统剩余内存水线,单位：% $system_free_memory_limit = 60; #osd内存使用水线，单位：KB $osd_memory_limit = 2097152; #bluestore_cache_other使用水线,单位：byte $blu_cache_other_limit ...
Ceph bluestore中的缓存管理
梦幻之巅
04-27 3438
从15年3月接触Ceph分布式存储系统，至今已经5年了；因为工作的需要，对Ceph的主要模块进行了较深入的学习，也在Ceph代码层面做了些许改进，以满足业务需要（我们主要使用M版本）。最近得闲，将过往的一些学习心得、改进以及优化思路记录下了，希望能对后来者有所帮助。 这是第四篇：Ceph bluestore中的缓存管理 前言 bluestore构建在裸盘上，在用户空间，通过FreelistMana...
ceph bluestore 架构简介
qq_23929673的博客
01-27 1573
文章目录前言设计理念整体架构核心模块BlueFSAlloactorFreeListManagerCacheIO流程读流程写流程相关专业术语解释1、ACID2、RMW3、COW4、LRU（Least Recently Used）5、LFU（Least Frequently Used）6、ARC7、2Q大牛blog 前言 Ceph早期的单机对象存储引擎是FileStore，为了维护数据的一致性，写入之...
ceph bluestore 源码分析：ceph-osd内存查看方式及控制源码分析
天行健，地势坤
05-10 3642
本文通过对ceph-osd内存查看跟踪的手段以及osd内存控制的方式进行源码层面的说明，并未通过修改相关源码进行控制（水平不够），仅限于使用社区已开发好的参数进行相关配置的跟进而已，如想要追求更加精确的理解，可以对osd/bluestore/rocksdb相关源码实现进行阅读 ceph版本12.2.1 - 12.2.12 内存查看 最常用的内存初始查看方法top -u ceph |grep ce...
ceph BlueStore缓存解析
Jason_Linux
03-26 2806
ceph bluestore缓存中保存的是object的信息，包括元数据和实际数据，元数据是用LRUCache实现的，实际数据是用TwoQCache实现的。 #define P(x) \ namespace x { \ static const mempool::pool_index_t id = mempool::mempool_##x; \ te...
【ceph的通用解决方案】-如何ssd作为ceph-osd的日志盘使用
吴业亮的专栏
03-07 1万+
作者：【吴业亮】 博客：https://wuyeliang.blog.csdn.net/ 开篇： 目前企业的业务场景多种多样，并非所有Ceph存储解决方案都是相同的，了解工作负载和容量要求对于设Ceph解决方案至关重要。Ceph可帮助企业通过统一的分布式集群提供对象存储、块存储或文件系统存储。在设计流程中，这些集群解决方案针对每项要求都进行了优化。该设计流程的首要因素包括 IOPS 或带宽要求、存...
Ceph BlueStore Cache
qq_23929673的博客
01-27 855
文章目录IntroductionCache InitCnodeOnodeBufferTrimConfigSummary Introduction BlueStore自己管理裸设备，没有文件系统，操作系统的page cache利用不上，需要自己管理缓存，包括元数据的缓存和object data的缓存，缓存系统的性能直接影响整个BlueStore的性能。 缓存的主要对象包括: 1、pg对应的Colle...
CEPH集群操作入门--配置
weixin_34187862的博客
11-23 1027
参考文档：CEPH官网集群操作文档 概述 Ceph存储集群是所有Ceph部署的基础。 基于RADOS，Ceph存储集群由两种类型的守护进程组成：Ceph OSD守护进程（OSD）将数据作为对象存储在存储节点上; Ceph Monitor（MON）维护集群映射的主副本。 Ceph存储集群可能包含数千个存储节点。 最小系统将至少有一个Ceph Monitor和两个Ceph OSD守护进...
Ceph存储新后端：BlueStore一年回顾
在介绍BlueStore时，文档可能涉及以下知识点： - FileStore的问题：由于FileStore依赖于POSIX接口，这导致了性能瓶颈，特别是在大规模集群中，频繁的文件操作会带来I/O开销。 - BlueStore的原理：BlueStore直接在裸...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值