![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
ceph
文章平均质量分 68
下一页盛夏花开
每天都在学习,每天都是新手
展开
-
ceph_osd故障检测
当前monitor可以通过3种途径检测到osd离线转载 2023-04-26 11:06:54 · 398 阅读 · 0 评论 -
ceph中报错“ clock skew detected on mon.ceph2, mon.ceph3”
clock skew detected on mon原创 2023-02-02 10:01:44 · 1977 阅读 · 0 评论 -
ceph bluestore中的磁盘空间管理
一个设计良好的磁盘空间管理器,需要兼顾空间和时间效率;bluestore中提供了空间管理器FreelistManager来支持空间管理,当前提供了一种基于位图的实现,包含:位图持久化以及内存分配器Allocator两部分。其中,位图的持久化是指将空间分配(置1)和回收(置0)的位图状态持久化到磁盘中,基于rocksdb实现;内存分配器是磁盘位图的一致性视图,用来加速空间分配的速度,基于不同的内存组织形式,包括:stupid,bitmap, avl,hybrid四种。bluestore中,当前基于bitmap转载 2022-06-08 14:56:44 · 3298 阅读 · 0 评论 -
删除ceph数据量较多的bucket
线上环境ceph对象存储的bucket有大概180多万个对象,都是小文件,总体bucket不算太大,100G左右。经过测试,用rclone挂载以后打开挂载的目录会使集群的IO或者iops太高,害怕集群不稳定,所以换个方法删除,尽量在不影响线上集群使用的情况下删除这些对象。由于小文件数量太多,目录结构也太多,我看了大概有十几级目录,用s3cmd ls bucket的时候也出现超时,稍后重试的现象。但是把rgw的日志级别调整到20/20以后,出现下列日志:cls_bucket_list_ordered 把所有的原创 2022-05-12 11:01:02 · 1717 阅读 · 0 评论 -
ceph peering机制-状态机
本章介绍ceph中比较复杂的模块:Peering机制。该过程保障PG内各个副本之间数据的一致性,并实现PG的各种状态的维护和转换。本章首先介绍boost库的statechart状态机基本知识,Ceph使用它来管理PG的状态转换。其次介绍PG的创建过程以及相应的状态机创建和初始化。然后详细介绍peering机制三个具体的实现阶段:GetInfo、GetLog、GetMissing。statechart状态机1.1 状态1.2 事件1.3 状态机的响应1.4 状态机的定义1.5 context转载 2022-04-02 09:47:01 · 606 阅读 · 0 评论 -
rclone挂载基于rsync的增量同步到ceph的验证(二)
ceph版本:12.2.12 一.在上一篇增量同步文章中提到,我用rclone挂载以后在计算机上打开挂载盘的时候有如下报错:其实这个主要原因是rclone挂载的时候access_key_id、secret_access_id配置的问题。s3cmd是提供访问RGW的开源命令行工具,通过这个工具我们可以实现类似于s3接口的访问方式。通过radosrgw-admin创建访问的用户以后,产生access_key和secret_key。s3cmd 安装完毕后,需要对 s3cmd 进行配置,这里就需..原创 2021-11-26 16:22:11 · 2134 阅读 · 0 评论 -
Ceph RGW 对象上传源码分析
RGW中OP请求处理函数的入口都是process_request,process_request会根据传入的RGWRados参数获取RGWOp,然后当请求合法性通过后去调用rgw_process_authenticated函数执行OP的具体动作。请求的处理 Collapse sourceint process_request(RGWRados* const store, RGWREST* const rest,转载 2021-11-24 14:47:38 · 860 阅读 · 0 评论 -
趣解 ceph rgw multisite data sync 机制
multisite是ceph rgw对象数据异地容灾备份的一个有效方案,笔者希望深入理解该技术,并应用于生产环境中,然而rgw的这部分代码晦涩难懂,笔者多次尝试阅读,仍云里雾里不解其意,最终流着泪咬着牙坚持多看了几遍,总结出了data sync的流程,这里以通俗易懂的形式呈现出来,希望对大家有所帮助~首先,认识下 data sync机制 的三个角色Data、DataLogShard、BucketShard rgw的multisite同步分为两部分:metadata数据同步 和 d...转载 2021-11-22 16:39:47 · 758 阅读 · 0 评论 -
ceph(luminous)-Bluestore,更换ssd和wal位置(不改变大小)_pyrl的博客-程序员秘密
简介随着业务的增长,osd中数据很多,如果db或者wal设备需要更换,删除osd并且新建osd会引发大量迁移。本文主要介绍需要更换db或者wal设备时(可能由于需要更换其他速度更快的ssd;可能时这个db的部分分区损坏,但是db或者wal分区完好,所以需要更换),如何只更换db或者wal设备,减少数据迁移(不允许db或者wal设备容量变大或者变小).具体步骤如下:设置osd noout ,停止相应osd[root@test-1 ~]# ceph osd set nooutnoout is转载 2021-10-28 13:51:18 · 1191 阅读 · 0 评论 -
ceph中对象和osd的匹配
1 首先建立一个测试文件。 #echo "Hello Ceph, You are Awesome like MJ" > /tmp/helloceph #ceph osd pool create HPC_Pool 128 128 2 将生成的测试文件存入该池中并确认文件在池中: #rados -p HPC_Pool put object1 /tmp/helloceph #rados -p HPC_Pool ls object1 3 在c转载 2021-10-20 14:37:53 · 261 阅读 · 0 评论 -
CentOS安装S3FS实现OBS桶挂载
1、安装所需的一些工具yum -y install automake fuse fuse-devel gcc-c++ git libcurl-devel libxml2-devel make openssl-devel2、克隆s3fs-fuse到本地git clone https://github.com/s3fs-fuse/s3fs-fuse.git3、编译安装cd /root/s3fs-fuse/./autogen.sh./configure && make.转载 2021-08-05 16:49:43 · 761 阅读 · 0 评论 -
玩转ceph的正确姿势
内容目录:Ceph 客户端 Ceph 服务端 总结 参考玩转 Ceph 的正确姿势本文先介绍 Ceph, 然后会聊到一些正确使用 Ceph 的姿势;在集群规模小的时候,Ceph 怎么玩都没问题;但集群大了(到PB级别),这些准则可是保证集群健康运行的不二法门;Ceph 最初的目标是做一个分布式文件系统,直到现在这个目标也不能算完美实现;目前官网上对它的文件系统还是谨慎推荐的态度(不建议对线上核心业务部署);业界使用 Ceph ,大多是用它的对象存储;Ceph 客户端Ceph 支转载 2021-07-23 11:04:53 · 159 阅读 · 0 评论 -
Ceph工作原理详解
一、Ceph概述这里简单的说一下相关的组件,只是简单介绍组件 概念 Monitor 一个Ceph集群需要多个Monitor组成的小集群,它们通过Paxos同步数据,用来保存OSD的元数据 OSD OSD负责相应客户端请求返回具体数据的进程,一个Ceph集群一般都有很多个OSD MSD MSD 全称Cepg Metadata Service,是CephFs服务依赖的元数据服务 Object Ceph最底层的存储单位是Object对象,每个Object包含元转载 2021-07-14 10:34:18 · 307 阅读 · 0 评论 -
Rocksdb Compaction原理
转载地址:https://www.cnblogs.com/cchust/p/6007486.html概述 compaction主要包括两类:将内存中imutable 转储到磁盘上sst的过程称之为flush或者minor compaction;磁盘上的sst文件从低层向高层转储的过程称之为compaction或者是major compaction。对于myrocks来说,compaction过程都由后台线程触发,对于minor compaction和major compaction分别对应一...转载 2021-02-20 16:13:24 · 378 阅读 · 0 评论 -
rpm包部署分布式存储ceph环境遇到的问题
编译ceph源码生成rpm包,用rpm包直接部署ceph环境。遇到的问题1.[ceph_deploy][ERROR ] File "/usr/lib/python2.7/site-packages/ceph_deploy/util/ssh.py", line 15, in can_connect_passwordless [ceph_deploy][ERROR ] if not remoto.connection.needs_ssh(hostname):,网上好多方法我都试过了,最终记录...原创 2020-11-12 15:06:49 · 1140 阅读 · 1 评论