ceph遍历key迁移数据_ceph导出bucket数据，2024年最新原理+实战讲解

2401_84247505

于 2024-04-15 02:46:35 发布

阅读量702

点赞数 10

分类专栏： 2024年程序员学习文章标签： ceph

本文链接：https://blog.csdn.net/2401_84247505/article/details/137760820

版权

2024年程序员学习专栏收录该内容

96 篇文章 1 订阅

订阅专栏

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新软件测试全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上软件测试知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注软件测试）

正文

ceph集群出现版本bug，触发之后osd也无法恢复，由于集群版本比较旧，数据也不是特别敏感，所以选择重建ceph集群，但是重建之前需要把里面的数据迁移到另外一个ceph集群实现恢复数据读写。

分析：

1.需要把数据的key全部遍历出来

—当时查了挺多数据，都无法在集群故障，无法读写的情况下按bucket实现遍历key，所以这里我是直接把所有数据都遍历了，5.6亿行的key数据，大概导了30个小时左右导完。

rados -p tupu-zone1.rgw.buckets.data ls

2.遍历完key之后开始过滤业务需要的数据key

—为什么需要过滤呢，因为5.6亿数据太大了，没必要的数据就不要了。

—在使用py过滤的过程中遇到了一个比较常见的错误，由于导出的key文件有60多g，如果直接把60多g的文件直接放到内存中，是会导致内存错误，需要使用流式读取

import time
start = time.time()

file1 = open(‘2023-3-21-data.txt’, ‘r’)

Lines = file1.readlines()

bucket_keys = [
“LTS-Bucket-BIAvatar.log”,
“LTS-Bucket-BIBodyFeature.log”,
“LTS-Bucket-PISKUImage-new.log”,
“LTS-Bucket-storeInspectImage.log”,
“LTS-Bucket-BI-GOOD-Result-Img.log”,
“LTS-Bucket-Aigc.log”,
“LTS-Bucket-UserDefineImages.log”,
“LTS-Bucket-OBJECT_SEARCH-politicians.log”,
“OBJECT_SEARCH-politicians.log”,
“LTS-Bucket-OBJECT_SEARCH.log”,
“LTS-Bucket-OBJECT_SEARCH-stars.log”,
“LTS-Bucket-OBJECT_SEARCH-politicianv4.log”,
“LTS-Bucket-OBJECT_SEARCH-inkenew.log”,
“LTS-Bucket-OBJECT_SEARCH-tt.log”,
“LTS-Bucket-ClerkImage.log”
]
path_wf = “/root/tmp_data/res/”

filelist = []
for i in range(len(bucket_keys)):
n = “file” + str(i)
filelist.append(n)

for k, key in enumerate(bucket_keys):
filename = path_wf + key
filelist[k] = open(filename, ‘a’)

buckey_id = [
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3374283.71960”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.37539210.94331”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.10764110.28340”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245259.51271”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2793933771.431”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3243722154.5763”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245292.36826”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14838714.38464”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14962229.37964”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.175373217.48388” ,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828896.34830”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.30224932.39965”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828947.38406”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.26387467.19668”,
“56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2242965399.4663”
]

myfile = dict(zip(buckey_id, filelist))

count = 0

with open(“2023-3-21-data.txt”, ‘r’) as f:
for line in f:
count += 1
if “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3374283.71960” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3374283.71960’].write(line)
elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.37539210.94331” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.37539210.94331’].write(line)
elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.10764110.28340” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.10764110.28340’].write(line)
elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245259.51271” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245259.51271’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2793933771.431” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2793933771.431’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3243722154.5763” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3243722154.5763’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245292.36826” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245292.36826’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14838714.38464” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14838714.38464’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14962229.37964” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14962229.37964’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.175373217.48388” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.175373217.48388’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828896.34830” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828896.34830’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.30224932.39965” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.30224932.39965’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828947.38406” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828947.38406’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.26387467.19668” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.26387467.19668’].write(line)

elif “56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2242965399.4663” in line:
myfile[‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2242965399.4663’].write(line)

for k, key in enumerate(bucket_keys):
filelist[k].close()

end = time.time()
print(end-start)

个人比较熟悉py语法，现在流行chatgpt，大家也可以尽可能地使用起来，特别是跨语言实现功能的时候，我这里在chatgpt也查到js的用法，个人感觉相当哇塞。

const readline = require(‘readline’)
const fs = require(‘fs’)

const filePath = ‘2023-3-21-data.txt’

const bucketIdToWS = {
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3374283.71960’: fs.createWriteStream(LTS-Bucket-BIAvatar.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.37539210.94331’: fs.createWriteStream(LTS-Bucket-BIBodyFeature.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.10764110.28340’: fs.createWriteStream(LTS-Bucket-PISKUImage-new.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245259.51271’: fs.createWriteStream(LTS-Bucket-storeInspectImage.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2793933771.431’: fs.createWriteStream(LTS-Bucket-BI-GOOD-Result-Img.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.3243722154.5763’: fs.createWriteStream(LTS-Bucket-Aigc.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.43245292.36826’: fs.createWriteStream(LTS-Bucket-UserDefineImages.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14838714.38464’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH-politicians.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14962229.37964’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH-politicians.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.175373217.48388’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828896.34830’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH-stars.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.30224932.39965’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH-politicianv4.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.14828947.38406’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH-inkenew.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.26387467.19668’: fs.createWriteStream(LTS-Bucket-OBJECT_SEARCH-tt.log),
‘56dfcf77-f7ee-4b4f-89b8-cbddbbbd1ef1.2242965399.4663’: fs.createWriteStream(LTS-Bucket-ClerkImage.log),
}

const bucketIds = Object.keys(bucketIdToWS)

// 创建按行读取接口
const lineReader = readline.createInterface({
input: fs.createReadStream(filePath, { encoding: ‘utf-8’ }),
crlfDelay: Infinity
});

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注软件测试）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
难做到真正的技术提升。**

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注软件测试）
[外链图片转存中…(img-3KMDpQ7k-1713120377366)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

2401_84247505

关注

10
点赞
踩
10

收藏

觉得还不错? 一键收藏
0
评论
ceph遍历key迁移数据_ceph导出bucket数据，2024年最新原理+实战讲解

当时查了挺多数据，都无法在集群故障，无法读写的情况下按bucket实现遍历key，所以这里我是直接把所有数据都遍历了，5.6亿行的key数据，大概导了30个小时左右导完。个人比较熟悉py语法，现在流行chatgpt，大家也可以尽可能地使用起来，特别是跨语言实现功能的时候，我这里在chatgpt也查到js的用法，个人感觉相当哇塞。—在使用py过滤的过程中遇到了一个比较常见的错误，由于导出的key文件有60多g，如果直接把60多g的文件直接放到内存中，是会导致内存错误，需要使用流式读取。
复制链接

扫一扫