ceph中的put object mutipart总结

最新推荐文章于 2021-11-24 14:47:38 发布
最新推荐文章于 2021-11-24 14:47:38 发布
阅读量1.8k 收藏 3
点赞数
分类专栏： ceph 文章标签： C++ ceph 存储
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zrs19800702/article/details/53081520
版权

当s3配置文件设置enable_multipart = True时，put mutipart功能被启动

在用户上传一个object时，S3会按照配置文件要求对文件进行分块，参数如下：

multipart_chunk_size_mb = 15-----------------15M一块

multipart_max_chunks = 10000-----------------最大块数10000

运行流程

S3下发一个post消息，向radosgw申请upload id，后面分块上传都才有这个upload id做标示

radosgw返回一个upload id给s3使用

S3开始按照配置好的分块大小，将文件分块上传（本例分三块，总文件大小45M），这里下发的是PUT消息，并且代入了partNmuber和uploadId

S3下发POST消息，通知服务端上传文件完成

以上是mutipart上传文件S3部分下发的消息流程

下面是几个常用的命令

上传完毕后upload Id被删除（如果中途出现失败的情况，可采用./s3cmd multiparts3://ZHOU 的命令形式查询upload id）

手动删除未被销毁的upload Id 命令为./s3cmd abortmp s3://ZHOU/pydev.tar.gz  upload id
下面是我修改了分块大小，将原来的15M修改为5M，而且在分块上传时，手动暂停了后面的几个上传，这样就可以发现upload id 保存在缓存中

采用命令./s3cmd multipart s3://ZHOU 来查询bucket中的upload Id

采用命令s3cmd listmp s3://ZHOU/pydev.tar.gz  2~Vz0wGLS0veZf2gXV1eCcogaz_3kmgfg 来查询upload Id的详细信息，可以看到上传了7个部分，每部分都是5M

修改配置参数put_continue = True，可以在原来的基础之上续传，续传是从以前的最后一块继续上传，图中上传了剩余的第8和第9块，这时候upload id被删除了

后台采用4M切片

上传一个文件

查询结果如下：

root>/home/ceph/src>./rados -p default.rgw.buckets.data ls

2016-06-24 18:12:41.215614 7fe61260aa40 -1 WARNING: the following dangerous and experimental features are enabled: *

2016-06-24 18:12:41.216001 7fe61260aa40 -1 WARNING: the following dangerous and experimental features are enabled: *

2016-06-24 18:12:41.241489 7fe61260aa40 -1 WARNING: the following dangerous and experimental features are enabled: *

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_1

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_4

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1_pydev.tar.gz

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_3

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__multipart_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.3

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_2

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_4

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__multipart_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.3_1

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_3

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__multipart_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_2

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_1

 

整理后可以看到

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1_pydev.tar.gz----------------------manifest

 

-------------每20M切片成1个mutipart+N个shadow

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__multipart_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_1

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_2

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_3

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.1_4

 --------------下一个20M

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__multipart_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_1

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_2

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_3

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.2_4

 

------------下一个mutipart

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__multipart_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.3

5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.3_1

 

查看最后一个切片的大小

root>/home/ceph/src>./rados -p default.rgw.buckets.data stat5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.3_1

2016-06-24 18:35:04.201558 7fc8cff71a40 -1 WARNING: the following dangerous and experimental features are enabled: *

2016-06-24 18:35:04.201797 7fc8cff71a40 -1 WARNING: the following dangerous and experimental features are enabled: *

2016-06-24 18:35:04.222031 7fc8cff71a40 -1 WARNING: the following dangerous and experimental features are enabled: *

default.rgw.buckets.data/5c4bca48-8a5e-43f0-81f1-1fcf7990a180.24109.1__shadow_pydev.tar.gz.2~sgJQ5EHwh4O5EPaDIR4woskDm9XrUYE.3_1 mtime 2016-06-24 18:07:07.000000,size 719778

奥格瑞玛-毁灭之锤
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ceph中radosgw的put object代码走读
zrs19800702的博客
11-08 2031
ceph中radosgw的put object代码走读
ceph关于multipart读取数据的总结
zrs19800702的博客
11-08 1918
ceph关于multipart读取数据的总结
【Ceph】abort incomplete multipart uploads
runzhliu大数据/容器日记
10-23 371
# radosgw-admin bucket rm --bucket=hero_video_lol --purge-objects --bypass-gc 2020-10-23 15:26:58.195290 7f1e894fcdc0 0 WARNING : aborted 1000 incomplete multipart uploads 2020-10-23 15:27:01.293719 7f1e894fcdc0 0 WARNING : aborted 2000 incomplete multip
对象存储s3cmd使用手册
255.255.255.0
01-18 5514
#s3cmd 是用于创建S3桶，上传，检索和管理数据到对象存储命令行实用程序。 通常用于对象存储服务桶和对象数据管理，包括创建桶、上传、检索、删除及本地与对象存储服务间数据同步等。 一、安装 yum install s3cmd apt-get install s3cmd 二、使用 1. 配置方法 更改$HOME/.s3cfg配置文件 s3cmd --configure s3cmd -c FILEFILE为已完成配置的文件 推荐更改项：access_key = <y..
Ceph RGW 对象上传源码分析
lv0918_qian的博客
11-24 871
RGW中OP请求处理函数的入口都是process_request，process_request会根据传入的RGWRados参数获取RGWOp，然后当请求合法性通过后去调用rgw_process_authenticated函数执行OP的具体动作。 请求的处理 Collapse source int process_request(RGWRados* const store, RGWREST* const rest,
ceph系统配置和课程总结
04-12
在“ceph系统配置和课程总结”中，我们将深入探讨Ceph的核心组件、安装过程、配置细节以及常见应用场景。 一、Ceph核心组件 1. OSD（Object Storage Daemon）：OSD是Ceph系统的基础，负责数据的实际存储。每个OSD...
ceph总结（中文）
08-13
Ceph 分布式文件系统总结 Ceph 是一个基于 POSIX 的自由软件分布式文件系统，由 Sage Weil 设计，旨在提供一个没有单点故障的分布式文件系统，使数据能容错和无缝的复制。Ceph 的架构可以大致划分为四部分：客户端...
Ceph官网 [中文翻译] 文档
04-10
"Ceph分布式存储系统官网文档" Ceph是一个开源的分布式存储系统，旨在提供高可用、可扩展、低成本的存储解决方案。Ceph的官网文档提供了详细的安装、配置、管理和维护指南，帮助用户快速上手使用Ceph。 Ceph存储...
CEPH中文操作文档.pdf
06-05
《 Ceph 运维手册》 汇总了 Ceph 在使用中常见的运维和操作问题， 主要用于指导运维人员的相关工作。 存储组的新员工， 在对 Ceph 有 了基础了解之后， 也可以通过本手册进一步深入 Ceph 的使用和运 维。
Ceph日常运维操作命令总结
08-30
以下是对Ceph日常运维操作命令的详细总结： 1. **监控与检查状态** - `ceph health`: 检查整个Ceph集群的健康状况。 - `ceph df`: 查看集群的存储使用情况。 - `ceph osd tree`: 显示OSD（Object Storage Daemon...
ceph RGW Multipart 上传文件过程
qq_37517281的博客
09-21 2001
REST 请求的处理 init 用户，认证，权限，桶等参数 init 操作类型相关的初始化 检查权限 检查参数 返回头上加上操作的 bucket execute complete 返回 io 的完成状态 记录日志 POST （生成 multipart 的总对象） 检查参数和操作内部权限（user_policies） 为桶的 event_type 类型的 topic 预留用于 notification 的空间 分配操作上下文，放在 ObjectWriteOperation 中 （2pc_queue_rese
玩转 Ceph 的正确姿势
weixin_34240657的博客
02-04 545
玩转 Ceph 的正确姿势 本文先介绍 Ceph， 然后会聊到一些正确使用 Ceph 的姿势；在集群规模小的时候，Ceph 怎么玩都没问题；但集群大了（到PB级别），这些准则可是保证集群健康运行的不二法门； Ceph 最初的目标是做一个分布式文件系统，直到现在这个目标也不能算完美实现；目前官网上对它的文件系统还是谨慎推荐的态度（不建议对线上核心业务部署）； 业界使用 Ceph ，大多是用它的对象存...
ceph笔记(一)
weixin_30415113的博客
01-02 252
一、ceph概述本质上是rados：可靠的、自动的、分布式对象存储特性：高效性(大型的网络raid，性能无限接近raid)、统一性(支持文件存储、块存储、对象存储)、可扩展性数据库的一个弱点：查表ceph中没有数据库，集群状态全靠cluster map展示三种存储类型与rados的关系补充云主机创建：nova-->libvirtd:虚拟机控制程序-->qemu(其他硬件的虚拟化)-kv...
文件上传时,文件太大会有几种被限制的情况
weixin_38546942的博客
11-13 4710
文件上传时,文件太大会有几种被限制的情况 ​ 近期在维护一个项目时,商户有反馈,在新增用户时会直接卡住并报错,返回一个异常,应用层没有日志,最后排查出来是nginx限制了请求的最大值. ​ 那么整个链路上都有哪些可能导致上传会被限制.比如前端页面表单输入数据较多，包含多个文本、多张图片，在数据未压缩的情况下，最终上传失败? 下面了梳理一下. 一个请求需要经过的路径: nginx->servlet中间件->具体应用框架(springmvc,strust2)->内部rpc访问->
解析Ceph和9000分布式存储
热门推荐
Hardy
06-11 1万+
Ceph是呼声很高的开源分布式的SDS产品存储系统。同时提供对象存储、块存储和文件系统存储三种功能，满足不同应用需求。Ceph使用C++语言开发，遵循LGPL协议开源。Sage Weil(Ceph论文发表者)于2011年创立了以Inktank公司主导Ceph的开发和社区维护。2014年Redhat收购 inktank公司，并发布Inktank Ceph企业版，业务场景聚焦云、备份和归档，支持对象和块存储应用。从此出现Ceph开源社区版本和Redhat企业版。 OceanStor 9000是国内比
详解Ceph数据是如何布局的？
架构师技术联盟
10-21 1202
Ceph项目始于2004年，是为优秀的性能、可靠性和可扩展性而设计的统一的分布式存储系统。在使用RADOS系统时，客户端程序通过与OSD或者Monitor的交互获取Clu...
ceph-request 工具箱开发
chupiti2317的博客
11-05 359
https://github.com/wzyuliyang/ceph-request 目前支持s3，后期支持swift INSTALL python setup.py install HOW ceph-request --help create bucket named yuliyan...
【ceph】ceph的序列化（ENCODE/DECODE）和升级协议兼容性考虑
bandaoyu的note
08-06 1054
序列化 (ENCODE/DECODE) 当一个结构通过网络发送或写入磁盘时，它被编码为一串字节。可序列化结构具encode和decode方法，将结构体序列化后存入bufferlist和从bufferlist读出字节串反序列出结构体。 向结构中添加字段 在Ceph代码中有很多例子，这里有一个例子。 class AcmeClass { int member1; std::string member2; void encode(bufferlist &bl) ..
ceph单机版搭建与(golang)常用api
zhanggf的博客
09-14 1214
ceph线上工作心得
Ceph 出现pg object unfound的处理经过
最新发布
06-01
当 Ceph 出现 "pg object unfound" 错误时，这通常意味着某个存储池中的对象已经丢失或损坏，导致 Ceph 群集无法找到该对象。以下是解决此问题的步骤： 1. 首先，您需要查看 Ceph 的日志，以确定哪个存储池中的对象出现了问题。您可以使用命令 "ceph pg ls" 来检查每个 PG 的状态，看看是否有任何异常。 2. 一旦确定了出现问题的存储池和对象，您需要运行命令 "ceph pg repair" 来修复该对象。这将触发 Ceph 在群集中重新分配该对象，并将其复制到其他 OSD 中。 3. 如果修复命令无法解决问题，则可能需要使用 Ceph 的数据恢复工具（如 rados、rbd 和 cephfs）手动恢复该对象。具体步骤取决于您使用的存储池和对象类型。 4. 最后，您应该检查您的 Ceph 群集配置，确保它具有足够的备份和冗余配置，以防止数据丢失或损坏。 需要注意的是，在修复过程中，Ceph 可能会重新分配数据并将其复制到其他 OSD 中，这可能会导致一些性能损失。因此，在修复之前，您应该评估群集的负载和可用性，并在需要时计划维护窗口。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值