aws s3 bucket下 创建文件夹_【敏捷云 成本优化系列】S3的最佳优化实践(六)

本文介绍了如何在AWS S3 bucket下进行成本优化,包括利用生命周期管理清理未完成的分段上传、开启S3清单以获取存储详情、使用Athena查询清单内容,以及根据查询结果进行存储类型转换和数据删除,旨在帮助用户降低S3存储成本。
摘要由CSDN通过智能技术生成
a785261351ba0bbf03604a156a4112b5.png       之前我们在【敏捷云 · 成本优化系列】中,连接分享了五篇关于成本优化的文章( 底部有前五篇的链接 ),后台收到不少希望我们能推送更多关于成本优化方面内容的留言。好!满足你们。今天我们的【成本优化系列】推送的内容是:S3的最佳优化实践。       在之前的分享中, 提到过一些存储优化的建议, 今天我们通过详细的优化案例来给大家分享在 S3 存储优化过程中的细节操作。虽然 S3 的存储成本本来就不高,但不少客户在使用一段时间 Amazon S3 服务后,都不可避免地考虑到成本优化方面的问题。       在现实状况下,由于多年的数据堆积和后期系统开发等方面因素,不能很准确定义出存储桶中的数据情况(比如某个文件夹下面有多少文件是 30 天以内需要访问的,多少文件是 30 天之外会访问的,多少文件是 0KB 的文件,多少文件是小于 128KB 的文件等)。在些状况下进行 S3 成本优化,过程中可能会遇到很多问题,甚至不恰当的优化方式不但不会降低成本反而会导致费用的进一步增加。所以不能仅靠粗略估计,而是需要通过更细致的分析进行各种优化方式的优劣对比,找到最合适的优化方案。         下面我们一起来看看 S3 成本优化的最佳实践过程吧。 d88474456086747f55d7de2bc431b535.gif

S3存储类型概要

S3存储类型分为

  • S3标准
  • S3智能分层
  • S3-IA (包括one zone)
  • S3 Glacier
  • S3 Glacier Deep Archive 
      S3并不是只是简单的按照数据用量来收费,不同的类型有不同的价格,在数据使用费之外,还有其他费用,例如据请求费和检索费等。上边的分类从上到下,数据存储费逐步降低,但是请求和数据检索的费用却反之越来越贵。所以S3的使用总费用是数据存储费+请求检索费+数据传输费用+存储类型转换费。       下图是AWS官方的给出的数据,以1000个文件为例,总大小1GB的使用情况:

418578da2b149acb613d70484e53474c.png

我们看一下如此案例怎样优化才是最佳。

0ab6beca2ffb5ea5a1eaa002d4135f7d.gif

S3成本优化过程

      注意下面优化的部分提到的内容不涉及到开启了版本控制的桶,对于开启了版本控制的桶虽逻辑相同,但是查询方法会有差异。

1

利用生命周期管理清理掉未完成的分段上传文件

     分段上传是针对一些大的文件到S3AWS给出的推荐上传方法。但是传输过程中某几个分段失败了,留下了其他的不完整文件分段。由于这部分文件是隐藏文件但却占用空间,在做优化之前,通常建议把这部分从桶上删除掉。如果想了解有多少这类文件可以使用如下命令进行查询(AWS CLI命令)。

aws s3api list-multipart-uploads –bucket my-bucket

     很多对存储桶应用较多的用户这类费用甚至占到S3桶总费用的10%。参考以下文档对整桶配置生命周期根据需要清理这些未完成文件分段,使用生命周期删除文件并不产生额外费用。

h
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值