使用rclone工具实现华为云OBS至AWS S3数据迁移同步

项目需将华为云OBS存储桶内容迁移到AWS云S3存储桶,采用开源工具rclone实现。介绍了已知环境信息,详细说明了rclone的安装、配置方法,包括直接编辑和生成配置文件两种方式,还讲解了数据复制的copy和sync参数区别,以及使用screen命令开启后台窗口运行复制命令。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1. 背景

        项目需要将华为云的OBS对象存储服务的存储桶bucket的内容迁移复制到AWS云的S3存储桶中,AWS中暂无实现改需求的云服务,所以采用开源的第三方软件rclone来实现。

        rclone可以使用在linux操作系统中,是一种命令行形式的工具。

2. 已知环境信息

华为云OBS:

1. 已从统一身份认证服务IAM中获取到账号的access_key_id和secret_access_key;

2. 存储桶区域:西南-贵州   cn-southwest-2

AWS S3:

1. 已从统一身份认证服务IAM中获取到账号的access_key_id和secret_access_key;

2. 存储桶区域:新加坡   ap-southeast-1

3. 安装rclone

3.1 安装包下载

采用curl的形式下载,在Linux服务器中输入命令(amd64类型):

curl -O https://downloads.rclone.org/rclone-current-linux-amd64.zip

也可以在官网中下载对应的安装包,上传到服务器(可根据服务器类型选择不同的安装包):

官网下载地址:/

 3.2 安装rclone

解压zip安装包:

unzip rclone-current-linux-amd64.zip

 命令授权:

cd rclone-v1.60.0-linux-amd64/
#这里目录名称可能不一样,注意cd进入的目录即可

sudo cp rclone /usr/sbin/
sudo chown root:root /usr/sbin/rclone
sudo chmod 755 /usr/sbin/rclone

3.3 开始配置

        rclone的配置来源于rclone.conf文件,软件支持使用命令生成配置文件,也可以直接在配置文件中输入相关的内容,在这两种方式中二选一即可。

3.3.1 (方式一)直接编辑配置文件

        我们直接创建配置目录并编辑配置文件,简单明了,明白各个配置参数的意思即可。

mkdir -p /root/.config/rclone/
touch /root/.config/rclone/rclone.conf
vim /root/.config/rclone/rclone.conf

        输入以下内容,根据环境信息进行相应的配置。 

[s3]    #1号配置的名称,随便定义
type = s3    #服务类型,为S3类型的服务
provider = AWS    #供应商,我这里是AWS
env_auth = false
access_key_id = xxxxxx    #这里对应的是aws账号access_key_
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值