aws使用记录

本文介绍了如何通过AWSCLI在命令行中管理S3服务,包括安装、身份验证、列出S3文件夹内容、同步文件、复制文件以及将S3数据复制到EC2进行解压和多GPU训练的过程。还提供了必要的配置步骤和工具如Nohup和tmux的使用方法。
摘要由CSDN通过智能技术生成

数据传输(S3)

安装命令行

安装awscli:

https://docs.aws.amazon.com/zh_cn/cli/latest/userguide/getting-started-install.html#getting-started-install-instructions

直到 aws configure list 可以运行

身份验证:

运行:

aws configure

输入access_key 和 secrete

这里告诉你这俩东西怎么找到:

https://docs.aws.amazon.com/zh_tw/IAM/latest/UserGuide/id_credentials_access-keys.html

Region 输入的是s3 桶的 region比如 us-east-1

(我们的key发在视觉算法群里, 搜索 access_key )

access_key(accesskey): AKIAQ****

secrete: RvCey****

region: us-east-1

命令行使用

本地服务器复制到AWS

常用的两个:

罗列s3里文件夹内容:

aws s3 ls s3://test-guo/

同步文件夹 (可以加 --delete 参数):

aws s3 sync /path/to/dir/ s3://test-guo/path/to/dir/

复制文件:

aws s3 cp /path/to/file.tar s3://test-guo/path/to/dir/

aws s3 cp /path/to/file.tar s3://test-guo/path/to/dir/new_name.tar

更多详见文档:

https://docs.aws.amazon.com/zh_cn/cli/latest/userguide/cli-services-s3-commands.html#using-s3-commands-listing-buckets

从S3 复制到EC2

Aws confugure

然后输入4个key:access_key,secrete,region

然后成功显示

现在可以复制了

Aws s3 cp s3://.................. ./current_folder

EC2解压数据Nohup :

Nohup unzip ***.zip &

挂在后台解压很快,不如print很多数据,从美国传输到中国,需要时间,会耗费大量时间在print

EC2 多GPU后台挂载训练 tmux:

nohup只适合单GPU训练,多GPU会报错,所以使用tmux这个工具

https://zhuanlan.zhihu.com/p/98384704 教程百度即可

常用命令:

Tmux ls

Tmux new -s name

Tmux detach

Tmux attach -t name

Tmux kil-sesseion -t name

Tmux switch -t session-name

Lauch 一个实例

https://us-east-1.console.aws.amazon.com/ec2/home?region=us-east-1#Instances:

  • 13
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值