在华为云平台的ModelArts 从0开始部署自己的数据集与模型

开篇废话!

这是我从大学以来,现在都大三了,写的第一篇文章,为什么大三开始写呢,因为自己才开始慢慢的上手,也积累了一点点经验,废话不多说,看硬货。

因为自己参加华为的ICT比赛,然后用的华为的ModelArts云开发平台(类似百度的AI studio)中间遇见了许多的曲折,所以写这篇文章帮大家避坑

在ModelArts 从0开始部署自己的模型(一)—用自己的数据集训练数据

1、上传自己的数据集

1、1 创建华为云的桶

(1)在华为云打开OBS对象存储服务,点击创建桶(类似创建个云储存空间)
创建一个桶

(2)选择区域(这个很重要!!!)
因为后续创建数据集,是需要桶和数据集在一个区域中,不然数据传不上去用不了,我人在成都,然后选西南地区,创好之后发现数据集那边没有西南地区的选项,哭了
在这里插入图片描述
在这里插入图片描述

(3)桶的名称和数据冗余存储策略
这里看下面的提示选择合适自己的就好
在这里插入图片描述

1、2上传自己的数据集

打开桶,点对象里的上传对象,就可以上传自己的数据集了(一般最好压缩文件)
在这里插入图片描述
在记住旁边这个路径后续有用哦
在这里插入图片描述

2、创建Notebook

(1)在ModelArts的开发环境选择创建Notebook

在这里插入图片描述
(2)然后选择自己的开发环境
在这里插入图片描述

3、在Notebook里面下载自己桶里的数据集

(1)检查桶是否创建成功或数据是否上传成功

import moxing as mox
mox.file.exists('obs://liekai/data_input/data.zip') 
‘’‘
这个是查询是否数据集创建成功的,里面参数就是 obs:// 然后就是桶里面的路径地址
成功返回Ture
’‘’

(2)从桶里面下载数据到work目录下

from modelarts.session import Session
session = Session()
session.obs.download_file(src_obs_file="obs://liekai/data_input/data.zip", 
dst_local_dir="/home/ma-user/work/")
’‘’
第一个参数就是数据集的具体位置,第二个就是你解压的目录,解压在work才会持久化的保存,不然你下次还得下载解压一遍
‘’‘

(3)解压数据集到当前目录

!unzip data.zip

在这里插入图片描述

最后附上官方链接

如何导入大文件到Notebook中

我的AI studio个人链接 https://aistudio.baidu.com/aistudio/usercenter,欢迎大家fork

github我网撇,就不咋用,终极还是太菜了

喜欢的就动一下小手手点个赞👍,后面会更新用自己的paddlepaddle和mindspore的一些项目流程经验

这里是AKA悍匪炼丹师,代码扣得流畅,炼丹炼得端庄

  • 8
    点赞
  • 32
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值