使用经验-深度学习云服务器mist GPU

关于mistGPU的使用

0. 导读

最近显卡这价格。。。还是买不起

但是做深度学习,只用 cpu 实在是太难受了

  • 浪费时间,使得调参周期长
  • 每次能使用的 batchsize 很小,本质上会影响 accuracy
  • 不能使用较大的模型,大多数人的笔记本 cpu 跑 vgg16 用 32 的 batchSize 都费劲

最近找了几个云服务器,比较下来,还是mist好用,这里给出链接:mistGPU的网址


接下来聊一聊我自己使用mist服务器训练模型的一种方法——命令行 + 云端 + JupyterLab方法

该方法相对来说操作较为方便,供大家参考

1. 数据集

  1. 首先在本地把数据集打包好,打包为.zip的格式,
  2. 然后上传至mistGPU的云端(1G以下不收费)
  3. 接着要将云端的压缩包解压到服务器的根目录,操作如下:

使用mistGPU的命令行工具,输入:

unzip /data/example.zip -d ~/

即可将数据集解压到根目录

  1. 在根目录内查看数据集文件

比如example.zip里面的内容为文件夹flower_data,使用命令:

ls ~/

即可显示:flowerdata

  • 注:在迁移学习时,pth文件较大,也可以用同样的方法上传至mist服务器
  • 另一种上传文件的方法 – 使用scp:
scp -r -P35000 /Users/luxhermann/Desktop/example.zip mist@gpu08.mistgpu.xyz:~/

即:

scp -r -P35000 本地路径 mist@gpu08.mistgpu.xyz:~/

2. 代码文件

建议:

  1. 在本地把所有代码都写好
  2. 在小batchsize、小模型的情况下先跑通,确保代码没有实质性错误
  3. 用mist服务器上的 JupyterLab中将较小的 .py 文件等导入到 ~/路径 (根目录)

最后还是使用mist服务器到命令行输入指令

如:

python train.py

接下来等待结果

3. 下载结果

首先在 JupyterLab 里面找到要下载的内容的路径:

  • 如在 ~/ 路径下有一个vgg16.pth 文件是训练结果

在本地的命令行里输入指令:

scp -r -P0040 mist@xxx.mistgpu.xyz:~/vgg16.pth /Users/name/Downloads

即:

scp -r -P0040 mist@xxx.mistgpu.xyz:~/文件  本地路径

即可高速下载至本地

  • 备注:(cuda -> cpu)

在服务器上的 pth 文件为 cuda 版本的

而本地使用该 pth 文件时,往往是 cpu 运行

故需要将导入 pth 文件的代码进行修改:

  • 原先是:
model.load_state_dict(torch.load('./example.pth'))
  • 需要改成
model.load_state_dict(torch.load('./example.pth', 
                                 map_location=lambda storage, 
                                 loc: storage))

4. 尾巴

本文主要给出了一种我个人较为常用的方法,而mist官方的文档里还有介绍其他的方法:

客观来说,mist服务器算是目前市面上操作比较友好的一个平台了,唯一的缺点就是略贵,不过相比阿里云之类的,mist甚至性价比还不错,如图:
在这里插入图片描述

另外,可以使用邀请链接来得到赠送券,这是我的邀请链接,各位兄弟不妨点一下


文章若有错误,欢迎指正!

  • 3
    点赞
  • 22
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值