如何选用GPU云服务器？

已于 2022-06-27 15:41:21 修改
阅读量1.3k 收藏 14
点赞数 4
分类专栏： ubuntu others 文章标签： 服务器 运维 分布式 深度学习
于 2022-06-24 16:51:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_47058489/article/details/125413046
版权

1 相关知识了解

1.1 了解厂家

1.1.1 面向个人的平台

名称特点
极链AI云微信绑定送100，学生200
1024Lab云便宜，国外，DBC支付（不知道是啥，不考虑）
矩池云GPUVNC远程访问图形化桌面，操作简单，gpu种类多，预装tf、pytorch等多种知名框架，高校教育版老师申请大优惠，适配pycharm
易学智能AI云贵，但人性化
MistGPU云便宜，配置了tf、pytorch等多种知名框架，中途关机暂停可以再开机使用
智星云预装tf、pytorch等框架，略贵
BitaHub赠送大方
极客云略贵，可租出去
恒源云评价很好，有近百元礼包

邀请注册，有注册尝试的同学可使用我的邀请链接注册，对你我都有好处~

  1. 恒源云
  2. 矩池云专属邀请码：mgLMBx6FjiWGNAO
  3. 极链AI云

1.1.2 大厂出品/通用服务器

名称特点
colab科学上网，内存只有256mb
谷歌云科学上网，新用户送300刀
三丰云不面向学生出租GPU
阿里云三巨头之一
腾讯云三巨头之一
华为云三巨头之一
Azure微软
AWS亚马逊，可白嫖低性能云服务器

http://www.aliyunbc.com/newsinfo/1157113.html
停止实例

在这里插入图片描述

1.2 了解云服务器配置

相关参数：地域、计费方式、CPU、内存、带宽、系统盘、数据盘

1.2.1 地域节点

就近原则，理论上，用户距离云服务器地域越近，网络延迟越低，速度越快。当需要部署大型项目涉及负载均衡和高并发量等时，地域节点的影响会慢慢凸显。

1.2.2 计费方式

包年包月：一般适用于24小时在线服务（无特殊需求则选择这个方案，性价比高）
按量计费：间歇使用

1.2.3 cpu

CPU是服务器的一个核心，表示云服务器的运算能力。CPU数量越多，主频越高，CPU性能越优越，对业务处理的能力也就越高

1.2.4 内存

内存作为数据的中转站，内存越大，可用缓存也就越大，如果是网站，打开速度也就越快。

1.2.5 带宽

网络带宽越大，数据传输能力越强，可以同时支持的在线用户越多（建议优先选择5M带宽）

1.2.6 系统盘

系统盘是用来存储云服务器系统的，和家用电脑的C盘差不多，购买的服务器默认会提供的系统盘一般为40G。
性能方面 ESSD云盘 > SSD云盘 > 高效云盘 > 普通云盘

1.2.7 数据盘

数据盘是用户自行创建的，可以和购买云服务器时一起创建，也可以单独创建数据盘。一般数据小于20个G是不用去买数据盘的，放在系统盘即可，系统盘也可以回滚快照，和数据盘是一样的，所以不用担心数据丢失的问题，数据盘是给数据比较大的客户用的，当存储数据量较大时必须要挂载数据盘。

1.2.7 配置及适用场景

在这里插入图片描述

2 平台试用

2.1 极链AI云

参考指导手册

2.1.1 创建实例

在这里插入图片描述
讲实话，gpu规格型号有点少，11种。但我要求并不高，因此无所谓。
在这里插入图片描述
选择tensorflow2.4.1版本
在这里插入图片描述
对应默认使用的是ubuntu18.04操作系统的镜像。
在这里插入图片描述

创建成功！

2.1.2 xshell连接主机及Xftp进行文件下载和上传

参考文档
连接成功效果：
在这里插入图片描述
可直接拖拽进行拷贝复制：
在这里插入图片描述

2.1.3 VNC桌面可视化工具

参考链接
windows上先安装好viewer，实例中执行./vncserver.sh install安装server。
在这里插入图片描述
安装成功~
./vncserver.sh start tensorboard命令进行启动。
在这里插入图片描述
实例中启动成功~
window中启动viewer：VNC server需要填主机域名：映射的端口号（tx-nat.videojj.com:34968）
在这里插入图片描述
启动成功~但好丑啊，而且好像并不便捷。

2.1.4 实战：基于ResNet实现高精度水果识别

2.1.5 jupyterLab中运行代码

参考链接

2.1.6 使用tensorboard

得有训练数据才可以进行可视化，目前暂无数据，不进行展示
参考链接

2.1.7 关机

关机中~：
在这里插入图片描述
关机完毕，还可以再次启动（停止计费但对主机系统没有影响）或释放。
在这里插入图片描述

2.1.8 综合评价

还可以！优点是学生优惠大，网盘容量大。

2.2 矩池云

参考指南文档

2.2.1 数据代码下载和网盘上传

在这里插入图片描述

速度还挺快，秒级

2.2.2 租用主机

型号很多，总体价格比极链云便宜，但极链云的配置好像要高一点。
在这里插入图片描述
运行起来了~
在这里插入图片描述

2.2.3 基础设备验证

在这里插入图片描述
python和tensorflow-gpu版本都是可用的。

2.2.4 JupyterLab终端中解压资源压缩包

复制链接打开网页，点击终端

USER_ID: 0, GROUP_ID: 0
(myconda) root@36444f34f408:/# cd /mnt/
(myconda) root@36444f34f408:/mnt# ls
MyMNIST.zip
(myconda) root@36444f34f408:/mnt# unzip MyMNIST.zip 
Archive:  MyMNIST.zip
   creating: MyMNIST/
   creating: MyMNIST/MNIST/
   creating: MyMNIST/MNIST/raw/
  inflating: MyMNIST/MNIST/raw/train-images-idx3-ubyte.gz  
  inflating: MyMNIST/MNIST/raw/train-images-idx3-ubyte  
 extracting: MyMNIST/MNIST/raw/t10k-labels-idx1-ubyte.gz  
  inflating: MyMNIST/MNIST/raw/t10k-labels-idx1-ubyte  
  inflating: MyMNIST/MNIST/raw/t10k-images-idx3-ubyte.gz  
  inflating: MyMNIST/MNIST/raw/train-labels-idx1-ubyte  
  inflating: MyMNIST/MNIST/raw/t10k-images-idx3-ubyte  
 extracting: MyMNIST/MNIST/raw/train-labels-idx1-ubyte.gz  
   creating: MyMNIST/MNIST/processed/
  inflating: MyMNIST/MNIST/processed/training.pt  
  inflating: MyMNIST/MNIST/processed/test.pt  
  inflating: MyMNIST/pytorch_mnist.ipynb  
   creating: MyMNIST/.ipynb_checkpoints/
  inflating: MyMNIST/.ipynb_checkpoints/pytorch_mnist-checkpoint.ipynb  
(myconda) root@36444f34f408:/mnt# ls
MyMNIST  MyMNIST.zip
(myconda) root@36444f34f408:/mnt# cd MyMNIST
(myconda) root@36444f34f408:/mnt/MyMNIST# ls
MNIST  pytorch_mnist.ipynb
(myconda) root@36444f34f408:/mnt/MyMNIST# cd MNIST/
(myconda) root@36444f34f408:/mnt/MyMNIST/MNIST# ls
processed  raw
(myconda) root@36444f34f408:/mnt/MyMNIST/MNIST#

在这里插入图片描述

2.2.5 运行代码

安装缺少的包：

(myconda) root@36444f34f408:/mnt/MyMNIST/MNIST# pip install tqdm
Looking in indexes: https://mirrors.aliyun.com/pypi/simple/
Collecting tqdm
  Downloading https://mirrors.aliyun.com/pypi/packages/8a/c4/d15f1e627fff25443ded77ea70a7b5532d6371498f9285d44d62587e209c/tqdm-4.64.0-py2.py3-none-any.whl (78 kB)
     |████████████████████████████████| 78 kB 263 kB/s 
Installing collected packages: tqdm
Successfully installed tqdm-4.64.0
(myconda) root@36444f34f408:/mnt/MyMNIST/MNIST#

运行：
在这里插入图片描述
保存模型：

# 保存训练好的模型
torch.save(net,'/mnt/MyMNIST/torch_mnist_model.pth')

在这里插入图片描述

2.2.6 监控硬件使用情况

在这里插入图片描述
可以查看机器的GPU、显存、CPU、内存、硬盘使用情况。

2.2.7 保存环境

保存环境十个很重要的操作，细节参考这个文档
保存的环境会以.snap结尾的文件存放在您的网盘中，因此，会占用您的网盘空间，如果网盘空间不足会导致保存失败。
保存环境后，下次租用机器时可以直接在我的环境中启动。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.2.8 关机

只能停止租用并释放，不能继续重启继续前面的操作。
但可以保存环境后下一次租用时使用。有好有坏，坏是操作麻烦且占用网盘空间，好是因为可以随时保存环境版本以供租用其他机器时预装。

2.2.9 综合评价

比极链云稍微好一点好像，貌似要便宜一点。而且保存环境这一特性比较特殊，看似麻烦但可能也会在其他方面有优势。
缺点是网盘容量小，扩容费用稍高。

2.3 MistGPU

2.3.1 网盘情况

只有免费1GB，多出的部分按量计费，倒也不是很贵

2.3.2 租用服务器

在这里插入图片描述

可预装框架比较少，价格还偏贵的。
正在创建~
在这里插入图片描述
创建完成：
在这里插入图片描述
功能貌似较少。

2.3.3 终端连接

ssh：
在这里插入图片描述
界面倒有些花里胡哨。
**在线命令行：**直接在线打开，这个功能倒是比较方便。
在这里插入图片描述

2.3.4 进入jupyter开发环境

在这里插入图片描述
直接点击即可进入。

2.3.5 日常使用体验

  1. 服务器的信息比如预装的框架没有显示出来
  2. 文件管理比较隐蔽不好操作
  3. 没有服务器使用时长和扣费提示，容易花钱如流水

2.3.6 关机保存

点击关机之后会直接开始关机，没有缓冲，但貌似也没必要，因为可以无缝再次开机。
在这里插入图片描述

2.3.7 综合评价

界面稍微简陋，但功能也都还算比较全，价格偏贵。但在线终端还是比较方便的。

2.4 恒源云

粗看一下，卡很多，功能文档很全面，价格也很低，对学生很友好，有点心动

得完成全部任务才能领取礼包啊，所以必须得先充钱，离谱
在这里插入图片描述
因此，我也试验不了了。

3 进阶试用（分布式集群）

3.1 直接试用多机多卡（同步）

3.1.1 创建尝试

在这里插入图片描述
这里我配置了两台机器加入到集群，已连接便代表加入成功，可见平台自动给两台机器配置了内部可以相互通信的同网段IP，正如平台介绍所说：
在这里插入图片描述

3.1.2 创建实战

在这里插入图片描述
第二次创建之后，发现IP最后一位的数字往后顺延了，这就表明每次关机重开之后，IP都会有所改变。这就有点麻烦了，意味着每次开机之后各份代码的集群IP设置就要改变。
解决办法是：平台支持用户自己选用IP，不过目前不支持，客服说之后会支持。
在这里插入图片描述
但至少，训练成功了。

3.2 试用多机多卡（异步）

ParameterServerStrategy：租用了5台服务器加入分布式集群，注意集群IP设置。
实验环境没有任何问题，代码存在问题。coordinator报错。
在这里插入图片描述

ERROR_LESS
关注
专栏目录
华为服务器怎么查看显卡信息,云服务器的gpu配置怎么看
weixin_39744230的博客
08-12 1810
云服务器的gpu配置怎么看 内容精选换一换客户在华为云购买产品后，如果没有及时的进行续费或充值，将进入宽限期。如宽限期满仍未续费或充值，将进入保留期。在保留期内资源将停止服务。保留期满仍未续费或充值，存储在云服务中的数据将被删除、云服务资源将被释放。请参见资源停止服务或逾期释放说明。资源冻结的类型包括欠费冻结、违规冻结、公安冻结。单击了解资源冻结的类型、冻结后对续费、退订的影响。云服务器怎么选？云...
服务器GPU查看和设置
qq_38235386的博客
03-13 4846
查看GPU占用情况 nvidia-smi 设置程序运行GPU 代码中加入 import os os.environ["CUDA_VISIBLE_DEVICES"] = "1" 注意： 服务器看到的GPU序号和手动在Linux上查看的序号是相反的，比如 如果指定os.environ[“CUDA_VISIBLE_DEVICES”] = “0”，则在watch nvidia-smi指令下，2号GP...
国内值得推荐的GPU云服务器租用平台
最新发布
m0_45510618的博客
08-11 195
在当今数字化时代，云计算技术已经成为企业和个人处理大规模数据的首选方式。而GPU云服务器作为一种性能强大的云计算设备，受到越来越多用户的青睐。本文将介绍一些值得推荐的GPU云服务器租用平台，帮助读者更好地选择适合自己需求的云服务器。
服务器查看GPU及各个参数
qq_40373651的博客
07-12 5935
查看GPU及各个参数的含义 查看的命令： nvidia-smi 服务器界面及各个参数含义： 参数含义： 表格中会显示显卡的一些信息，第一行是版本信息，第二行是标题栏，第三行就是具体的显卡信息了，如果有多个显卡，会有多行，每一行的信息值对应标题栏对应位置的信息。 GPU：编号，这里是0和1 Fan：风扇转速，在0到100%之间变动，第一个是29% Name：显卡名，这里两块都是GeForce Temp：显卡温度，第一个是60摄氏度 Perf：性能状态，从P0到P12，P0性能最大，P12最小 Persis
GPU配置查看与解释
m0_66696283的博客
11-11 2770
具体解释可能依赖于你的具体硬件和使用情境。而且，上述的一些参数和状态信息可能因不同的GPU型号和驱动程序版本而有所不同。因此，如果你需要更具体或更详细的信息，建议查阅NVIDIA的官方文档或使用NVIDIA提供的工具来监控和管理你的GPU。查看GPU配置，Linux命令行输入：nvidia-smi。
在Azure上部署带有GPU的深度学习虚拟机
baizhang3915的博客
03-02 1399
1、 登录https://portal.azure.com 2、 点击“+创建”，在弹出的页面搜索“deep learning toolkit for the DSVM”，并选择； 3、 在弹出的窗口点击“创建”，（默认为“资源管理器模式”）进入参数设置页 4、 首先设置基本参数，包括虚机的名称、登录名称、登录密码、订阅、资源组以及位置，目前只有South Cent...
适合研究生做实验的便宜实用gpu云服务器推荐
Z__zhou的博客
05-25 1992
本人研究生一枚，导师没有gpu服务器，研究的是语音深度识别，需要用到gpu进行大量的实验研究，在研究的过程中，在网上找云服务器。经过朋友的推荐和安利，恒源云GPU云服务器平台真的不错 恒源云GPU平台 服务器 上面的的服务器后很多的选择，下面是服务器和对应的价格，十分的便宜和好用： 数据集 平台内置了大量的通用数据集，无需用户再去进行下载和上传，只需要再服务器内找到对应的文件就OK。 公告数据集集大概有460个，涵盖了多个研究领域和方向，十分的方便。 存储空间 恒源云有三个不同的存储
正确使用GPU服务器gpu服务器和普通服务器的不同之处
m0_64012205的博客
11-10 974
前言 其实现在很多人都听说或者接触过服务器，众所周知，服务器是网络中的重要设备，要接受少至几十人、多至成千上万人的访问，因此对服务器具有大数据量的快速吞吐、超强的稳定性、长时间运行等严格要求。但是今天我们了解的是GPU服务器，很明显，从字面上里面，GPU服务器是服务器当中的一种，GPU服务器跟其他服务器有什么区别吗？GPU服务器比其他服务器好用吗？或许大家会有这样的困惑，下面我将带大家了解GPU服务器。 GPU服务器，简单来说，GPU服务器是基于GPU的应用于视频编解码、深度学习、科学计算等多种场景的快
GPU服务器的介绍 gpu服务器和普通服务器的不同之处
m0_64346584的博客
11-25 1452
前言 其实现在很多人都听说或者接触过服务器，众所周知，服务器是网络中的重要设备，要接受少至几十人、多至成千上万人的访问，因此对服务器具有大数据量的快速吞吐、超强的稳定性、长时间运行等严格要求。但是今天我们了解的是GPU服务器，很明显，从字面上里面，GPU服务器是服务器当中的一种，GPU服务器跟其他服务器有什么区别吗？GPU服务器比其他服务器好用吗？或许大家会有这样的困惑，下面我将带大家了解GPU服务器。 GPU服务器，简单来说，GPU服务器是基于GPU的应用于视频编解码、深度学习、科学计算等多种场景的快
用transformer选用什么云服务器
09-21
根据引用所述，使用Transformer模型进行离线训练的任务时，通常需要使用GPU云服务器。因为Transformer模型是深度学习模型，需要大量的计算资源来处理大规模的数据和复杂的计算算法。GPU云服务器具有强大的并行计算...
GPU服务器是干什么的_gpu服务器和普通服务器有什么区别
热门推荐
souidc的博客
05-11 3万+
GPU服务器是干什么的_gpu服务器和普通服务器有什么区别 前言 其实现在很多人都听说或者接触过服务器，众所周知，服务器是网络中的重要设备，要接受少至几十人、多至成千上万人的访问，因此对服务器具有大数据量的快速吞吐、超强的稳定性、长时间运行等严格要求。但是今天我们了解的是GPU服务器，很明显，从字面上里面，GPU服务器是服务器当中的一种，GPU服务器跟其他服务器有什么区别吗？GPU...
一些GPU云平台使用体验
Myshrry的博客
08-24 2725
GPU云平台使用体验
Colab、矩池云、mistGPU几个云GPU使用心得
github_37228709的博客
07-23 1万+
最近一直在家，自己摸索使用了好几款云GPU平台，下面总结了这几个平台的一些特点，以及使用心得，如果有新手在找云GPU的话希望给大家提供一个参考。 谷歌的colab以及pro 鼎鼎大名的colab，谷歌提供的免费GPU资源应该没人不知道吧（超小声）。最大的优点是免费不花钱，用起来美滋滋。最大的缺点就是不稳定，连接容易断以及谷歌被墙这个事实导致的你上传数据集的时候会很慢，如果你的数据集很大的话可能会经历上产N次还不成功（是心碎的声音）。上传数据慢的问题成为了一开始我放弃使用colab最大的原因。后来
如何在云平台上租用GPU训练神经网络？
m0_45172994的博客
04-17 9118
  刚入门机器学习，跟着一些博主训练了几个卷积神经网络，使用的比较小的数据集，但在CPU训练神经网络的速度可以说是龟速，一个3000多张图片的数据集都要训练十几分钟。   最近我也把自己毕业设计需要的数据集制作完成了，训练集图片数量大概有13w张，验证集差不多2w张，用CPU训练根本是不可实现的。除了更换GPU显卡，我还在网上了解到可以在云平台上租用GPU来训练自己的神经网络，经过几天的摸索，终于掌握了其中一个云平台的使用方法，特来分享。 一、云平台的选取与注册   通过网上查找，现在使用比较多的云平台主要
0基础深度学习项目1：基于Pytorch实现mnist手写数字识别
qq_42492684的博客
05-16 1031
MNIST手写数字数据集来源于是美国国家标准与技术研究所，是著名的公开数据集之一。（下载后需解压）。我们一般会采用这行代码直接调用，这样就比较简单。MNIST手写数字数据集中包含了70000张图片，其中60000张为训练数据，10000为测试数据，70000张图片均是2828，数据集样本如下：如果我们把每一张图片中的像素转换为向量，则得到长度为2828=784的向量。因此我们可以把训练集看成是一个[60000,784]的张量，第一个维度表示图片的索引，第二个维度表示每张图片中的像素点。
如何在云服务器上跑深度学习的代码？(ResNet50为例)
Wang_Dou_Dou_的博客
03-20 2万+
关键字：如何租用云服务器、如何租用网上的GPU、如何把代码上传到云服务器、如何把数据集上传到云服务器、如何在云服务器上训练ResNet50。
什么是GPU云服务器?主要用在什么领域?
聚名网
12-21 1810
GPU是相对CPU的一个概念，也就是图形处理器，换句话说，GPU就是显卡的“CPU”，CPU是电脑的心脏，所以，GPU则是显卡的心脏，能够让电脑处理图片更顺手。GPU云服务器架构计算加速能力、浮点运算、双精度运算、模拟运算等能够处理更多科学计算场景的业务，包括气象预测，基因工程、粒子物理、程序化交易等。GPU服务器能够与云安全无缝对接，享有同等的云安全防护，基于云服务器ECS技术，灵活调度资源，按需分配，最大程度提高GPU利用率。图像、语音识别、NLP、检索等。1、什么是GPU服务器?
矩池云的使用方式(VNC)
哦啦啦啊哦哦
02-16 4649
文章目录使用矩池云一、矩池云1.网盘2.租赁二、VNC1.链接2.安装环境3.保存环境4.再次调用自己的环境总结 使用矩池云 分为几个方面，装环境是大头，使用矩池云和使用VNC 一、矩池云 1.网盘 矩池云为每位用户提供 5G 的存储空间，您可将自己的数据等资料上传到个人中心 – 我的网盘(右上角用户名 —— 个人中心 —— 我的网盘)，以便在租用的主机中使用。网盘中数据不会随着机器租用或释放而清空，同时矩池云保证数据的私密性和安全性，可放心使用。 2.租赁 在主机市场选择自己需要的服务器即可
矩池云文件详细解压缩方法
weixin_45373427的博客
05-29 4943
矩池云文件解压缩方法 矩池云是一个提供GPU算力的付费平台，当然还有其他很多平台，如阿里云，1024LAB等，个人感觉矩池云整体操作简单，不需要环境配置，直接选择合适机器及环境租用即可 稍有不足是上传到云盘的压缩文件不能直接解压，针对此问题 解决思路 远程登陆主机后通过Linux文件解压缩命令解压文件即可(本人使用的是putty远程登陆工具) 具体操作流程 1. 将需要上传的文件压缩成zip、rar等Linux支持解压缩的文件类型，并上传到云盘 2. 开启一台主机（当然只是为了解压缩可以选个价格低的，并
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值