深度学习框架经验积累
文章平均质量分 66
bravozyz
这个作者很懒,什么都没留下…
展开
-
【MindSpore,ModelArts】华为云ModelArts简明教程 | 图文
本文介绍华为云ModelArts前期的准备流程和作业部署流程。本文的许多内容和【ModelArts】鹏城云脑实验平台(华为云ModelArts)使用教程相同,一些操作的具体步骤请参考前文,本文只会在有区别的地方做补充解释。华为云网址华为云官网首页右上角:注册-登录后请先进行实名认证。(实名认证很关键,涉及到后续的步骤是否顺利)实名认证结束后,开始进行作业部署前的准备阶段。点击首页右上角的控制台进入控制台页面,点击左侧边栏顶部的三道杠服务列表,在搜索框搜索“ModelArts”,选择ModelA原创 2021-09-27 13:39:43 · 3317 阅读 · 3 评论 -
【MindSpore】Ascend(昇腾)310推理 | 实现步骤
本文介绍在Ascend 310平台对MindSpore框架实现的网络进行推理的流程。以语义分割网络(HRNet)为例,使用的数据集是Cityscapes。采取的数据集格式为二进制文件格式。原创 2021-09-24 17:46:14 · 3102 阅读 · 0 评论 -
【MindSpore】实现CV语义分割不同类别加权计算损失
在复现High-resolution NetWork(HRNet)用于语义分割时,Cityscapes数据集不同类别的物体在计算损失时赋有不同的权重。weights_list = [0.8373, 0.918, 0.866, 1.0345, 1.0166,0.9969, 0.9754, 1.0489, 0.8786, 1.0023, 0.9539, 0.9843, 1.1116, 0.9037, 1.0865原创 2021-08-08 16:18:09 · 748 阅读 · 3 评论 -
【MindSpore】转换PyTorch的checkpoint文件为MindSpore
本段代码可将PyTorch的checkpoint文件转换为MindSpore的checkpoint文件。注意:只支持仅包含Convolution和BatchNorm算子的简单网络,例如用于图像语义分割的HRNet。算子的命名要与迁移网路的PyTorch版本一致。from mindspore.train.serialization import load_checkpoint, load_param_into_net, save_checkpointfrom mindspore import Tenso原创 2021-08-03 15:02:24 · 1355 阅读 · 0 评论 -
【ModelArts】鹏城云脑实验平台(华为云ModelArts)使用教程
本文是关于参与openi活动使用的实验平台的教程,与华为云ModelArts的使用流程大体相近,亦有一定程度的参考价值。鹏城云脑实验平台链接初次登录平台平台管理员会为每个参与活动的同学分配一个账号,使用这个账号登录实验平台。初次登录会提示更新密码,按提示更新密码。更新密码后,进入平台首页。点击左上角的三道杠,打开服务列表;选择服务器地址,具体选择哪项请询问指导老师,此项一定注意要选择正确,否则不能正常使用;选择“ModelArts”,进入实验平台。(右上角提示点击图钉标志可收藏服.原创 2021-07-23 20:03:11 · 4010 阅读 · 3 评论 -
学习率调整策略
学习率调整策略转载 2021-05-15 20:07:53 · 167 阅读 · 0 评论 -
各种卷积操作
各种卷积的作用Filter与kernelfilter是多个kernel的串联,每个kernel分配给输入的特定通道。filter总是比kernel大一维。1. 常规卷积运算整个过程可以用下图来概括。假设输入层为一个大小为64x64x3(Width=Height=64,Channel=3)的彩色图片。经过一个包含4个filter(每个filter有3个kernel,kernel_size=3x3)的卷积层,最终输出4个特征图(feature map),且尺寸与输入层相同。因此卷积层的参数数量可以原创 2021-05-12 16:58:01 · 4788 阅读 · 0 评论 -
网络迁移学习率调整思路
在将HRNet从PyTorch框架向MindSpore迁移的过程中,由于初始学习率的选择不好,导致了最终精度没有达到预期要求。文末有总结。具体实验过程如下:实验过程优化器:SGD初始学习率:0.01学习率调整策略:polymiou精度变化:整体上呈上升趋势,但是没有达到预期的0.81。经过检查,在400–484周期,miou一直是呈上升趋势。因此我有了第一个猜想:收敛速度不够。因此,我尝试了其他的优化器和初始学习率。优化器:Momentum初始学习率:0.01学习率调整策原创 2021-05-12 16:40:11 · 1540 阅读 · 1 评论 -
【MindSpore】将PyTorch的checkpoint文件导入到MindSpore网络
我才用的是一种比较笨拙的方法,需要人工对比寻找规律,但是有效。首先分别需要PyTorch和MindSpore的checkpoint文件,用下面的方式导出文件内容,遍历参数的key和value。import torchimport mindspore from mindspore import load_checkpointdef traversal_params(pth_file_path, ckpt_file_path): # load pth file as a dictionar原创 2021-05-08 11:55:47 · 2185 阅读 · 2 评论 -
深度神经网络迁移问题解决思路与方法
本文以将PyTorch框架实现的网络迁移至MindSpore框架为例,并以计算机视觉常用算子做代码示例。1. 训练过程中损失变化异常具体表现数值过大或过小损失不下降损失波动大损失值恒定损失为负数问题原因以及排查、解决办法网络结构存在问题排查方法:逐行代码对比;将原框架网络的checkpoint文件导入到迁移网络中,例如将pytorch的.pth文件转换成mindspore支持的.ckpt文件,然后导入到mindspore框架编写的网络。通过这种方式可以发现需要权重原创 2021-05-08 15:05:47 · 565 阅读 · 1 评论