MindSpore：Batchnorm only support nchw input!

最新推荐文章于 2022-12-07 17:02:54 发布
最新推荐文章于 2022-12-07 17:02:54 发布
阅读量108 收藏
点赞数
文章标签： 深度学习 人工智能 服务器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45666880/article/details/126149046
版权

问题描述：

【功能模块】

mindspore构筑网络时遇到错误

【操作步骤&问题现象】

1、对pcb的复线过程中，遇到问题

2、

【截图信息】

【日志信息】（可选，上传日志内容或者附件）

解决方案：

看上面的报错，应该是使用了CPU后端，CPU目前不支持BatchNorm1d算子，modelart平台上使用jupyter测试应该用的是Ascend后端。如果需要在CPU上使用BatchNorm1d，推荐使用reshape+BatchNorm2d+reshape的方法暂时规避，如(N, C) -> (N, C, 1, 1) ->BN2d->(N, C)

小乐快乐
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MindSpore学习之网络迁移调试与调优(以ResNet50为例)
个人小站：www.xiaowangyun.com
05-31 2157
MindSpore学习之网络迁移调试与调优 ResNet50为例 迁移流程 迁移目标: 网络实现、数据集、收敛精度、训练性能 复现指标：不仅要复现训练阶段，推理阶段也同样重要。细微差别，属于正常的波动范围。 复现步骤：单步复现+整合网络。复现单 Step 的运行结果，即获取只执行第一个 Step 后网络的状态，然后多次迭代出整个网络的运行结果（数据预处理、权重初始化、正向计算、loss 计算、反向梯度计算和优化器更新之后的结果） 准备工作 安装MindSpore，Python等环境 下载源
MindSpore数据预处理，并生成batch装载数据
yang_zm的博客
07-12 1315
# 常用转化用算子 import mindspore.dataset.transforms.c_transforms as c # 图像转化用算子 import mindspore.dataset.vision.c_transforms as cv # mind spore.common包中会有诸如type形态转变、权重初始化等的常规工具。 from mindspore.common import dtype # Mind spore模块主要用于本次实验卷积神经网络的构建，包括很多子模块。 import m
【mindspore】mindspore基础操作
guozhibin123的博客
12-07 814
mindspore的tensor、dataset等模块的基本操作
【Mindspore1.1】【BatchNorm / GradOperation】测试模块infer_backward，求解答
weixin_45666880的博客
07-15 198
2、test_infer_backward()中使用GradOperation获取到了梯度函数“ms_grad”，后又进行了ms_grad(ms_input,Tensor(input_grad))调用，按理说应该传入input和output_grad求input_grad才对，这里为什么传入了Input_grad？Batchnorm2d是有在推理模式下跑反向的场景的，这是一种特殊场景，在推理之后，要跑反向求梯度，获取对输入的梯度值。第四个测试函数test_infer_backward()。...
MindSpore中Batchnorm2d的参数momentum设置求助
xi_xiyu的博客
11-10 383
mindspore新人，在设置batchnorm2d中的momentum参数时，发现自己无法修改此参数，一直保持0.1的值（0.1并不是文档中说明的值，0.9才是）。不知道是自己看到的momentum是不是文档表述的momentum。求助原因是想尝试修改此参数。本人使用的是cpu与mindspore1.8版本。是可以修改的，但是print出来的信息是1-momentum，内部做了转化。你可以改成0.2，打印出来应该是0.8。
使用keras时input_shape的维度表示问题说明
09-16
在深度学习框架Keras中，`input_shape` 是一个至关重要的参数，特别是在构建神经网络模型时，它用于定义模型输入的尺寸。理解`input_shape`的维度表示是确保模型正确运行的关键。 首先，Keras支持两种后端引擎：...
ganarts:这件T恤不存在
05-04
部署选项cpu：需要进行图层转换（NCHW-> NHWC） gpu：高租金成本s3（当前）：在gpu服务器上生成，保存到s3，在cpu服务器上服务生成器生成图像，进行预处理并上传到s3。 后端工作人员在一次事务中每n秒下载一次图像并...
tensorflow-tools:使用Tensorflow的Python脚本
03-14
pip install git+https://github.com/sdmonov/onnx-tensorflow@maxpool_use_pool_op_instead_delation要求convert-model-to-NWHC.py将具有NCHW数据格式的GPU优化模型转换为标准NWHC表示形式convert-onnx-to-tflite....
mobilenet-v2:“反向残差和线性瓶颈”存储库
04-26
此版本用于通过NCHW和半精度实现更高的速度。网络架构请注意纸张有误（在第四个瓶颈层之后，输出尺寸应为 ×64代替 ×64） 输入操作员Ť C ñ s ×3 转换2d -- 32 1个2个×32 瓶颈1个16 1个1个×16 瓶颈6 24 2个2个...
tflite2onnx:将TensorFlow Lite模型（* .tflite）转换为ONNX
05-03
tflite2onnx-将TensorFlow Lite模型转换为ONNX tflite2onnx将TensorFlow Lite（TFLite）模型（ *.tflite ）转换为ONNX模型（ *.onnx ），并正确处理了数据布局和量化语义（有关详细信息，请*.onnx）。...
用MindSpore框架复现正则化实验：了解正则化手段与提前停止
kewei chen
03-30 2222
用MindSpore框架复现正则化实验 ——了解正则化手段与提前停止 实验介绍 一般而言，正则化是为了防止过拟合或者帮助优化。本实验会给出几种神经网络中最受欢迎的正则化方法，以及用MindSpore实现：提前停止，L2正则化，dropout。此外该实验也增加了Batch Normalization（批标准化）方法进行对比实验。 通过构建加入噪音的cosine模型，加入各种正则化技术形成对比： 提前停止：当验证集的性能开始下降时停止训练。 L2正则化是简单地将L2正则项"λ"∣∣θ∣∣22||\theta|
训练损失越来越大_性能大幅提升！MindSpore进行量化感知训练详解
weixin_39634876的博客
11-30 718
前言：为了测试量化性能，我们对MindSpore的FakeQuantWithMinMax算子和TensorFlow的fake_quant_with_min_max_args算子在GPU环境下对典型shape的Tensor的量化性能进行了对比测试，结果如下图所示。结果显示，在Tensor规模较小时（Tensor中元素数量级不大于1E+6），MindSpore在GPU上的量化耗时相较于TensorFl...
MindSpore精度问题定位经验总结
Kenji_Shinji的博客
10-26 780
1、检查超参数的设置是否正确（例如优化器的weight decay、优化器的momentum、初始学习率、Dropout的prop和bn的momentum），框架迁移的场景检查初超参数设置是否和原始脚本一致，重头在MindSpore上开发的场景检查超参数设置是否符合预期。2、使用Print算子在网络结构中二分法打印算子的反向输出，找到反向精度出现问题的算子。2、检查初始化方式是否正确，框架迁移的场景检查初始化方式和结果是否和原始脚本一致，重头在MindSpore上开发的场景检查初始化结果是否符合预期。
MindSpore模型精度调优实战（三）常见精度问题简介
archimekai的博客
04-07 1012
本文转载至https://bbs.huaweicloud.com/forum/thread-119271-1-1.html MindSpore模型精度调优实战（三）： 常见精度问题简介 MindSpore团队 引子：在模型的开发过程中，精度达不到预期常常让人头疼。为了帮助用户解决模型调试调优的问题，我们为MindSpore量身定做了可视化调试调优组件：MindInsight。我们还梳理了针对常见精度问题的调试调优指南，将以“MindSpore模型精度调优实战”系列文章的形式分享...
使用MindSpore调试调优中的算法问题
weixin_45666880的博客
07-04 265
在模型训练过程的算法问题中，主要从：API使用问题、计算图结构问题、权重初始化问题分析。 API使用问题 常见API使用问题如下： 使用API未遵循约束，是指使用的API和真实应用的场景不匹配。例如，在除数中可能含有零的场景，应该考虑使用DivNoNan而非Div以避免产生除零问题。又例如，MindSpore中，DropOut第一个参数为保留的概率，和其它框架正好相反（其它框架为丢掉的概率），使用时需要注意。 构图未遵循construct约束，是指图模式下的网络未遵循静态
【MindSpore】【BatchNorm1d】Fused batchnorm only support nchw input!
weixin_45666880的博客
07-27 258
3.虽然API里说暂时只支持Ascend,但是为什么报错信息不是donotsupportthisoperation而是Fusedbatchnormonlysupportnchwinput？因为API文档里说支持输入的Tensor尺寸是二维的(N,C_out)，为什么这里说需要nchw的形式？nn.Batchnorm1d内部cpu调用的是FusedBatchnorm,GPU调用的是FusedBatchnormEx,现在都统一成batchnorm了。（可选，上传日志内容或者附件）...
mindspore和pytorch的比较 -- 构建网络（一）
liutt233的博客
08-21 3124
比较mindspore和torch网络建立相关的内容 一、网络构建：分别使用mindspore和torch构建两个相同的网络： mindspore： 建立一个子Cell：ConvBNReLU： from mindspore import Tensor, ops, Parameter, nn class ConvBNReLU(nn.Cell): def __init__(self): super(ConvBNReLU, self).__init__() self.conv = nn.Co
MindSpore算子笔记-nn.conv2d
HUAWEIZHIZHE的博客
09-04 2083
背景 nn.conv2d是卷积神经网络中最重要的成员，由Lecun等AI大神在1998年的论文中首次提出，其基本原理是对一个传入格式为(N,Cin,Hin,Win)的四维张量根据设定长宽的卷积核在Hin和Win维进行2d卷积运算，求解出卷积结果后，移动设定的步长再次执行卷积，依次计算得到所有位置的结果。具体实现可参考论文：http://vision.stanford.edu/cs598_spring07/papers/Lecun98.pdf nn.Conv2d参数介绍 in_channels（int）—输入
MindSpore和PyTorch API映射（昇腾AI创新大赛2022-昇思赛道参赛踩坑记录）
wan_15的博客
07-30 1100
MindSpore和PyTorch 常用算子API映射（昇腾AI创新大赛2022-昇思赛道参赛踩坑记录）
布局 CHWN NCHW
最新发布
09-14
CHWN 和 NCHW 是常用的深度学习中的数据布局格式。 CHWN 表示通道、高度、宽度和数量。这种布局通常用于处理视频数据，其中 C 表示通道数，H 表示高度，W 表示宽度，N 表示样本数量。 NCHW 表示数量、通道、高度和...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值