昇思报错调试宝典 | 并行报错知多少？调试方案带你走！

最新推荐文章于 2024-11-06 20:38:13 发布
最新推荐文章于 2024-11-06 20:38:13 发布
阅读量95 收藏
点赞数
分类专栏： 技术博客 文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Kenji_Shinji/article/details/130603629
版权

前面给大家讲解了常见策略配置错误的三种的问题分析方法。本期讲解多进程方式（用户需要启动和卡数对应的进程，以及配置rank_table表。）启动多卡任务失败的案例，主要解决脚本启动方式错误和并行配置启动任务不匹配的问题，欢迎大家一起学习和讨论类似情况。

具体案例请参考下图~

通过十期MindSpore的报错案例讲解，相信大家对常见的报错分类都有一定认识了。报错分析首先需要区分问题场景，像常见的语法错误、算子执行错误、常数策略配置错误等，先完成场景识别，就能避免解决问题时绕远路；再从报错日志入手分析，快速识别问题关键信息，对比代码、配置或者查看官方API文档，明白异常产生的原因，能正确的修改代码或者配置，从而高效解决问题，使自己的程序顺利运行。

下期问题分析总结篇，回顾问题解决方法，高效解决报错。敬请期待。

昇思MindSpore报错案例总结

【MindSpore报错解决地图】常见报错问题和解决方案：

https://www.hiascend.com/forum/thread-0229108045633055169-1-1.html

昇思MindSpore
关注
专栏目录
宝典相授，无错在手 |昇思MindSpore报错调试宝典（六）：网络构建与训练类报错之资源不足
skytttttt9394的博客
06-12 110
那么本期我们看看网络构建与训练类报错常见的最后一个问题分类，即资源不足方面的报错，如遇到资源不足方面的报错，如 Out Of Memory、memory isn’t enough 等等资源问题应该如何分析呢。这次的问题是，神经网络训练模型脚本在执行过程中报错退出了，你帮我看看是哪里出了问题？小孢子：好的，我明白啦，在遇到资源不足问题时，还是看具体情况，是其他程序占用、还是程序本身配置问题。MindSpore：不错，总结的很到位，真是触类旁通呢。小孢子：好了，执行没有报错，程序可以继续进行训练了。
java葵花宝典中的宝典！
caoyongjunjava的专栏
10-05 1万+
葵花宝典之java    一：面向对象的特征有哪些方面     1. 抽象：抽象就是忽略一个主题中与当前目标无关的那些方面，以便更充分地注意与当前目标有关的方面。抽象并不打算了解全部问题，而只是选择其中的一部分，暂时不用部分细节。抽象包括两个方面，一是过程抽象，二是数据抽象。 2. 继承：继承是一种联结类的层次模型，并且允许和鼓励类的重用，它提供了一种明确表述共性的方法。对象的一个新类可以
并行报错知多少？|昇思MindSpore报错调试宝典（十）：分布式并行报错之并行脚本
skytttttt9394的博客
05-06 118
通过十期MindSpore的报错案例讲解，相信大家对常见的报错分类都有一定认识了。报错分析首先需要区分问题场景，像常见的语法错误、算子执行错误、常数策略配置错误等，先完成场景识别，就能避免解决问题时绕远路；再从报错日志入手分析，快速识别问题关键信息，对比代码、配置或者查看官方API文档，明白异常产生的原因，能正确的修改代码或者配置，从而高效解决问题，使自己的程序顺利运行。）启动多卡任务失败的案例，主要解决脚本启动方式错误和并行配置启动任务不匹配的问题，欢迎大家一起学习和讨论类似情况。具体案例请参考下图~
昇思报错调试宝典 | 大~收~官~汇总在手，玩转自由
Kenji_Shinji的博客
05-26 63
本系列针对数据加载与处理类报错（1篇）、网络构建与训练类报错（5篇）和分布式并行类报错（4篇）以案例的方式详细展开，根据获取到的网络、框架各种信息（例如：报错信息、网络环境等信息）进行分析，推断报错的原因，定位出问题代码并调试，更多报错内容可以点击。看看网络构建与训练类报错常见的最后一个问题分类，即资源不足方面的报错，如遇到资源不足方面的报错，如Out Of Memory、memory isn’t enough等等资源问题应该如何分析呢？）启动多卡任务失败的案例，解决分布式并行训练中的报错难题。
解决方案花式炫！|昇思MindSpore报错调试宝典（九）：分布式并行报错之未配置策略
skytttttt9394的博客
04-23 136
然而，没有对策略进行配置也可能出现报错。分布式并行计算中未配置策略报错通常包括但不限于以下几种：1.数据传输和通信之间的网络连接配置错误；2.节点数量和对应硬件配置不匹配；3.节点的内存资源不足；4.参数配置错误等。本期将以未配置Sub算子导致出错为例，欢迎大家一起学习和参考类似情形。报错地图： https://www.hiascend.com/forum/thread-0229108045633055169-1-1.html。上一期给大家讲解了在分布式并行计算下，具体内容请参考如下图片~
抓错快，调试好，解决方案送你手|昇思MindSpore报错调试宝典（八）：分布式并行报错之常数策略配置
skytttttt9394的博客
04-17 98
而这一期我们将探讨因为常数策略配置错误遇到报错时应该如何处理。本期将继续以算子逻辑策略中的脚本为例，对比讲解如何定位并解决此类问题。具体案例讲解请看下图~
算子策略如何配，调试宝典帮你忙 |昇思MindSpore报错调试宝典（七）：分布式并行报错之算子逻辑策略配置
skytttttt9394的博客
04-07 181
前面几期讲解了网络构建与训练类报错中各类错误的定位解决方法，相信大家应该对于此类问题有一些较为深入的认识了。在深度学习中，当数据集和参数量的规模越来越大，训练所需的时间和硬件资源会随之增加，最后会变成制约训练的瓶颈。分布式并行训练，可以降低对内存、计算性能等硬件的需求，是进行训练的重要优化手段。那么接下来几期我们看看分布式并行训练中各类错误应该如何定位解决。本期以算子本身的逻辑导致的策略检查报错为例来讲解下此类问题定位解决的方法。具体案例详情请参考图片内容~
C/C++面试宝典2024版(最新版)
热门推荐
学无止尽，谨言慎行！
04-02 3万+
面试基础前言new、delete、malloc、free关系delete与 delete []区别C和C++ 的共同点？不同之处？继承的优缺点C++有哪些性质（面向对象特点）子类析构时要调用父类的析构函数吗？多态，虚函数，纯虚函数求下面函数的返回值（微软）什么是“引用”？申明和使用“引用”要注意哪些问题？将“引用”作为函数参数有哪些特点？在什么时候需要使用“常引用”？将“引用”作为函数返回值类型的...
Java面试宝典:42个面试题总结！
张拭心的博客 shixinzhang
08-03 2929
本文我们将要讨论Java面试中的各种不同类型的面试题，它们可以让雇主测试应聘者的Java和通用的面向对象编程的能力。下面的章节分为上下两篇，第一篇将要讨论面向对象编程和它的特点，关于Java和它的功能的常见问题，Java的集合类，垃圾收集器，第二篇主要讨论异常处理，Java小应用程序，Swing，JDBC，远程方法调用(RMI)，Servlet和JSP。 开始！ 目录 面向对象编
Java 8中Stream API的这些奇技淫巧！你都Get到了吗？
ITMuch的专栏
08-25 130
点击上方"IT牧场"，选择"设为星标"技术干货每日送达！Stream简介1、Java 8引入了全新的Stream API。这里的Stream和I/O流不同，它更像具有It...
Java面试宝典（超级详细）
web18224617243的博客
06-24 6908
具体来说 JDK 其实包含了 JRE，同时还包含了编译 java 源码的编译器 javac，还包含了很多 java 程序调试和分析的工具。简单来说：如果你需要运行 java 程序，只需安装 JRE 就可以了，如果你需要编写 java 程序，需要安装 JDK。== 解读对于基本类型和引用类型 == 的作用效果是不同的，如下所示：代码示例：[](javascript:void(0)?? [](javascript:void(0)??代码解读：因为 x 和 y 指向的是同一个引用，所以 == 也是 true，而
Java面试宝典
qq_54753411的博客
11-19 655
还在担心面试找不到工作吗！ 2021年最新面试宝典，还不赶紧背下来！！！
深度学习经典模型之LeNet-5
weixin_43775295的博客
11-05 355
​ LeNet-5是由LeCunLeCunLeCun提出的一种用于识别手写数字和机器印刷字符的卷积神经网络（Convolutional Neural Network，CNN）1^{[1]}1，其命名来源于作者LeCunLeCunLeCun的名字，5则是其研究成果的代号，在LeNet-5之前还有LeNet-4和LeNet-1鲜为人知。
如何解决RNN在处理深层序列数据时遇到的如梯度消失、长期以来等问题
最新发布
m0_73640344的博客
11-06 493
这些技术各自以不同的方式解决了RNN在处理深层序列数据时遇到的关键问题，如梯度消失和长期依赖。选择哪种技术取决于特定任务的需求，包括模型的复杂性、训练时间和性能要求。通过适当选择和配置这些改进的RNN架构，可以显著提高序列数据处理任务的效果和效率。
实战| 使用深度学习分割和计算水体和农田面积【Pytorch附源码】
阿旭的博客
11-05 597
实战| 使用深度学习分割和计算水体和农田面积【Pytorch附源码】
《常用深度学习神经网络及其原理与应用场景》
m0_44975814的博客
11-02 1316
*常见损失函数**：损失函数用于衡量模型的预测结果与真实标签之间的差异。对于分类任务，常用的损失函数有交叉熵损失函数和对数似然损失函数等；对于回归任务，常用的损失函数有均方误差损失函数和平均绝对误差损失函数等。**自定义损失函数**：在某些情况下，可能需要根据具体的任务需求自定义损失函数。例如，在图像分割任务中，可以定义一个基于像素级别的损失函数以更好地衡量模型对图像的分割效果。
【果实种子识别】Python+深度学习+人工智能+CNN卷积神经网络算法+TensorFlow+算法模型训练
2301_78372746的博客
11-01 678
果实种子识别系统，使用Python语言进行开发，通过TensorFlow搭建卷积神经网络算法模型，对10种坚果果实（‘杏仁’, ‘巴西坚果’, ‘腰果’, ‘椰子’, ‘榛子’, ‘夏威夷果’, ‘山核桃’, ‘松子’, ‘开心果’, ‘核桃’）等图片数据集进行训练，得到一个识别精度较高的模型文件，让后使用Django搭建Web网页端界面操作平台，实现用户上传一张坚果图片 识别其名称。
一文快速预览经典深度学习模型（一）——CNN、RNN、LSTM、Transformer、ViT
ttrr27的博客
11-05 998
Hi，大家好，我是半亩花海。本文主要简要并通俗地介绍了几种经典的深度学习模型，如CNN、RNN、LSTM、Transformer、ViT（Vision Transformer）等，便于大家初探深度学习的相关知识，并更好地理解深度学习的基础内容，为后续科研开展建立一定的基础，欢迎大家一起交流学习。
【深度学习】batchsize太大或太小的优缺点，如何平衡batchsize大小
qq_42761751的博客
11-05 317
batchsize的值越大，梯度越稳定，而batchsize越小，梯度越具有随机性，如果batchsize太大，对内存的需求就更高，不利于网络跳出局部极小值点。大的batchsize梯度的计算更加稳定， 在微调的时候，大的batchsize可能会取得更好的结果，因为在一定范围内，batchsize越大，梯度下降方向越准，引起的震荡越小。当 batch size 增大时，每个批次中需同时加载的样本数增多，导致内存占用成倍增长，这会影响硬件资源的利用，特别是在 GPU 上。
VC++6.0调试宝典：全面掌握程序调试策略与技巧
"程序调试是软件开发过程中的关键环节，特别是在使用Visual C++ 6.0进行开发时。本文将全面介绍程序调试的基本概念、方法和工具。首先，程序调试概述强调了检测和纠正错误在软件生命周期中的重要性，包括确认（技术...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值