![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
MindSpore
文章平均质量分 79
irrationality
终身学习者
展开
-
mindspore报错TypeError: Recompute is not supported in pynative mode currently.
【代码】mindspore报错TypeError: Recompute is not supported in pynative mode currently.原创 2023-03-30 20:45:49 · 363 阅读 · 0 评论 -
/root/mindspore/mindspore/ccsrc/utils/dynamic_obfuscation/dynamic_obfuscation.cc: In member function
中间对const引用对象作修改,导致出错。原创 2023-01-18 17:04:41 · 275 阅读 · 0 评论 -
源码编译mindspore,分别在云服务器与wsl2启动编译,利用tmux和swap
参考:https://blog.csdn.net/weixin_43922901/article/details/89230499。tmux用于远程编译,开启一个会话窗口,当ssh连接断开时,重新连接便无法继续上一次的内容,可以防止编译信息中途丢失。参考:http://www.ruanyifeng.com/blog/2019/10/tmux.html。进入到0号tmux窗口,下面会显示绿色的窗格,就可以看到我们之前的命令了。tmux ls可以显示当前开启的tmux。这样就可以充分利用物理机内存和交换空间。原创 2023-01-01 13:30:54 · 818 阅读 · 0 评论 -
mindspore保存模型的中间图,并利用dot将图结构可视化
把这个名字特殊的dot文件导出为pdf。这样就可以看到可视化后的网络结构了。加载网络并设置password后。以动态模型混淆的网络为例。原创 2023-01-06 18:40:38 · 529 阅读 · 0 评论 -
【OSPP开源之夏2022】基于昇思MindSpore, 补齐创建Tensor的方法10+
大二下暑假的时候参加了中国科学院OSPP开源之夏活动,作品是在MindSpore开源代码仓提交一个PR,增加创建Tensor的方法。这是我第一次参加正式的开源活动,对开源的热情就此一发不可收拾。经过项目初次选拔后的两星期左右,我开始着手做本项目。由于之前对深度学习的了解仅限于构建网络进行训练和深度学习库的使用,很少接触深度学习框架一些底层代码的开发,中间也遇到了不少困难,但却能更好地体验开源世界带给我们的乐趣。说干就干,当天晚上就敲了第一行代码,开始开发相关的函数。原创 2022-11-01 17:02:07 · 1185 阅读 · 0 评论 -
wsl安装gpu版mindspore(二)
安装cuda时千万记住不要安装驱动,不要安装驱动,不要安装驱动!其余选项该怎么装怎么装,就是不要装驱动!Driver相关一定要N或者X掉!访问 https://docs.conda.io/en/latest/miniconda.html。安装后一定有提示,Driver: Not Selected。第一次执行验证语句需要几分钟,请耐心等待。但是貌似这个版本就没有Driver选项。没办法,网上的一键安装不适用于wsl。python自动是3.9.12。下载了这个tar文件后,我们。安装mpi,便于远程。原创 2022-09-12 22:47:59 · 718 阅读 · 0 评论 -
wsl安装gpu版mindspore(一)
然后,我突然发现一键运行的脚本是不支持wsl的,这下搞崩了,只有重新下载wsl,卸了重来。出了错,重来又在下载了,建议新建一个如果已有文件不再下载的逻辑。如果没有nvidia-smi,这个逻辑可以在bash里面实现?刚出炉的新机,wsl和windows的nvidia共享。ping通,那么不是我的问题。win+shift+s截图。难道是我移动网卡的问题?把网卡拔了,用本地网。原创 2022-09-12 17:58:04 · 951 阅读 · 0 评论 -
mindspore两日集训营202209-金箍棒应用
最后acc只有0.1,不知道原因是什么,在学校里有个课题我们也尝试用了女alexnet,效果也不是很好,那我们恐怕需要微调参数了,而且仔细看训练的loss,波动后也没有明显的下降。量化测试采用刚刚生成的ckpt,并在测试脚本里添加打印量化后的网络的逻辑。现在看来像alexnet这种比较大的网络,还是不要在本地比较好。我们添加量化训练的eval和train逻辑,把对应部分量化。量化训练用时明显比全精度训练慢了很多,一百多s一个epoch。正确的做法是,在root下执行命令,然后就跑起来了,很快的。原创 2022-09-12 09:26:52 · 564 阅读 · 0 评论 -
《机器学习系统》案例:定义深度神经网络
在上一节我们使用MindSpore构建了一个多层感知机的网络结构,随着深度神经网络的飞速发展,各种深度神经网络结构层出不穷,但是不管结构如何复杂,神经网络层数量如何增加,构建深度神经网络结构始终遵循最基本的规则:1.承载计算的节点;2.可变化的节点权重(节点权重可训练);3.允许数据流动的节点连接。因此在机器学习编程库中神经网络是以层为核心,它提供了各类神经网络层基本组件;将神经网络层组件按照网络结构进行堆叠、连接就能构造出神经网络模型。3.3.1. 以层为核心定义神经网络神经网络层包含构建机器学习网络原创 2022-05-30 18:45:20 · 868 阅读 · 0 评论 -
《机器学习系统》案例:机器学习工作流
机器学习工作流机器学习系统编程模型的首要设计目标是:对开发者的整个工作流进行完整的编程支持。一个常见的机器学习任务一般包含如图所示的流程。这个工作流完成了训练数据集的读取,模型的训练,测试和调试。通过归纳,我们可以将这一工作流中用户所需要自定义的部分通过定义以下API来支持(我们这里假设用户的高层次API以Python函数的形式提供):数据处理: 首先,用户需要数据处理API来支持将数据集从磁盘读入。进一步,用户需要对读取的数据进行预处理,从而可以将数据输入后续的机器学习模型中。模型结构: 完成数据原创 2022-05-30 18:37:03 · 747 阅读 · 0 评论 -
【MindSpore易点通】在云上使用MindSpore:云上训练和提交PR
在云上使用MindSpore1、沙箱实验打开沙箱链接,即可开始体验。今天咱来得早,名额较为充足。打开实验桌面。我们看到实验桌面有MNIST数据集和实验脚本。创建桶参数如下:①复制桶配置:不选②区域:华北-北京四;③桶名称:ms-lenet-train-0501;④数据冗余存储策略:多AZ存储⑤存储类别:标准存储;⑥桶策略:私有;⑦默认加密:关闭;⑧归档数据直读:关闭;其他参数默认(OBS桶名称需全局唯一,若出现以下提醒,自定义其他桶名称即可。需要记住此步骤中创建的桶名称,以便原创 2022-05-01 17:37:51 · 891 阅读 · 0 评论 -
MindSpore校园行-图像分类
1, 安装Pythonhttps://mirrors.huaweicloud.com/python/3.7.5/python-3.7.5-amd64.exe2,Python操作体验3,安装 mindspore方式1:pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/1.6.1/MindSpore/cpu/x86_64/mindspore-1.6.1-cp37-cp37m-win_amd64.whl --trusted-h原创 2022-04-30 16:29:12 · 1752 阅读 · 0 评论 -
如何查看昇腾云服务器环境?
使用npu-smi infolspci原创 2022-04-30 10:41:42 · 1419 阅读 · 0 评论 -
用MindSpore框架复现正则化实验:了解正则化手段与提前停止
用MindSpore框架复现正则化实验——了解正则化手段与提前停止实验介绍一般而言,正则化是为了防止过拟合或者帮助优化。本实验会给出几种神经网络中最受欢迎的正则化方法,以及用MindSpore实现:提前停止,L2正则化,dropout。此外该实验也增加了Batch Normalization(批标准化)方法进行对比实验。通过构建加入噪音的cosine模型,加入各种正则化技术形成对比:提前停止:当验证集的性能开始下降时停止训练。L2正则化是简单地将L2正则项"λ"∣∣θ∣∣22||\theta|原创 2022-03-30 17:17:18 · 2243 阅读 · 1 评论 -
MindSpore报错“The function construct need xx positional argument ...“怎么办
昇思报错"The function construct need xx positional argument …"怎么办1. 系统环境Hardware Environment(Ascend/GPU/CPU): ALLSoftware Environment:MindSpore version (source or binary): 1.6.0 & Earlier versionsPython version (e.g., Python 3.7.5): 3.7.6OS platform原创 2022-03-30 17:13:40 · 1473 阅读 · 0 评论 -
基于MindSpore复现Deeplabv3—语义分割
基于MindSpore复现Deeplabv3—语义分割实验介绍本实验主要介绍使用MindSpore深度学习框架在PASCAL VOC2012数据集上训练Deeplabv3网络模型。本实验使用了MindSpore开源仓库model_zoo中的deeplabv3模型案例。图像的语义分割是计算机视觉中重要的基本问题之一,其目标是对图像的每个像素点进行分类,将图像分割为若干个视觉上有意义的或感兴趣的区域,以利于后续的图像分析和视觉理解。输入输出为大小相同的图片。随着DCNN(深度卷积网络)的发展,图片中的特原创 2022-03-20 18:42:36 · 6928 阅读 · 1 评论 -
MindSpore实现图片分类
MindSpore图片分类实验介绍本实验主要介绍使用MindSpore在CIFAR-10数据集上训练ResNet50。本实验使用MindSpore model_zoo中提供的ResNet50模型定义,以及MindSpore官网教程在云上使用MindSpore里的训练脚本。实验目的了解如何使用MindSpore加载常用的CIFAR-10图片分类数据集。了解MindSpore的model_zoo模块,以及如何使用model_zoo中的模型。了解ResNet50这类大模型的基本结构和编程方法。预原创 2022-03-16 20:51:20 · 5414 阅读 · 2 评论 -
MindSpore前馈神经网络运用
MindSpore前馈神经网络运用实验经典介绍本实验主要介绍使用MindSpore开发前馈神经网络,并使用Fashion-MNIST数据集训练和测试模型。实验目的掌握如何使用MindSpore进行简单前馈神经网络的开发。了解如何使用MindSpore进行简单图片分类任务的训练。了解如何使用MindSpore进行简单图片分类任务的测试和预测。预备知识熟练使用Python。具备一定的深度学习理论知识,如感知机、前馈神经网络、损失函数、优化器,训练策略等。了解华为云的基本使用方法,包括O原创 2022-03-16 18:44:51 · 3339 阅读 · 2 评论 -
MindSpore优化器与传统优化器实验
优化器实验实验介绍本实验主要介绍如何使用MindSpore进行优化实验。共包含两个实验分别为:实验一:利用不同优化器求解函数极值点实验实验二:鸢尾花数据在不同优化器下的分类实验通过分析无优化器、SGD优化器、Momentum优化器、Adam优化器模型在求极值点和分类任务下的结果 ,得到不同优化器的作用。实验目的掌握MindSpore中优化器的使用及其作用。了解如何使用MindSpore进行SGD、Momentum、Adam优化器实验。了解不同优化器原理。预备知识熟练使用Pyt原创 2022-03-16 16:43:47 · 3875 阅读 · 0 评论 -
checkpoint-模型保存和加载
模型的保存和加载实验介绍训练过模型的小伙伴一定对ckpt这个东西不陌生,下面我们就来看看它的魅力。在模型训练过程中,可以添加检查点(Checkpoint)用于保存模型的参数,以便进行推理及中断后再训练使用。使用场景如下:训练后推理场景模型训练完毕后保存模型的参数,用于推理或预测操作。训练过程中,通过实时验证精度,把精度最高的模型参数保存下来,用于预测操作。再训练场景进行长时间训练任务时,保存训练过程中的Checkpoint文件,防止任务异常退出后从初始状态开始训练。Fine-tu原创 2022-03-16 16:40:48 · 10963 阅读 · 0 评论 -
MindSpore入门--跑通DeepFM模型训练经验
MindSpore入门–跑通DeepFM模型A Practice of MindSpore – DeepFMMindSpore入门–跑通DeepFM模型本文开发环境如下ModelArtsNotebookAscend*8本文主要内容如下环境准备数据准备模型训练发布算法1. 环境准备注意事项:本次笔者基于Ascend进行8卡运行,并且配置了500G的云硬盘。8卡主要作用是防止内存溢出,导致预处理时进程被Killed1.1 克隆仓库并进入到本地deepfm原创 2022-02-10 22:02:36 · 1907 阅读 · 0 评论 -
MindSpore入门--跑通BCGF模型开发手册
MindSpore入门–跑通BCGF模型An Introduction To MindSpore – BCGFMindSpore入门–跑通BCGF模型本文开发环境如下ModelArtsNotebookAscend本文主要内容如下环境准备数据准备模型训练1. 环境准备注意事项:本次笔者基于Ascend进行8卡运行,并且配置了500G的云硬盘。8卡主要作用是防止内存溢出,导致预处理时进程被Killed1.1 克隆仓库并进入到本地BCGF目录git clo原创 2022-02-10 21:57:26 · 2385 阅读 · 0 评论 -
基于LeNet5的手写数字识别,在ModelArts和GPU上复现
基于LeNet5的手写数字识别实验介绍LeNet5 + MNIST被誉为深度学习领域的“Hello world”。本实验主要介绍使用MindSpore在MNIST手写数字数据集上开发和训练一个LeNet5模型,并验证模型精度。实验目的了解如何使用MindSpore进行简单卷积神经网络的开发。了解如何使用MindSpore进行简单图片分类任务的训练。了解如何使用MindSpore进行简单图片分类任务的验证。预备知识熟练使用Python,了解Shell及Linux操作系统基本知识。具备一原创 2022-02-10 21:46:09 · 2511 阅读 · 0 评论 -
LateNight:在?我用本地环境pytest带你玩自定义算子
深夜:在?我用本地环境pytest带你玩自定义算子module1:多玩法Python调试框架pytest初学入门大家好python通用测试框架的是unittest+HTMLTestRunner,这段时间看到了pytest文档,发现这个框架和丰富的plugins很好用,所以来学习下pytest.[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-dJJ2EgaR-1642483999727)(https://gitee.com/qmckw/pic/raw/master/Pi原创 2022-01-18 13:34:27 · 773 阅读 · 0 评论 -
如何理解混淆矩阵?
原创 2022-01-15 11:10:43 · 399 阅读 · 0 评论 -
为什么要将样本方差除以 N-1
为什么要将样本方差除以 N-1?介绍在本文中,我们将推导出用于计算正态分布数据的平均值和方差的众所周知的公式,以便回答文章标题中的问题。但是,对于那些对这个问题的"为什么"不感兴趣而只对"何时"感兴趣的读者来说,答案很简单:如果必须同时估计数据的均值和方差(通常为这种情况),则除以 N-1,使得方差得到如下:另一方面,如果已知真实总体的均值使得只需要估计方差,则除以 N,使得方差得到如下:前者是您通常需要的,而后者的一个例子是对白高斯噪声扩散的估计。由于已知白高斯噪声的平均值为零,因此在这种原创 2022-01-14 11:41:35 · 2931 阅读 · 1 评论 -
使用Git在JupyterLab中协作
使用Git在JupyterLab中协作Git 是一种分布式版本控制系统,用于跟踪软件开发过程中源代码的变化。Git预安装在Data Science Workspace JupyterLab环境中。先决条件注意您要使用的Git服务器需要通过Internet访问。Data Science Workspace JupyterLab环境是托管环境,未在公司防火墙内部部署,因此您连接到的Git服务器必须可从公共Internet访问。 这可以是GitHub上的公用或专用存储库,或者您决定自行托管的Git服务器原创 2022-01-10 21:24:14 · 3652 阅读 · 0 评论 -
机器学习中的损失
Loss引言:在Resnet实现CIFAR-10图像分类中,我们需要定义损失和优化器。损失函数是深度学习的训练目标,也叫目标函数,可以理解为神经网络的输出(Logits)和标签(Labels)之间的距离,是一个标量数据。常见的损失函数包括均方误差、L2损失、Hinge损失、交叉熵等等。图像分类应用通常采用交叉熵损失(CrossEntropy)。优化器用于神经网络求解(训练)。通过调用MindSpore中的API:Momentum和SoftmaxCrossEntropyWithLogits,设置损失函数原创 2022-01-05 17:09:01 · 1496 阅读 · 0 评论 -
何为梯度下降算法?
MindSpore机器学习系列文章文章目录MindSpore机器学习系列文章@[toc]前言一、线性回归的第一步1、数据读取和相关性分析二、线性回归理论分析1.统计学概念2.回归方程构建3.最小二乘法4.梯度下降5.求解最小二乘法三、线性回归代码实现1.数据读取和相关性评估2.参数设置3.定义损失函数4.定义梯度下降函数5.进行线性回归6.结果分析总结前言在上一个章节中,我们已经给大家讲解了什么是线性回归,并且用python几个功能强大的库演示了线性回归的实际效果,但是真正的想弄懂线性回归的原理我们原创 2022-01-04 17:22:05 · 970 阅读 · 0 评论 -
MindSpore安装指南CPUwin10
MindSpore安装指南pip方式安装MindSpore CPU版本(Windows)本文档介绍如何在CPU环境的Windows系统上,使用pip方式快速安装MindSpore。确认系统环境信息确认安装Windows 10是x86架构64位操作系统。cmd输入winver即可。![[Pasted image 20211225214345.png]]确认安装Python 3.7.5或3.9.0版本。如果未安装或者已安装其他版本的Python,可以选择下载并安装:Python 3原创 2022-01-02 23:21:05 · 3091 阅读 · 2 评论 -
金字塔池化系列的理解SPP、ASPP
问题在spp出来之前,所有神经网络都是要输入固定尺寸的图片,比如经常遇到的224×224,图片输入网络前都要resize到224×224,导致图片变形,其中的信息也变形了,从而限制了识别精度。而SPP和ASPP就是为了解决这个问题,它可以让网络输入原图而不必resize。SPP结构刚看到这张结构图,很多同学可能和我一样懵(原谅我比较笨),别的博客里配的文字也都是比较简单,有些词汇不够通俗,直到我看到了下面这张图:如图所示,最左边的图图形表示卷积得到的256维特征图,对于每个区域(厚度为2..原创 2021-12-27 11:33:15 · 5363 阅读 · 0 评论 -
Security for MindSpore training
Security for MindSpore trainingSecurity Risk Description When MindSpore is used for AI model training, if the user-defined computational graph structure (for example, Python code for generating the MindSpore computational graph) is provided by an untr原创 2021-12-21 23:37:53 · 191 阅读 · 0 评论 -
MindSpore基础概念
MindSpore Expression(ME):提供API,用于构建和训练神经网络。MindSpore Compiler(MC):高性能执行和自动微分的核心。如果使用PyNative模式运行,则逐个下发算子运行。如果使用图模式运行,则使用流水线根据Python代码生成计算图,解析代码生成抽象语法树(AST),再建委ANF图。流水线会走到那个生成反向计算节点,并将其加到ANF图中。然后会进行一些优化(如内存复用、算子融合、常数消除等)。MindData(MD):数据加载、数据论证、数据转换等。Mind原创 2021-12-21 11:09:33 · 574 阅读 · 0 评论 -
Security for MindSpore training
Security for MindSpore trainingSecurity Risk Description When MindSpore is used for AI model training, if the user-defined computational graph structure (for example, Python code for generating the MindSpore computational graph) is provided by an untr原创 2021-12-20 20:06:10 · 1832 阅读 · 0 评论 -
MindArmour 使用
文章首发于笔者华为云,欢迎关注MindArmour 使用(万字详解,gitee同步发表)_MindSpore_昇腾论坛_华为云论坛配置环境:CPU环境首先下载mindspore,参考官网[MindSpore官网]安装MindArmour确认系统环境信息 硬件平台为Ascend、GPU或CPU。 参考MindSpore安装指南,完成MindSpore的安装。 MindArmour与MindSpore的版本需保持一致。 其余依赖请参见setup.py。 安装方式原创 2021-12-06 22:15:18 · 3666 阅读 · 0 评论 -
MindSpore简介
MindSpore可以做模型的自动切分这一点让人印象深刻。当然,还有很多特点,比如自动微分、支持动态图+静态图,等等。如果希望了解更多,请看MindSpore官网:MindSporewww.mindspore.cn/对于个人来讲,去年便对MindSpore有简单了解,做过一些其与TensorFlow、PyTorch的对比分析。因为此前尚未开源,只能基于公开的文档做调研而已。而三月底,在HDC大会时,华为正式开源了MindSpore的源码和相应的文档。因而有机会实际拿来运行看看,本文将介绍如..原创 2021-11-09 21:21:23 · 904 阅读 · 0 评论