昇思
文章平均质量分 87
while(awake) code
这个作者很懒,什么都没留下…
展开
-
《昇思25天学习打卡营第1天|基本介绍》
本节将会整体介绍昇思MindSpore和华为昇腾AI全栈,并介绍昇思MindSpore在华为昇腾AI全栈中的位置。对昇思MindSpore感兴趣的开发者,最后可以参与昇思MindSpore的社区并一键三连。昇思MindSpore是一个全场景深度学习框架,旨在实现易开发、高效执行、全场景统一部署三大目标。其中,易开发表现为API友好、调试难度低;高效执行包括计算效率、数据预处理效率和分布式训练效率;全场景则指框架同时支持云、边缘以及端侧场景。ModelZoo(模型库)原创 2024-07-04 13:18:39 · 820 阅读 · 0 评论 -
《昇思25天学习打卡营第2天|快速入门》
MNIST数据集目录结构如下:MNIST_Data└── train├── train-images-idx3-ubyte (60000个训练图片)├── train-labels-idx1-ubyte (60000个训练标签)└── test├── t10k-images-idx3-ubyte (10000个测试图片)├── t10k-labels-idx1-ubyte (10000个测试标签)原创 2024-07-06 10:56:43 · 640 阅读 · 0 评论 -
《昇思25天学习打卡营第3天|张量 Tensor》
init主要用于并行模式下的延后初始化,在正常情况下不建议使用init对参数进行初始化。原创 2024-07-07 15:53:27 · 963 阅读 · 0 评论 -
《昇思25天学习打卡营第4天|数据集 Dataset》
模块提供了一些常用的公开数据集和标准格式数据集的加载API。对于MindSpore暂不支持直接加载的数据集,可以构造自定义数据加载类或自定义数据集生成函数的方式来生成数据集,然后通过接口实现自定义方式的数据集加载。支持通过可随机访问数据集对象、可迭代数据集对象和生成器(generator)构造自定义数据集,下面分别对其进行介绍。原创 2024-07-08 21:14:08 · 729 阅读 · 0 评论 -
《昇思25天学习打卡营第5天|数据变换 Transforms》
通常情况下,直接加载的原始数据并不能直接送入神经网络进行训练,此时我们需要对其进行数据预处理。MindSpore提供不同种类的数据变换(Transforms),配合数据处理Pipeline来实现数据预处理。所有的Transforms均可通过map方法传入,实现对指定数据列的处理。提供了面向图像、文本、音频等不同数据类型的Transforms,同时也支持使用Lambda函数。下面分别对其进行介绍。原创 2024-07-09 21:24:44 · 590 阅读 · 0 评论 -
《昇思25天学习打卡营第6天|网络构建》
当我们定义神经网络时,可以继承nn.Cell类,在__init__方法中进行子Cell的实例化和状态管理,在construct方法中实现Tensor操作。construct意为神经网络(计算图)构建,相关内容详见使用静态图加速。# 调用父类 nn.Cell 的初始化方法。# 定义一个展平层,将输入的二维图像展平成一维向量。# 定义一个顺序容器nn.SequentialCell,包含一系列全连接层和激活函数 ReLU。原创 2024-07-10 21:43:52 · 245 阅读 · 0 评论 -
《昇思25天学习打卡营第7天|函数式自动微分》
神经网络的训练主要使用反向传播算法,模型预测值(logits)与正确标签(label)送入损失函数(loss function)获得loss,然后进行反向传播计算,求得梯度(gradients),最终更新至模型参数(parameters)。自动微分能够计算可导函数在某点处的导数值,是反向传播算法的一般化。自动微分主要解决的问题是将一个复杂的数学运算分解为一系列简单的基本运算,该功能对用户屏蔽了大量的求导细节和过程,大大降低了框架的使用门槛。原创 2024-07-11 21:57:57 · 732 阅读 · 0 评论 -
《昇思25天学习打卡营第8天|模型训练》
从网络构建中加载代码,构建一个神经网络模型。nn.ReLU(),nn.ReLU(),超参(Hyperparameters)是可以调整的参数,可以控制模型训练优化的过程,不同的超参数值可能会影响模型训练和收敛速度。wt1wt−η1n∑x∈B∇lxwtwt1wt−ηn1x∈B∑∇lxwt公式中,nnn是批量大小(batch size),ηηη是学习率(learning rate)。另外,wtw_{t}w。原创 2024-07-12 21:45:57 · 652 阅读 · 0 评论 -
《昇思25天学习打卡营第9天|保存与加载》
上一章节主要介绍了如何调整超参数,并进行网络模型训练。在训练网络模型的过程中,实际上我们希望保存中间和最后的结果,用于微调(fine-tune)和后续的模型推理与部署,本章节我们将介绍如何保存与加载模型。原创 2024-07-13 17:57:56 · 231 阅读 · 0 评论 -
《昇思25天学习打卡营第10天|使用静态图加速》
AI编译框架分为两种运行模式,分别是动态图模式以及静态图模式。MindSpore默认情况下是以动态图模式运行,但也支持手工切换为静态图模式。原创 2024-07-14 13:00:18 · 855 阅读 · 0 评论 -
《昇思25天学习打卡营第11天|FCN图像语义分割》
FCN主要用于图像分割领域,是一种端到端的分割方法,是深度学习应用在图像语义分割的开山之作。通过进行像素级的预测直接得出与原图大小相等的label map。因FCN丢弃全连接层替换为全卷积层,网络所有层均为卷积层,故称为全卷积网络。全卷积神经网络主要使用以下三种技术:卷积化(Convolutional)使用VGG-16作为FCN的backbone。VGG-16的输入为224*224的RGB图像,输出为1000个预测值。VGG-16只能接受固定大小的输入,丢弃了空间坐标,产生非空间输出。原创 2024-07-15 21:57:46 · 897 阅读 · 0 评论 -
《昇思25天学习打卡营第12天|ResNet50迁移学习》
在实际应用场景中,由于训练数据集不足,所以很少有人会从头开始训练整个网络。普遍的做法是,在一个非常大的基础数据集上训练得到一个预训练模型,然后使用该模型来初始化网络的权重参数或作为固定特征提取器应用于特定的任务中。本章将使用迁移学习的方法对ImageNet数据集中的狼和狗图像进行分类。迁移学习详细内容见。原创 2024-07-16 20:37:08 · 231 阅读 · 0 评论 -
《昇思25天学习打卡营第13天|ResNet50图像分类》
ResNet50网络是2015年由微软实验室的何恺明提出,获得ILSVRC2015图像分类竞赛第一名。在ResNet网络提出之前,传统的卷积神经网络都是将一系列的卷积层和池化层堆叠得到的,但当网络堆叠到一定深度时,就会出现退化问题。下图是在CIFAR-10数据集上使用56层网络与20层网络训练误差和测试误差图,由图中数据可以看出,56层网络比20层网络训练误差和测试误差更大,随着网络的加深,其误差并没有如预想的一样减小。原创 2024-07-17 20:43:03 · 577 阅读 · 0 评论 -
《昇思25天学习打卡营第14天|ShuffleNet图像分类》
ShuffleNetV1是旷视科技提出的一种计算高效的CNN模型,和MobileNet, SqueezeNet等一样主要应用在移动端,所以模型的设计目标就是利用有限的计算资源来达到最好的模型精度。ShuffleNetV1的设计核心是引入了两种操作:Pointwise Group Convolution和Channel Shuffle,这在保持精度的同时大大降低了模型的计算量。因此,ShuffleNetV1和MobileNet类似,都是通过设计更高效的网络结构来实现模型的压缩和加速。原创 2024-07-18 21:11:02 · 915 阅读 · 0 评论 -
《昇思25天学习打卡营第15天|SSD目标检测》
SSD目标检测模型简介SSD,全称Single Shot MultiBox Detector,是Wei Liu在ECCV 2016上提出的一种目标检测算法。使用Nvidia Titan X在VOC 2007测试集上,SSD对于输入尺寸300x300的网络,达到74.3%mAP(mean Average Precision)以及59FPS;对于512x512的网络,达到了76.9%mAP ,超越当时最强的Faster RCNN(73.2%mAP)。具体可参考论文[1]。SSD目标检测主流算法分成可以两原创 2024-07-22 13:50:40 · 626 阅读 · 0 评论 -
《昇思25天学习打卡营第16天|Vision Transformer图像分类》
本案例完成了一个ViT模型在ImageNet数据上进行训练,验证和推理的过程,其中,对关键的ViT模型结构和原理作了讲解。通过学习本案例,理解源码可以帮助用户掌握Multi-Head Attention,TransformerEncoder,pos_embedding等关键概念,如果要详细理解ViT的模型原理,建议基于源码更深层次的详细阅读。原创 2024-07-22 16:09:34 · 990 阅读 · 0 评论 -
《昇思25天学习打卡营第17天|基于MindNLP+MusicGen生成自己的个性化音乐》
MusicGen是来自Meta AI的Jade Copet等人提出的基于单个语言模型(LM)的音乐生成模型,能够根据文本描述或音频提示生成高质量的音乐样本,相关研究成果参考论文《MusicGen直接使用谷歌的及其权重作为文本编码器模型,并使用及其权重作为音频压缩模型。MusicGen解码器是一个语言模型架构,针对音乐生成任务从零开始进行训练。MusicGen 模型的新颖之处在于音频代码的预测方式。原创 2024-07-22 22:26:43 · 624 阅读 · 0 评论 -
《昇思25天学习打卡营第18天|K近邻算法实现红酒聚类》
K近邻算法(K-Nearest-Neighbor, KNN)是一种用于分类和回归的非参数统计方法,最初由 Cover和Hart于1968年提出(Cover等人,1967),是机器学习最基础的算法之一。它正是基于以上思想:要确定一个样本的类别,可以计算它与所有训练样本的距离,然后找出和该样本最接近的k个样本,统计出这些样本的类别并进行投票,票数最多的那个类就是分类的结果。KNN的三个基本要素:K值,一个样本的分类是由K个邻居的“多数表决”确定的。K值越小,容易受噪声影响,反之,会使类别之间的界限变得模糊。原创 2024-07-23 20:07:19 · 1004 阅读 · 0 评论 -
《昇思25天学习打卡营第19天|基于MobileNetv2的垃圾分类》
MobileNet网络是由Google团队于2017年提出的专注于移动端、嵌入式或IoT设备的轻量级CNN网络,相比于传统的卷积神经网络,MobileNet网络使用深度可分离卷积(Depthwise Separable Convolution)的思想在准确率小幅度降低的前提下,大大减小了模型参数与运算量。并引入宽度系数 α和分辨率系数 β使模型满足不同应用场景的需求。原创 2024-07-24 20:37:33 · 709 阅读 · 0 评论 -
《昇思25天学习打卡营第20天|DCGAN生成漫画头像》
在下面的教程中,我们将通过示例代码说明DCGAN网络如何设置网络、优化器、如何计算损失函数以及如何初始化模型权重。在本教程中,使用的共有70,171张动漫头像图片,图片大小均为96*96。原创 2024-07-25 20:14:44 · 950 阅读 · 0 评论 -
《昇思25天学习打卡营第21天|CycleGAN图像风格迁移互换》
CycleGAN(Cycle Generative Adversarial Network) 即循环对抗生成网络,来自论文。该模型实现了一种在没有配对示例的情况下学习将图像从源域 X 转换到目标域 Y 的方法。该模型一个重要应用领域是域迁移(Domain Adaptation),可以通俗地理解为图像风格迁移。原创 2024-07-26 20:15:39 · 371 阅读 · 0 评论 -
《昇思25天学习打卡营第22天|GAN图像生成》
MNIST手写数字数据集是NIST数据集的子集,共有70000张手写数字图片,包含60000张训练样本和10000张测试样本,数字图片为二进制文件,图片大小为28*28,单通道。图片已经预先进行了尺寸归一化和中心化处理。本案例将使用MNIST手写数字数据集来训练一个生成式对抗网络,使用该网络模拟生成手写数字图片。原创 2024-07-26 22:03:45 · 1041 阅读 · 0 评论 -
《昇思25天学习打卡营第23天|基于 MindSpore 实现 BERT 对话情绪识别》
BERT全称是来自变换器的双向编码器表征量(Bidirectional Encoder Representations from Transformers),它是Google于2018年末开发并发布的一种新型语言模型。与BERT模型相似的预训练语言模型例如问答、命名实体识别、自然语言推理、文本分类等在许多自然语言处理任务中发挥着重要作用。模型是基于Transformer中的Encoder并加上双向的结构,因此一定要熟练掌握Transformer的Encoder的结构。原创 2024-07-26 23:36:33 · 625 阅读 · 0 评论 -
《昇思25天学习打卡营第24天|基于MindSpore通过GPT实现情感分类》
【代码】《昇思25天学习打卡营第24天|基于MindSpore通过GPT实现情感分类》原创 2024-07-27 10:44:47 · 160 阅读 · 0 评论 -
《昇思25天学习打卡营第25天|MindNLP ChatGLM-6B StreamChat》
本案例基于MindNLP和ChatGLM-6B实现一个聊天应用。可以修改下列参数和prompt体验模型。下载权重大约需要10分钟。原创 2024-07-27 11:16:45 · 214 阅读 · 0 评论