- 博客(102)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 昇思25天学习打卡营第26天 | BERT对话情绪识别
BERT全称是来自变换器的双向编码器表征量（Bidirectional Encoder Representations from Transformers），它是Google于2018年末开发并发布的一种新型语言模型。与BERT模型相似的预训练语言模型例如问答、命名实体识别、自然语言推理、文本分类等在许多自然语言处理任务中发挥着重要作用。模型是基于Transformer中的Encoder并加上双向的结构，因此一定要熟练掌握Transformer的Encoder的结构。
2024-07-16 16:45:36
929
原创 昇思25天学习打卡营第25天 | RNN情感分类
情感分类是自然语言处理中的经典任务，是典型的分类问题。输入: This film is terrible正确标签: Negative预测标签: Negative输入: This film is great正确标签: Positive预测标签: Positive具体内容：1. 导包import osimport reimport six2. 数据下载# 指定保存路径为 `home_path/.mindspore_examples`
2024-07-13 20:20:47
839
原创 昇思25天学习打卡营第24天 | LSTM+CRF序列标注
序列标注指给定输入序列，给序列中每个Token进行标注标签的过程。序列标注问题通常用于从文本中进行信息抽取，包括分词(Word Segmentation)、词性标注(Position Tagging)、命名实体识别(Named Entity Recognition, NER)等。输入序列清华大学座落于首都北京输出标注BIIIOOOOOBI如上表所示，清华大学和北京是地名，需要将其识别，我们对每个输入的单词预测其标签，最后根据标签来识别实体。
2024-07-12 10:25:59
712
原创 昇思25天学习打卡营第23天 | Pix2Pix实现图像转换
cGAN的生成器与传统GAN的生成器在原理上有一些区别，cGAN的生成器是将输入图片作为指导信息，由输入图像不断尝试生成用于迷惑判别器的“假”图像，由输入图像转换输出为相应“假”图像的本质是从像素到另一个像素的映射，而传统GAN的生成器是基于一个给定的随机噪声生成图像，输出图像通过其他约束条件控制生成，这是cGAN和GAN的在图像翻译任务中的差异。Pix2Pix中判别器的任务是判断从生成器输出的图像是真实的训练图像还是生成的“假”图像。7. Pix2Pix生成器和判别器初始化。5. UNet生成器。
2024-07-11 08:10:43
352
原创 昇思25天学习打卡营第22天 | GAN图像生成
生成式对抗网络(Generative Adversarial Networks，GAN)是一种生成式机器学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。生成器的任务是生成看起来像训练图像的“假”图像；判别器需要判断从生成器输出的图像是真实的训练图像还是虚假的图像。GAN通过设计生成模型和判别模型这两个模块，使其互相博弈学习产生了相当好的输出。GAN模型的核心在于提出了通过对抗过程来估计生成模型这一全新框架。
2024-07-10 08:53:42
825
原创 昇思25天学习打卡营第21天 | Diffusion扩散模型
扩散模型（Diffusion Models）有很多种理解，本文的介绍是基于denoising diffusion probabilistic model （DDPM），DDPM已经在（无）条件图像/音频/视频生成领域取得了较多显著的成果。具体内容：1. 导包如果将Diffusion与其他生成模型（如Normalizing Flows、GAN或VAE）进行比较，它并没有那么复杂，它们都将噪声从一些简单分布转换为数据样本，Diffusion也是从纯噪声开始通过一个神经网络学习逐步去噪，最终得到一个实际图像。
2024-07-09 10:52:51
1178
原创 昇思25天学习打卡营第20天 | DCGAN生成漫画头像
DCGAN（深度卷积对抗生成网络，Deep Convolutional Generative Adversarial Networks）是GAN的直接扩展。不同之处在于，DCGAN会分别在判别器和生成器中使用卷积和转置卷积层。判别器由分层的卷积层、BatchNorm层和LeakyReLU激活层组成。输入是3x64x64的图像，输出是该图像为真图像的概率。生成器则是由转置卷积层、BatchNorm层和ReLU激活层组成。输入是标准正态分布中提取出的隐向量𝑧，输出是3x64x64的RGB图像。
2024-07-08 09:18:21
438
原创 昇思25天学习打卡营第19天 | CycleGAN图像风格迁移互换
CycleGAN(Cycle Generative Adversarial Network) 即循环对抗生成网络，该模型实现了一种在没有配对示例的情况下学习将图像从源域 X 转换到目标域 Y 的方法。该模型一个重要应用领域是域迁移(Domain Adaptation)，可以通俗地理解为图像风格迁移。
2024-07-07 08:23:44
410
原创 昇思25天学习打卡营第18天 | 基于MobileNetv2的垃圾分类
MobileNet网络是由Google团队于2017年提出的专注于移动端、嵌入式或IoT设备的轻量级CNN网络，相比于传统的卷积神经网络，MobileNet网络使用深度可分离卷积（Depthwise Separable Convolution）的思想在准确率小幅度降低的前提下，大大减小了模型参数与运算量。并引入宽度系数 α和分辨率系数 β使模型满足不同应用场景的需求。
2024-07-06 10:32:23
657
原创 昇思25天学习打卡营第17天 | K近邻算法实现红酒聚类
K近邻算法（K-Nearest-Neighbor, KNN）是一种用于分类和回归的非参数统计方法，是机器学习最基础的算法之一。它正是基于以上思想：要确定一个样本的类别，可以计算它与所有训练样本的距离，然后找出和该样本最接近的k个样本，统计出这些样本的类别并进行投票，票数最多的那个类就是分类的结果。KNN的三个基本要素：K值，一个样本的分类是由K个邻居的“多数表决”确定的。K值越小，容易受噪声影响，反之，会使类别之间的界限变得模糊。距离度量，反映了特征空间中两个样本间的相似度，距离越小，越相似。
2024-07-05 08:40:28
430
原创 昇思25天学习打卡营第16天 | MusicGen生成个性化音乐
MusicGen是来自Meta AI的Jade Copet等人提出的基于单个语言模型（LM）的音乐生成模型，能够根据文本描述或音频提示生成高质量的音乐样本。用户输入的文本描述作为输入传递给一个固定的文本编码器模型，以获得一系列隐形状态表示。训练MusicGen解码器来预测离散的隐形状态音频token。对这些音频token使用音频压缩模型（如EnCodec）进行解码，以恢复音频波形。MusicGen直接使用谷歌的t5-base及其权重作为文本编码器模型，并使用及其权重作为音频压缩模型。
2024-07-04 09:12:18
480
原创 昇思25天学习打卡营第15天 | Vision Transformer图像分类
近些年，随着基于自注意（Self-Attention）结构的模型的发展，特别是Transformer模型的提出，极大地促进了自然语言处理模型的发展。由于Transformers的计算效率和可扩展性，它已经能够训练具有超过100B参数的空前规模的模型。ViT则是自然语言处理和计算机视觉两个领域的融合结晶。在不依赖卷积操作的情况下，依然可以在图像分类任务上达到很好的效果。
2024-07-03 08:54:47
1243
原创 昇思25天学习打卡营第14天 | SSD目标检测
SSD，全称Single Shot MultiBox Detector，是Wei Liu在ECCV 2016上提出的一种目标检测算法。使用Nvidia Titan X在VOC 2007测试集上，SSD对于输入尺寸300x300的网络，达到74.3%mAP(mean Average Precision)以及59FPS；对于512x512的网络，达到了76.9%mAP ，超越当时最强的Faster RCNN(73.2%mAP)。。SSD目标检测主流算法分成可以两个类型：two-stage方法：RCNN系列。
2024-07-02 09:01:36
592
原创 昇思25天学习打卡营第13天 | ShuffleNet图像分类
ShuffleNetV1是旷视科技提出的一种计算高效的CNN模型，和MobileNet, SqueezeNet等一样主要应用在移动端，所以模型的设计目标就是利用有限的计算资源来达到最好的模型精度。ShuffleNetV1的设计核心是引入了两种操作：Pointwise Group Convolution和Channel Shuffle，这在保持精度的同时大大降低了模型的计算量。因此，ShuffleNetV1和MobileNet类似，都是通过设计更高效的网络结构来实现模型的压缩和加速。
2024-07-01 09:10:19
499
原创 昇思25天学习打卡营第12天 | ResNet50图像分类
ResNet50网络是2015年由微软实验室的何恺明提出，获得ILSVRC2015图像分类竞赛第一名。在ResNet网络提出之前，传统的卷积神经网络都是将一系列的卷积层和池化层堆叠得到的，但当网络堆叠到一定深度时，就会出现退化问题。具体内容：1. 导包import os2. 下载数据3. 加载数据data_dir = "./datasets-cifar10-bin/cifar-10-batches-bin" # 数据集根目录batch_size = 256 # 批量大小。
2024-06-30 07:48:29
367
原创 昇思25天学习打卡营第11天 | ResNet50迁移学习
在实际应用场景中，由于训练数据集不足，所以很少有人会从头开始训练整个网络。普遍的做法是，在一个非常大的基础数据集上训练得到一个预训练模型，然后使用该模型来初始化网络的权重参数或作为固定特征提取器应用于特定的任务中。本章将使用迁移学习的方法对ImageNet数据集中的狼和狗图像进行分类。具体内容：1. 导包import os2. 下载数据集3. 加载数据集。
2024-06-29 11:15:05
605
原创 昇思25天学习打卡营第10天 | FCN图像语义分割
全卷积网络用于图像语义分割的一种框架。FCN是首个端到端（end to end）进行像素级（pixel level）预测的全卷积网络。在具体介绍FCN之前，首先介绍何为语义分割：图像语义分割（semantic segmentation）是图像处理和机器视觉技术中关于图像理解的重要一环，AI领域中一个重要分支，常被应用于人脸识别、物体检测、医学影像、卫星图像分析、自动驾驶感知等领域。语义分割的目的是对图像中每个像素点进行分类。
2024-06-28 09:06:52
694
原创 昇思25天学习打卡营第9天 | 静态图加速
AI编译框架分为两种运行模式，分别是动态图模式以及静态图模式。MindSpore默认情况下是以动态图模式运行，但也支持手工切换为静态图模式。两种运行模式的详细介绍如下：动态图模式：动态图的特点是计算图的构建和计算同时发生（Define by run），其符合Python的解释执行方式，在计算图中定义一个Tensor时，其值就已经被计算且确定，因此在调试模型时较为方便，能够实时得到中间结果的值，但由于所有节点都需要被保存，导致难以对整个计算图进行优化。
2024-06-27 12:05:46
1041
原创 昇思25天学习打卡营第8天 | 模型的保存与加载
具体内容：1. 导包2. 创建模型nn.ReLU(),nn.ReLU(),3. 保存模型4. 加载模型要加载模型权重，需要先创建相同模型的实例，然后使用`load_checkpoint`和`load_param_into_net`方法加载参数。5. 保存MindIR除Checkpoint外，MindSpore提供了云侧（训练）和端侧（推理）统一的中间表示。可使用`export`接口直接将模型保存为MindIR。
2024-06-26 08:12:59
386
原创 昇思25天学习打卡营第7天 | 模型训练
模型训练一般分为四个步骤：1. 构建数据集。2. 定义神经网络模型。3. 定义超参、损失函数及优化器。4. 输入数据集进行训练与评估。具体内容：1. 导包2. 构建数据集3. 定义神经网络模型nn.ReLU(),nn.ReLU(),4. 定义超参、损失函数和优化器超参（Hyperparameters）是可以调整的参数，可以控制模型训练优化的过程，不同的超参数值可能会影响模型训练和收敛速度。目前深度学习模型多采用批量随机梯度下降算法进行优化。
2024-06-25 08:33:38
1196
原创 昇思25天学习打卡营第6天 | 函数式自动微分
MindSpore使用函数式自动微分的设计理念，提供更接近于数学语义的自动微分接口`grad`和`value_and_grad`。具体内容：1. 导包。
2024-06-24 10:48:20
276
原创 昇思25天学习打卡营第5天 | 网络构建
具体内容：1. 导包2. 定义模型类当我们定义神经网络时，可以继承`nn.Cell`类，在`__init__`方法中进行子Cell的实例化和状态管理，在`construct`方法中实现Tensor操作。nn.ReLU(),nn.ReLU(),logits3. 模型层我们构造一个shape为(3, 28, 28)的随机数据（3个28x28的图像），依次通过每一个神经网络层来观察其效果。将28x28的2D张量转换为784大小的连续数组。全连接层，其使用权重和偏差对输入进行线性变换。
2024-06-23 12:27:58
419
原创 昇思25天学习打卡营第4天 | 数据变换
具体内容：1. 导包2. ComposeCompose接收一个数据增强操作序列，然后将其组合成单个数据增强操作。mindspore.dataset.vision模块提供一系列针对图像数据的Transforms。在Mnist数据处理过程中，使用了Rescale、Normalize和HWC2CHW变换。RescaleRescale变换用于调整图像像素值的大小，包括两个参数：- rescale：缩放因子。- shift：平移因子。
2024-06-22 10:30:01
1094
原创 昇思25天学习打卡营第3天 | 数据集
具体内容：1. 导包2. 数据集加载3. 数据集迭代数据集加载后，一般以迭代方式获取数据，然后送入神经网络中进行训练。我们可以用create_tuple_iterator接口创建数据迭代器，迭代访问数据。breakplt.show()4. mapmap操作是数据预处理的关键操作，可以针对数据集指定列（column）添加数据变换（Transforms），将数据变换应用于该列数据的每个元素，并返回包含变换后元素的新数据集。
2024-06-21 11:20:58
599
原创 昇思25天学习打卡营第2天 | 张量基础
具体内容：1. 导包2. 创建张量张量的创建方式有多种，构造张量时，支持传入Tensorfloatintbooltuplelist和类型。a. 根据数据直接生成b. 从numpy数组生成c.使用init初始化器构造张量d. 继承另一个张量的属性，形成新的张量3. 张量的属性张量的属性包括形状、数据类型、转置张量、单个元素大小、占用字节数量、维数、元素个数和每一维步长。Tensor的shape，是一个tuple。Tensor的dtype，是MindSpore的一个数据类型。
2024-06-20 10:41:48
288
2原创 基于PyTorch深度学习实战入门系列-Numpy基础全
基于PyTorch深度学习实战入门系列-Numpy基础全 深度学习 Numpy 数据分析 深度学习基础 人工智能
2024-03-12 20:40:49
1062
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人