- 博客(26)
- 收藏
- 关注
RSS订阅原创 昇思大模型平台学习第二十五天
使用RNN实现情感分类需经过数据预处理、模型构建、训练评估等步骤。首先清洗并转换文本数据为序列形式，然后搭建RNN网络并添加全连接层。接着，利用训练集优化模型参数，并在测试集上评估性能。最后，将训练好的模型应用于实际情感分类任务。RNN能捕捉文本序列信息，适用于情感分类场景。
2024-07-13 23:34:01
108
原创 昇思大模型平台学习第二十四天
清华大学座落于首都北京使用BIO标注： B | I | I | I | O | O | O | O | O | B | I。清华大学座落于首都北京使用BIOES标注：B | I | I | E | O | O | O | O | O | B | E。B 实体的开头 I 实体的其他 O 非实体部分 E 实体结尾 S 单字(实体)B 实体的开头 I 实体的其他 O 非实体部分。
2024-07-12 19:29:32
187
原创 昇思大模型平台学习第二十三天
Pix2Pix是一种用于图像到图像转换的深度学习模型，基于条件生成对抗网络(cGAN)，能够将一种图像类型转换为另一种图像类型,可以实现语义/标签到真实图片、灰度图到彩色图、航空图到地图、白天到黑夜、线稿图到实物图的转换。同样使用生成器和判别器模型，使用成对出现的图片进行训练，例如黑白和彩色图片。
2024-07-11 20:01:25
218
原创 昇思大模型平台学习第二十二天
生成式对抗网络(Generative Adversarial Networks，GAN)由生成器和判别器组成。生成器的任务是生成尽可能真实的合成数据，而判别器的任务则是判断这些数据是真实的还是由生成器生成的。这两个网络在训练过程中相互竞争，生成器试图生成更高质量的数据以欺骗判别器，而判别器则努力提高自己的识别能力。
2024-07-10 18:03:06
111
原创 昇思大模型平台学习第二十一天
Diffusion模型是通过向原始数据中逐步添加噪声，然后学习一个逆过程来从噪声中恢复数据。包括两个主要过程：前向扩散过程和反向扩散过程。前向扩散过程是将数据逐步转换为噪声的过程，而反向扩散过程则是从噪声中逐步恢复数据的过程.
2024-07-09 21:03:33
94
原创 昇思大模型平台学习第二十天
DCGAN通过结合卷积神经网络（CNN）和生成对抗网络（GAN）的原理，实现了对图像的高效处理。DCGAN会分别在判别器和生成器中使用卷积和转置卷积层。
2024-07-08 21:41:33
127
原创 昇思大模型平台学习第十九天
CycleGAN无需要求训练数据的图片成对出现，只要有两个域的数据出现即可，属于一种新的无监督训练。CycleGAN 网络本质上是由两个镜像对称的 GAN 网络组成，生成器模型参考ResNet模型。1. 128x128使用6个残差块链接。2. 256x256使用9个残差块链接。
2024-07-07 21:22:04
93
原创 昇思大模型平台学习第十八天
使用RELU6激活函数优点是让值固定到0到6之间减少了大数的计算，提高了模型计算的运行效率，让模型更加稀疏。MobileNetV2首先使用1x1卷积升维然后使用3x3DepthWise卷积最后使用1x1卷积再降维。
2024-07-06 21:14:02
94
原创 昇思大模型平台学习第十六天
1. 用户输入的文本描述作为输入传递给一个固定的文本编码器模型，以获得一系列隐形状态表示。3. 对这些音频token使用音频压缩模型（如EnCodec）进行解码，以恢复音频波形。2. 训练MusicGen解码器来预测离散的隐形状态音频token。
2024-07-04 19:15:42
174
原创 昇思大模型平台学习第十五天
通过将大图片切割成一块块小图片并使用类似词向量的处理方式可以更好的提取每个小图片的信息，不需要卷积操作因此提高了模型的计算效率，可以通过大图片数据集来进行模型预训练提升准确率。Vit是使用Transformer架构来解决图片识别的问题。
2024-07-03 19:42:01
79
原创 昇思大模型平台学习第十三天
分组后的顺序是rrggbb 各个通道之间的信息无法有效共享 可以通过把输出的通道变成 m x n 的矩阵，转置成 n x m 的矩阵再拉伸成1行的通道排列，增加了各个通道的信息共享。每个分组只计算部分特征，会让总计算的参数量有所降低，输出的通道数还是等于卷积核数量。ShuffleNetV1模型通过分组卷积是卷积的数量成为原来的。例如 RGB图片 可以拆分为3组 每组只处理对应的通道。
2024-07-01 22:47:33
162
原创 昇思大模型平台学习第十二天
ResNet提出了残差网络，可以轻松搭建超过1000层的神经网络，使模型越深准确率有所提升。在没提出ResNet模型之前，传统深度模型随着模型的加深 准确率降低 误差更大。ResNet50预训练模型默认输出是1000分类。需要指定最后一层全连接输出为10。
2024-06-30 21:18:45
173
原创 昇思大模型平台学习第十一天
使用模型训练好的模型迁移时参数可以冻结最后一层之外的参数，让我们在前人的成果上以最小的代价训练自己的模型，提高了效率和准确性。
2024-06-29 22:42:02
153
原创 昇思大模型平台学习第十天
FCN的主要思想是将全连接层替换为卷积层，从而使网络能够处理任意大小的输入图像并输出密集分类分数。FCN通过将预训练好的卷积神经网络（如VGG、ResNet等）转换为全卷积结构来实现这一目标。FCN使用VGG16预训练模型为基准,步骤分为FCN-32s => FCN16s => FCN8s,可以使输入输出大小统一。FCN（Fully Convolutional Network）是一种用于图像语义分割的深度学习模型。优点：任意图像尺寸 无需统一，可以更加高效处理。缺点：缺乏对图片边缘的处理以及空间一致性。
2024-06-28 20:57:10
199
原创 昇思大模型平台学习第九天
2.1 使用装饰器方式切换静态图 装饰器只能在函数上调用 无法在类调用。MindSpore 支持静态图 和动态图切换 默认是动态图。2.2 使用函数方式切换静态图。
2024-06-27 21:51:34
212
原创 昇思大模型平台学习第八天
要加载模型权重，需要先创建相同模型的实例，然后使用`load_checkpoint`和`load_param_into_net`方法加载参数。MindSpore提供了云侧（训练）和端侧（推理）统一的中间表示。加载模型 `nn.GraphCell`仅支持图模式。
2024-06-26 23:23:34
176
原创 昇思大模型平台学习第七天
超参数 批次大小 (batch_size)和 学习率(learning_rate) 不可偏大或偏小 可以多次设置进行比较。
2024-06-25 21:48:16
197
原创 昇思大模型平台学习第六天
通常我们会将函数的loss设置为函数的第一个输出，其他的输出即为辅助数据。当有多个参数时可以通过设置has_aux=True来排除辅助参数。CE 代表 cross_entropy 交叉熵。
2024-06-24 23:53:10
125
原创 昇思大模型平台学习第五天
在__init__中 定义好模型的参数 在construct中定义模型调用的顺序 通过类定义比单独函数调用更加通俗易懂。神经网络模型是由神经网络层和Tensor操作构成的。
2024-06-23 21:29:53
153
原创 昇思大模型平台学习第四天
提供了面向图像、文本、音频等不同数据类型的Transforms，同时也支持使用Lambda函数。vision用于处理图像数据 常用 `Rescale`、`Normalize`和`HWC2CHW。transforms用于处理通用的 常用 Compose 把其他数据转换结合在一起。text用于对文本的处理 常用PythonTokenizer 和 Lookup。
2024-06-22 22:02:40
225
原创 昇思大模型平台学习第三天
类型允许不同数量级的数值同时存在，这对于处理具有不同量纲的特征值非常有用。例如，在图像识别任务中，像素值的范围通常是 0 到 255，而某些特征值可能远大于这个范围。类型提供了更高的精度，这对于模型训练和推理过程中的数值计算非常重要。尤其是在深度学习中，模型的参数和激活值通常需要更高的精度来避免精度损失和梯度消失等问题。mindspore 除了可以使用mindspore.dataset加载内置数据集外也支持使用GeneratorDataset接口加载自定义的数据集。类型可以确保与这些框架和库的兼容性。
2024-06-21 17:37:58
321
原创 昇思大模型平台学习第二天
维数（ndim）： `Tensor`的秩，也就是len(tensor.shape)，是一个整数。张量的属性包括形状、数据类型、转置张量、单个元素大小、占用字节数量、维数、元素个数和每一维步长。- 数据类型（dtype）：`Tensor`的dtype，是MindSpore的一个数据类型。- 每一维步长（strides）： `Tensor`每一维所需要的字节数，是一个tuple。- 占用字节数量（nbytes）： `Tensor`占用的总字节数，是一个整数。MindSpore现在已经支持最常用的。
2024-06-20 23:44:29
325
原创 昇思大模型平台学习第一天
2. 支持分布式训练 这个很方便对于性能不好的电脑可以组合来跑 省得单台电脑等待的时间要很久。1. 支持动态图静态图一键切换 之前使用TF 需要重写 而且对于新手来说不容易理解。函数的时候，没有封装好Model类，后续多学习好基础再来实践模型评估如果调用。之前有学习过其他的AI框架，这次首次学习昇思感觉国产框架更加方便和便捷。跟着教程跑了手写数字识别，再测试模型评估用法。
2024-06-20 00:01:12
119
原创 动手学深度学习_环境安装
安装好后需要设置PIP和conda的国内镜像来提升下载速度。首先安装conda 可以使用 清华大学源。windows版本可以使用。选择日期最新发布的版本。动手学深度学习官方文档。
2023-03-21 21:15:02
110
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人