![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
昇思25天学习打卡营
woqubuchuming
这个作者很懒,什么都没留下…
展开
-
昇思25天学习打卡营第XX天|Vision Transformer图像分类
CLIP预训练数据集薄纱了,这个对齐的思路很好,但是对文本图像长度限制更高,作者很可惜。好了👌到我最熟悉的模型了,苦苦缠斗几个月呜呜呜。原创 2024-08-01 00:43:41 · 93 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|SSD目标检测
感觉目标检测还是yolo相对最火?ssd有点老了可以更新下。原创 2024-08-01 00:40:00 · 333 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|Shufflenet图像分类
ShuffleNetV1是旷视科技推出的高效CNN模型,和MobileNet类似专为移动端设计。它通过Pointwise Group Convolution和Channel Shuffle操作,在有限计算资源下优化精度和计算量,实现模型的轻量化和加速。原创 2024-08-01 00:33:06 · 203 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|ResNet50迁移学习
在深度学习中,预训练的卷积神经网络(ConvNet)可以作为固定的特征提取器使用。以AlexNet为例,去掉最后的全连接层后,网络剩下的部分可以用于新数据集的特征提取,生成4096维的特征向量,这些向量被称为CNN代码。除了作为特征提取器,还可以对ConvNet进行微调(Fine-tuning),即在新数据集上不仅替换和重新训练分类器,还继续反向传播来优化预训练网络的权重。现代ConvNet在ImageNet上训练需要耗费大量时间和计算资源,因此常见的做法是共享预训练模型的权重,供他人用于微调。原创 2024-08-01 00:21:52 · 225 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|FCN图像语义分割
全卷积网络(FCN)是一种用于图像语义分割的深度学习模型,由UC Berkeley的Jonathan Long等人在2015年提出。FCN摒弃了传统卷积神经网络中的全连接层,转而全部使用卷积层,实现了端到端的像素级预测,直接输出与原图大小一致的分割图。FCN的提出为图像语义分割领域带来了革命性的进展,为后续的分割模型奠定了基础。尽管FCN在细节分割上仍有局限,但其创新的网络结构和端到端的训练方式,对深度学习在图像分割任务中的应用产生了深远影响。原创 2024-08-01 00:13:43 · 240 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|RNN实现情感分类
希望代码能维持开源维护状态hhh,要是再文件整理下就更好了,现在好乱,不能好fork。原创 2024-07-31 23:55:47 · 375 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|Pix2Pix实现图像转换
它能够实现多种图像到图像的转换任务,如从草图到彩色图像、从白天到夜晚的场景变换等。与传统专用机器学习方法不同,Pix2Pix提供了一个通用框架,通过在不同数据集上训练,能够实现多样化的图像翻译任务。通过这种对抗训练,生成器学习到如何生成高质量的图像,最终达到判别器难以区分真假的平衡状态。这种模型的灵活性和有效性,使得Pix2Pix成为图像翻译领域的一个重要工具。在Pix2Pix中,生成器的目标是创建逼真的图像,以欺骗判别器,而判别器则试图。cGAN的生成器与标准GAN的主要区别在于,它使用。原创 2024-07-31 23:48:33 · 206 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|LSTM+CRF序列标注
在这个模型中,序列的每个元素(Token)不仅与自己的特征相关联,还与其相邻元素的标签相关。例如,在标注"清华大学"这个短语时,正确的标签序列需要满足特定的依赖关系,如"B-I-I-I",其中"I"标签前必须是"B"或"I"。CRF通过定义一个全局的能量函数来计算序列标注的概率,该函数综合了单个Token的分类概率和相邻Token之间转移的概率。与简单的多分类问题不同,CRF能够捕捉序列中标签的连贯性,如在命名实体识别中,一个词的标签往往依赖于它前面词的标签。原创 2024-07-31 23:52:32 · 392 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|GAN图像生成
它包含生成器和判别器两个对抗组件:生成器负责创造逼真的假图像,判别器则判断图像真假。训练中,生成器不断学习生成更高质量的假图像以欺骗判别器,而判别器则学习更准确地识别真假图像。理想状态下,当生成图像与真实图像分布一致时,判别器的判断准确率将达到随机水平。GAN的目标是通过这种对抗过程,使生成模型输出的数据分布接近真实数据分布,实现高质量的图像生成。尽管GAN在图像生成方面取得了巨大成功,但其训练过程复杂且存在稳定性挑战。感觉顺序要调整下,先GAN再DCGAN再Diffusion。原创 2024-07-31 23:15:55 · 260 阅读 · 0 评论 -
摘抄https://cloud-553ed019-35a7-4ac5-aa36-3d65b9fb9c78.xihe.mindspore.cn/lab/tree/%E5%BA%94%E7%94%A8%E
如果将Diffusion与其他生成模型(如Normalizing Flows、GAN或VAE)进行比较,它并没有那么复杂,它们都将噪声从一些简单分布转换为数据样本,Diffusion也是从纯噪声开始通过一个神经网络学习逐步去噪,最终得到一个实际图像。Diffusion对于图像的处理包括以下两个过程:我们选择的固定(或预定义)正向扩散过程qqq:它逐渐将高斯噪声添加到图像中,直到最终得到纯噪声一个学习的反向去噪的扩散过程pθp_\thetapθ。原创 2024-07-31 23:10:52 · 784 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|Diffusion扩散模型
扩散模型自DDPM论文提出后,在图像生成领域取得了显著进展,特别是在文本条件图像生成方面。重要发展包括改进的去噪模型,级联扩散模型以提高图像分辨率,以及无需分类器的扩散模型指导。DALL-E 2和ImageGen等模型展示了结合语言模型和扩散模型在文本到图像合成中的有效性。尽管扩散模型在生成高质量图像方面超越了GANs,但它们在生成过程中需要多次迭代,这限制了效率。不过,最新的研究已经表明,通过优化去噪步骤,可以实现快速且高保真的图像生成。这些进展推动了扩散模型在图像合成领域的应用潜力。原创 2024-07-31 23:08:52 · 141 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|DCGAN生成漫画头像
操作,增强了模型对图像数据的处理能力。判别器通过卷积层提取图像特征,并用BatchNorm和LeakyReLU进行非线性变换,最终输出图像真实性的概率。生成器则从高斯分布中采样的隐向量z开始,通过一系列。,生成与真实图像尺寸相同的RGB图像。BatchNorm和ReLU层在此过程中用于稳定训练和增强特征表达。本教程通过训练DCGAN于动漫头像数据集,展示了如何利用该网络生成逼真的动漫头像图像。DCGAN是一种结合了深度卷积和GAN框架的生成模型,由Radford等人提出。与传统GAN相比,DCGAN。原创 2024-07-31 23:01:01 · 112 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|CycleGAN图像风格迁移互换
CycleGAN是一种用于图像到图像翻译的生成对抗网络,它突破了传统域迁移模型的限制,无需成对样本即可学习图像在不同域间的转换。这种的方法特别适用于难以获取配对数据的场景,例如艺术风格迁移。与需要成对训练样本的Pix2Pix不同,CycleGAN通过,实现了两个域之间自由的图像风格转换,极大地扩展了图像处理的应用范围和灵活性。这几个带读论文真不错,解析很精炼入门,可惜都是17年的。原创 2024-07-31 22:52:18 · 300 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|基于MobileNetv2的垃圾分类函数式自动微分
MobileNet是由Google在2017年推出的轻量化CNN架构,专为移动和嵌入式设备设计。它采用深度可分离卷积技术减少模型大小和计算需求,同时保持了接近传统CNN的性能。MobileNet引入了宽度系数α和分辨率系数β,以适应不同的硬件和性能需求。MobileNetV2进一步优化,使用倒残差结构和线性瓶颈设计,解决了ReLU激活函数在低维特征上的信息丢失问题,提高了准确率,生成了更紧凑的模型。参考论文和具体实践参考链接。原创 2024-07-30 21:39:43 · 136 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|基于MindSpore的红酒分类实验
K值的选择对模型的泛化能力至关重要,太小易受噪声干扰,太大则可能忽略小类别。距离度量,如欧氏距离或曼哈顿距离,决定了样本间的相似度。分类决策规则通常采用多数表决,确保模型的预测准确性。K近邻算法(KNN)是一种直观的非参数机器学习方法,用于分类和回归任务。它根据一个样本与训练数据集中样本的距离来预测其类别。虽然叫NN,但这不是深度神经网络,而是传统算法结合。原创 2024-07-30 21:35:12 · 135 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|基于MindSpore通过GPT实现情感分类
1. **分词器加载**:`GPTTokenizer.from_pretrained('openai-gpt')` 加载了与OpenAI发布的GPT模型预训练权重相对应的分词器。`mindnlp.transformers` 库中的 `GPTTokenizer` 类来加载和处理与GPT(生成式预训练变换器)模型兼容的分词器,并添加特殊的控制标记。- `bos_token`:篇章开始(Begin Of Sentence)标记。2. **特殊标记**:特殊标记是在自然语言处理任务中用于控制模型行为的标记。原创 2024-07-30 21:29:31 · 205 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|基于MindNLP+MusicGen生成自己的个性化音乐
MusicGen的独特之处在于它通过一个从零开始训练的解码器直接预测音乐token,避免了传统分层或上采样方法的复杂性。这种单阶段的预测方式不仅简化了生成过程,还增强了对生成音乐的控制力,允许生成单声道和立体声音乐,并能够通过旋律条件来控制音调结构。MusicGen是Meta AI提出的一种音乐生成模型,它利用单个Transformer语言模型(LM)根据文本描述或音频提示生成音乐。作为文本编码器,以及。原创 2024-07-30 21:24:53 · 207 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|基于MindSpore的GPT2文本摘要
由字节跳动AI实验室提出的CNewSum是一个大规模的中文新闻摘要数据集,包含304,307篇文档和人类撰写的摘要。这些文档和摘要来自Toutiao新闻源,数据集具有长文档和高抽象性摘要的特点,鼓励模型进行文档级别的理解和生成。:这个数据集专注于中文新闻文章的摘要生成,提供了大量的新闻文章用于单文档摘要任务。摘要任务旨在从长文档中提取或生成重要的信息,形成简短的摘要。这些数据集经过清洗,去除了HTML标记、多余的空字符和图片标记等,以构建一个较为完善的中文摘要数据集12。原创 2024-07-30 21:11:24 · 156 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|基于 MindSpore 实现 BERT 对话情绪识别
这个例子举得还挺有趣彩蛋一个哈哈predict("家人们咱就是说一整个无语住了 绝绝子叠buff")一些常用的模型比如教程里用的bert-base-chinese要是都配好就好了,不然自己下载好麻烦。原创 2024-07-30 21:01:05 · 116 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|10-使用静态图加速
在Graph模式下,Python代码并不是由Python解释器去执行,而是将代码编译成静态计算图,然后执行静态计算图。MindSpore的静态图编译器维护了Python常用语法子集,以支持神经网络的构建及训练。MindSpore设计的AI编译框架提供了动态图和静态图两种运行模式,用户可根据需求在这两种模式间手动切换,以平衡开发效率与运行性能。静态图模式(Graph)则分离构建与计算,支持全局优化,适合性能要求高的固定网络。动态图模式(PyNative)允许模型构建与计算同步进行,便于调试,但优化受限。原创 2024-07-30 20:48:53 · 163 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|08-模型训练
训练过程包括数据集迭代以优化参数和验证/测试以评估性能。定义train_loop和test_loop函数分别用于训练和测试。利用自动微分,先定义正向函数forward_fn,再通过value_and_grad获取微分函数grad_fn,最后结合优化器封装train_step函数,实现模型迭代训练。在设置超参数、损失函数和优化器后,模型训练通过循环数据集完成,每轮称为一个epoch。原创 2024-07-30 20:29:32 · 118 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|07-函数式自动微分
二、自动微分简化了这一过程,将复杂运算分解为基础运算,隐藏了求导细节,降低了使用难度。MindSpore利用函数式自动微分,通过grad和value_and_grad接口,提供了数学语义清晰的自动微分方式,简化了单层线性模型等的实现过程。本章分为两类,一神经网络训练依赖反向传播算法,通过损失函数计算预测值与标签间的误差,反向传播求得梯度,进而更新模型参数。原创 2024-07-30 20:22:43 · 210 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|05-数据变换Transforms
确实整理得不错,都是些容易懂、常用的code example,这章还总结的比较好,就是感觉最好还是先有基础再来用,如果真初学者,知识顺序会很奇怪。原创 2024-07-30 20:09:05 · 122 阅读 · 0 评论 -
昇思25天学习打卡营第02天|04-数据集Dataset
云上开发环境,无需配置环境,既可灵活调试运行代码。注意一个用户只能启动一个jupyter实例,且8个小时后会自动释放资源,到期时间前请及时将资源下载到本地。新用户送算力欸,就是到期前记得下载到本地?改进蛮快的,之前八小时才能自己释放,现在可以主动关闭资源。Jupyter云上开发 到期时间 2024-07-31 03:50:44。镜像:py39-ms2.2.14-cann7.0.0。规格:96G Ascend910。原创 2024-07-30 19:57:26 · 128 阅读 · 0 评论 -
昇思25天学习打卡营第XX天|01基本介绍02快速入门03张量
如本文档以Notebook运行时,完成安装后需要重启kernel才能执行后续代码。跟jupyter结合的很好,非常适合初学者,超级大集成,软硬件都配置好,数据集也联网。实现高效的数据预处理。在本教程中,我们使用Mnist数据集,自动下载完成后,使用。缺点是代码依赖平台太过了,不好换环境。MindSpore提供基于Pipeline的。提供的数据变换进行预处理。本章节中的示例代码依赖。原创 2024-06-25 19:04:07 · 226 阅读 · 0 评论