Pytorch
文章平均质量分 76
T1.Faker
此人很懒,什么都没有写
展开
-
Pytorch 常见运算(mul、mm、dot、mv)
Pytorch 常见运算1.矩阵与标量2.哈达玛积(mul)3.矩阵乘法4.幂与开方5.对数运算6.近似值运算7.剪裁运算1.矩阵与标量矩阵(张量)每一个元素与标量进行操作。import torcha = torch.tensor([1,2])print(a+1)>>> tensor([2, 3])2.哈达玛积(mul)两个相同尺寸的张量相乘,然后对应元素的相乘就是这个哈达玛积。a = torch.tensor([1,2])b = torch.tensor([2,3]原创 2022-01-05 22:13:10 · 5816 阅读 · 20 评论 -
Pytorch函数view、permute、squeeze、usqueeze
1.view在pytorch中view函数的作用为重构张量的维度,相当于numpy中resize()的功能,但是用法可能不太一样。view有二种用法:torch.view(参数a,参数b,。。。)torch.view(-1)或torch.view(参数a,-1)如下例所示总结一下:view的二种方法,一种就是当成resize一样转换数据shape,一种是如果是torch.view(参数a,-1),则表示在参数b未知,参数a已知的情况下自动补齐列向量长度,在这个例子中a=3,x总共由9原创 2022-01-04 22:51:46 · 1327 阅读 · 1 评论 -
计算机视觉 - Attention机制(附代码)
Attention机制1.Attention简介2.Attention原理3.Attention的不同类型4.CBAM实现(Pytorch)1.Attention简介Attention中文意思为注意力,这个机制放到计算机视觉里,类似于给我们看一张美女帅哥的图片,我们第一眼首先关注的地方是这个人的哪里呢😏你们第一眼看的是哪里呢😏最早attention机制就应用到计算机视觉中,这里说的机制,其实就是神经网络中一个模块,类似于U-Net加上attention机制的变化。看出什么变化了吗,其实就是在原创 2021-11-29 16:54:13 · 7566 阅读 · 2 评论 -
卷积神经网络常见模块
深度学习常见模型结构1.Conv 3x32.Conv 1x13.反卷积4.Dropout5.Batch normalization6.Depthconv6.Inception6.1 Inception V16.2 Inception V2/V36.3 Xception7.bottlenect 瓶颈模块(解决计算量问题)8.Residual block9.DenseNet10.Squeeze-and-Excitation11.NASNet1.Conv 3x32.Conv 1x13.反卷积4.Dro.原创 2021-08-31 15:08:12 · 3560 阅读 · 0 评论 -
深度学习模型训练可视化(TensorBoard可视化)
你是否有这样的疑惑?在我们完成深度学习项目工程中,很多时候我们自己构建模型结构,或者在学习深度学习算法的时候由于算法结构,很难充分理解模型你是否想看到自己的模型训练指标与参数的变化情况很多时候,我们自己构建完成训练后,需要在通过修改参数构建...原创 2021-08-25 16:10:45 · 9402 阅读 · 6 评论 -
pytorch教程 (四)- 损失函数
在深度学习项目中首先对数据做数据预处理,然后构建模型之后,第三步需要定义一个好的损失函数。配置损失函数都是确保模型以预期方式工作的最重要步骤之一。 损失函数可以为神经网络提供很多实用的灵活性,它将定义网络输出与网络其余部分的连接方式。简单说损失函数(J)可以定义为具有两个参数的函数:预测输出真实输出定义损失函数,通过将模型的预测值与真实值进行比较,比较二个值之间的差距,差距越小,损失函数越好,通常模型的性能越好。不同的模型用的损失函数一般也不一样。一般来说,监督学习的目标函数由二部分组成:原创 2021-08-19 15:52:24 · 1235 阅读 · 0 评论 -
pytorch教程 (二) -- 处理数据
处理数据1.加载系统数据集2.创建自定义数据集3.迭代和可视化数据集4.DataLoaders为模型处理数据5.通过DataLoader迭代1.加载系统数据集系统数据集可以从torchVision 中加载获取,这里以 Fashion-MNIST 数据集的示例。Fashion-MNIST是Zalando文章图像的数据集,由6万个训练样本和10,000个样本组成。每个样本包括一个28×28灰度图像和来自10个类之一的相关标签参数说明:root:指定数据集下载的路径train:指导下载的是训练集还是原创 2021-08-18 15:43:45 · 1079 阅读 · 0 评论 -
pytorch教程 (一) -- 深度学习项目流程
通常基于pytorch实现一个深度学习算法程序,需要有以下几步深度学习流程1.处理数据2.创建模型3.优化模型参数4.训练模型5.测试6.保存模型7.加载模型使用的库列表import torchfrom torch import nnfrom torch.utils.data import DataLoaderfrom torchvision import datasetsfrom torchvision.transforms import ToTensor, Lambda, Compose原创 2021-08-18 15:04:31 · 569 阅读 · 0 评论 -
计算机视觉PyTorch迁移学习 - (二)
图像迁移学习3.PyTorch实现迁移学习3.1数据集预处理3.2构建模型3.3模型训练与验证3.PyTorch实现迁移学习文件目录3.1数据集预处理这里实现一个蚂蚁与蜜蜂的图像分类,用到的数据集data下载dataset.pyfrom torchvision import datasets, transformsimport torchtrain=transforms.Compose([ transforms.RandomResizedCrop(224), # 随机裁剪一个a原创 2021-08-09 15:37:31 · 1004 阅读 · 1 评论 -
PyTorch神经网络
PyTorch神经网络神经网络可以通过torch.nn包构建pytorch神经网络上基于自动梯度(autograd)来定义模型:一个nn.Module构建神经网络层一个方法forward(input)它会返回输出(output)数字图片识别网络:典型的神经网络训练过程包括以下几点:定义一个包含可训练参数的神经网络迭代整个输入通过神经网络处理输入计算损失loss反向传播梯度到神经网络的参数更新网络的参数,典型的用一个简单方法:*weight = weight - learning_原创 2021-06-29 15:18:29 · 200 阅读 · 0 评论