Pytorch
chairon
吃的太多,学的太少。
展开
-
图像注意力机制
1.SE模块 SE模块属于通道注意力机制,让网络重视最重要的通道。 过程: 对输入特征进行全局平均池化 进行两个全连接,提取通道注意力,再用Sigmoid函数归一化到[0,1],之间作为输入的权重进行相乘。 import torch import torch.nn as nn import math class se_block(nn.Module): def __init__(self, channel, ratio=16): super(se_block, self)._原创 2022-03-28 11:42:00 · 890 阅读 · 0 评论 -
Pytorch:CNN(1)
1. Fully Connected Neural Network 2. Convolutional Neural Network 特征提取 卷积 池化 分类 展开 全连接 2.1Convolution 卷积:拿N*N大小的kernel去与像素矩阵做内积 N Input Channels and M Output Channels: M个kernel:kernel size:n*????????????????????????_??????????????????????????原创 2021-02-24 16:56:56 · 122 阅读 · 0 评论 -
Pytorch:Softmax_Classifier/MINIST
1. softmax 使最后输出结果是一个概率分布,和为1. 2. Cross Entropy CrossEntropyLoss = LogSoftmax + NLLLoss 损失函数,其中已经包括了求softmax。 3. MNIST数据集分类 transform=transforms.Compose([transforms.ToTensor(),#Convert the PIL Image to Tensor. transfor原创 2021-02-22 20:01:07 · 128 阅读 · 0 评论 -
Pytorch:Dataset&Dataloader
1. epoch epoch batchsize Iteration 所有训练样本的一次训练 一次训练中训练的样本数量 迭代:1个iteration等于使用batchsize个样本训练一次 举个例子,训练集有1000个样本,batchsize=10,那么: 训练完整个样本集需要: 100次iteration,1次epoch。 2.dataset Dataset是一个包装类,用来将数据包装为Dataset类,然后传入DataLoader中,我们再使用DataLoader这个类来更加快捷原创 2021-02-21 15:47:16 · 134 阅读 · 2 评论 -
Pytorch:Multiple_Dimension_Input
1. 加载数据: datas=np.loadtxt('diabetes.csv',delimiter=',',dtype=np.float32) 不同的激活函数: 链接 多层输入: 2. import numpy as np import torch #step1:准备数据集 datas=np.loadtxt('diabetes.csv',delimiter=',',dtype=np.float32) x_train=torch.from_numpy(datas[:,:-1])#转化为tensor原创 2021-02-21 13:58:10 · 131 阅读 · 0 评论 -
Pytorch:LogisticRegression
loss Funct import numpy as np import torch import torch.nn.functional as F import matplotlib.pyplot as plt #1.Prepare dataset x_data=torch.Tensor([[1.0],[2.0],[3.0]]) y_data=torch.Tensor([[0],[0],[1]]) #---------------------------------------------------原创 2021-02-20 14:25:15 · 205 阅读 · 0 评论 -
PyTorch:Linear Regression
Pytorch顺序: Prepare dataset Design model using Class inherit from nn.Module Construct loss and optimizer using PyTorch API Training cycle forward, backward, update import numpy as np import torch # Prepare dataset #数据必须转化成Tensors #x_data原创 2021-02-19 21:23:43 · 63 阅读 · 0 评论