深度学习框架—Pytorch
pytorch
我是小杨我就这样
当一个代码的工匠回首往事,不因虚度年华而悔恨,也不因碌碌无为而羞愧,这样当他老去的时候,可以很自豪地告诉世人,我曾经将代码注入生命去打造互联网的浪潮之巅
公众号《小杨的技术人生》
展开
-
Pytorch——卷积神经网络
网络的尺寸输入层一般而言,输入层的大小应该能够被2整除很多次,常用32, 64, 96, 224卷积层尽可能使用小尺寸的滤波器,例如3*3,滑动步长选择1。需要...原创 2020-03-09 17:15:04 · 258 阅读 · 0 评论 -
Pytorch——实现简单的三层网络
"""简单的三层全连接神经网络"""from torch import nn# 输入维度,第一层神经元个数,第二层神经元个数,输出层神经元个数class simpleNet(nn.Module): def __init__(self, in_dim, n_hidden_1, n_hidden_2, out_dim): super(simpleNet, self)....原创 2020-03-08 20:02:09 · 3428 阅读 · 2 评论 -
Pytorch——梯度下降的变化,数据预处理,权重初始化,防止过拟合
文章目录梯度下降的变化1. SGD随机梯度下降2. Momentum3. Adagrad4. RMSprop5. Adam数据预处理1. 中心化2. 标准化3. PCA主成分分析4. 白噪声权重初始化1. 随机初始化2. 稀疏初始化3. 初始化偏置(bias)4. 批标准化(Batch Noemalization)防止过拟合1. 正则化2. Dropout梯度下降的变化1. SGD随机梯度下降...原创 2020-02-17 14:00:21 · 1135 阅读 · 0 评论 -
Pytorch——多项式回归
文章目录创造输入数据数据采样用作训练定义模型损失函数和优化器训练模型创造输入数据"""多项式回归"""import torchfrom torch.autograd import Variabledef make_features(x): """创建一个features,[x, x^2, x^3]""" x = x.unsqueeze(1) # 相当于squeeze...原创 2020-02-16 12:52:38 · 620 阅读 · 0 评论 -
Pytorch——一维线性回归
文章目录数据建立简单模型y=w*x + b创建model定义损失函数和优化函数,使用均方误差训练数据"""一维线性回归"""import numpy as npimport torchfrom torch import nn, optimfrom torch.autograd import Variable# 数据x_train = np.array([[3.3], [4.4]...原创 2020-02-14 16:10:07 · 407 阅读 · 0 评论 -
pytorch报错:SyntaxError: unexpected EOF while parsing
也许你就是掉了个括号原创 2020-02-14 16:03:30 · 915 阅读 · 0 评论 -
Pytorch报错IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to
IndexError Traceback (most recent call last)<ipython-input-23-4ba7a4acb927> in <module> 19 20 if (epoch+1) % 20 == 0:---> 21 prin...原创 2020-02-14 16:01:46 · 683 阅读 · 0 评论 -
Pytorch基础——模型的保存和加载
文章目录保存加载保存保存整个模型的结构信息和参数信息,对象modeltorch.save(model, '路径')保存参数、保存对象是模型的状态model.state_dicttorch.save(model.state_dict, '路径')加载加载完整的模型结构load_model = torch.load('路径')加载模型参数信息、需要先导入模型的结构...原创 2020-02-13 15:45:47 · 322 阅读 · 0 评论 -
pytorch基础——nn.Module模块
nn.Module模块pytorch中所有的层结构和损失函数都来自于torch.nn所有的模型结构都是从nn.Module继承的"""nn.Module模块定义一个计算图,并且这个结构可以复用多次"""from torch import nn.Moduleclass net_name(nn.Module): # 继承 def __init__(self, othe...原创 2020-02-13 15:12:53 · 1095 阅读 · 0 评论 -
Pytorch基础——Variable(变量)
文章目录Variable(变量)对标量的求导矩阵求导Variable(变量)神经网络在做运算的时候,需要先构建一个计算图谱,然后在里面进行前向传播和反向传播Variable本质上和Tensor(张量)没有区别,Variable会放入一个计算图中进行前向、反向传播和自动求导对标量的求导import torchfrom torch.autograd import Variable...原创 2020-02-13 11:31:14 · 967 阅读 · 0 评论