pytorch
eilot_c
这个作者很懒,什么都没留下…
展开
-
pytorch 保存模型和加载模型
def save_model(save_dir, phase, name, epoch, f1score, model): if not os.path.exists(save_dir): os.mkdir(save_dir) save_dir = os.path.join(save_dir, args.model) if not os.path.exis...原创 2019-11-28 14:58:21 · 861 阅读 · 0 评论 -
pytroch学习(三)
In [2]: import torch In [3]: a = torch.rand(3,4) In [4]: a ...原创 2019-03-19 09:28:27 · 548 阅读 · 1 评论 -
resnet
import torchfrom torch import nnfrom torch.nn import functional as Fclass ResBlk(nn.Module): ''' resnet block ''' def __init__(self, ch_in, ch_out): ''' ...原创 2019-03-13 21:47:17 · 190 阅读 · 0 评论 -
LeNet5
import torchfrom torch import nnfrom torch.nn import functional as Fclass Lenet5(nn.Module): ''' for cifar10 dataset ''' def __init__(self): super(Lenet5, self).__init_...原创 2019-03-13 21:44:18 · 234 阅读 · 0 评论 -
pytorch学习笔记(线性模型)
线性模型问题介绍 线性模型,通俗来讲就是给定很多个数据点,希望能够找到一个函数来拟合这些数据点令它的误差最小,比如简单的一元函数就可以来表示给出一系列的点,找一条直线,使得直线尽可能与这些点接近,也就是这些点到直线的距离之和尽可能小。用数学语言来严格表达 ,即 给定由 d 个属性描述的示例 x = (x1,x2 ,x3 , ...,xd) ' 其中 Xi 表示X在第i个属性上...原创 2019-01-30 21:31:53 · 1857 阅读 · 0 评论 -
pytorch学习笔记(Tensor,Variable,nn.Module,optim)
Tensor(张量)torch.Tensor 默认的是 torch.FloatTensor 数据类型,也可以定义我们自己想要的数据类型当然也可以创建一个全是0的空的Tensor或者取一个正态分布作为随机初始值可以像numpy一样通过索引的方式取得其中的元素,同时改变它的值除此之外可以在Tensor和numpy.ndarray之间相互转换:判断是否支持GPU,如果...原创 2019-01-30 20:12:04 · 3845 阅读 · 0 评论 -
pytorch学习笔记(反向传播)
反向传播算法是一个有效求解梯度的算法,本质上是一个链式求导的法则的应用。链式法则 考虑一个简单的函数,比如,我们可以直接求出这个函数的微分,但是这里我们要使用链式法则,令q=x+y,那么f=qz,对于这两个式子来说,分别求出他们的微分,,,同时q是x和y的求和,所以可以得到,。关心的问题是,链式法则告诉我们如何求得它们的值。 通过链式法则可以知道,如果对其...原创 2019-02-09 00:36:08 · 4011 阅读 · 0 评论 -
pytorch学习笔记(各种优化算法的变式)
梯度下降法 梯度下降法的更新公式:梯度下降法的变式1.SGD 随机梯度下降法是梯度下降法的一个小变形,就是每次使用一批(batch)数据进行梯度的计算,而不是计算全部的数据的梯度,因为现在深度学习使用的数据量都特别的大,所以每次计算所有的梯度都是不现实的,这样会导致运算时间过长,同时每次都计算全部的梯度还失去了一些随机性,容易引入一些局部误差,所以...原创 2019-02-04 14:58:43 · 610 阅读 · 0 评论 -
pytorch学习笔记(激活函数)
下面介绍五种激活函数:SigmoidSigmoid非线性激活函数的数学表达式是,其图形如下.sigmoid函数是将一个实数输入转化到0-1之间的输出,负数越大转化越靠近于0,越大的正数越靠近1. sigmoid 函数有两大缺点:sigmoid 函数会造成梯度消失,当它靠近1和0的时候,梯度基本上会变为0 ,如果用梯度下降法的话,如果梯度接近0,那么没有任何信息来更新参数,这样会...原创 2019-02-04 14:53:46 · 2305 阅读 · 0 评论 -
pytorch学习笔记(分类模型)
问题介绍机器学习中的监督学习主要分为分类问题和回归问题,回归问题希望预测的结果是连续的,而分类问题所预测的结果就是离散的类别.这个时候输入的变量可以是离散的,也可以是连续的,监督学习从数据中学习一个分类模型或者分类决策函数,被称之为分类器(classifer). 分类器对新的输入进行预测,这个过程称之为分类(classfication). 例如: 判断邮件是否为垃圾邮件,病人是否生病,明天是否...原创 2019-02-04 13:48:06 · 376 阅读 · 0 评论