Pytorch框架
文章平均质量分 68
Never-Giveup
这个作者很懒,什么都没留下…
展开
-
Pytorch学习记录(二):关于Gradient
在BP的时候,pytorch是将Variable的梯度放在Variable对象中的,我们随时都可以使用Variable.grad得到对应Variable的grad。刚创建Variable的时候,它的grad属性是初始化为0.0的。>>> import torch>>> from torch.autograd import Variable>>&...原创 2018-10-08 22:10:23 · 633 阅读 · 0 评论 -
使用torch.Tensor() 创建张量,加上requires_grad参数报错(Pytorch 1.0)
x = torch.Tensor([[.5, .3, 2.1]])print(x)> tensor([[0.5000, 0.3000, 2.1000]])加上参数 requires_grad=True 或者 requires_grad=False :x = torch.Tensor([[.5, .3, 2.1]], requires_grad=False)print(x)Tra...原创 2019-03-12 10:45:46 · 10363 阅读 · 1 评论 -
CIFAR-10和CIFAR-100数据集说明
翻译自: http://www.cs.toronto.edu/~kriz/cifar.htmlCIFAR-10和CIFAR-100是带有标签的数据集,它们是8000万个微小图像数据集的子集,他们由Alex Krizhevsky,Vinod Nair和Geoffrey Hinton收集。CIFAR-10数据集CIFAR-10数据集由10个类的60000个32x32彩色图像组成,每个类有6000...原创 2019-02-21 17:17:48 · 14154 阅读 · 0 评论 -
Pytorch 中的数据类型 torch.utils.data.DataLoader 参数详解
参考https://blog.csdn.net/rogerfang/article/details/82291464原创 2018-12-03 16:09:42 · 19836 阅读 · 6 评论 -
Pytorch的GPU计算(cuda)
pytorch允许把在GPU上训练的模型加载到CPU上,也允许把在CPU上训练的模型加载到GPU上。在Pytorch中,只要在输入,输出,模型等后加.cuda()即可将模型由cpu上的运算调到gpu上运算。首先需要确定自己的pytorch版本能否进行gpu计算。print(torch.cuda.is_available())如果结果是True,则可以进行gpu计算,如果是False,就需...原创 2018-12-02 22:11:45 · 28344 阅读 · 8 评论 -
Pytorch的net.train 和 net.eval的使用
在训练模型时会在前面加上:model.train()在测试模型时在前面使用:model.eval()同时发现,如果不写这两个程序也可以运行,这是因为这两个方法是针对在网络训练和测试时采用不同方式的情况,比如Batch Normalization 和 Dropout。训练时是正对每个min-batch的,但是在测试中往往是针对单张图片,即不存在min-batch的概念。由于网络训练完...原创 2018-12-02 21:51:28 · 52291 阅读 · 15 评论 -
PyTorch之模型的保存与加载
从一个小demo讲解import torchimport matplotlib.pyplot as pltfrom torch.autograd import Variable# 生成数据x = torch.unsqueeze(torch.linspace(-1, 1, 100), dim = 1)y = x.pow(2) + 0.2 * torch.rand(x.size())...原创 2018-12-02 21:43:22 · 564 阅读 · 1 评论 -
TensorBoard源码实现探究
学过一些python网络编程的知识,对socket编程,https协议,以及web框架(flask)有一定的了解,所以想探究一下,TensorFlow的可视化工具TensorBoard是怎么搭建web服务的。查看TensorBoard源码,从两个源码文件入手,分别是:program.py 这里就是设置了一些开始web服务的参数,例如端口(port):6006等http_util.p...原创 2018-12-02 20:35:26 · 1856 阅读 · 0 评论 -
Pytorch可视化工具之TensorBoardX
1. 引言我们都知道tensorflow框架可以使用tensorboard这一高级的可视化的工具,为了使用tensorboard这一套完美的可视化工具,未免可以将其应用到Pytorch中,用于Pytorch的可视化。这里特别感谢Github上的解决方案: https://github.com/lanpa/tensorboardX。本文主要是针对该解决方案提供一些介绍。TensorboardX...原创 2018-12-02 20:19:29 · 5058 阅读 · 0 评论 -
pytorch的cuda环境搭建(GPU版本安装)
参考https://blog.csdn.net/MarsLee_U/article/details/80489618https://blog.csdn.net/u011622208/article/details/80275344注意:一定要安装cudnn,不然无法进行卷积操作原创 2019-04-24 22:39:29 · 89292 阅读 · 8 评论 -
pytorch源码分析之torch.utils.data.Dataset类和torch.utils.data.DataLoader类
写在之前介绍Pytorch深度学习框架优势之一是python优先,源代码由python代码层和C语言代码层组成,一般只需要理解python代码层就可以深入理解pytorch框架的计算原理。所以学习pytorch源码需要熟练掌握python语言的各种使用技巧。在处理任何机器学习问题之前都需要数据读取,并进行预处理。Pytorch提供了许多方法使得数据读取和预处理变得很容易。torch.ut...原创 2018-10-24 23:28:26 · 38841 阅读 · 5 评论 -
PyTorch源码分析之torchvision.transforms
PyTorch框架中有一个非常重要且好用的包:torchvision,该包主要由3个子包组成,分别是:torchvision.datasets、torchvision.models、torchvision.transforms。这3个子包的具体介绍可以参考官网:http://pytorch.org/docs/master/torchvision/index.html。具体代码可以参考github:...原创 2018-10-25 11:33:49 · 996 阅读 · 0 评论 -
PyTorch源码分析之torchvision.models
PyTorch框架中有一个非常重要且好用的包:torchvision,该包主要由3个子包组成,分别是:torchvision.datasets、torchvision.models、torchvision.transforms。这3个子包的具体介绍可以参考官网:http://pytorch.org/docs/master/torchvision/index.html。具体代码可以参考github:...原创 2018-10-25 10:38:32 · 370 阅读 · 0 评论 -
pytorch中的contiguous()
调用view之前最好先contiguous,也就是x.contiguous().view()因为view需要tensor的内存是整块的contiguous:中文意思连续的。view只能用在contiguous的variable上。如果在view之前用了transpose, permute等,需要用contiguous()来返回一个contiguous copy。一种可能的解释是:有些ten...原创 2018-10-25 10:03:16 · 3600 阅读 · 0 评论 -
关于 pytorch inplace operation需要注意的问题(data和detach方法的区别)
(本文章适用于 pytorch0.4.0 版本, 既然 Variable 和 Tensor merge 到一块了, 那就叫 Tensor吧)在编写 pytorch 代码的时候, 如果模型很复杂, 代码写的很随意, 那么很有可能就会碰到由 inplace operation 导致的问题. 所以本文将对 pytorch 的 inplace operation 做一个简单的总结。在 pytorch ...原创 2019-05-09 11:52:37 · 2251 阅读 · 0 评论