- 博客(23)
- 资源 (6)
- 收藏
- 关注
RSS订阅转载 【干货】深度学习实验流程及PyTorch提供的解决方案
转载自:[干货]深度学习实验流程及PyTorch提供的解决方案【导读】近日,专知小组博士生huaiwen创作了一系列PyTorch实战教程，致力于介绍如何用PyTorch实践你的科研想法。今天推出其创作的第一篇《深度学习实验流程及PyTorch提供的解决方案》。在研究深度学习的过程中，当你脑中突然迸发出一个灵感，你是否发现没有趁手的工具可以快速实现你的想法？看完本文之后，你可能会多出一个选择。...
2018-10-28 23:38:34
792
转载 python : 正确复制列表的方法
转自:https://www.cnblogs.com/ifantastic/p/3811145.htmlnew = old[:] Python老鸟都知道以上代码是什么意思。它复制列表old到new。它对于新手来说是种困惑而且应该避免使用这种方法。不幸的是[:]标记法被广泛使用，可能是Python程序员不知道更好的列表复制法吧。 首先我们需要了解Python是如何管理对象和变量。...
2018-10-26 16:57:13
778
转载 pytorch 与 numpy 的相互转换
# -*- coding: utf-8 -*- # @Time : 2018/1/17 16:37 # @Author : Zhiwei Zhong # @Site : # @File : Numpy_Pytorch.py # @Software: PyCharm import torch import numpy as np np_data = np.arange(6).r...
2018-10-24 16:03:19
1088
原创 Pytorch + LSTM
LSTM 原理图(图来源)LSTM原理解析(更多细节参考: LSTM详细介绍):class torch.nn.LSTMCell(input_size, hidden_size, num_of_layers,bias=True)在torch...
2018-10-21 22:57:20
2817
2
原创 pytorch: torch.nn.functional.affine_grid(theta,size)
# 仍有部分疑惑 torch.nn.functional.affine_grid(theta,size):给定一组仿射矩阵(theta),生成一个2d的流场.通常与 grid_sample() 结合使用,用于空间变换网络.参数: theta(Tensor 类型):输入的一组仿射矩阵(N*2*3) size(torch.Size 类型):要输出的图像的...
2018-10-21 20:50:08
5360
2
原创 pytorch: Parameter 的数据结构
一般来说,pytorch 的Parameter是一个tensor,但是跟通常意义上的tensor有些不一样1)通常意义上的tensor 仅仅是数据2)而Parameter所对应的tensor 除了包含数据之外,还包含一个属性:requires_grad(=True/False) 在Parameter所对应的tensor中获取纯数据,可以通过以下操作: param_d...
2018-10-21 20:13:39
3133
原创 pytorch: nn.Sequential(func1,func2,func3)
function = nn.Sequential(func1,func2,func3) 生成的是一个列表,可分别通过function[0], function[1], function[2]来获取func1,func2,func3
2018-10-21 20:05:22
430
原创 pytorch: 网络层参数初始化
# Initialize the weights/bias with identity transformation self.fc_loc[2].weight.data.zero_() self.fc_loc[2].bias.data.copy_(torch.tensor([1, 0, 0, 0, 1, 0], dtype=torch.float))或者用apply函数执行批量初始化...
2018-10-21 19:56:06
1487
2
翻译 torch.nn 介绍(部分)
翻译自:https://pytorch.org/docs/stable/nn.html?highlight=nn module#torch.nn.Moduleclass torch.nn.Parameter是Tensor的子类,被认为是一个模块的参数Parameters 是Tendor的子类,当与模块一起用时有特殊的属性--当它们被分配为一个模块的属性时,它们会被自动加入到模块的...
2018-10-21 19:11:55
1009
原创 torch.nn.Module.eval
torch.nn.Module.eval:Sets the module in evaluation mode.This has any effect only on certain modules. See documentations of particular modules for details of their behaviors in training/evaluation ...
2018-10-21 12:23:11
1860
原创 torch.nn.Conv2d
class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True)参数:Conv2d( 输入channels, 输出channels, kernel_size,...
2018-10-21 11:41:57
5550
3
原创 pytorch: torch.Tensor.view ------ reshape
torch.Tensoe.view(python method, in torch.Tensor)作用: 将输入的torch.Tensor改变形状(size)并返回.返回的Tensor与输入的Tensor必须有相同的元素,相同的元素数目,但形状可以不一样即,view起到的作用是reshape,view的参数的是改变后的shape.示例如下:>>> x = tor...
2018-10-21 11:30:31
6945
2
原创 pytorch 状态字典:state_dict
pytorch 中的 state_dict 是一个简单的python的字典对象,将每一层与它的对应参数建立映射关系.(如model的每一层的weights及偏置等等)(注意,只有那些参数可以训练的layer才会被保存到模型的state_dict中,如卷积层,线性层等等)优化器对象Optimizer也有一个state_dict,它包含了优化器的状态以及被使用的超参数(如lr, momentu...
2018-10-21 11:20:10
34238
8
原创 Pytorch 的迁移学习的理解
个人理解,迁移学习可以分为三类:第一类:以训练好的模型参数为基础,对所有参数进行继续优化. 即,先在别的训练数据集上训练模型,达到一定训练标准之后,用当前的数据集继续进行训练.第二类:将已经训练好的模型当作特征提取器,仅对模型中的部分层的参数进行优化(或继续优化). 此时,在加载模型后,需要通过对模型的所有参数的"requires_gra...
2018-10-20 17:32:27
1107
翻译 pytorch中调整学习率: torch.optim.lr_scheduler
文章翻译自:https://pytorch.org/docs/stable/optim.htmltorch.optim.lr_scheduler 中提供了基于多种epoch数目调整学习率的方法.torch.optim.lr_scheduler.ReduceLROnPlateau :允许基于一些验证测量对学习率进行动态的下降-------------------------------...
2018-10-20 16:15:35
49232
2
原创 python :super 的作用
super 函数的作用是:不需要明确给出任何基类的名字,它会自动找到所有直接基类,及其对应的方法.用于继承. 可参考:www.runoob.com/python/python-func-super.html更容易理解的介绍:https://www.cnblogs.com/xinghuaikang/p/8481712.html ...
2018-10-19 18:17:51
1354
转载 pytorch:定义自己的网络结构
参考:https://pytorch.org/tutorials/beginner/pytorch_with_examples.html#id23--pytorch : custom nn modules 模块Sometimes you will want to specify models that are more complex than a sequence of existing M...
2018-10-19 17:46:45
1519
原创 pytorch: 将一序列操作串联
参考: https://pytorch.org/tutorials/beginner/pytorch_with_examples.html#id23# Use the nn package to define our model as a sequence of layers.# nn.Sequential is a model which contains other Modules,a...
2018-10-19 17:41:17
860
原创 Pytorch 学习笔记:
pytorch 0.4 相比0.3版本有了很大的变化,具体可参考以下链接https://blog.csdn.net/jacke121/article/details/80597759-----------------------------------------------------------------------w1.grad.zero_(): .zero_()的作用 在计算...
2018-10-19 17:39:06
315
原创 pytorch 与numpy 部分操作的对应关系
pytorch号称神经网络界的numpy,确实非常好用,容易上手,自己在学习中总结了 pytorch 与numpy 的一些运算操作上的不同.np.dot(a,b) ==> torch.mm(a,b)np.maxmum(h,0) ==> h.clamp(min=0)np.square(x) ==> x.pow(2)y=x.copy() ==> y=x.c...
2018-10-18 12:18:44
2622
1
原创 疑问:
#-*-coding:utf-8-*-from __future__ import print_functionimport torchimport numpy as npimport osimport pandas as pdfrom skimage import io,transformimport matplotlib.pyplot as pltfrom torch...
2018-10-17 23:10:49
217
转载 python中的*args和**kwargs(* 与 **)
个人总结: 在参数位置上的单星( * ):将参数中的元素合并成一个tuple,(所有非等式格式,都可以看作tuple的元素,字典,列表等都算) 在参数位置上的双星( ** ):将参数中的等式整理成dick的格式注意事项: 单星( * )必须在双星( ** )的前面,双星( ** ) 后面不能再出现非等式.----------------...
2018-10-17 22:34:53
175
原创 matplotlib中ion()和ioff()的使用
plt.ion(): interactive mode onplt.ioff(): interactive mode offpython可视化库matplotlib有两种显示模式：阻塞（block）模式 交互（interactive）模式在Python Consol命令行中，默认是交互模式。而在python脚本中，matplotlib默认是阻塞模式。下面就来讲讲matplotl...
2018-10-17 21:40:29
675
win10 + cmake3.17 + vs2017编译osgearth2.7.0所需要的文件
2023-12-14
win10 + vs2017 + cmake3.17.5 编译64位freeglut3.0.0
2023-11-04
win10 + vs2017 + cmake 3.17.5 编译的x64位 nvtt-2.1.0
2023-11-04
拖延心理学读后感ppt.rar
2021-04-16
稀疏编码公式推导：LASSO，ISTA，近端梯度优化，软阈值
2020-10-15
深度学习优化算法介绍汇总与对比分析.rar
2020-09-10
优化算法汇总与对比分析.rar
2020-09-10
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人