pytorch
Learn2Learn
这个作者很懒,什么都没留下…
展开
-
Pytorch卷积层手动初始化权值
由于研究关系需要自己手动给卷积层初始化权值,但是好像博客上提到的相关文章比较少(大部分都只提到使用nn.init里的按照一定分布初始化方法),自己参考了下Pytorch的官方文档,发现有两种方法吧。所以mark下。import torchimport torch.nn as nnimport torch.optim as optimimport numpy as np# 第一一个卷积层...原创 2018-10-18 18:22:59 · 12750 阅读 · 3 评论 -
Pytorch1.0rc + torchvision + fastai 安装
首先,安装好anaconda环境,这个直接去官网(传送门)搞定就行然后,添加清华大学源(不然下载巨慢)conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/conda config --add channels https://mirrors.tuna.tsinghua.ed...原创 2018-11-22 11:22:54 · 3923 阅读 · 3 评论 -
Pytorch对Tensor的各种“特别”操作
经过一段时间的Pytorch使用,发现提供的Tensor类型中大部分操作都很好理解,比如各种数学操作(abs,add,asin,mul,div)和它们组成的复合操作(addcdiv,addcmul)等。下面将对于写代码时,我遇到的一些常用的“特殊”操作,总结mark下:clamp 截断用来“截断”tensor,使每个元素都保持在min~max范围内torch.clamp(input,min...原创 2018-12-02 17:52:38 · 7814 阅读 · 0 评论 -
Pytorch 1.0 多gpu训练尝试
单GPU开始用过全局指定os.environ["CUDA_VISIBLE_DEVICES"] = "0"的方法,但是运行会爆奇怪的cudnn错误,后面改成下面写法运行通过my_device="cuda:0" #这里的0可以根据需要改为指定的gpu id#对于模型model=model.to(device=my_device)#对于数据input_data=Variable(input_...原创 2018-11-30 16:49:05 · 4621 阅读 · 2 评论 -
Pytorch实现各种2d卷积
普通卷积使用nn.Conv2d(),一般还会接上BN和ReLu参数量NNCin*Cout+Cout(如果有bias,相对来说表示对参数量影响很小,所以后面不考虑)class ConvBNReLU(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): supe...原创 2019-03-15 14:58:02 · 4371 阅读 · 4 评论