![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
pytorch
昕晴
这个作者很懒,什么都没留下…
展开
-
y[:,:1]与y[:,:-1]
import torchimport torch.nn as nnimport torchfrom torch.autograd import *input = torch.randn(4,4)print(input)#m = nn.LayerNorm(input.size()[1:])#m = nn.LayerNorm(input.size()[1:], elementwi...原创 2019-02-21 17:20:00 · 3959 阅读 · 1 评论 -
Pytorch nn.Embedding用法(包括加载预训练模型,加载Word2vec,加载glove)
pytorch nn.Embeddingclass torch.nn.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2, scale_grad_by_freq=False, sparse=False)num_embeddings (int) - 嵌入字典的大小...原创 2019-04-03 15:38:21 · 42547 阅读 · 13 评论 -
torch.gather 使用 及 报错 positional argument follows keyword argument
会报错 positional argument follows keyword argument出现这种情况的可能性为 因为 dim使用了keyword dim,而在index的时候没有使用,就会报错,可以都不使用keyword,要么就都使用keyword常用场景,因为torch.gather()是一个根据索引来提取tensor中对应所以位置的函数...原创 2019-04-15 21:32:39 · 2224 阅读 · 0 评论 -
PYTORCH BUG 总结!!!!!!!!!
1、根据上图中的bug,查找可得,embedding的num_embeddings 是要设置成你的字典的大小,但是要记住,一定是vocab_size + 1,而不是vocab_size,即要设置为字典大小+1。...原创 2019-04-06 22:29:50 · 1534 阅读 · 0 评论 -
pytorch repeat的用法
repeat 相当于一个broadcasting的机制repeat(*sizes)沿着指定的维度重复tensor。不同与expand(),本函数复制的是tensor中的数据。import torchimport torch.nn.functional as Fimport numpy as npa = torch.Tensor(128,1,512)B = a.repeat(1...原创 2019-03-26 19:08:40 · 39114 阅读 · 0 评论 -
pytorch masked_fill
import torch.nn.functional as Fimport numpy as npa = torch.Tensor([1,2,3,4])a = a.masked_fill(mask = torch.ByteTensor([1,1,0,0]), value=-np.inf)print(a)b = F.softmax(a)print(b)tensor([-inf,...原创 2019-03-26 18:26:09 · 10445 阅读 · 0 评论 -
报错 ValueError: too many values to unpack (expected 2)
enc_output,enc_slf_attn = self.slf_attn(user_embedding,item_input,item_input,mask = slf_attn_mask)实际上只有一个返回值,但是我却写了两个返回值,所以报错。改正为enc_output = self.slf_attn(user_embedding,item_input,item_in...原创 2019-03-25 15:54:53 · 79934 阅读 · 6 评论 -
情感分析中文本数据预处理
读数据 直接获取文件内容 # 获取文件内容 一个文件中有很多行信息,每一行是一个序列def getData(file): f = open(file,'r') raw_data = f.readlines() return raw_data # Read the file and split into lines 以换行符来分开和readlines...原创 2019-02-23 22:44:01 · 14788 阅读 · 15 评论 -
关于pytorch中卷积使用的一些总结(包括nn.conv2d,nn.maxpool2d)
太久没写代码,感觉各种函数不熟悉。以此贴作为今天的记录。首先是pytorch中的卷积 nn.Conv2d我们可以查看官方文档。nn.Conv2d 输入信号的形式为(N,Cin,H,W),N表示batch size,Cin表示channel个数,H,W分别表示特征图的高和宽。参数说明: stride(步长):控制cross-correlation的步长,可以设为1个int...原创 2019-02-23 18:58:15 · 32643 阅读 · 7 评论 -
pytorch转成longtensor方法
b = torch.rand(3,3)#得到的是floattensor值,b = b.long()#得到的是longtensor值原创 2019-02-23 18:07:32 · 42146 阅读 · 4 评论 -
Dataset
Dataset 只负责数据的抽象,一次只返回一个数据或者样本Pytorch中数据集被抽象为一个抽象类torch.utils.data.Dataset,所有的数据集都应该继承这个类,并override以下两项: __len__:代表样本数量。len(obj)等价于obj.__len__()。 __getitem__:返回一条数据或一个样本。...原创 2019-02-22 10:25:52 · 2192 阅读 · 0 评论 -
dropout
正则化之dropout(随机失活)详细介绍2018年07月14日 13:43:51修炼之路阅读数:258版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/sinat_29957455/article/details/81023154本篇文章的主要内容来自于deeplearning.ai一、什么是dropoutdropout(随机失...转载 2019-02-21 17:30:48 · 528 阅读 · 0 评论 -
pytorch 中判断两个tensor 是否相等 输出 为 0,1
原创 2019-09-18 10:36:53 · 10881 阅读 · 0 评论