torch
文章平均质量分 50
鹿海园
为自己而奋斗
展开
-
nn.Embedding与nn.Embedding.from_pretrained
在NLP任务中,当我们搭建网络时,第一层往往是嵌入层,对于嵌入层有两种方式初始化embedding向量,一种是直接随机初始化,另一种是使用预训练好的词向量初始化,接下来分别介绍这种的使用方式,以及torch中对应的源码。torch.nn.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2.0, scale_grad_by_freq=False, sparse=False, _weig转载 2022-05-06 22:57:33 · 4424 阅读 · 0 评论 -
torch.cat()函数用法
torch.cat是将两个张量(tensor) 拼接在一起,cat是concatnate的意思, 即拼接,联系在一起。使用torch.cat((A,B),dim)时,除拼接维数dim数值可不同外其余维数数值需相同,方能对齐。y即:当dim=0时,按行拼接;当dim=1时,按列拼接。 例如:...原创 2022-05-06 16:53:43 · 9285 阅读 · 5 评论