pytorch中的embedding词向量的使用

最新推荐文章于 2024-07-23 11:18:49 发布

乐且有仪

最新推荐文章于 2024-07-23 11:18:49 发布

阅读量4.7w

点赞数 22

分类专栏： pytorch

本文链接：https://blog.csdn.net/david0611/article/details/81090371

版权

Embedding

词嵌入在 pytorch 中非常简单，只需要调用 torch.nn.Embedding(m, n) 就可以了，m 表示单词的总数目，n 表示词嵌入的维度，其实词嵌入就相当于是一个大矩阵，矩阵的每一行表示一个单词。

emdedding初始化

默认是随机初始化的

import torch
from torch import nn
from torch.autograd import Variable
# 定义词嵌入
embeds = nn.Embedding(2, 5) # 2 个单词，维度 5
# 得到词嵌入矩阵,开始是随机初始化的
torch.manual_seed(1)
embeds.weight
# 输出结果：
Parameter containing:
-0.8923 -0.0583