torch.nn.Embedding模块

最新推荐文章于 2023-09-20 00:11:42 发布

松果体

最新推荐文章于 2023-09-20 00:11:42 发布

阅读量1k

点赞数 1

分类专栏： pytorch 文章标签： python pytorch 神经网络深度学习算法

本文链接：https://blog.csdn.net/weixin_44076434/article/details/107027214

版权

torch.nn.Embedding是一个简单的查找表，用于存储固定大小的词嵌入。它通常用于从下标列表检索词嵌入。参数包括嵌入字典大小、嵌入向量长度等。实例中，未指定max_norm时，嵌入向量随机初始化；padding_idx可设置为0，用于填充零向量。

摘要由CSDN通过智能技术生成

torch.nn.Embedding模块

- - 定义
  - 作用
  - 形式
  - 实例

定义

官方原文：A simple lookup table that stores embeddings of a fixed dictionary and size.
翻译：一个保存了固定嵌入向量字典和大小的简单查找表。
简单总结：fixed embeddings dictionary

作用

官方原文：This module is often used to store word embeddings and retrieve them using indices. The input to the module is a list of indices, and the output is the corresponding word embeddings.
这个模块常用来保存词嵌入和用下标检索它们。模块的输入是一个下标的列表，输出是对应的词嵌入。

形式

torch.nn.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2.0, scale_grad_by_freq=False, sparse=False, _weight=None)
参数分析：
num_embbedings(int) - 嵌入字典的大小
embedding_dim(int) - 嵌入向量的长度
padding_idx(int, optional) - 如果提供的话，输出遇到此下标时用零填充嵌入向量
max_norm(float, optional) - 如果提供的话