- 博客(2)
- 收藏
- 关注
RSS订阅原创 encoder------decoder
在解码器的第一步中，为了将先前生成的部分序列与编码器的输出相结合，解码器通常会使用嵌入层将先前生成的部分序列中的索引转换为向量表示。这样可以将先前生成的序列与编码器的输出以及其他相关信息整合在一起，为解码器提供更丰富的输入。编码器的输出：编码器的输出包含了输入序列的信息，其中每个时间步骤都有一个向量表示。总结起来，解码器的输入通常是先前生成的部分序列（通过嵌入层转换为向量表示）以及编码器的输出。在给定编码器的输出和先前生成的部分序列的情况下，解码器生成下一个输出。
2023-05-16 17:57:45
172
1
原创 批量-序列-批量
在每个时间步，RNN 只需要处理当前序列的输入，而不需要同时考虑其他序列的输入，这样可以更好地跟踪序列的发展和理解序列的上下文。因此，在处理序列数据时，将数据从以批量为单位组织的形式转换为以序列为单位组织的形式，有助于 RNN 模型的逐步处理。因此，将数据从以批量为单位组织的形式转换为以序列为单位组织的形式，类似于我们在阅读时逐步理解故事的发展，有助于 RNN 模型更好地处理序列数据。也就是说，原先数据是以批量为单位组织，每个批量包含多个序列，而解压后的数据则是以序列为单位组织，每个序列包含多个批量。
2023-05-15 18:30:13
49
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人