Transformer的结构是什么样的?各个子模块各有什么作用?
Transformer的结构是什么样的?各个子模块各有什么作用?Transformer总体架构图Encoder模块Encoder模块的结构和作用:经典的Transformer结构中的Encoder模块包含6个Encoder Block.每个Encoder Block包含一个多头自注意力层, 和一个前馈全连接层.关于Encoder Block:在Transformer架构中, 6个一模一样的Encoder Block层层堆叠在一起, 共同组成完整的Encoder, 因此剖析一个
原创
2021-07-18 19:39:13 ·
3786 阅读 ·
1 评论