参考在此
Transformer所使用的注意力机制的核心思想是去计算一句话中的每个词对于这句话中所有词的相互关系，然后认为这些词与词之间的相互关系在一定程度上反应了这句话中不同词之间的关联性以及重要程度。
转换器的缺点:长距离之间的特征提取能力不如RNN.
转换器xl就是把转换器切成几截.
扫一扫
09-10
1344
1344
05-03
109
109
05-02
173
173
05-02
280
280
05-02
93
93
04-27
429
429
04-18
289
289
04-11
222
222
博客
2504d,12月会议
04-10
197
197
博客
2025,倪五书的地址
04-01
166
166
03-28
247
247
03-26
98
98
03-25
207
207
03-20
118
118
博客
2503d,d111更改
03-11
984
984
03-07
196
196
博客
2503,D比C更易重构
03-04
340
340
02-26
238
238
02-22
196
196
02-13
172
172
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
