attention机制_简析Attention机制—优缺点，实现，应用

什么是Attention机制？

Attention机制的本质来自于人类视觉注意力机制。人们在看东西的时候一般不会从到头看到尾全部都看，往往只会根据需求观察注意特定的一部分。

简单来说，就是一种权重参数的分配机制，目标是协助模型捕捉重要信息。具体一点就是，给定一组<key,value>，以及一个目标（查询）向量query，attention机制就是通过计算query与每一组key的相似性，得到每个key的权重系数，再通过对value加权求和，得到最终attention数值。

优缺点：

优点：

1. 一步到位获取全局与局部的联系，不会像RNN网络那样对长期依赖的捕捉会收到序列长度的限制。
2. 每步的结果不依赖于上一步，可以做成并行的模式
3. 相比CNN与RNN，参数少，模型复杂度低。(根据attention实现方式不同，复杂度不一）