m0_73989598的博客

原创 浅谈神经网络中的注意力机制

而且，你上课时的注意力会集中在你感兴趣的东西上面，比如你对科学方面的东西感兴趣，那么当老师讲到关于科学方面的知识时，你就会集中注意力去听，但是如果老师讲的是你不感兴趣的东西，那么你就不会把注意力放到这上面。在神经网络训练时，他所提取的特征是随机的，也就是说，神经网络提取的特征，有的重要有的不重要，而我们想要的是那些重要的特征，所以我们就要用一个方法去增强哪些重要的特征，削弱那些不重要的特征，而这个方法就是添加注意力机制。这就是本文的全部内容，只是简单的谈一下注意力机制的原理，希望对你有帮助。