- 博客(4)
- 收藏
- 关注
RSS订阅原创 关于self-attention中Q、K、V的一点理解
不能，因为我对你很重要，不能代表你对我很重要。这两个重要性必须要区分开。那么最好的办法就是使用两个值，Q用来表示，别人对我的重要性。K用来表示，我对别人的重要性。空间注意力，哪个区域重要，就多关注一点。通道注意力，哪个通道重要，就多关注一点。V向量其实就是每个部分的特征向量。Q向量与K向量是用来计算权重的。所谓注意力，就是权重分配。
2025-07-21 14:02:48
176
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人