![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Attention相关
ZouCharming
我要AC!!!!
展开
-
Attention的理解
1. 什么是Attention机制? 其实我没有找到attention的具体定义,但在计算机视觉的相关应用中大概可以分为两种: 1)学习权重分布:输入数据或特征图上的不同部分对应的专注度不同,对此Jason Zhao在知乎回答中概括得很好,大体如下: - 这个加权可以是保留所有分量均做加权(即soft attention);也可以是在分布中以某种...转载 2019-05-10 11:28:32 · 645 阅读 · 0 评论 -
Attention在计算机视觉上的一些应用
首先,本文从计算机视觉领域介绍attention机制,主要是在图像上的应用,会从总体motivation,具体的文章,以及相应的代码实现进行描述。 本文背景部分,大...转载 2019-05-10 17:22:39 · 2435 阅读 · 1 评论