本来自己写了,关于SENet的注意力截止,但是在准备写其他注意力机制代码的时候,看到一篇文章总结的很好,所以对此篇文章进行搬运,以供自己查阅,并加上自己的理解。
[TOC]
1.SENET中的channel-wise加权的实现
实现代码参考自:senet.pytorch
代码如下:
SEnet 模块
|
|
以上代码设计到的API:
- AdaptiveAvgPool2d: 自适应平均池化,参数为(n,m)则将原来的feature(w,h)通过pooling得到(n,m)的feature,如果是(n),则将原来的feature从(w,h)通过pooling得到(n,n)
- Sequential: torch容器,存放网络层等内容。
- Linear: 线性层,参数为(in, out),将原有的in个feature转为out个feature
- ReLU: 激活层, inplace进行原地操作,节省内存
- Sigmoid: 激活层,将输入压缩到0-1
分析forward进行模型的构建: - x是输入的feature,一般各个通道意义如下:(batch size,channel, width , height),这里获取了batch(b), channel
x通过AdaptiveAvgPool2d(1)以后将得到(batch size, channel, 1, 1), 然后view(b,c)意思是按照b,c进行展开
1 2 3 4 5 6 7 8 9 10
In [1]: import torch In [2]: x = torch.zeros((16,256,256,256)) In [3]: import torch.nn as nn In [4]: avg_pool = nn.AdaptiveAvgPool2d(1) In [5]: avg_pool(x).shape Out[5]: torch.Size([16, 256, 1, 1]) In [6]: avg_pool(x).view((16,256)).shape Out[6]: torch.Size([16, 256]) In [7]: avg_pool(x).squeeze().shape # squeeze()函数也可以将所有通道个数为1的进行挤压 Out[7]: torch.Size([16, 256])
然后形状为【16, 256】的tensor经过fc:
- (1) Linear: from 256(channel) to 256/16
- (2) ReLu:进行一次激活函数
- (3) Linear: from 256/16 to 256(channel)
- (4) Sigmoid: 激活到0-1,代表每个通道的重要性
- 然后通过view操作转化为【16,256,1,1】形状的tensor
- 现在y得到的是每一个通道对应的分数(0-1),然后需要将其与通道内容相乘,具体操作使用到了tensor的内置函数expand_as(把一个tensor变成和函数括号内一样形状的tensor,用法与expand类似,相当于expand(tensor.size())
- x是【16,256,256,256】形状的特征图,y是【16,256,1,1】大小的channel-wise分数,然后需要将其相乘
- b.expand_as(a)就是将b进行扩充,扩充到a的维度,需要说明的是a的低维度需要比b大,例如b的shape是3*1,如果a的shape是3*2不会出错,但是是2*2就会报错了。
就是必须有一个维度是1,然后用于扩展:1 2 3
In [8]: tensor1 = torch.ones((3,4,1,1)) In [9]: tensor1.expand([3,4,5,5]).shape Out[9]: torch.Size([3, 4, 5, 5])
这样通过expand_as就能得到【16,256,256,256】大小的tensor,其中256*256都是对应通道的1分数,然后与原先的feature相乘,就能得到channel-wise分数计算后的feature。
在resetnet中的block插入senet模块
|
|
正常的resent的BasicBlock
|
|
baseline:0.888
se+baseline:0.892
2.CBAM中的通道注意力机制
channel-attention-module跟以上内容想法有一点像,给每个channel进行打分,具体实现如下:
参考来源:CBMA.pytorch
|
|
API跟上边类似,只添加了卷积,也很简单。需要说明的是貌似Linear和Conv2d中的参数很相似,但是实际上,两者还是很不一样的,Linear接受的是线性的2维数组(batch, 一维特征),Con2d接受的是4维数组(batch, 通道,w, h)。
forward函数:
- 第一行,进行了adaptiveAvgPooling, conv2d, relu, conv2d
- 第二行,进行了AdaptiveMaxPooling, conv2d, relu, conv2d
- 第三行,将两个向量进行相加
- 第四行,将对应结果进行激活,得到通道注意力分数
3.CBAM中的空间注意力机制
参考来源:CBMA.pytorch1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) x = torch.cat([avg_out, max_out], dim=1) x = self.conv1(x) return self.sigmoid(x)
Spatial attention module中支持kernel_size=3或者7,默认设置为7。
以上涉及到的API:
- torch.mean: 求平均值,dim指的是沿着某一个通道进行计算平均值。这里dim=1,说明沿着通道channel进行平均,对所有channel的feature上相应的像素进行求平均值。
- torch.max: 同上,进行求最大值。
forward函数: - 第一行:沿着通道维度进行进行平均,得到一个(batch, 1, w, h)的feature
- 第二行:沿着通道维度进行求最大值,得到一个(batch, 1, w, h)的feature
- 第三行:将两个feature通过cat的方式拼接起来,得到一个(batch, 2, w, h)的feature
- 第四行:对这个feature进行卷积之所以设置如果kernel_size=7的时候padding=3是因为需要将out_feature和in_feature相等,可以带入公式进行计算。
- 第五行:进行激活,将得分约束至[0-1]
4.CBAM中的融合
参考代码:CBMA.pytorch
在resnet中主要是用在basicBlock中,代码如下:
|
|
resnet50+cbam: 0.902
5.dual pooling的pytorch实现
max pooling更注重重要的局部特征, average pooling更关注全局特征.两者concat可以丰富特征层.
参考链接:GaryLIU
|
|
这种是在模型层进行改造的一种小trick了,常见的做法:global max/average pooling + fc layer,这里试concat(global max-pooling, global average pooling) + fc layer,其实就是为了丰富特征层,max pooling更加关注重要的局部特征,而average pooling试更加关注全局的特征。不一定有效,我试过不少次,有效的次数比较少,但不少人喜欢这样用.
-gray
以上就是dual pooling的实现,具体分析如下:
- 第一行:得到batch-size
- 第二行:得到feature, gray大佬这里用的是一个sequential将所有的模块装载进来,其实也可以用这种方法:
1
self.base_model = nn.Sequential(*list(model_ft.children())[:-3]) # 取除了后三个全部的层
children方法里就是返回当前模型子模块的迭代器,可以查看源代码,然后选择将其中一部分去掉,比如fc层等,也可以使用gray大佬的这种方法。
查找的过程中找到一个中间层可视化的简单代码:https://www.jianshu.com/p/0a23db1df55a
- 第四,五行,通过avg_pool,max_pool得到对应的feature
- 第六行,进行concate操作,进行拼接
- 第七行,使用了一个卷积层进行降维通道,并进行view展开成一维向量。
- 第八层,进行全连接层的分类。
参考链接:
https://blog.csdn.net/DD_PP_JJ/article/details/103318617