常用各种网络模块总结

1.CBAM Block网络
核心思想：
注意力的机制，对一个特征矩阵进行重新构造。注意力机制就是采用一种可以学习的方式来对特征重新赋予权重，权重高的特征就是注意力的注意点.包括通道注意力与空间注意力。

网络结构：

通道注意力结构：

空间注意力结构：

2.SE block网络
核心思想：
通过网络根据loss去学习特征权重，使得有效的feature map权重大，无效或效果小的feature map权重小的方式训练模型达到更好的结果。起到了很好的attention效果。

网络结构：

添加SE block：
流程：
先通过全局平均池化获取全局信息，经过两层全连接层学习得到每个通道的权重系数，再经过sigmoid函数得到输出的表示C通道权重矩阵

3.Residual Block网络
网络结构：

4.InvertResidual Block网络
网络结构：

5.GC Block网络
网络结构：

6.NL Block网络
网络结构：

7.ASPP Block网络
网络结构：

8.Inception Block网络
网络结构：

9.Dense Block网络
网络结构：

10.CBHG网络
网络结构：

11.Transformer网络
网络结构：