简介:1.该教程提供大量的首发改进的方式,降低上手难度,多种结构改进,助力寻找创新点!
2.本篇文章对Pointnet++特征提取模块进行改进,加入
SimAM注意力机制,提升性能。
3.专栏持续更新,紧随最新的研究内容。
目录
1.理论介绍
在本文中,我们为卷积神经网络(ConvNets)提出了一个概念简单但非常有效的注意力模块。与现有的通道智能和空间智能注意力模块相比,我们的模块在不向原始网络添加参数的情况下推断出层中特征映射的三维注意力权重。
具体来说,我们基于一些著名的神经科学理论,提出优化能量函数来找到每个神经元的重要性。
我们进一步推导了能量函数的快速封闭解,并表明该解可以在不到十行代码中实现。