《A Closer Look at Local Aggregation Operators in Point Cloud Analysis》的后续讨论

一句话重点：特征的维度也在一定程度上当作权重来使用。在神经网络中遇到多个中间特征融合的情况时，可以根据该特征可能含有的信息量、或者当前任务对不同信息的重视程度来设定其维度。

在三维点云处理领域，局部点特征聚合算法是算法革新的重点之一。自从PointNet++层级式的局部——整体学习结构带来性能飞升后，许多研究者都在优化局部特征提取聚合。但有趣的是，《A Closer Look at Local Aggregation Operators in Point Cloud Analysis》[1] 一文用实验结果表明，局部特征聚合算子的复杂度并不影响算法表现，甚至推出了一个不用训练参数的极简算子PosPooling：

该算子先将邻域内点云的三维坐标和特征分三段广播式进行对应相乘，然后取平均得到中心点特征。这个操作类似早期机器学习技巧中的“feature cross”，然后又使用了广播方式来解决两特征维度不一致的问题。该论文对比了很多局部特征聚合算子，不过实验都是在自己构造的网络框架上运行，没有更换过网络。

之后有一篇论文《FFA-Net: fast feature aggregation network for 3D point cloud segmentation》[2] 更换了网络来测试该极简聚合算子，结果发现该PosPooling算子并没有达到最好的成绩。该文中设计的局部特征聚合算子沿用了PosPooling算子的类似思路，但用了MLP对邻域点三维坐标进行处理并调整维度。这里MLP设定的输出维度就很有趣，所设定的输出维度要容纳三维坐标信息能挖掘出的最佳信息量。过小的维度不能涵盖三维坐标挖掘出的更多信息，过大又会导致信息冗余，在和别的特征向量合并时会稀释对方的有效信息。这里我们可以看出，作者把特征维度当成一种软性的“权重”在使用，相对重要的信息保留高一些的维度，相对不重要的信息保留低一些的维度，都很重要的信息二者保留差不多的维度，使得融合结果不被任一方主导。

这个思路在设计网络时有十分重要的应用，尤其是涉及多特征向量合并时，在处理多模态输入时也可以用到。这个好用的方法常被用作论文背后提升网络性能的技巧但很少被明确提及。大家也可以在实验时再试试，欢迎随时交流。

References:
[1] Liu, Z., Hu, H., Cao, Y., Zhang, Z., & Tong, X. (2020). A closer look at local aggregation operators in point cloud analysis. In Computer Vision–ECCV 2020: 16th European Conference, Glasgow, UK, August 23–28, 2020, Proceedings, Part XXIII 16 (pp. 326-342). Springer International Publishing.

[2] Cheng, R., Zeng, H., Zhang, B., Wang, X., & Zhao, T. (2023). FFA-Net: fast feature aggregation network for 3D point cloud segmentation. Machine Vision and Applications, 34(5), 80.