周报20240418

学习目标：

• 这周实验方面主要是使用0.01%的标注数据来复现PointCT这篇论文。
• 想尝试继续复现SQN这篇论文代码。
• 思考PointCT这篇论文中可以做的点。

---

学习内容：

1. 上周实现了0.1%的标注点在PointCT这篇论文的代码复现，指标数据情况相比于论文中给出的各项有所下降。本周主要是想从0.01%的标注点看看复现后的指标情况，看看复现后的数据会不会下降很快。由于之前是在训练的过程中花费了很长的时间，训练模型需要很多时间，这次计划是用另一个服务器来进行训练，但在重新安装虚拟环境已经运行的过程中遇到了点问题，所以复现0.01%标注的数据还没跑完。

2. 受到在0.1%标注的PointCT论文成功的复现，所以想重新尝试去复现SQN这篇论文，这篇论文的数据量没有很大，之前是由于在安装环境的时候遇到一些困难就被迫终止了，现在是想再次尝试去跑通，因为在论文结构方面也研究了很久，看看代码复现能不能产出一些想法，后续看看能不能出点成果，这两篇论文都是对于大规模点云的弱监督语义分割，想在这里多运行研究实验，对我撰写毕业论文和跑实验代码会有一定的帮助。

3. 思考PointCT这篇论文中可以改进的点。
   **（1）标注效率：**虽然PointCT在弱监督设置下表现良好，但任何可以进一步减少所需标注数据量的方法都将是有益的。研究如何使用更少的标注数据达到相同或更好的性能是一个有价值的方向。
   所以尝试用0.01%的标注点，观察模型的收敛速度及最终的分割精度，如果数据指标下滑在可控范围，则可以尝试改进模型来提升精度。如果断崖式下滑，可能很难提升，需要重新设计网络结构。
   **（2）端到端训练的改进：**虽然PointCT是端到端训练的，但进一步研究训练过程的稳定性和效率，如损失函数的设计、优化算法的选择或正则化技术的应用。
   在研究PointCT论文中损失函数是如何设计的？
   使用了交叉熵损失函数（cross-entropy loss）作为其训练过程中的主要损失函数。
   在论文代码中也可以看到：
   在PointCT中，交叉熵损失函数用于训练网络时优化有标签点的分类误差。具体来说，对于每个有标签的点，网络会预测其所属的类别，然后损失函数计算预测类别分布与真实类别（标签）之间的交叉熵。通过最小化这个损失，网络学习如何更准确地对点进行分类。
   **（3）细粒度分割：**提高模型对点云中小物体或细节的识别能力，这可能需要更精细的特征提取和表示方法。论文中也提及了具体来说，对于S3DIS-Area 5，与其他设置相比，具有复杂背景的“书柜”和“表”类别在0.1%点注释下显示出有趣的改进。相比之下，“沙发”、“杂物”和“木板”等类别随着标记点数量的减少而出现边际波动。这些发现强调了我们提出的方法在有限注释下的有效性，通过减轻这些噪声在不同类别中实现更平衡的性能。在现实世界的点云STPLS3D中也观察到类似的模式，与其他方法相比，增强了“灯杆”性能。这种情况也扩展到Scannet-v2 对“cab”、“shower”、“bath”和“sofa”进行了改进。

可以知道在更精细的细节方面，0.1%标签的效果甚至会好于1%。是因为标注点还是存在着冗余部分，噪声点。但在一些大型物体上，标注点的减少会影响到边界，边界会发生波动，分割效果没有那么好。

---

学习时间：

2024年4月12日—4月19日