2024年8月13日~8月19日周报

目录

一、前言

二、完成情况

2.1 遇到的问题及解决

2.1.1 盐数据网络情况与损失函数不下降

2.1.2 其他问题

2.2 损失函数与介绍部分讨论

三、下周计划

---

一、前言

        上周主要完成：

• ①对比实验执行：InversionNet、DD-Net70
• ②消融实验执行：TU-Net的部分消融实验（包括损失函数调整与网络架构调整-移除TWM模块，观察实验结果）；
• ③论文表达能力提升（学习如何将描述即插即用模块对相关任务的重要性描述清楚，如何构建更强的逻辑性）；

        本周主要完成：

• ①论文损失函数与介绍部分的讨论；
• ②基于盐数据设计TU-Net的网络架构；
• ③验证TU-Net在SEG模拟盐数据上的适用情况；

二、完成情况

2.1 遇到的问题及解决

2.1.1 盐数据网络情况与损失函数不下降

        首先基于盐数据设计了两个相应的网络架构，但是在运行训练的过程中，出现了损失函数不下降的情况，起初我以为损失函数的值会随着一段时间的训练下降，但是并非如此，情况如下图所示：

        损失函数始终不下降，因为我就停止了训练，开始查找问题。一开始我认为是网络架构的问题，于是我换了另一个网络结构来验证这一想法。但是依旧出现了上述情况，因此应该不是网络架构的问题，是网络里面的部分设计存在问题。

        我对比了FCNVMB与DD-Net的网络架构，发现他们在网络的末端有一处与我的不同：

        通过对比网络结构，我发现FCNVMB与DD-Net的最后没有使用激活函数，这是因为我们的数据没有进行归一化，所以不需要这个操作。于是，我对这里进行了修改，然后损失函数开始正常下降。

        在完成网络架构设计及问题解决后，初步进行实验验证TU-Net在SEG模拟盐数据上的指标情况。部分测试情况如下：

        从上图可以看出，部分测试情况还不错，能基本正确反演出盐体的形状与层状边缘情况，但是有些时候效果很差。另外，在训练过程中，验证集的波动很大，如下图所示：

        可能有如下原因：

1.  batchsize设置太小，模型学习的规律不过“普适”；
2. 学习率太大，模型陷入局部最优点；
3. 网络结构设计有问题等

        因此，之后会从上面可能的原因入手进行调整；

2.1.2 其他问题

        在训练过程中，遇到下述问题，猜测可能是有其他软件占用内存：

2.2 损失函数与介绍部分讨论

1. 写论文需要站在始终读者的角度理解研究背景、动机、方法等；
2. 始终需要建立在树型结构的基础上；
3. And不能放在句首；
4. 在介绍网络架构之前，应该先介绍输入与输出，使读者有一个简单的认知；
5. 在模块介绍时，如果architecture太大的话，可以使用structure；
6. 论文中应该只有design，毕业设计里面才能出现实现；

三、下周计划

1. 根据论文讨论情况，修改损失函数与介绍部分；
2. 继续完成实验，先测试SEG的网络架构，将一些消融实验留在下周；
3. 修改盐数据数据模型的输出；