OrdinaryMatthew的博客

一、组会记录如图1所示，理论上 A 曲线下降的应该会比 B 更明显才对，但是没有。考虑可能与 learning rate 有关系，可能需要将其调大。因为模型 A 可能陷入一个局部极小值了。 图1. A曲线对应的模型的学习率需要调整模型的 Pytorch 代码中，一些该 detach 的地方没有 detach，会导致网络不收敛。本文方法与其他方法做对比实验的时候，它们训练 epoch 数目不一定要相同，因为网络参数数量不同，我们只需要将网络训练到收敛即可。cascade 的