最近在使用LPS特征训练模型,但是效果很是一言难尽~
上面表格是两个指标pesq和stoi的结果(不仅没有效果,还增加了负面效果~)
- 找到为什么效果不增反降的原因了,开组会时,老师检查了下我的网络,使用的三层LSTM,我原先的网络结构是这样的,如下图:
但这里,老师指出错了,网络设计有问题,lstm出来不能是sigmoid或relu,然后改成下图:
这里把非线性激活拿掉了,因为lstm出来是tanh层,也相当于是一个非线性的函数(范围是-1到1开区间),网络改成这样后,使用LPS特征进行训练,loss开始也是很大,但后面会慢慢降下去,还算正常,不像使用之前的网络训练时,loss一直都稳定在25附近,降不下去,不得不说,sigmoid的威力还真挺大,也感受到自己需要学的东西真的很多。(使用不同的训练目标训练模型时,虽然模型大体相似,但是一些小细节方面稍微有一些差池,就像上面激活函数的使用不当,就会导致结果差很多)
下面两张图是loss的变化,已经在正常地慢慢下降了(第一张图是在本地跑时截的图,第二张是在screen窗口下截的图):