根据上一次调参经验总结,将可调参数总结为迭代次数、学习率、神经元个数、神经元层数以及激活函数,以下是调参结果
根据调参经验总结,迭代次数大约2000次loss下降达到瓶颈学习率过低导致loss下降速率低,学习率过高导致误差下降进入局部极值点找不到误差值最低位置,学习率初设0.001较为合理。模型框架方面,因为二维输入一维输出数据模型比较简单不应用过大过复杂的网络框架,会导致网络学习过拟合,所以调整层数为3,神经元个数为10,此时得到的loss曲线非常平滑没有出现过拟合情况。
但是loss仍然没有下降到需求范围内,接下来考虑原始数据的筛选调整。