优化迭代算法,如梯度下降法,牛顿法等都用到了控制中的反馈调节,让系统输出与目标输出的误差不断减小。下面一篇论文就将SGD-Momentum就与 PID 优化器通过”梯度”与“误差”的联系而联系到了一起。 https://mp.weixin.qq.com/s/HqVaWbc1zajPu22i9V5d9g