梯度下降法计算二次函数极值、拟合一次曲线、拟合二次曲线
梯度在单变量函数中,梯度其实就是函数的微分形式,代表着在某点处,函数的切线的斜率;在多变量函数中,梯度是一个向量,(向量具有方向,有该点指向上升最快的方向);梯度的方向:函数中某切点上升最快的方向梯度下降法的基本思想可以将函数类比一座山,梯度下降法相当于移步到达山谷。我们都知道沿着最陡峭的山坡,到达山谷的速度最快。在数学中就是特定点梯度,沿着梯度的反方向,就能让函数下降的最快方向。反复的下降(移步),就能到达局部最小值(全局最小值)。损失函数(Loss Function)损失函数有多种,本次演
原创
2020-08-06 14:14:06 ·
4250 阅读 ·
1 评论