本文介绍了如何运用梯度下降和牛顿法来求解一个数的平方根。梯度下降法是一种一阶最优化算法，通过沿着损失函数负梯度方向更新参数。而牛顿法是二阶最优化算法，涉及二阶导数的海森矩阵，计算复杂度高但更新速度快。文章提供了一个利用这两种方法解决方程y - x^2 = 0的根的问题，通过最小化损失函数L = (y - x^2)^2并求导来逐步更新x的值。
梯度下降法（Gradient descent）是一个一阶最优化算法，就是让参数沿着损失函数负梯度的方向更新。迭代的步长，也就是学习率是事先给定的，如果负梯度的绝对值越大，这次更新的幅度也会越大，越接近极值点时，负梯度会越小，这时更新就会较慢。
牛顿法是一个二阶最优化算法，它将损失函数进行二阶展开，因此会涉及到二阶导对应的海森矩阵。它的更新速度很快，但计算复杂度较高，主要是要求解海森矩阵的逆。
另外，牛顿法不仅可以用来求解函数的极值问题，还可以用来求解方程的根，二者在本质上是一个问题，因为求解函数极值的思路是寻找导数为0的点，如果要求f(x)的极值，也就是求f’(x)=0的根了。
给定一个正数，不用开根符号求解这个数的开方根。
分析：换一个思路，题目就是给定y，要求解 y − x 2 = 0 y-x^2=0 y−x2<
5311
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
最低0.47元/天 解锁文章
