Datawhale集成学习-task1机器学习的数学基础
一、高等数学(梯度与牛顿法)1.1梯度向量梯度是一个向量(方向和模),表示某一函数在该点处的方向导数沿着该方向取得最大值 简单来说,函数在某点沿着梯度的方向变化最快,变化率最大(即为梯度的模)1.2牛顿法牛顿法是求解函数值为0时的自变量取值的方法。利用牛顿法求解目标函数的最小值其实是转化成求使目标函数的一阶导为0的参数值。这一转换的理论依据是,函数的极值点处的一阶导数0。 牛顿法迭代过程是在当前位置x0求该函数的切线,该切线和x轴的交点x1,作为新的x0,重复这个过程,直到交点和函数的零点
原创
2021-08-17 21:30:27 ·
144 阅读 ·
0 评论