机器学习数学基础01_拉格朗日乘子法和几何意义

最新推荐文章于 2021-10-29 21:18:48 发布

奇解

最新推荐文章于 2021-10-29 21:18:48 发布

阅读量899

点赞数 4

分类专栏：数学与统计数学基础机器学习

本文链接：https://blog.csdn.net/qq_27847813/article/details/93463482

版权

本文介绍了拉格朗日乘子法在机器学习中的重要应用，特别是在约束条件下的极值问题求解。通过二元函数的例子，解释了如何在约束曲线与等值线的切点找到极大值。拉格朗日乘子法的关键在于目标函数与约束条件的法向量共线，即满足∇f(x0,y0)=−λ∇g(x0,y0)的条件。" 80649070,7685295,区块链应用案例：50个改变世界的实例,"['区块链', '分布式账本', '去中心化', '数据安全', '互操作性']

摘要由CSDN通过智能技术生成

机器学习数学基础（1）—拉格朗日乘子法和几何意义
不论是在高等数学中，还是机器学习算法中，拉格朗日乘子法都是一个强有力的工具，如求优化问题中求在一定约束条件下的极值问题，或是在支持向量机中求取超平面，拉格朗日乘子法都起到了很重要的作用，下面引用大学的数学分析和高等数学中的相关理论知识，来阐述一下拉格朗日乘子法的几何意义。
以二元函数 $f (x, y)$ 在约束条件 $g (x, y) = 0$ 下的极大值为例说明拉格朗日乘子法的几何意义，目标函数 $z = f (x, y)$ 的等值线 $f (x, y) = C$ 为一族平面曲线，常数C的数值表示了函数在等值线上的取值大小，于是 $z = f (x, y)$ 求在约束条件 $g (x, y) = 0$ 下的极大值，就是要在约束曲 $g (x, y) = 0$ 线上寻找一点 $x_{0},y_{0})$ ，使得 $f(x_{0},y_{0})$