【机器学习】拉格朗日对偶性

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

拉格朗日对偶性

在求解最优化问题中，拉格朗日乘数法（Lagrange Multiplier）和 KKT（Karush Kuhn Tucker，三个人名）条件是两种最常用的方法。在有等式约束时使用拉格朗日乘数法，在有不等约束时使用 KKT 条件。

1. 无约束的优化问题

假设目标函数为 $f(x)$ 。形如