“拉格朗日对偶问题”如何直观理解？“KKT条件” “Slater条件” “凸优化”打包理解（学习笔记）

“拉格朗日对偶问题”如何直观理解？“KKT条件” “Slater条件” “凸优化”打包理解_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV1HP4y1Y79e/?spm_id_from=333.337.search-card.all.click&vd_source=cabce9f6a21440f6bf8b6a262724ebc4

在相切的点处，目标函数的梯度与约束条件的梯度方向在一条直线上，通过调整lamda, 取到极值点。（注意，曲线是z=y-g(x)的等高线，垂直于等高线的方向就是z(x,y)的梯度）

梯度的方向总是指向更大的方向

将不等式和等式约束写进拉格朗日函数，将问题的定义域扩展为x的整个区间。v是无约束的 。

不论原问题是什么，只要换成对偶问题，它都是一个凸问题

对偶函数求最大值，可以看成凹函数（一条直线），其约束条件是lamda>=0组成的凸集，即对偶函数对应的对偶问题一定是一个凸优化问题

弱对偶关系

强对偶关系

x只能是边界以内的一个点（相对内部点）

满足slater条件的凸优化问题是强对偶的。（在小于0的半边存在一个内部点）

一个强对偶关系的问题不一定满足slater条件

强对偶关系的必要条件：KKT条件