凸优化第五章对偶 5.1Lagrange对偶函数

最新推荐文章于 2024-08-27 20:46:42 发布

「已注销」

最新推荐文章于 2024-08-27 20:46:42 发布

阅读量2.3k

点赞数 1

分类专栏：凸优化

本文链接：https://blog.csdn.net/wangchy29/article/details/86818127

版权

本文深入探讨了Lagrange对偶函数在凸优化中的应用，包括其定义、最优值的下界以及在线性等式最小范数、标准线性规划和双向划分问题中的实例解析。同时，阐述了Lagrange对偶函数与共轭函数的关系，展示了如何利用对偶函数求解优化问题。

摘要由CSDN通过智能技术生成

5.1Lagrange对偶函数

Lagrange
Lagrange对偶函数
最优值的下界
例子
Lagrange对偶函数和共轭函数

Lagrange

标准形式的优化问题：

$minimize \, \, f_0(x)\\ subject \, \, to \, \, \begin{matrix} f_i(x)\leq 0 &i=1,2\cdots m \\ h_i(x)=0 & i=1,2\cdots p \end{matrix}$

其中 $x\in R^n$ ，问题的定义域 $D=\bigcap _{i=0}^m dom(f_i)\cap \bigcap _{i=1}^pdom(h_i)$ ，注意这里不要求该优化问题是凸优化问题。

定义问题的Lagrange函数 $L:R^n\times R^m\times R^p\rightarrow R$ 为：

$L(x,\lambda ,v)=f_0(x)+\sum _{i=1}^{m}\lambda _if_i(x)+\sum _{i=1}^{p}v_ih_i(x)$

定义域： $L=D\times R^m\times R^p$ ， $\lambda _i$ 为第i个不等式约束 $f_i(x)\leq 0$ 对应的Lagrange乘子， v _i 为第i个等式约束 h_i(x)= 0 对应的Lagrange乘子。向量 $\lambda ,v$ 为对偶变量或者问题的Lagrange乘子向量。

Lagrange对偶函数

定义Lagrange对偶函数 $g:R^m \times R^p\rightarrow R$ 为Lagrange函数关于x取得的最小值：即对 $\lambda \in R^m,v \in R^p$ 有

$g(\lambda ,v)=\underset{x \in D}{inf}L(x,\lambda,v)=\underset{x \in D}{inf}\left ( f_0(x)+\sum _{i=1}^m\lambda _if_i(x)+\sum _{i=1}^pv_ih_i(x) \right )$