优化问题与对偶问题

等式约束优化问题

现有含等式约束的优化问题

\min \left \{ f(x):h_{i} (x) = 0, i = 1,...,m \right \}

构造拉格朗日函数

L(x, \lambda)=f(x)+\lambda_{i} h_{i}(x)

令拉格朗日函数偏导数为0,即得拉格朗日条件

\nabla f\left(x^{*}\right)+\lambda_{i} \nabla h_{i}\left(x^{*}\right)=0

不等式约束优化问题

现有含不等式约束的优化问题

\min \left \{ f(x):h_{i}(x)=0, i = 1,...,m; g_{j} (x) \leq 0, j = 1,...,n\right \}

构造拉格朗日函数

L(x, \lambda,\mu)=f(x)+\sum_{i=1}^{m}\lambda_{i} h_{i}(x)+\sum_{j=1}^{n}\mu_{j} g_{j}(x)

满足 5个KKT 条件后即可得到含有不等式约束条件的优化问题的可行解。KKT条件如下

\left\{\begin{matrix} \nabla f(x) + \sum_{i=1}^{m}\lambda_{i} \nabla h_{i}(x)+ \sum_{j=1}^{n}\mu_{j} \nabla g_{j}(x)=0\\ h_{i}(x)=0, i=1,...,m\\ g_{j}(x)\leq 0, j=1,...,n\\ \mu_{j}\geq 0, j=1,...,n\\ \mu_{j}g_{j}(x)=0, j=1,...,n\end{matrix}\right.

注意:以上KKT条件是局部极小值点(可行解)的必要条件,根据这些条件求得的解不一定是局部极小值点。

对偶问题

关于对偶问题的一个知乎回答
以上是知乎上关于对偶问题的一个经济学解释
以上是知乎上关于对偶问题的一个函数值集合解释

[1] https://www.zhihu.com/question/58584814

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值