约束非线性优化:几何意义&对偶形式

h(x)=0借助老师的PPT对约束非线性优化问题几何意义对偶形式进行阐述。

一、几何意义

(1)等式约束

考虑只有等式约束h(x)的非线性优化问题,形式为:

 可视化结果如下图所示,红色曲线为等式约束,环线为目标函数等值面。达到最优解x*时,必定可以在此处借助Lagrange乘子完成梯度合成。

 (2)不等式约束

 约束条件换成不等式,此处只考虑一般形式的>=0约束:

 Lagrange函数为:

 可视化结果为:

 在最优解处完成了梯度合成,并且众多不等式约束满足互补松弛条件\lambda_ig_i(x)=0,即其中有一个必为0。

二、对偶形式

 对于原问题:

\large \mathbf{min} \ \ \ f(x) \\\mathbf{ \ \ \ \ s.t.} \ \ \ g_i(x)\geqslant 0,h_j(x)=0,x\in D

q对偶问题为:

\large \mathbf{max} \ \ \ \theta( w,v) \\\mathbf{ \ \ \ \ s.t.} \ \ \ w\geqslant 0

Lagrange对偶函数定义为L函数的下确界:

\large \theta( w,v) =inf{\left \{ f(x)-\sum_{i=1}^{m}w_ig_i(x)- \sum_{j=1}^{l}v_ih_j(x)|x\in D \right \}}

发布了48 篇原创文章 · 获赞 46 · 访问量 2万+
展开阅读全文

没有更多推荐了,返回首页

©️2019 CSDN 皮肤主题: 技术黑板 设计师: CSDN官方博客

分享到微信朋友圈

×

扫一扫,手机浏览