带不等式约束的优化问题引发的最优化框架的学习

对于一个优化问题,既有等式约束又有不等式约束,且不知道其约束是线性约束还是非线性约束,都可以用下面的框架去解决
m i n f ( x ) s . t . h ( x ) = 0 g ( x ) ≤ 0 \begin{aligned} min &f(x) \\ s.t. &h(x)=0\\ &g(x) \leq 0 \end{aligned} mins.t.f(x)h(x)=0g(x)0

设计拉格朗日函数 L ( x , λ , α ) = f ( x ) + λ h ( x ) + α g ( x ) ( α ≥ 0 ) L(x,\lambda,\alpha)=f(x)+\lambda h(x)+\alpha g(x)(\alpha \geq 0) L(x,λ,α)=f(x)+λh(x)+αg(x)(α0)
问题转化为 m a x λ , α m i n x L ( x , λ , α ) \mathop{max} \limits_{\lambda,\alpha}\mathop{min} \limits_{x}L(x,\lambda,\alpha) λ,αmaxxminL(x,λ,α)满足 α ≥ 0 \alpha \geq 0 α0
相应的条件是
∂ L ∂ x = 0 ∂ L ∂ λ = 0 ∂ L ∂ α = 0 α ≥ 0 \begin{aligned} \frac{\partial L}{\partial x}=0\\ \frac{\partial L}{\partial{\lambda}}=0\\ \frac{\partial L}{\partial \alpha}=0\\ \alpha \geq 0\\ \end{aligned} xL=0λL=0αL=0α0
对应的KKT条件
∂ L ∂ x = 0 h ( x ) = 0 g ( x ) ≤ 0 α ≥ 0 \begin{aligned} \frac{\partial L}{\partial x}=0\\ h(x)=0\\ g(x) \leq 0\\ \alpha \geq 0 \end{aligned} xL=0h(x)=0g(x)0α0
其中应满足互补松弛条件
α g ( x ) = 0 \alpha g(x)=0 αg(x)=0

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值