kkt条件例题求最优解_对KKT条件的理解

本文通过拉格朗日优化方法介绍KKT条件,阐述在等式约束下目标函数与约束条件图形相切的直观理解,以及在不等式约束条件下KKT条件的新增条件(5)和(6)的意义,解释了最优解为何出现在梯度共线的情况,特别是边界上的情况。
摘要由CSDN通过智能技术生成

d86f10712260d373836e40b7b657a4b1.png

从拉格朗日说起

在大学的时候我们都学过等式约束的的拉格朗日优化方法,但是我们很少去理解拉格朗日优化的内在逻辑,而是直接去使用它,这里我给出自己看了一些资料后的理解。

首先,我们给出拉格朗日的数学描述:

arg

s.t

我们的计算方法是构造一个拉格朗日函数,然后通过求拉格朗日函数的最优解从而得到等式条件约束下的最优解,即:

通常情况下我们都会直接对上面的函数求偏导数,然后令其等于0来求解,即:

但是我们很少去想为什么这样求解后就能得到最优解呢,我们用图形给大家一个很直观的理解:

2dcf8215c035b2e80392a92e32fc488a.png

在上面的图形中xy = 3为约束条件,

为目标函数,我们可以看到如果没有约束条件的情况下,目标函数的最小值为0,即想x,y都为0,但是有了约束条件后,取到的值必须在约束条件xy = 3的图形上。对于目标函数我们可以把其当做一圈圈等高线,目标函数的值越大,等高线围起来的面积就越大,表现在图中就是圆的半径越大。所以我们可以从中心处出发,做一圈圈的圆,当圆的半径较小的时候,目标函数和约束条件没有交点
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值