图解法求最优解的例题_《数值与最优化方法》（四）

点击返回目录

二. 约束最优化方法

对于约束最优化方法，与无约束最优化方法的一个重要的区别在于：它们共同解决的问题都是

，只不过对于约束最优化方法，还需要满足形如

以及

的条件。多了这个条件以后，在搜索方向和步长的设置上也会随之有所变化。下面先来看它的解析解法吧（值得注意的是，2.1中介绍的概念和定义，将在后面得到应用）。

2.1 解析解法

2.1.1 可行下降方向

在无约束最优化方法中，我们试图利用一些算法来找到每次迭代过程的下降方向。同样的，对于约束最优化方法，我们也需要找到每次迭代过程中满足约束条件的下降方向。

首先规定“可行域“：

。然后我们就可以定义”

可行方向“为：设

，若对某一个非零向量

，存在一个

，使得对所有

时，有

，则称

为点

处的一个可行方向。此时，如果这非零向量

还满足

成立，则它就是一个

“可行下降方向”。

设

,若

，使得

，则称不等式

为关于

的

“起作用约束（积极约束、有效约束）”（即把边界给找出来吧，注意这里是存在，而不是所有，且起作用的约束也是针对这一个约束条件而言的），否则称为 “不起作用约束（非积极约束、非有效约束）”。若令

，则

为关于

的

“起作用（积极、有效）约束集“（这里的输出是约束的索引）。

有了上面的这些概念，下面我们就得出了一个判断

是否为一个可行下降方向的

“判定定理“：设

，若

是

的一个可行下降方向，则有