等式约束优化

介绍等式约束优化的求解。

等式约束优化问题

$$\min f(x)$$

$$s.t.\quad Ax=b$$

其中$f$为二次可微凸函数，假设等式约束少于变量数，并且等式约束互相独立。假定存在一个最优解$x^\star$，并用$p^\star$表示其最优值，即：

$$p^\star = \inf \{f(x) | Ax = b\} = f(x^\star)$$

由KKT条件，其最优解的重要条件是满足：

$$Ax^\star = b \quad \triangledown f(x^\star) + A^Tv^\star = 0$$

对于求解等式约束问题有两种方法：

1. 任何等式约束优化问题都可以通过消除等式约束转化为等价的无约束问题。
2. 使用对偶方法解决。

很多时候，直接处理等式约束比转化为无约束问题要好，这是因为转化之后可能会破坏问题的结构。

等式约束凸二次规划

$\min f(x) = (1/2)x^TPx+q^Tx+r$

$$s.t. \quad Ax= b$$

此问题的最优性条件为：

$$Ax^\star =b \quad Px^\star+q+A^Tv^\star = 0$$

可以将其写成矩阵形式：

[PAAT0][x⋆v⋆]=[−q