【最优化期末复习】Z容许方向法

Zoutendijk线性约束的容许方向法

求解带线性约束问题：$$\min f(\vec{x})$$$$s.t.\{\begin{array}{c}A\vec{x}\ge \vec{b}\\ C\vec{x}=\vec{d}\end{array}$$设已经迭代到第 k 步，得到 ${\vec{x}}_k$

Step 1：得到准备条件

由 ${\vec{x}}_k$ 得到梯度 ${\vec{g}}_k=\nabla f(\vec{x})$，以及起作用的不等式约束序号集 $I_k$

Step 2：分解矩阵 $A$ 和向量 $\vec{b}$

根据集合 $I$，将 $A$ 分解为：$A=\left[\begin{array}{c}{A}_k^{\prime }\\ \\ A_k^{\prime \prime }\end{array}\right]$，将 $\vec{b}$ 分解为：$\vec{b}=\left[\begin{array}{c}{\vec{b}}_k^{\prime }\\ \\ {\vec{b}}_k^{\prime \prime }\end{array}\right]$，使得满足$$\{\begin{array}{c}{A}_k^{\prime }{\vec{x}}_k={\vec{b}}_k^{\prime }\\ \\ A_k^{\prime \prime }{\vec{x}}_k>{\vec{b}}_k^{\prime \prime }\end{array}$$

Step 3：求解迭代方向

使用线性规划的方法求解：$$\min {\vec{g}}_k^{\mathrm{T}}{\vec{p}}_k$$$$s.t.\{\begin{array}{c}{A}_k^{\prime }{\vec{p}}_k\ge \vec{0}\\ \\ C{\vec{p}}_k=\vec{0}\\ \\ -1\le p_i\le 1\end{array}$$得到下降容许方向 ${\vec{p}}_k$

Step 4：判定最优性

如果 ${\vec{g}}_k^{\mathrm{T}}{\vec{p}}_k=0$，说明当前已经得到最优点 ${\vec{x}}_k$，迭代结束

如果 ${\vec{g}}_k^{\mathrm{T}}{\vec{p}}_k\ne 0$，说明当前迭代点 ${\vec{x}}_k$ 不是最优点，需要继续迭代。如果不是最优点，则继续执行以下步骤：

Step5：获取步长搜索范围

令$${\vec{u}}_k=A_k^{\prime \prime }{\vec{x}}_k-{\vec{b}}_k$$$${\vec{v}}_k=A_k^{\prime \prime }{\vec{p}}_k$$则$$\bar{t}=\min \left\{-\frac{u_i}{v_i}\mid v_i<0\right\}$$

Step6：求解最优步长并得到下一个迭代点

$$\min (\mathrm{t})\varphi (t)=f({\vec{x}}_k+t{\vec{p}}_k)$$$$s.t.0\le t\le \bar{t}$$于是：${\vec{x}}_{k+1}={\vec{x}}_k+t^{\ast }{\vec{p}}_k$