凸优化学习-（十六）几种典型的凸优化问题

凸优化学习

几种典型的凸优化问题。

学习笔记

一、线性规划

形如：
$$\begin{array}{rlrl}\min & & {\text{C}}^{T}x+d& \\ \text{s.t.}& & \text{G}x-h& \le 0\\ & & \text{A}x-b& =0\end{array}$$
其中线性规划的约束本质是个多面体。
线性规划中的$(y-x^{\ast })\nabla f(x^{\ast })\ge 0$:

其中很明显内积大于零，两者夹角小于90度。

线性规划的变形

1、松弛变量

形如：
$$\begin{array}{rlrl}\min & & {\text{C}}^{T}x+d& \\ \text{s.t.}& & \text{G}x-h+s& =0\\ & & \text{A}x-b& =0\\ & & s& \ge 0\end{array}$$
其中$\text{G}x-h=-s,s\ge 0\Rightarrow Gx-h\le 0，s$称为松弛变量。

2、最优解正负分离

形如：
$$\begin{array}{rlrl}\min & & {\text{C}}^{T}X& \text{X}=[x^{\ast },x^{+},x^{-}]\\ \text{s.t.}& & \text{A}x-b& =0\\ & & \text{X}& \ge 0\end{array}$$
其中$x^{+},x^{-}$指$x$中正或负的元素，$x^{\ast }=x^{+}-x^{-}$

线性规划的一些例子

1、食谱问题

选择食谱，使食谱的$n$种营养元素分别不小于$b_1,\cdots ,b_m$，有$n$种食物，单位食物营养为$a_{ij},\cdots ,a_{nj}$，单位食物价格$c_j$，找出总价最小的食谱。
**解：**设食物量分别为$x_1,\cdots ,x_n$，问题可描述为：
$$\begin{array}{rlrl}\min & & \sum _{j=1}^n{c}_j{x}_j& \\ \text{s.t.}& & \sum _{j=1}^n{a}_{ij}{x}_j& \ge b_{i}i=1\cdots m\\ & & x_j& \ge 0j=1\cdots n\end{array}$$

2、线性分数规划$\text{Linear fractional programming}$

形如：
$$\begin{array}{rlrl}\min & & \frac{c^{T}x+d}{e^{T}x+f}& \\ \text{s.t.}& & \text{G}x-h& \le 0\\ & & \text{A}x-b& =0\end{array}$$
等价于：
$$\begin{array}{rlrl}\min & & c^{T}y+dz& \\ \text{s.t.}& & \text{G}x-hz& \le 0\\ & & \text{A}y-bz& =0\end{array}$$
其中$y=\frac{x}{e^{T}x+f},z=\frac{1}{e^{T}x+f}$

二、二次规划（QP问题）

形如：
$$\begin{array}{rlrl}\min & & \frac{1}{2}{x}^T\text{P}x+q^{T}x+r& \text{P}\in {\text{S}}_{+}^n\\ \text{s.t.}& & \text{G}x-h& \le 0\\ & & \text{A}x-b& =0\end{array}$$
二次规划中的$(y-x^{\ast })\nabla f(x^{\ast })\ge 0$:

三、二次约束的二次规划（Quadratically constrained Quadratic programming）

并不是二次规划的子问题。
形如：
$$\begin{array}{rlrl}\min & & \frac{1}{2}{x}^T\text{P}x+q^{T}x+r& \text{P}\in {\text{S}}_{+}^n\\ \text{s.t.}& & \frac{1}{2}{x}^T{\text{P}}_{i}x+q_{i}x+r& \le 0\\ & & \text{A}x-b& \le 0\end{array}$$

明显比二次规划更复杂，因为最优解不在顶点上（没有顶点）。

个人思考

到现在为止学的凸问题的解法大同小异，就不过多说明了。

纸质笔记