【凸优化】二次约束二次规划（QCQP）问题转化为二阶锥规划（SOCP）

二次约束二次规划（QCQP）问题的SOCP形式转化

1. 问题描述

1.1. QCQP的一般形式：

$$\begin{array}{rl}\min & \frac{1}{2}{\mathbf{x}}^{\top }{\mathbf{Q}}_0\mathbf{x}+{\mathbf{c}}^{\top }\mathbf{x}\\ s.t.& {\mathbf{x}}^{\top }{\mathbf{Q}}_i\mathbf{x}+{\mathbf{a}}_i^{\top }\mathbf{x}\le b_i,i=1,\dots ,m\end{array}$$

其中，${\mathbf{Q}}_0\in {\mathbb{S}}_{++}^n$（表示正定对称矩阵），$\mathbf{c}\in {\mathbb{R}}^n$。${\mathbf{Q}}_i\in {\mathbb{S}}_{++}^n$，${\mathbf{a}}_i\in {\mathbb{R}}^n$，$b_i\in \mathbb{R}(i=1,\dots ,m)$。

1.2. SOCP的一般形式：

$$\begin{array}{rl}\min & {\mathbf{c}}^{\top }\mathbf{x}\\ s.t.& {\Vert {\mathbf{A}}_i\mathbf{x}+{\mathbf{b}}_i\Vert }_2\le {\mathbf{c}}_i^{\top }\mathbf{x}+d_i,i=1,\dots ,m\end{array}$$

2. 目标函数的配方

QCQP的目标函数$\frac{1}{2}{\mathbf{x}}^{\top }\mathbf{Qx}+{\mathbf{c}}^{\top }\mathbf{x}$是二次的，我们可以对其进行配方。
首先由Cholesky分解将矩阵$\mathbf{Q}$分解为$\mathbf{Q}={\left({\mathbf{Q}}^{\frac{1}{2}}\right)}^{\top }{\mathbf{Q}}^{\frac{1}{2}}$：

$$\frac{1}{2}{\mathbf{x}}^{\top }{\mathbf{Q}}^{\frac{1}{2}}{\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+{\mathbf{c}}^{\top }\mathbf{x}$$

接下来的步骤类似一元函数的配方：
$$\begin{array}{rl}& \frac{1}{2}{\mathbf{x}}^{\top }{\mathbf{Q}}^{\frac{1}{2}}{\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+{\mathbf{c}}^{\top }\mathbf{x}\\ =& \frac{1}{2}\left({\mathbf{x}}^{\top }{\mathbf{Q}}^{\frac{1}{2}}{\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+2{\mathbf{c}}^{\top }\mathbf{x}\right)\\ =& \frac{1}{2}{\Vert {\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c}\Vert }_2^2-\frac{1}{2}{\Vert {\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c}\Vert }^2\end{array}$$

由于${\Vert {\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c}\Vert }^2$是常数，因此最小化原目标函数等价于最小化下述二范数（注意此处没有平方）：
$${\Vert {\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c}\Vert }_2$$

3. 约束条件的配方

类似地，我们对约束条件也进行配方处理。原始的约束条件为：
$${\mathbf{x}}^{\top }{\mathbf{Q}}_i\mathbf{x}+{\mathbf{a}}_i^{\top }\mathbf{x}\le b_i$$

仿照上述对目标函数的配方方法，我们将其进行配方与整理，可以得到以下约束：
$${\Vert {\mathbf{Q}}_i^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}_i^{-\frac{1}{2}}{\mathbf{a}}_i\Vert }_2^2\le {\mathbf{a}}_i^{\top }{\mathbf{Q}}_i^{-1}{\mathbf{a}}_i+b_i$$

假设不等号右边大于等于0，那么该约束等价于
$${\Vert {\mathbf{Q}}_i^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}_i^{-\frac{1}{2}}{\mathbf{a}}_i\Vert }_2\le \sqrt{{\mathbf{a}}_i^{\top }{\mathbf{Q}}_i^{-1}{\mathbf{a}}_i+b_i}$$

4. 问题形式的转换

通过上述处理，我们可以将原始的QCQP问题转换为如下形式：
$$\begin{array}{rl}\min & {\Vert {\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c}\Vert }_2\\ s.t.& {\Vert {\mathbf{Q}}_i^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}_i^{-\frac{1}{2}}{\mathbf{a}}_i\Vert }_2\le \sqrt{{\mathbf{a}}_i^{\top }{\mathbf{Q}}_i^{-1}{\mathbf{a}}_i+b_i},i=1,\dots ,m\end{array}$$

为了进一步简化问题，我们引入辅助变量 $t\in \mathbb{R}$，那么上述优化问题可以进一步转化为
$$\begin{array}{rl}\min & t\\ s.t.& {\Vert {\mathbf{Q}}^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c}\Vert }_2\le t\\ & {\Vert {\mathbf{Q}}_i^{\frac{1}{2}}\mathbf{x}+{\mathbf{Q}}_i^{-\frac{1}{2}}{\mathbf{a}}_i\Vert }_2\le \sqrt{{\mathbf{a}}_i^{\top }{\mathbf{Q}}_i^{-1}{\mathbf{a}}_i+b_i},i=1,\dots ,m\end{array}$$

通过引入上述辅助变量和配方处理，我们成功地将QCQP问题转换为SOCP问题：
$$\begin{array}{rl}\min & {\mathbf{c}}_{socp}^{\top }{\mathbf{x}}_{socp}\\ s.t.& {\Vert {\mathbf{A}}_i\mathbf{x}+{\mathbf{b}}_i\Vert }_2\le {\mathbf{c}}_i^{\top }\mathbf{x}+d_i,i=1,\dots ,m\end{array}$$

其中：
$$\begin{array}{rl}& {\mathbf{c}}_{socp}={\left[\begin{array}{cccc}0& \cdots & 0& 1\end{array}\right]}^{\top },\\ & {\mathbf{x}}_{socp}=\left[\begin{array}{c}\mathbf{x}\\ t\end{array}\right],\\ & {\mathbf{A}}_1=\left[\begin{array}{cc}{\mathbf{Q}}^{\frac{1}{2}}& 0\\ 0& 1\end{array}\right],{\mathbf{b}}_1={\mathbf{Q}}^{-\frac{1}{2}}\mathbf{c},{\mathbf{c}}_1={\left[\begin{array}{cccc}0& \cdots & 0& 1\end{array}\right]}^{\top },d_1=0,\\ & {\mathbf{A}}_{i+1}=\left[\begin{array}{cc}{\mathbf{Q}}_i^{\frac{1}{2}}& 0\\ 0& 1\end{array}\right],{\mathbf{b}}_{i+1}={\mathbf{Q}}_i^{-\frac{1}{2}}{\mathbf{a}}_i,{\mathbf{c}}_{i+1}=0,d_{i+1}=\sqrt{{\mathbf{a}}_i^{\top }{\mathbf{Q}}_i^{-1}{\mathbf{a}}_i+b_i}.\end{array}$$

更多的问题转换可见论文：https://web.stanford.edu/~boyd/papers/pdf/socp.pdf