4.凸优化问题

最优化问题什么时候问题是凸优化问题？

要同时满足以下三个条件：

1. 目标函数是关于决策变量/优化变量的凸函数
2. 不等式约束中的约束函数要是凸函数
3. 等式约束中的约束函数是线性函数

可行域：

为什么要求$g_i(x)\le 0$: 表示水平集都是凸集合，凸函数的水平集交集，仍是凸函数

还要强调$h_i(x)=0$，-> $a^{T}x+b=0$ ->这是超平面，超平面也是凸集合

以上 可行域 是凸集合

以下是凸优化问题吗？
$$\begin{array}{rl}min{f}_0(x)& =x_1^2+x_2^2\\ s.t.g_1(x)& =x_1/(1+x_2^2)\le 0\\ h_1(x)& =(x_1+x_2{)}^2=0\end{array}$$
目标函数 海瑟矩阵正定，说明是凸函数：
$${\nabla }^2{f}_0(x)=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right]$$
不等式约束中的约束函数：
$$\begin{gathered} g_1(x)=\frac{x_1}{1+x_2^2}\le 0 \\ 始终大于0，等价于 \\ {g}_1(x)=x_1\le 0 \end{gathered}$$
等式约束中的约束函数：
$$\begin{gathered} h_1(x)=(x_1+x_2{)}^2=0 \\ 等价于 \\ {h}_1(x)=x_1+x_2=0 \end{gathered}$$
所以以上为凸优化问题。

凸优化问题比较好的性质

1. 局部最优解即全局最优解

凸问题的最优性条件

充分条件

必要条件

充要条件

$$\begin{gathered} x^{\ast }\in S是最优解： \\ \iff \nabla f(x^{\ast }{)}^T(x-x^{\ast })\ge 0,\forall x\in S. \\ \iff -\nabla f(x^{\ast }{)}^T{x}^{\ast }\ge -\nabla f(x^{\ast }{)}^{T}x,\forall x\in S. \\ \iff {\alpha }^T{x}^{\ast }\ge {\alpha }^{T}x,\forall x\in S. \end{gathered}$$

$\nabla f(x^{\ast })$是梯度方向

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-JDtUfLR3-1660658596888)(4.凸优化问题.assets/image-20220816212749074.png)]

几种特殊

无约束凸优化 $minf(x)over{R}^n$ : $x^{\ast }$ 最优 $\iff \nabla f(x^{\ast })=0$
$$\begin{gathered} \nabla f(x^{\ast }{)}^T(x-x^{\ast })\ge 0 \\ 梯度向量和任意向量乘积大于等于0，梯度向量只能等于0 \end{gathered}$$

等式约束凸优化问题：
$$
min {f(x)| Ax = b}: x^*最优\

\Leftrightarrow \exists \mu \nabla f(x^*) + A^T
$$