凸优化学习-（十四）凸问题的相关概念和定义

凸优化学习

今天开始学习凸问题。

学习笔记

一、凸问题相关概念

1、什么是凸问题$\text{Convex Problems}$

凸问题，即可以使用凸优化技术进行处理的一类具有良好性质的优化问题，形如：
$$\begin{array}{rlrl}\min & & & f_0(x)\\ \text{s.t.}& & & f_i(x)\le 0,i=1\cdots m\\ & & & h_i(x)=0,i=1\cdots p\end{array}$$
其中目标函数和不等式约束函数为凸函数，等式约束函数为仿射函数，约束为凸集的优化问题称为凸问题。一般的优化问题也是这个形式，只是我们对目标函数和约束函数没有要求。

2、定义中涉及的概念

$x$：优化变量$\text{Optimization Variable}$
$f_0$：目标函数（损失函数）$\text{Objective function/Cost function}$
$f_i(x)\le 0$：不等式约束$\text{Inequality Constraint}$
$h_i(x)=0$：等式约束$\text{Equality Constraint}$
$m=p=0$：无约束$\text{Unconstrained}$

3、优化问题的域$\text{Domain}$

$$\text{D}=\bigcap _{i=1}^m\text{dom}{f}_i\cap \bigcap _{i=1}^p\text{dom}{h}_i$$

4、可行解集：$\text{feasible set}$

形如：
X f = { x ∣ x ∈ D } X_f=\lbrace x\mid x\in \text D\rbrace Xf​={x∣x∈D}

5、问题的最优值$\text{Optional value}$

形如：
p ∗ = inf ⁡ { f 0 ( x ) ∣ x ∈ x f } 若 X f 为 空 集 ， p ∗ = + ∞ p^*=\inf \lbrace f_0(x)\mid x\in x_f\rbrace\\ 若X_f为空集，p^*=+\infty p∗=inf{f0​(x)∣x∈xf​}若Xf​为空集，p∗=+∞

6、问题的最优解$\text{Optional point/solution}$

形如：
$$f_0(x^{\ast })=p^{\ast }{x}^{\ast }\in X_f$$

7、问题的最优解集$\text{Optional Set}$

形如：
X o p t = { x ∣ x ∈ X f , f 0 ( x ) = p ∗ } X_{opt}=\lbrace x\mid x\in X_f,f_0(x)=p^*\rbrace Xopt​={x∣x∈Xf​,f0​(x)=p∗}

8、问题的局部最优解

形如：
f 0 ( x ) = inf ⁡ { f 0 ( z ) ∣ x ∈ X f } ∃ R 使 ∥ z − x ∥ ≤ R f_0(x)=\inf \lbrace f_0(z)\mid x\in X_f\rbrace\\ \exist R使\|z-x\|\le R f0​(x)=inf{f0​(z)∣x∈Xf​}∃R使∥z−x∥≤R

9、几个集合的关系

个人思考

凸问题有了之前凸集、凸函数的铺垫，上手应该是很快的。但是要注意的是拿到一个优化问题首先应该看它的约束是否是凸集，然后再判断里面的函数是不是凸函数。

纸质笔记