凸优化基本概念总结

总结凸优化中会出现的基本概念。

凸集

仿射集合和凸集

仿射集合

• 仿射集合$_{p_{20}}$
• 仿射组合
  
  • 可以将仿射集合表示为线性空间＋偏移量
• 仿射包$_{p_{20}}$
  
  • 包含$C$的最小仿射集合，其中$C$为任意集合
• 仿射维数$_{p_{21}}$
  
  • 集合$C$的仿射维数为仿射包的维数
  • 可根据仿射维数定义相对边界

凸集

• 直观理解，集合中的每一点都可以被其他点沿着他们之间一条无阻碍的路径看见，那么这个集合就是凸集。
• 可类似定义凸组合
  
  • 一个集合是凸集等价于集合包含所有点的凸组合
  • 点的凸组合可以看做是混合或加权平均
• 凸包
  
  • 集合$C$中所有点的凸组合的集合为凸包

锥

• 在二维上为扇形
• 可类似定义锥组合
• 锥包$_{p_{23}}$
  
  • 集合$C$中所有点的锥组合的集合为锥包，是包含$C$的最小凸锥

例子

• 空集、单点集合、全空间都是仿射的。
• 一条射线是凸的，但不是仿射的。
• 若射线的基点是原点，则为凸锥。
• 任意直线是仿射的，如果直线过原点，则为子空间（也是凸锥）。

超平面与半空间

• 可看成法线方向为$a$的超平面，而常数$b$则决定了这个平面从原点的偏移
  
  • $$\{x | a^Tx=b\}$$
• 超平面由所有正交于法向量$a$的向量+偏移$x_0$组成。
  
  • $$\{x | a^T(x-x_0)=0\}$$
• 一个超平面将$R^n$分为两个半空间$_{p_{24}}$
  
  • 半空间是凸的，但不是仿射的

多面体

• 为有限个线性等式和不等式的解集

  • $$P = \{x| a_j^Tx\le b_j,j=1,...,m,c^T_jx= d_j,j=1,...,p\}$$

• 可以用更紧凑的形式表示：

  • $$P = \{x| Ax\preceq b,Cx= d \}$$

• 单纯形式一类重要的多面体$_{p_{29}}$

  • 设$k+1$个点$x_0,...,v_k\in R^n$仿射独立，即$v_1-v_0,...,v_k-v_0$线性独立，那么这些点决定了一个单纯形：
  • C=conv{ v0,...,vk}={ θ0v0+...+θkvk|θ⪰0,1