（机器学习之算法）凸优化

深切哀悼抗击新冠肺炎斗争中的牺牲烈土和逝世同胞。愿逝者安息，愿生者奋发，愿祖国昌盛！！！！！

一、基础认知

我们首先思考两个不等式：

• 两个正数的算术平均数大于等于几何平均数：(a+b)/2 ≧√ab,a>0,b>0
• 给定可逆对称矩阵Q，对于任意的向量x,y(x,y的阶数和Q一样)有：x^TQx+y^TQ^-1y≥2x^Ty

大家可能第一个见的多第二个见的少。我们都可以用凸优化去解决这种不等式的问题，去证明。

理解凸集： y=x²是凸函数，函数图像上位于y=x²上方的区域构成凸集。

几何体的向量表达：
给定二维平面上两个定点：a(x1,y1)，b(x2,y2)，则：

• 过a,b的直线表达：x=θa+(1-θ)b,θ∈R
• 过a,b的线段表达：x=θa+(1-θ)b,θ∈[0,1]
  一般的：f(x,y)=0表示定义域在R²的曲线,f(x,y,z)=0表示定义域在R³的曲面
  特殊的：z=h(x,y)表示定义在R²的曲面，,y=f(x)表示定义域在R的曲面

这里给大家讲一个例子：
（虽然是个小例子但是是我自己编的，写为引用我感觉和正文好区分)

A(2,1)、B(3,3)则经过点A、B的直线方程就是:
x1=θ×2+3×(1-θ),x2=θ×1+3×(1-θ),θ∈R
进行化简后：2x1-x2-3=0
就像用超平面表达所有维度的“面”一样，这里用x1表示点A的x坐标的θ倍和点B的x坐标的1-θ倍的加权加和，x2表示点A的y坐标的θ倍和点B的y坐标的1-θ倍的加权加和。
我们的公式如下：

x的向量=(x1,x2)

二、放射集

定义: 通过集合C中任意两个不同点的直线仍然在集合C内，则称集合C为仿射集。

仿射集的例子： 直线、平面、超平面

• 超平面一般表示为:Ax=b
• f(x)=0表示定义域在Rⁿ的超曲面:令f(x)=Ax-b，则f(x)=0表示“截距”为b的超平面。
• n维空间的n-1维仿射集为n-1维超平面。

仿射包: 包含集合C的最小仿射集。
设C为实线性空间X中的集合，那么包含C的最小仿射集称为C的仿射包。它是所有包含C的仿射集的全体的交集，也是C中的元素的不断用直线连结后的元素全体，C的仿射包通常记为aff C 。

仿射维数: 仿射包的维数

• 直线的仿射维数为1
• 平面的仿射维数为2
• 空间的仿射维数为3

判断内点和相对内点: 我们的第一想法是二维画圆形，三维看球形，看看距离。如果点再图内部就是其内点。如果这个概念用了aff C上就是相对内点。一般用relint C表示C的内点。

三、凸集

概念: 集合C内任意两点间的线段均在集合C内，则称集合C为凸集。

因为仿射集的条件比凸集的条件强，所以，仿射集必然是凸集(仿射集是直线，凸集是线段)
例子: