035.（9.5）凸问题

凸集

在欧氏空间中，凸集是对于集合内的每一对点，连接该对点的直线段上的每个点也在该集合内。

例如，立方体是凸集，月牙体则不是。

……小拓展（知乎搬运）：

（黑点表示原始集合S,阴影部分表示conv S(凸包集合) ）

凸函数

凸函数是一个定义在某个向量空间 的凸子集C上的实值函数f，而且对于凸子集C中任意两个向量x1、x2 ，有如下条件成立：

(t 的定义域为(0,1) )

由上式及上图，利用相似三角形易推得：

则f称为I上的凸函数，当定义中的“≤”换成“<”也成立时，对应可称函数f为对应子集或区间上的严格凸函数。

凸优化

凸优化是一个优化的子领域，研究了凸函数在凸集上的最小化问题。 用于凸集和凸函数属性研究的数学分支称为凸分析。

优良特性：凸优化中局部最优值必定是全局最优值。

很多非凸问题都可以被等价转化为凸优化问题或者被近似为凸优化问题。
（一般在找不到原问题的解或求解原问题所需的时间复杂度太大的情形下使用，例如拉格朗日对偶问题）

条件：

1.目标函数 f 必须是凸函数
2.不等式约束函数 g 必须是凸函数，且 g<= 0 组成的区域为凸集
3.等式约束函数必须是仿射的 （补充:仿射函数，即最高次数为1的多项式函数。常数项为零的仿射函数称为线性函数。）

仿射函数的深入解释：

• 常见求解思路：

  利用凸优化问题的优良特性，找到一个点列使得目标函数值持续减少，直到触发停止条件或达到一个最小值（临界），比如下降中的变化梯度与步向（搜索方向）相反（如内积为负）