小白最优化理论学习（二） 凸集

Thanks介绍

很多东西在高数中都有学过，比如什么是极大值，极小值，什么是鞍点之类的。

一、仿射集

首先了解空集和全空间是仿射集的极端例子。表示实数集，我们用表示所有n实数组成的线性空间。

定义：对于集合 ，如果通过集合C中任意两个不同点之间的直线仍在集合C中，则称集合C为仿射（affine）。

也就是说，C包括了在C中任意两点的线性组合，即：

这个概念可以推广到n个点，即 ，其中 。也称为仿射组合。

二、凸集

凸（convex）的定义：对于集合 ，如果通过集合C中任意两个不同点之间的线段仍在集合C中，则称集合C为凸。

凸组合：的点，其中和 ，则称点 的凸组合。

凸组合与仿射组合的区别：在凸组合中，参数 必须大于等于0。

凸集（convex set）：该集合包含了所有点的凸组合。

凸包（convex hull）：最小的凸集，表示为：

注意凸集可以是有界的，也可以是没有界的。

三、超平面

也是在SVM中了解到的超平面的概念。在SVM解决二分类问题中就是找到一个超平面，将两类数分开。

二维中,点的距离是;

三维中,点的距离是;

点到超平面的距离：

超平面的正负：