凸函数-convex function

上一篇文章我们说了什么叫凸集。简单来说，凸集有点像一个类似于 “圆”的集合，毕竟任意两点都要在集合内部。今天我们就接着说凸函数。

老规矩，我们先上凸函数的定义。凸函数的定义有三个，分别是：

1.

2.

3.

上面定义3 的意思是说 函数f(x)的“二阶导数”大于等于0.但是这里自变量为矢量，因此求导是矩阵求导。因此称呼也要变一变，定义3的正确意思是 函数f(x)的hessian 矩阵是半正定的。前面就是感性的理解。

定义1 和定义2 都表示函数是一个 “锅”的形状。

如 定义1， 函数任意两点的连线都是高于函数值的

定义2， 函数上任意一点的线性逼近，都是小于函数值的。即在函数任意一点的切线都在函数下方。

其实定义1 和定义2 看着形式不太一样，表达的几何意思都是一样的。即都是 函数的形状像一个 锅。 今天就到这里啦，下一次，我们证明一下这三个定义的等价性。