1 关于凸函数
1.1凸函数的定义
在大学的高数课本上出现的凸函数其实与机器学习的凸函数并不太一样。在这里建议大家记住一个特殊的例子:,这个函数就是一个凸函数,可以方便大家理解。
下面这个是凸函数的定义:
设在区间上有定义,在区间上是凸函数当且仅当:,有
. 若≤改为<,则是严格凸函数。
下面说一下关于凸函数的一阶条件与二阶条件及证明过程。
1.1 凸函数的一阶条件
一阶条件为:. 下面这个图可以帮助理解
切点为(y,f(y)),函数为f(x)
1.2 凸函数的二阶条件
二阶条件为:. 证明如下: