凸函数二阶条件的证明

一阶条件为什么没写呢？因为Boyd那么书上写的很详细，但是二阶的书上没证。。。当然二阶的证明是基于一阶的结论的~

先从最简单的情况$f:R$->$R$证明，高维直接类比就行了。
首先将凸函数的定义以及一阶的结论列下来：(不管有没有用，先列下来?，对于你证明会有益处的，这是中科大的一个老师当时看我证明的吐槽?)
定义：$f(\theta x+(1-\theta )y)\le \theta f(x)+(1-\theta )f(y)$ $(0\le \theta \le 1anddomfisconvex)$；
一阶条件：$f(x)\ge f(y)+f^{\prime }(y)(x-y)$

充分性：
$$\begin{gathered} f(y)\le f(x)-f^{\prime }(y)(x-y) \\ f(\theta x+(1-\theta )y)\le \theta f(x)+(1-\theta )(f(x)-f^{\prime }(y)(x-y)) \\ f(\theta x+(1-\theta )y)-f(x)\le -(1-\theta )f^{\prime }(y)(x-y) \end{gathered}$$
when $x$->$y$：
$$\begin{gathered} f(\theta x+(1-\theta )y)-f(x)=f^{\prime }(x)(1-\theta )(y-x) \\ {f}^{\prime }(x)(1-\theta )(x-y)\ge (1-\theta )f^{\prime }(y)(x-y) \\ \frac{f^{\prime }(x)-f^{\prime }(y)}{x-y}\ge 0 \end{gathered}$$

得证：$f^{\prime \prime }(x)\ge 0$

必要性：
由$f^{\prime \prime }(x)\ge 0$可得：
$(x-y)[f^{\prime }(x)-f^{\prime }(y)]\ge 0$
$(x-y)f^{\prime }(x)\ge f^{\prime }(y)(x-y)$
设$$\begin{gathered} g(x)=(x-y)f^{\prime }(x)-[f(x)-f(y)] \\ {g}^{\prime }(x)=(x-y)f^{\prime \prime }(x)=0 \end{gathered}$$
所以当$x=y$时，$g(x)$取得极小值，即$g(x{)}_{min}=0$
也就是说，$(x-y)f^{\prime }(x)\ge f(x)-f(y)\ge f^{\prime }(y)(x-y)$
得证一阶条件，$f(x)\ge f(y)+f^{\prime }(y)(x-y)$，从而必要性得证。

所以，凸函数的二阶条件就是$f^{\prime \prime }(x)\ge 0$(高维：${\nabla }^{2}f(x)⪰0$)