文章目录
本文主要是针对凸函数成立的一阶和二阶充要条件进行描述和简单证明。
1、凸函数成立的一阶条件
【定理1】对于函数 J : Ω → R J:\Omega \rightarrow \mathbb{R} J:Ω→R, J J J为凸函数,当且仅当 ∀ x , y ∈ Ω \forall \bf{x},\bf{y}\in \Omega ∀x,y∈Ω,有
J ( y ) ≥ J ( x ) + ▽ J ( x ) T ( y − x ) . J({\bf y})\ge J({\bf x})+\triangledown J({\bf x})^{\rm T}(\bf{y}-\bf{x}). J(y)≥J(x)+▽J(x)T(y−x).
【证明】
(1)必要性证明。
设 z = t y + ( 1 − t ) x = x + t ( y − x ) {\bf z}=t {\bf y}+(1-t){\bf x}={\bf x}+t(\bf y-x) z=ty+(1−t)x=x+t(y−x),由于 J J J为凸函数,因此
J [ x + t ( y − x ) ] ≤ t J ( y ) + ( 1 − t ) J ( x ) , J[{\bf x}+t({\bf y-x})]\le tJ({\bf y})+(1-t)J({\bf x}), J[x+t(y−x)]≤tJ(y)+(1−t)J(x),进一步有
J ( y ) ≥ J ( x ) + lim t → 0 J [ x + t ( y − x ) ] − J ( x ) t , J({\bf y})\ge J({\bf x})+\lim_{t\rightarrow 0}\frac{J[{\bf x}+t({\bf y-x})] -J({\bf x})}{t}, J(y)≥J(x)+t→