全部笔记的汇总贴(视频也有传送门):中科大-凸优化
一、可微拟凸函数的一阶条件
凸 ⇔ d o m f \Leftrightarrow dom\;f ⇔domf为凸, f ( y ) ≥ f ( x ) + ∇ f T ( x ) ( y − x ) , ∀ x , y ∈ d o m f f(y)\ge f(x)+\nabla f^T(x)(y-x),\forall x,y\in dom\;f f(y)≥f(x)+∇fT(x)(y−x),∀x,y∈domf
拟凸 ⇔ d o m f \Leftrightarrow dom\;f ⇔domf为凸, f ( y ) ≤ f ( x ) ⇒ ∇ f T ( x ) ( y − x ) ≤ 0 , ∀ x , y ∈ d o m f f(y)\le f(x) \Rightarrow \nabla f^T(x)(y-x)\le0,\forall x,y\in dom\;f f(y)≤f(x)⇒∇fT(x)(y−x)≤0,∀x,y∈domf
- 证明( ⇒ \Rightarrow ⇒)
x , y ∈ d o m f , 0 ≤ θ ≤ 1 max { f ( x ) , f ( y ) } ≥ f ( θ x + ( 1 − θ ) y ) 设 f ( y ) ≤ f ( x ) , 则 f ( x ) ≥ f ( θ x + ( 1 − θ ) y ) f ( θ x + ( 1 − θ ) y ) − f ( x ) ≤ 0 ⇔ f ( θ x + ( 1 − θ ) y ) − f ( θ x + ( 1 − θ ) y ) ≤ 0 ⇔ f ( θ x + ( 1 − θ ) y ) − f ( θ x + ( 1 − θ ) x ) ( 1 − θ ) ( y − x ) ( 1 − θ ) ( y − x ) ≤ 0 ( 令 θ → 1 − ) ⇔ f ′ ( x ) ( y − x ) ≤ 0 x,y\in dom\;f,0\le\theta\le1\\\max\{f(x),f(y)\}\ge f(\theta x+(1-\theta)y)\\设f(y)\le f(x),则f(x)\ge f(\theta x+(1-\theta)y)\\f(\theta x+(1-\theta)y)-f(x)\le0\\\Leftrightarrow f(\theta x+(1-\theta)y)-f(\theta x+(1-\theta)y)\le0\\\Leftrightarrow\frac{f(\theta x+(1-\theta)y)-f(\theta x+(1-\theta)x)}{(1-\theta)(y-x)}(1-\theta)(y-x)\le0\\(令\theta\rightarrow1_-)\Leftrightarrow f'(x)(y-x)\le0 x,y∈domf,0≤θ≤1max{ f(x),f(y)}≥f(θx+(1−