对于《欠定线性系统与正则化》一节中的优化问题:
( P J ) : min x J ( x ) s . t . b = A x (P_J):\min \limits_{\bf x} J({\bf x})\quad {\rm s.t.} \quad{\bf b=Ax} (PJ):xminJ(x)s.t.b=Ax
只要 J ( ⋅ ) J(\cdot) J(⋅)为严格凸的函数,都能保证只有唯一解, l 2 {\mathcal l}_2 l2能够带来唯一解就是其中的一个例子。
1、凸集
【定义1】对于集合 Ω \Omega Ω, ∀ x 1 , x 2 ∈ Ω \forall {\bf x}_1,{\bf x}_2\in \Omega ∀x1,x2∈Ω以及 ∀ t ∈ [ 0 , 1 ] \forall t\in[0,1] ∀t∈[0,1],若凸组合
x = t x 1 + ( 1 − t ) x 2 {\bf x}=t{\bf x}_1+(1-t){\bf x}_2 x=tx1+(1−t)x