软域值算子的推导

最小化目标函数

$minf(x)=(x-b{)}^2+\lambda |x|$, $\lambda >0$
的解x*为 软域值算子，（soft thresholding）
$$x^{\ast }=\{\begin{array}{ll}b-\frac{\lambda }{2},& b-\frac{\lambda }{2}>0\\ 0,& -\frac{\lambda }{2}<b<\frac{\lambda }{2}\\ b+\frac{\lambda }{2},& b+\frac{\lambda }{2}<0\end{array}$$

将$f(x)$对$x$求导，得
$f^{\prime }(x)=2(x-b)+\lambda \ast sgn(x)$,其中，
$sgn(x)=\{\begin{array}{ll}1& x>0\\ -1& x<0\end{array}$
令$f^{\prime }(x)=0$,可得$x=b-\frac{\lambda }{2}\ast sgn(x)$
下面分情况进行讨论：
当$b>\frac{\lambda }{2}$时，
再分情况分析 ，当$x>0$时，最小值点$x=b-\frac{\lambda }{2}>0$为最小值点。
当$x<0$时，最小值点$x=b+\frac{\lambda }{2}>0$, 矛盾。

当$b<-\frac{\lambda }{2}$时，
再分情况分析，当$x<0$时，最小值点$x=b+\frac{\lambda }{2}<0$, 成立。
当$x>0$时，最小值点$x=b-\frac{\lambda }{2}<0$，矛盾。

当$-\frac{\lambda }{2}<b<\frac{\lambda }{2}$,有$\lambda -2b>0$,与$\lambda +2b>0$
故当$x<0$时，最小值点$x=b+\frac{\lambda }{2}>0$, 矛盾。
当$x>0$时，最小值点$x=b-\frac{\lambda }{2}<0$, 矛盾。
当$x=0$时，$f(0)=b^2$,可以证明对于$\Delta x\ne 0$, $f(\Delta x)>f(0)$

小证明：当$\Delta x>0$时，$f(\Delta x)-f(0)=(\Delta x-b{)}^2+\lambda (\Delta x)-b^2=(\Delta x{)}^2+(\lambda -2b)\Delta x>0$
当$\Delta x<0$时，$f(\Delta x)-f(0)=(\Delta x-b{)}^2-\lambda (\Delta x)-b^2=(\Delta x{)}^2-(\lambda +2b)\Delta x>0$
所以有0 为$f(x)$的最小值点