次梯度(Subgradient)
在优化问题中,很多求解方法都需要利用到目标函数的梯度信息,比如梯度下降法(gradient descent),但是在实际情况中,经常会碰到不可导的情况,这时就需要用到次梯度(Subgradient)这个概念了。官方定义就不抄了,大致就是:ggis a subgradient offf(convex or not) atxxiff(y)≥f(x)+gT(y−x),∀yf(y)≥f(x)+gT(y−x),∀y这里主要包含两层意思:1.用次梯度对原函数做出的一阶展开估计总是比真实值要小;...
复制链接