这里不由的会想,为什么要引入这样的函数,而不是两个数相减或相减的平方。首先引入凸集这个概念:
如果对于任意x1,x2属于C,a属于[0,1]的闭区间,则a*x1+(1-a)x2属于C 可推出C是凸集的充要条件。
有没有发现上面损失函数与下面凸集定义的形式差不多,上面y是属于0到1,凸集的性质大家可以看看书。
凸函数(convex function):
f((x1+x2)/2)<(f(x1)+f(x2))/2
定义Df为凸集,对于任意下x,y属于Df,a属于[0,1],则有f(ax+(1-a)y)<=af(x)+(1-a)f(y)