L1、L2、正则、损失

转载出处：

http://www.zhizhihu.com/html/y2013/4414.html

微博上看到的，由于之前面试遇到过，答得不好，所以还是碰到就好好看看。

@学生古

什么是损失，什么是正则；什么是L1，什么是L2。一会儿是L1正则，一会儿是L2损失。 http://t.cn/8k5xI8V
总结：L1或者L2就是某种范数（线性代数和矩阵的基本概念），既可以用于损失又可以用于正则化参数。损失和衡量预测值和真实值的差异，正则是控制所求参数的量级。