支持向量机SVM学习过程中的数学问题及笔记:正则化,范数和KKT条件
1、正则化正则化是一种回归的形式,它将系数估计(coefficient estimate)朝零的方向进行约束、调整或缩小。也就是说,**正则化可以在学习过程中降低模型复杂度和不稳定程度,从而避免过拟合的危险。**正则化就是对最小化经验误差函数上加约束,这样的约束可以解释为先验知识。约束有引导作用,在优化误差函数的时候倾向于选择满足约束的梯度减少的方向,使最终的解倾向于符合先验知识。正则化问题更...
原创
2019-07-11 16:41:39 ·
980 阅读 ·
0 评论