机器学习和深度学习中,L2正则化为什么能防止过拟合?
正则化是为了降低模型的复杂度,模型过于复杂,则过拟合;
与傅里叶变换类似,高频的部分表示细节,尽量减少高频部分的影响;
傅里叶级数也是,高阶表示细节;
当阶数较高时,在不降低拟合结果的前提下,降低高阶项的系数;
高阶部分的系数会很小,但不一定是0,所以用0-范数不合适,用1-范数或2-范数。
参考:https://www.zhihu.com/question/389848505/answer/1179908586
...
原创
2020-11-28 12:01:24 ·
1207 阅读 ·
0 评论