机器学习基础——规则化(Regularization)
在机器学习中,我们一直期望学习一个泛化能力(generalization)强的函数只有泛化能力强的模型才能很好地适用于整个样本空间,才能在新的样本点上表现良好。
y=a+bx+cx2+dx3(1)
y=a+bx+cx^2+dx^3\tag{1}
y=a+bx+cx2+dx3(1)
如上图,公式(1)完美地拟合了训练空间中所有的点,如果具备过拟合(overfiting)的能力,那么这个方程肯定是一个比较复杂的非线性函数。正是因为这里的 x2x^2x2 和 x3x^3x3 的参数 ccc 和 ddd 使得这条
原创
2021-01-30 19:30:03 ·
522 阅读 ·
1 评论