本文讨论了在机器学习中，模型的训练集误差（J_train）和交叉验证误差（J_cv）与多项式阶数、正则化参数λ的关系。高偏差（欠拟合）对应于J_train较大和J_cv也较大，过拟合（高方差）表现为J_train较小而J_cv巨大。正则化通过调整λ来平衡模型复杂度，防止过拟合。
高偏差（欠拟合）：在训练集上表现得也不好
高方差（过拟合）：J_cv要远大于J_train
刚刚好：J_cv和J_train都小
J_cv和J_train与拟合多项式阶数的关系
从一阶到四阶，训练集的误差越来越小，而验证集的误差先变小后变大
也有可能同时出现高方差和高偏差
正则化
当 λ 非常大时， w 会非常小， 每个 w 都接近0，模型会是常数 b ，即一条水平线。这种情况下会出现高偏差（欠拟合），并且J_train会很大。
当 λ 为0时，没有正则化，只是拟合一个多项式，会出现过拟合/高方差。此时 J_train 很小但 J_cv 会非常大
J_train 和 J_cv 与 λ 的关系
1425
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
