吴恩达机器学习笔记【课时七】

课时7-1 过拟合问题

具有高方差，泛化能力不好。
过拟合的解决办法：

课时7-2 代价函数

如下图：为了避免过拟合，假如我们再代价函数后面加上两项，要想整体最小，则后两个参数值必须极小，这相当于抹去了这两个参数，假设仍是二次函数。

所以我们可以通过在代价函数后面增加正则项避免过拟合：

λ是惩罚项，是对不同特征的取舍
假如我们给的惩罚项太大了会出现什么问题？
会出现欠拟合：

课时7-3 线性回归的正则化

正则化在线性回归的推广：

正规方程的正则项：

课时7-4 Logistic回归的正则化