机器学习（2）学习笔记

例子：拟合正弦波规律，并且增加噪声。

 

高次多项式解的范围变大了，但是结论反而不如低次多项式的解。

高次多项式学习出的系数的绝对值大得出奇。

且高次多项式表达能力大部分用于拟合噪声了。----过拟合

 如何避免过拟合？

正则化！ 岭回归，lamda/2 * ||w|| ^2

分类:

例子 ：  二维二分类

边界代表：属于两类的概率都相同 决策边界。

logistic回归：  

 输入带入模型，返回一个概率，判断它的类别。

误差损失函数为交叉熵损失函数  

 调和平均值：

分块矩阵求逆 ：可以使用初等行变换证明。