这是我在学习李宏毅老师机器学习课程时记录的笔记,并不是一个全面的记录而只记录我认为比较关键的知识点,起到知识梳理和温故知新的作用。对较为简单的点只放上PPT和一点记录,对自认为重点的内容会多记录一些理解。
本文首发于个人公众号“ 程序员与机器学习”,记录自己的学习笔记和心得,欢迎来交流,欢迎批评指导。
1
![1a5e500a5b045c404a0defb49fbc03c8.png](https://img-blog.csdnimg.cn/img_convert/1a5e500a5b045c404a0defb49fbc03c8.png)
上图中,我们把回归比喻成打靶,为真实的数值,位于靶中心,为模型的预测值。可见,预测值的误差来自于偏差Bias和方差Variance。
2
![6393075e7993e46cfe0bb472965f8ab1.png](https://img-blog.csdnimg.cn/img_convert/6393075e7993e46cfe0bb472965f8ab1.png)
假设全部样本的均值为,方差为。现在我们试图估计,如果我们采样N个,求其均值m,会发现,但是如果我们找到很多的对并对他们求期望,会发现它刚好等于。