开始学习《机器学习》中的第三章-线性模型啦,考虑到这本“西瓜书”中存在一些公式的简化推导,不利于理解和学习,因此需要配合“南瓜书”一起看,可以提高学习效率,继续分享一下学习笔记吧!
本次的笔记主要包含了第三章线性模型的前四个章节。
前两个章节分别是一元线性回归和多元线性回归问题,给出了基于最小二乘法和最大似然估计法的函数参数最优估算,也引出了实际系统中无法得到最优解的闭式解的问题,为之后章节的展开进行了铺垫。
后两个章节分别是对数几率回归和二分类线性判别分析。其中,对数几率回归是在线性回归的基础上,引入了一种线性可微的联系函数,使得可以将回归问题转化为分类问题;二分类线性判别分析提出了一种基于正、负样本均值向量和协方差矩阵的损失函数,用于求解多维空间的二分类问题,同时,该方法可引申到多分类问题。
![](https://i-blog.csdnimg.cn/blog_migrate/1aeaf9be982047d321a79915b8e84bc7.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/f7312c279f1bd4fdd3eca3f744b4ce5e.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/64bde3ee686a293327d4ded547679fa0.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/c8aa752faa68d0620d9f1112b06e387b.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/7b5f3d68f6e782208a1f066cddd3c8ab.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/c138d1ffd8e9ebbb19cad3686aeef50c.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/9a79d71b438e771b54a24418192c19bf.jpeg)
![](https://i-blog.csdnimg.cn/blog_migrate/245462eeb19695ff76830c17933b5b9b.jpeg)