#3机器学习（西瓜书）自学记录

目录

1.对数几率回归

算法原理:

总结：

---

1.对数几率回归

1.1算法原理:

在线性模型的基础上套用一个映射函数来实现分类功能。
即通过找到一个代替函数来帮助我们把线性回归模型的实值输出（属于R）与期望输出(属于0~1)联系起来

优点：
1.无需事先假设数据分析。
2.可得到类别的近似预测。
3.可直接使用现有的数值优化算法求取最优解。

注意：对数几率回归它是个分类任务不是回归，不要被名字给误导了。

这里我们为了得到 “w” 和 “b”不能像前面线性回归那样用最小二乘法来得到一个具体的值或者式子。
采用了极大似然估计的方法来得到一个估计。

1.2推导过程:

到这里时，3.27式子是一个关于β的高阶可导连续凸函数，根据凸优化理论使用数值优化算法：梯度下降法和牛顿法可得其最优解。

1.3总结：

此内容是本人第一次通过看书和相关视频学习周志华《机器学习》，在此发表的一些个人的看法与见解，如有错误在里面必然是本人见识低陋，望读者朋友务必指出，我好加紧改正。本内容仅仅是本人学习的记录。想要深入了解《机器学习》的朋友务必下去看看书。谢谢。

参考说明：

相关截图：来自b站 周志华老师亲讲-西瓜书全网最详尽讲解-1080p高清原版《机器学习初步》BV1gG411f7zX

【吃瓜教程】《机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集 BV1Mh411e7VU