今日完成
网易云课堂机器学习第六章
总结
第六章 逻辑回归(Logistic Regression)
6.1 分类问题
- 什么是分类问题?——在分类问题中,我们尝试预测的是结果是否属于某一个类(例如正确或错误)
- 线性回归为什么不适用分类问题?——如果你使用的是线性回归,那么假设函数的输出值可能远大于 1,或者远小于 0,就会感觉很奇怪。所以我们研究新的算法-逻辑回归,这个算法的性质是:它的输出值永远在 0 到 1 之间。
6.2 假说表示
逻辑回归的假设函数是什么?
假设函数h(x)的作用是什么?——对于给定的输入变量,根据选择的参数计算输出变量=1 的可能性,即ℎ(x) = P(y = 1|x; θ)
6.3 判定边界
- 什么是判定边界?——是我们模型的分界线,将预测为 1 的区域和预测为 0 的区域分隔开
- 怎么求判定边界?——让假设函数 h(x) = 0.5 或 z=0 或 θT(θ的转置)*X=0
6.4 代价函数
- 代价函数的作用是什么?——用于拟合逻辑回归模型的参数θ,即求参数θ,当代价函数最小时,此时的θ就是我们需要的值。
- 逻辑回归的代价函数是什么?
6.5 简化的成本函数和梯度下降
怎么拟合θ?——利用梯度下降法,找到最小的代价函数,即min(J(θ)),这样我们将得到某个参数θ。计算公式如下:
线性回归和逻辑回归梯度下降有什么不同?
两者都是这个式子,但是他们的假设函数是不同的。
6.6 多类别分类:一对多
- 如何解决多类别分类问题?