吴恩达机器学习课程笔记4

逻辑回归

逻辑回归是在输出值y为离散值0或者1的一种分类算法。逻辑回归的特点就是算法的输出或者预测值一直介于0和1之间。

h(x)代表在输入x的时候输出y=1的概率。

决策界限

决策界限是我们在训练集中运用代价函数得到一组拟合参数，将这组拟合参数代入h(x）中，得到的一个决策界限，这个界限就可以把输入进行分类。

代价函数

刚刚我们讲到我们需要用代价函数来得到拟合参数，那我们怎样用代价函数得到拟合参数呢？
我们先类比线性回归的代价函数写出逻辑回归的代价函数。
因为我们知道如果代价函数不是凸函数的话，选用梯度下降法去最小化代价函数的时候不一定会收敛到全局最小。所以我们首先要把代价函数变成凸函数。
我们在把代价函数用一个式子表现出来
接下来我们用梯度下降法最小化我们的代价函数得到拟合参数

逻辑回归的梯度下降看起来和线性回归一样，不一样的其实就是h(x）。并且逻辑回归的梯度下降也可以用特征缩放。

多变量分类

当变量多于两个的时候，我们就分成多组计算。