逻辑回归
Logistic Regression 虽然被称为回归,但其实际上是分类模型,并常用于二分类。Logistic Regression 因其简单、可并行化、可解释强深受工业界喜爱。
逻辑函数
逻辑回归模型
他所做的是输出特征或者特征集之后输出0-1之间的数字。
获得的结果g是指p(y=1)的概率。
决策边界
决策边界:在特征空间内,根据不同特征对样本进行分类,不同类型间的分界就是模型针对该数据集的决策边界。
逻辑回归成本函数
线性回归损失函数:平方误差
y的真实值为1的时候对应的loss函数:
y的真实值为0的时候对应的loss函数:
简化损失函数
简化成本函数
凸的成本函数可以使用梯度下降的算法进行优化