2020-11-8机器学习-逻辑回归

一、逻辑回归的介绍
（一）概念：逻辑回归是机器学习的一种分类模型，逻辑回归是一种分类算法，由于简单高效，在实际中应用非常广泛。
（二）逻辑回归的应用场景

广告点击率、是否为垃圾游戏、是否患病、金融诈骗、虚假账号

（三）逻辑回归的原理
1.核心点：

逻辑回归中输入的值是：线性回归的结果
判断逻辑回归的输出：

2.输入为线性回归的结果，即就是：
3.激活函数，即就是sigmoid函数：

判断标准：
回归的结果输入到sigmoid函数当中
输出结果：[0,1]区间的一个概率值，默认为0.5为阈值
输出结果解释(重要)：假设有两个类别A，B，并且假设我们的概率值为属于A(1)这个类别的概率值。现在有一个样本的输入到逻辑回归输出结果0.55，那么这个概率值超过0.5，意味着我们训练或者预测的结果就是A(1)类别。那么反之，如果得出结果为0.3那么，训练或者预测结果就为B(0)类别。

关于逻辑回归的阈值是可以进行改变的，比如上面举例中，如果你把阈值设置为0.6，那么输出的结果0.55，就属于B类。

在之前，我们用最小二乘法衡量线性回归的损失。

在逻辑回归中，当预测结果不对的时候，我们该怎么衡量其损失呢？
那么如何去衡量逻辑回归的预测结果与真实结果的差异呢？
（三）损失以及优化
1.概念：逻辑回归的损失称之为对数似然损失。
分开类别：
其中y为真实值，hθ(x)为预测值