- 逻辑回归是一种用于二元分类问题的监督学习算法,二元分类算法例子:分辨是不是诈骗电话,他是不是一个好人等等
- 逻辑回归试图找到一个预测模型,根据给定的一组特征来预测结果标签的概率
- 逻辑回归使用的Sigmoid函数将线性函数的输出映射到0到1这个区间
Sigmoid函数定义:
其中代表Y=1的概率,为输入特征,为模型参数
当大于或等于0.5是,我们可以将样本分类为1;反之,当小于0.5时,我们将样本分类为0
逻辑回归模型的训练实际上是一个优化问题:找到一组参数 β,使得我们预测的概率尽可能地接近实际标签。这通常通过最大化“对数似然函数”来实现。
对数似然函数:
其中n为样本数量,为第i个样本的实际标签(0或1), 为第i个样本被预测为1的概率,既,为模型参数