初识逻辑回归算法*

初识逻辑回归算法

1、逻辑回归简介

逻辑回归（Logistic regression，简称LR）虽然其中带有"回归"两个字，但逻辑回归其实是一个分类模型，并且广泛应用于各个领域之中。虽然现在深度学习相对于这些传统方法更为火热，但实则这些传统方法由于其独特的优势依然广泛应用于各个领域中。

2、逻辑回归原理

当z≥0 时,y≥0.5,分类为1，当 z<0时,y<0.5,分类为0，其对应的y值我们可以视为类别1的概率预测值。Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别），所以利用了Logistic函数（或称为Sigmoid函数），函数形式为：
我们可以发现 Logistic 函数是单调递增函数，并且在z=0时将回归方程写入其中为：
故可推导得到：
从而可总结得到：
逻辑回归从其原理上来说，逻辑回归其实是实现了一个决策边界：对于函数，当z≥0 时,y≥0.5,分类为1，当 z<0时,y<0.5,分类为0࿰