logistic回归

logistic回归

1. logistic回归的基本思想　　
　　logistic回归是一种分类方法，用于两分类问题。其基本思想为：

a. 寻找合适的假设函数，即分类函数，用以预测输入数据的判断结果；

b. 构造代价函数，即损失函数，用以表示预测的输出结果与训练数据的实际类别之间的偏差；

c. 最小化代价函数，从而获取最优的模型参数。
　　
2. 逻辑回归的过程
逻辑函数（sigmoid函数）：

　该函数的图像：
　
　
判定边界：

非线性边界的边界形式可表示为：
　hθ(x)函数的值表示结果取1的概率，因此对于输入x分类结果为类别1和类别0的概率分别为：
　
　最后：
　
　总结：Logistic回归虽然名字叫”回归” ，但却是一种分类学习方法。使用场景大概有两个：第一用来预测，第二寻找因变量的影响因素。