机器学习中的算法-逻辑回归算法

原创文章,如需转载请保留出处
本博客为唐宇迪老师python数据分析与机器学习实战课程学习笔记

一.逻辑回归算法原理推导
1.1 逻辑回归(Logistic regression)

• 目的：经典的二分类算法
• 首选的分类算法
  

1.2 Sigmoid函数
是什么手段让逻辑回归只能输出两种值呢？答：Sigmoid函数。

• 自变量取值为任意实数，值域[0,1]

解释：将任意的输入映射到了[0,1]区间。我们在线性回归中可以得到一个预测值，再将该值映射到Sigmoid函数中，这样就完成了由值到概率的转换，也就是分类任务。
因为g(z)函数的特性,它输出的结果也不再是预测结果,而是一个值预测为正例的概率,预测为负例的概率就是1-g(z)。

二.逻辑回归求解
2.1 Sigmoid函数详解

分类任务实现二分类，0或者1。若P(y=1)的概率为h(x)，则P(y=0)的概率1-h(x)。

2.2 Logistic regression
利用逻辑回归求解