【天池龙珠训练营-机器学习】机器学习算法（一）: 基于逻辑回归的分类预测

一、逻辑回归简介

逻辑回归（Logistic regression，简称LR），是一个分类模型。

原理简介：
Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别），所以利用了Logistic函数（或称为Sigmoid函数），函数形式为：
$$log(z)=\frac{1}{1+e^{-z}}$$
其对应的函数图像可以表示如下:

import numpy as np
import matplotlib.pyplot as plt
x = np.arange(-5,5,0.01)
y = 1/(1+np.exp(-x))

plt.plot(x,y)
plt.xlabel('z')
plt.ylabel('y')
plt.grid()
plt.show()

通过上图我们可以发现 Logistic 函数是单调递增函数，并且在z=0的时候取值为0.5，并且$logi(\cdot )$函数的取值范围为$(0,1)$。
而回归的基本方程为$z=w_0+{\sum }_i^N{w}_i{x}_i$，
将回归方程写入其中为：
$$p=p(y=1|x,\theta )=h_{\theta }(x,\theta )=1+e^{-(w_0+{\sum }_i^{}}$$