机器学习算法-逻辑回归（三）、逻辑回归分类重要知识点总结

逻辑回归 原理简介：

Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别），所以利用了Logistic函数（或称为Sigmoid函数），函数形式为：

其对应的函数图像可以表示如下：

import numpy as np
import matplotlib.pyplot as plt
x = np.arange(-5,5,0.01)
y = 1/(1+np.exp(-x))

plt.plot(x,y) #该函数把点（x, y）用线连起来
plt.xlabel('x') #x轴标记为x 
plt.ylabel('y') #y轴标记为y
plt.grid() #在图中画出方格
plt.show()

输出如下：

通过上图我们可以发现 Logistic 函数是单调递增函数，并且在z=0的时候取值为0.5，并且 𝑙𝑜𝑔𝑖(⋅) 函数的取值范围为 (0,1) 。

逻辑回归从其原理上来说，逻辑回归其实是实现了一个决策边界：当 𝑧=>0 时, 𝑦=>0.5 ,分类为1，当 𝑧<0 时, 𝑦<0.5 ,分类为0，其对应的 𝑦 值我们可以视为类别1的概率预测值.

对于模型的训练而言：实质上来说就是利用数据求解出对应的模型的特定的 𝑤 。从而得到一个针对于当前数据的特征逻辑回归模型。

而对于多分类而言，将多个二分类的逻辑回归组合，即可实现多分类。

END