机器学习算法(一):基于逻辑回归的分类预测
1、逻辑回归的原理
(1)逻辑回归(Logistic regression,简称LR),它既可以看做是一个分类算法,也可以看做是一个回归算法,通常是作为分类算法用。
(2)逻辑回归解决分类问题的原理是:将样本的特征和样本发生的概率联系起来;由于概率是一个数,也可以管它叫作是回归问题。
(3)逻辑回归的核心是sigmoid函数。我们可以把逻辑回归看做是二分类问题,所以值域分布在(0,1)之间。通过python绘图包制作图像来加深理解。
## 基础函数库
import numpy as np
## 导入画图库
import matplotlib.pyplot as plt
import seaborn as sns
## 导入逻辑回归模型函数
from sklearn.linear_model import LogisticRegression
def sigmoid(t):
""" Sigmoid 函数 """
return 1 / (1 + np.exp(-t))
# 生成测试数据 -10到10之间的500个数据,点越多曲线越光滑
x = np.linspace(-4, 4, 500)
y = sigmoid(x)
# 绘制图像
plt.plot(x, y)
plt.show()
2、掌握逻辑回归可视化的代码
demo1:构建实验数据,阐述逻辑回归分析
## 基础函数库
import numpy as np
## 导入画图库
import matplotlib.pyplot as plt
import seaborn as sns
## 导入逻辑回归模型函数
from sklearn.linear_model import LogisticRegression
##Demo演示LogisticRegression分类
## 构造数据集
x_fearures = np.array([[-1, -2], [-2, -1], [-3, -