Python 逻辑回归算法描述以及skleran调包实现

逻辑回归算法的实现过程

输入训练集

学习率

过程: 1.初始化权值参数和b

2.由梯度下降算法或者其他优化算法，跟新参数和b使得

跟新的过程见西瓜书或相关讲义

 

下面给出用sklearn库的调包实现

from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression
import numpy as np
import matplotlib.pyplot as plt
iris = load_iris()
X = iris.data[:,[2, 3]]                                     # 训练数据的X参数
y = iris.target                                             # 训练数据的分类参数y
clf = LogisticRegression()                                  # 建立逻辑回归对象
clf.fit(X, y)                                               # fit数据
x_min, x_max = X[:,0].min() - 1, X[:,0].max() + 1           # 二维化绘制分类图像
y_min, y_max = X[:,1].min() - 1, X[:,1].max() + 1           # mesh方法
xx, yy = np.meshgrid(np.arange(x_min, x_max,0.1),           # 线性插值训练集数据
                     np.arange(y_min,y_max, 0.1))
Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])              # 得到预测集的结果
Z = Z.reshape(xx.shape)
plt.plot()
plt.contourf(xx, yy, Z, alpha=0.4, cmap = plt.cm.RdYlBu)
plt.scatter(X[:, 0], X[:, 1], c=y,  cmap = plt.cm.brg)
plt.title("Logistic Regression")
plt.xlabel("Petal.Length")
plt.ylabel("Petal.Width")
plt.show()