【机器学习】逻辑回归

---

逻辑回归

逻辑回归，是一种名为“回归”的线性分类器，其本质是由线性回归变化而来的，一种广泛使用于分类问题中的广义回归算法。

线性回归是机器学习中最简单的的回归算法，它写作一个几乎人人熟悉的方程：

$$z=b+{\theta }_1{x}_1+{\theta }_2{x}_2+...+{\theta }_n{x}_n={\theta }^{T}X,({\theta }_0=b)$$
θ被统称为模型的参数，其中$b$被称为截距(intercept)，${\theta }_1$ ~${\theta }_n$ 被称为系数(coefficient)。此时我们的z是连续的，所以是回归模型。

线性回归的任务，就是构造一个预测函数z来映射输入的特征矩阵x和标签值y的线性关系，而构造预测函数的核心就是找出模型的参数：θ系数和 b，著名的最小二乘法就是用来求解线性回归中参数的数学方法。

如果想要z是离散的，也就是标签是离散型变量，则需要再做一次函数转换$g(z)$，并且令$g(z)$的值分布在(0,1)之间，且当$g(z)$接近0时样本的标签为类别0，当$g(z)$接近1时样本的标签为类别1，这样就得到了一个分类模型。而这个联系函数对于逻辑回归来说，就是Sigmoid函数：

$$g(z)=\frac{1}{1+e^{-z}}=\frac{1}{1+e^{-{\theta }^{T}X}}$$

Sigmoid函数是一个S型的函数，当自变量z趋近正无穷时，因变量g(z)趋近于1，而当z趋近负无穷时，g(z)趋近于0，它能够将任何实数映射到(0,1)区间，使其可用于将任意值函数转换为更适合二分类的函数。

二元逻辑回归的一般形式：

逻辑回归，可以理解维为由线性回归通过Sigmoid函数转换，使其预测值在[0,1]之间，达到二分类的效果。

为什么叫逻辑回归？何来的逻辑？
$y(x)$是逻辑回归返回的标签值，且取值在[0，1]之间，所以$y(x)$和$1-y(x)$的和必然是1，如
果我们令$y(x)$ 除以 $1-y(x)$可以得到形似几率(odds)的$\frac{y(x)}{1-y(x)}$ ，在此基础上取对数，可以很容易就得到：

y(x)的形似几率取对数的本质其实就是我们的线性回归z，我们实际上是在对线性回归模型的预测结果取
对数几率来让其的结果无限逼近0和1。因此，其对应的模型被称为”对数几率回归“（logistic Regression），音译过来就是逻辑回归，这个名为“回归”却是用来做分类工作的分类器。

定义损失函数

定义损失函数非常重要，它能帮我们找到一组最佳的参数θ和偏置b，使得我们的模型能够更加准确的进行预测，即是说，能够衡量参数的模型拟合训练集时产生的信息损失的大小，并以此衡量参数的优劣，我们在求解参数时，追求损失函数最小，让模型在训练数据上的拟合效果最优。

二元逻辑回归的标签服从伯努利分布(即0-1分布):

我们可以将一个特征向量为x，参数为θ的模型中的一个样本i的预测情况表现为如下形式：

• 样本i在由特征向量x和参数θ组成的预测函数中，样本标签被预测为1的概率为：
• 样本i在由特征向量x和参数θ组成的预测函数中，样本标签被预测为0的概率为：
  当$P_1$被的值为1的时候，代表样本i的标签被预测为1，当$P_0$的值为1的时候，代表样本i的标签被预测为0。

样本i的真实标签$y_i$为1：

• 如果$P_1$为1，$P_0$为0，就代表样本i的标签被预测为1，与真实值一致。模型预测正确没有信息损失。
• 如果$P_1$此时为0，$P_0$为1，就代表样本i的标签被预测为0，与真实情况完全相反。预测错误有损失信息。
  同理真实值$y_i$为0的情况，所以希望当 $y_i$为1的时候，我们希望$P_1$非常接近1，当 $y_i$为0的时候，我们希望$P_0$非常接近1，这样，模型的效果就很好，信息损失就很少。

将两种取值的概率整合，我们可以定义如下等式：

$\widehat{y_i}预测值$，当预测值与真实值一样时，上式是1的，表示预测真确，所以我们在追求$P(\widehat{y_i}|x_i,\theta )$的最大值。这就将模型拟合中的“最小化损失”问题，转换成了对函数求解极值的问题。
$P(\widehat{y_i}|x_i,\theta )$是对单个样本i而言的函数，对一个训练集的m个样本来说，我们可以定义如下等式来表达所有样本在特征矩阵X和参数θ组成的预测函数中，预测出所有可能的$\hat{y}$的概率P为：
这就是我们的交叉熵函数。为了数学上的便利以及更好地定义”损失”的含义，我们希望将极大值问题转换为极小值问题，因此我们对$\log P$取负，并且让参数θ作为函数的自变量，就得到了我们的损失函数:这就是一个，基于逻辑回归的返回值$y_{\theta }(x_i)$的概率性质得出的损失函数。在这个函数上，我们只要追求最小值，就能让模型在训练数据上的拟合效果最好，损失最低。

正则化

正则化是用来防止模型过拟合的过程，常用的有L1正则化和L2正则化两种选项，分别通过在损失函数后加上参数向量 的L1范式和L2范式的倍数来实现。
这个增加的范式，被称为“正则项”，也被称为"惩罚项"。损失函数改变，基于损失函数的最优化来求解的参数取值必然改变，我们以此来调节模型拟合的程度。

L1范数：Loss function 加上 参数的绝对值之和，可以起到一个特征筛选的作用，使得某些参数直接为0。
L2范数：Loss function 加上 参数的绝对值平方之和，可以使Loss function更加平缓，防止出现过拟合，但只能使参数接近于0，不能为0，不能特征筛选。

---

sklearn里面的逻辑回归

1. 类：linear_model.LogisticRegression
2. 参数：
   
   
3. 属性

4. 接口

参数很多，但只需要理解下面常用的即可：

1. 正则化相关

参数	说明
penalty	可以输入"l1"或"l2"来指定使用哪一种正则化方式，不填写默认"l2"。 注意，若选择"l1"正则化，参数solver仅能够使用求解方式”liblinear"和"saga“，若使用“l2”正则化，参数solver中所有的求解方式都可以使用。
C	C正则化强度的倒数，必须是一个大于0的浮点数，不填写默认1.0，即默认正则项与损失函数的比值是1：1。C越小，损失函数会越小，模型对损失函数的惩罚越重，正则化的效力越强，参数会逐渐被压缩得越来越小。

sklearn里面L1和L2的公式：

导入库：

from sklearn.linear_model import LogisticRegression as LR # 逻辑回归
from sklearn.datasets import load_breast_cancer # 乳腺癌数据集
import numpy as np
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split # 划分测试集和训练集
from sklearn.metrics import accuracy_score  # 精确性，模型评估指标之一

data = load_breast_cancer() # 数据集
X = data.data # 特征
y = data.target # 标签

lrl1 = LR(penalty="l1",solver="liblinear",C=0.5,max_iter=1000) # L1范数
lrl2 = LR(penalty="l2",solver="liblinear",C=0.5,max_iter=1000) # L2范数

lrl1 = lrl1.fit(X,y) 
lrl2 = lrl2.fit(X,y)

通过coef_属性，查看每个特征所对应的参数：


L1和L2模型训练的效果比较：

l1 = []
l2 = []
l1test = []
l2test = []
Xtrain, Xtest, Ytrain, Ytest = train_test_split(X,y,test_size=0.3,random_state=420)
for i in np.linspace(0.05,1,19):
    lrl1 = LR(penalty="l1",solver="liblinear",C=i,max_iter=1000)
    lrl2 = LR(penalty="l2",solver="liblinear",C=i,max_iter=1000)

    lrl1 = lrl1.fit(Xtrain,Ytrain)
    l1.append(accuracy_score(lrl1.predict(Xtrain),Ytrain))
    l1test.append(accuracy_score(lrl1.predict(Xtest),Ytest))
    lrl2 = lrl2.fit(Xtrain,Ytrain)
    l2.append(accuracy_score(lrl2.predict(Xtrain),Ytrain))
    l2test.append(accuracy_score(lrl2.predict(Xtest),Ytest))

graph = [l1,l2,l1test,l2test]
color = ["green","black","lightgreen","gray"]
label = ["L1","L2","L1test","L2test"]
plt.figure(figsize=(6,6))
for i in range(len(graph)):
    plt.plot(np.linspace(0.05,1,19),graph[i],color[i],label=label[i])
plt.legend(loc=4) #图例的位置在哪里?4表示，右下角
plt.show()

两种正则化的结果区别不大。但随着C的逐渐变大，正则化的强度越来越小，模型在训练集和测试集上的表现都呈上升趋势，直到C=0.8左右，训练集上的表现依然在走高，但模型在未知数据集上的表现开始下跌，这时候就是出现了过拟合。我们可以认为，C设定为0.8会比较好。在实际使用时，基本
就默认使用l2正则化，如果感觉到模型的效果不好，那就换L1试试看。

2. 重要参数max_iter：最大的迭代次数【进行梯度下降找最小值的迭代次数】
   参数max_iter最大迭代次数来代替步长（lreaning rate），帮助我们控制模型的迭代速度并适时地让模型停下。max_iter越大，代表步长越小，模型迭代时间越长，反之，则代表步长设置很大，模型迭代时间很短。
   

来看看乳腺癌数据集下，max_iter的学习曲线：

循环迭代次数

l2 = []
l2test = []
Xtrain, Xtest, Ytrain, Ytest = train_test_split(X,y,test_size=0.3,random_state=420)
for i in np.arange(1,201,10):
    lrl2 = LR(penalty="l2",solver="liblinear",C=0.9,max_iter=i)
    lrl2 = lrl2.fit(Xtrain,Ytrain)
    l2.append(accuracy_score(lrl2.predict(Xtrain),Ytrain))
    l2test.append(accuracy_score(lrl2.predict(Xtest),Ytest))

画出迭代次数与准确率的图

graph = [l2,l2test]
color = ["black","gray"]
label = ["L2","L2test"]

plt.figure(figsize=(20,5))
for i in range(len(graph)):
    plt.plot(np.arange(1,201,10),graph[i],color[i],label=label[i])

plt.legend(loc=4)
plt.xticks(np.arange(1,201,10))
plt.show()

#我们可以使用属性.n_iter_来调用本次求解中真正实现的迭代次数
lr = LR(penalty="l2",solver="liblinear",C=0.9,max_iter=300).fit(Xtrain,Ytrain)
lr.n_iter_

最大的迭代次数，并不是说就会迭代这么多次，如果梯度下降找到了局部最优点就会停止：

3. 重要参数solver & multi_class ：【二元回归与多元回归】

上面都是针对二分类的逻辑回归展开，其实sklearn提供了多种可以使用逻辑回归处理多分类问题的选项。比如说，我们可以把某种分类类型都看作1，其余的分类类型都为0值，和”数据预处理“中的二值化的思维类似，这种方法被称为"一对多"(One-vs-rest)，简称OvR，在sklearn中表示为“ovr"。又或者，我们可以把好几个分类类型划为1，剩下的几个分类类型划为0值，这是一种”多对多“(Many-vs-Many)的方法，简称MvM，在sklearn中表示为"Multinominal"。每种方式都配合L1或L2正则项来使用。

在sklearn中，我们使用参数multi_class来告诉模型，我们的预测标签是什么样的类型。

• “auto”：表示会根据数据的分类情况和其他参数来确定模型要处理的分类问题的类型。比如说，如果数据是二分类，或者solver的取值为"liblinear"，“auto"会默认选择"ovr”。反之，则会选择"nultinomial"。【默认】
• “ovr”:表示分类问题是二分类，或让模型使用"一对多"的形式来处理多分类问题。
• ‘multinomial’：表示处理多分类问题，这种输入在参数solver是’liblinear’时不可用。

multinomial和ovr的区别：【鸢尾花数据集】

from sklearn.datasets import load_iris
iris = load_iris()
for multi_class in ('multinomial', 'ovr'):
    clf = LR(solver='sag', max_iter=200, random_state=42,
    multi_class=multi_class).fit(iris.data, iris.target)
#打印两种multi_class模式下的训练分数
#%的用法，用%来代替打印的字符串中，想由变量替换的部分。%.3f表示，保留三位小数的浮点数。%s表示，字符串。
#字符串后的%后使用元祖来容纳变量，字符串中有几个%，元祖中就需要有几个变量
    print("training score : %.3f (%s)" % (clf.score(iris.data, iris.target), multi_class))

多项式逻辑回归

上文逻辑回归是在平面上找一条直线，用这条直线来分割所有样本对应的分类。

从图片中可以看得，一条直线不可能将红蓝点完全分隔开，可以采用多项式，不使用直线来分割，尽可能的提高分类的准确率。

多项式实现：

from sklearn.pipeline import Pipeline
from sklearn.linear_model import LogisticRegression
#专门产生多项式的，并且多项式包含的是相互影响的特征集。
from sklearn.preprocessing import PolynomialFeatures
from sklearn.model_selection import train_test_split

#增加多项式预处理
def polynomial_model(degree=1,**kwarg):
    polynomial_features = PolynomialFeatures(degree=degree,include_bias=False)
    logistic_regression = LogisticRegression(solver='liblinear',**kwarg)
    #solver的默认参数是'lbfgs'，只支持L2，要改成'liblinear'，L1，L2都能支持
    pipeline = Pipeline([("polynomial_features",polynomial_features),
    ("logistic_regression",logistic_regression)])
    return pipeline

X_train, X_test, y_train, y_test = train_test_split(data_X, data_y, random_state=666)
#增加二阶多项式特征，创建并训练模型
model=polynomial_model(degree=2,penalty='l1',max_iter=1000)#使用L1范式作为正则项，进行稀疏化
model.fit(X_train,y_train)#训练模型
# 结果可视化
plot_decision_boundary(model, axis=[0, 100, 0, 100])
plt.scatter(data_X[data_y == 0, 0], data_X[data_y == 0, 1], color='red')
plt.scatter(data_X[data_y == 1, 0], data_X[data_y == 1, 1], color='blue')
plt.xlabel('成绩1')
plt.ylabel('成绩2')
plt.title('两门课程成绩与是否录取的关系')
plt.show()

从图片中可以看到采用多项式之后，基本能够完全分隔开红蓝两类，至少准确率要比之前的高。

---