机器学习之十大经典算法（五） AdaBoost算法

机器学习之十大经典算法（五） AdaBoost算法

一、AdaBoost算法简介：

Adaboost 是一种迭代算法，本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器(强分类器)。其算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。将修改过权值的新数据集送给下层分类器进行训练，最后将每次训练得到的分类器最后融合起来，作为最后的决策分类器。

对于boosting算法，需要解决好两个主要问题：　　

1. 如何调整训练集，使得在训练集上训练的弱分类器得以进行； 　　

2. 如何将训练得到的各个弱分类器联合起来形成强分类器。

整个过程如下所示：

1. 先通过对 N 个训练样本的学习得到第一个弱分类器 ；

2. 将分错的样本和其他的新数据一起构成一个新的N 个的训练样本，通过对这个样本的学习得到第二个弱分类器；

3. 将 和 都分错了的样本加上其他的新样本构成另一个新的 N个的训练样本，通过对这个样本的学习得到第三个弱分类器；

4. 如此反复，最终得到经过提升的强分类器。

Adaboost是一种有很高精度的分类器，优点：

（1）可以使用各种方法构建子分类器,Adaboost算法提供的是框架。

（2）利用简单分类器进行组合，计算出的结果是可以理解的。

（3）简单，不用做特征筛选。

（4）不用担心overfitting(过拟合)。

目前 AdaBoost 算法广泛的应用于人脸检测、目标识别等领域。

二、AdaBoost算法实现原理：

1. 给定训练样本集S，其中X和Y分别对应于正例样本和负例样本；T为训练的最大循环次数；

2. 初始化样本权重为1/n ，即为训练样本的初始概率分布；　　

3. 第一次迭代：

(1)训练样本的概率分布相当，训练弱分类器;

(2)计算弱分类器的错误率;

(3)选取合适阈值，使得误差最小；

(4)更新样本权重； 　　

经T次循环后，得到T个弱分类器，按更新的权重叠加，最终得到的强分类器，具体思路大家可以参考相关文献资料，这里不赘述了。

三、Sklearn中Adaboost算法实现代码。

scikit-learn中Adaboost类库比较直接，就是AdaBoostClassifier和AdaBoostRegressor两个，从名字就可以看出AdaBoostClassifier用于分类，AdaBoostRegressor用于回归。其中，AdaBoostClassifier使用了两种Adaboost分类算法的实现，SAMME和SAMME.R。而AdaBoostRegressor则使用了我们原理篇里讲到的Adaboost回归算法的实现，即Adaboost.R2。

基本步骤：

①选择数据：将你的数据分成三组：训练数据、验证数据和测试数据

②模型数据：使用训练数据来构建使用相关特征的模型

③验证模型：使用你的验证数据接入你的模型

④测试模型：使用你的测试数据检查被验证的模型的表现

⑤使用模型：使用完全训练好的模型在新数据上做预测

⑥调优模型：使用更多数据、不同的特征或调整过的参数来提升算法的性能表现

   写了个AdaBoost类方便大家使用，代码如下：

# -*- coding: utf-8 -*-

"""

jcy 2018.6.5

"""

import numpy as np

import matplotlib.pyplot as plt

from sklearn.ensemble importAdaBoostClassifier

from sklearn.tree importDecisionTreeClassifier

from sklearn.datasets importmake_gaussian_quantiles

 

class MyAdaBoost:

   def __init__(self,moudle=AdaBoostClassifier()):

       self.moudle=moudle

   def loadSet(self):

       X1, y1 = make_gaussian_quantiles(cov=2.0,n_samples=600,n_features=2,n_classes=2, random_state=1)

       # 生成2维正态分布，生成的数据按分位数分为两类，600个样本,2个样本特征均值都为3，协方差系数为2

       X2, y2 = make_gaussian_quantiles(mean=(4, 4), cov=1.5,n_samples=600,n_features=2, n_classes=2, random_state=3)

       X = np.concatenate((X1, X2))         #将两组数据合成一组数据，默认按列合并。

       y = np.concatenate((y1, - y2 + 1))   #将两组数据合成一组数据，默认按列合并。

       plt.scatter(X[:, 0], X[:, 1], marker='8', c=y)

       self.X = np.array(X)

       self.y = np.array(y)

   def data_select_train_test(self): 

       from sklearn import cross_validation

       self.X_train, self.X_test, self.y_train, self.y_test =cross_validation.train_test_split(self.X,self.y, test_size=0.25,random_state=5)

   def fit_X_Complete(self):   

       self.moudle.fit(self.X, self.y)

       self.y_pred = self.moudle.predict(self.X)

       print("Score:",self.moudle.score(self.X,self.y))

   def fit_X_train(self):   

       self.moudle.fit(self.X_train, self.y_train)

       self.y_test_pred = self.moudle.predict(self.X_test)

   def Plot_Meshgrid(self):

       x_min, x_max = self.X[:, 0].min() - 1, self.X[:, 0].max() + 1

       y_min, y_max = self.X[:, 1].min() - 1, self.X[:, 1].max() + 1

       xx, yy = np.meshgrid(np.arange(x_min, x_max, 0.02),np.arange(y_min,y_max, 0.02))       

       Z = self.moudle.predict(np.c_[xx.ravel(), yy.ravel()])

       Z = Z.reshape(xx.shape)

       cs = plt.contourf(xx, yy, Z, cmap=plt.cm.Paired)

       plt.scatter(X[:, 0], X[:, 1], marker='o', c=y)

       plt.show()

bdt =AdaBoostClassifier(DecisionTreeClassifier(max_depth=2, min_samples_split=20,min_samples_leaf=5),

                        algorithm="SAMME",n_estimators=200, learning_rate=0.8)

Mybdt=MyAdaBoost(bdt)

Mybdt.loadSet()

Mybdt.fit_X_Complete()

Mybdt.Plot_Meshgrid()

 

dictD1={'algorithm':"SAMME",'n_estimators':300,'learning_rate':0.8}

dictD2={'algorithm':"SAMME",'n_estimators':300,'learning_rate':0.5}

dictD3={'algorithm':"SAMME",'n_estimators':600,'learning_rate':0.7}

 

for yy in["dictD1","dictD2","dictD3"]:

   bdt = AdaBoostClassifier(DecisionTreeClassifier(max_depth=2,min_samples_split=20, min_samples_leaf=5),

                         **eval(yy))

   Mybdt.moudle=bdt

   Mybdt.fit_X_Complete()