Datawhale 集成学习 Task09：Boosting的思路和Adaboost算法

boosting的英文解释为：使增长；推动；改进；使兴旺。放在机器学习里是是一种可以用来减小监督式学习中偏差的机器学习算法。将弱学习器团结起来形成强学习器。

Boosting的基本概念
在PAC框架下，一个概念如果存在一个多项式的学习算法能够学习它，并且正确率很高，那么就称这个概念为强可学习的；一个概念如果存在一个多项式的学习算法能够学习它但正确率仅比随机猜测高一点，那么久城这个概念为弱可学习的。强可学习与弱可学习已被证明是等价的。

Adaboost算法进行建模：

AdaBoost算法是Adaptive Boost的简称，Boosting通过将一系列弱学习器组合起来，通过集成这些弱学习器的学习能力，得到一个强学习器。具体到AdaBoost算法，AdaBoost在之前学习器的基础上改变样本的权重，增加那些之前被分类错误的样本的比重，降低分类正确样本的比重，这样之后的学习器将重点关注那些被分类错误的样本。最后通过将这些学习器通过加权组合成一个强学习器，具体的，分类正确率高的学习器权重较高，分类正确率低的学习器权重较低。

本次案例我们使用一份UCI的机器学习库里的开源数据集：葡萄酒数据集，该数据集可以在 ( https://archive.ics.uci.edu/ml/machine-learning-databases/wine/wine.data )上获得。该数据集包含了178个样本和13个特征，从不同的角度对不同的化学特性进行描述，我们的任务是根据这些数据预测红酒属于哪一个类别。(案例来源《python机器学习(第二版》)