90-什么是集成学习

什么是集成学习

---

  我又要开始学习一种非常重要的机器学习算法：集成学习。那么什么是集成学习呢？
  
  之前有一部动画片叫做新世纪福音战士（EVA），里面有一个超级电脑 MAGI，这个超级电脑本身还有另外一个名字叫做三贤者。为什么叫做三贤者呢？这个超级电脑的作用就是在遇到重大选择的时候，这个电脑来给出具体的决策。但是它给出具体决策的方法是这样的：整个电脑有 3 个核心，可以理解成 3 个大脑。三个大脑是基于这个电脑的创作者，她是一位女性，她拥有三种不同的身份，分别是母亲，科学家和女性。它是通过三种不同的身份来进行决断的。由于身份不同视角不同，所以最终给出的决策也不相同，最后三种角色进行投票，少数服从多数。
  
  其实集成学习完全就是这样的思路，每一种机器学习算法的思路其实都略微不同，所以对于同一个问题，不同的算法可能给出不同的结果，那么在这种情况下，我们听哪种算法呢？此时我们完全可以把多个算法集中起来让不同算法对同一个问题都进行一下运算看最终结果是怎样的？最终少数服从多数，那么这就是集成学习的思路。
  
  其实生活中也有很多集成学习的例子。比如买东西找人推荐，通常我们不会只找一个人推荐，会找很多身边的朋友进行推荐看他们综合的意见。不仅仅是买东西，其他领域也是这样。比如说病情的确诊，通常我们去医院检查，医院给出的是检查报告，通过这个检查报告能够得出你到底是还有什么样的疾病？可能就会需要一些有经验的医生来进行确诊，此时通常对于一些比较大的疾病来说，可能我们就会倾向于去多跑几个医院，多找几个大夫，多看几个专家，听听不同的人针对同一份检测报告他们的意见是怎样的？
  
  sklearn 为我们提供了集成学习的接口：Voting Classifier。下面我们就具体编码看一下这样的集成学习是怎样实现的。
  

---

  具体代码见 90 什么是集成学习.ipynb