集成学习与Python

一、基本概念

集成方法（ensemble method）的目标是：将不同的分类器组合成一个元分类器，与包含于其中的单个分类器相比，元分类器具有更好的泛化性能。通常基于多数投票原则。

       假定二类别分类中的n个成员分类器有相同的出错率ε，并且各分类器相互之间独立。

1. # Title     : TODO  
   # Objective : TODO  
   # Created by: Chen Da  
   # Created on: 2018/9/14  
     
   from scipy.misc import comb  
   import math  
     
   def ensemble_error(n_classifier,error):  
       ''''' 
       成员分类器集成后的概率密度函数 
       :param n_classifier: 分类器数目 
       :param error: 单个分类器出错率 
       :return: 
       '''  
       k_start = math.ceil(n_classifier / 2)  
       probs = [comb(n_classifier,k) *  
                error**k *  
                (1-error)**(n_classifier - k)  
                for k in range(k_start, n_classifier + 1)]  
       return sum(probs)  
     
   print(ensemble_erro