随机森林

1.随机森林中的多个模型，当然可以多选几个模型
for i in xrange(numberOfTrees):
    bag = data.getBag()
    self.forest.append(C45Tree(bag))

2. 随机选数据来训练每一个模型

def getBag(self, seed=0):
    #Set the seed if necessary
    if seed != 0:
        random.seed(seed)

    bag = []

    #Create the bag
    for i in range(0, len(self.data)):
        bag.append(random.choice(self.data))

    #TrainingData bag 
    bagSet = TrainingData("bag", bag)
    return bagSet

随机且有放回地从训练集中的抽取N个训练样本（这种采样方式称为bootstrap sample方法）