一、决策树
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/0e30295d5f49dfe1c0147bb5e60c88a9.png#pic_center)
二、随机森林
- 定义:多棵随机数用随机的方式建立一个森林,决策树间是没有关联的。(集成算法)
- 目的:多棵树同时进行判断,并以少数服从多数的方式输出最后结果,提高准确度。(民主的投票表决比独裁的判断,犯错的概率要小很多!)
- 训练方式:每棵树训练的时候,随机有放回地取全部数据的一部分进行学习。
Why每次只取部分数据? 随机的本质,为防止数据相同导致所有树的判断结果类似,避免失去民主投票意义。
参考
深入浅出理解决策树算法(一)-核心思想
深入浅出理解决策树算法(二)-ID3算法与C4.5算法
决策树算法原理(CART分类树)