- 博客(2)
- 收藏
- 关注
原创 决策树、bagging、boosting算法思想
本文内容主要以算法思想为主,介绍决策树原理,从决策树迁移到集成学习主要是由于随机森林比较好使,引出了bagging和它的亲戚boosting。有趣的思想包括:决策树的信息熵、随机森林的泛化性能、boosting的改变样本分布与前向分步思想1.决策树人类判断的机制:由上及下逐级决策,将大问题化为多个子问题。决策树机制:选择不同的划分属性,将问题逐步划分建成一棵树状图。由根结点(原始问...
2018-10-17 17:04:16 1641
原创 交叉验证法及Bootstrap采样
一、Cross Validation(交叉验证)1. 解决的问题用于验证分类器的性能的数据分析方法,可以抽样(抽取合适的训练集和测试集)、可以评估模型(计算模型的预测误差)。2. 如何解决基本原理:将原始数据分组,一部分做训练集,一部分做测试集。如k-fold cross validation均分成n组,抽取一组为测试集,剩下n-1组为训练集,依次抽遍,测试结果取预测误差平均值
2018-01-23 11:08:51 12661 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人