![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 80
Bona125
这个作者很懒,什么都没留下…
展开
-
决策树的理解
概要 分类决策树模型是表示基于特征对实例进行分类的树形结构。决策树可以转换成一个if-then规则的集合,也可以看作是定义在特征空间划分上的类的条件概率分布。 决策树旨在构建一个与训练数据拟合很好,并且复杂度小的决策树。因为从可能的决策树中直接选取最优决策树是NP完全问题。实际应用中采用启发式的方法学习次优的决策树。 决策树学习算法包括三部分:特征选择、树的生成和树的剪枝。常用的算法有ID3...原创 2018-08-13 21:04:50 · 1694 阅读 · 0 评论 -
bagging与boosting的偏差bias与方差variance
1. 模型的偏差以及方差: 模型的偏差:是一个相对来说简单的概念:训练出来的模型在训练集上的准确度。 模型的方差:模型是随机变量。设样本容量为n的训练集为随机变量的集合(X1, X2, ..., Xn),那么模型是以这些随机变量为输入的随机变量函数(其本身仍然是随机变量):F(X1, X2, ..., Xn)。抽样的随机性带来了模型的随机性。 我们认为方差越大的模型越容易过拟合:假设有两个训...转载 2018-10-04 21:10:42 · 1063 阅读 · 0 评论