![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习经典算法
present_shu
这个作者很懒,什么都没留下…
展开
-
决策树及其python实现
1. 简介决策树是基于树结构来进行决策的。一颗决策树包含一个根结点、若干个内部结点和若干个叶结点,叶结点对应于决策结果,根结点包含样本全集。决策树学习的基本思想是“分而治之”。决策树的生成是一个递归过程,有三种情形会导致递归返回:(1)当前结点包含的样本全属于同一类别,无需划分;(2)当前属性集为空,无法划分;(3)当前结点包含的样本集合为空,不能划分。在第(1)种情形下,决策树只有一个根...原创 2019-01-31 02:35:15 · 945 阅读 · 0 评论 -
正则化和交叉验证
正则化简介偏差:描述的是预测值(估计值)的期望与真实值之间的差距。偏差越大,越偏离真实数据集。方差:描述的是预测值的变化范围,离散程度,也就是离其期望值的距离。方差越大,预测结果数据的分布越散。High Bias(高偏差)就是欠拟合,High Variance(高方差)就是过拟合。在损失函数上添加了正则化项,可以对模型中的参数进行约束,从而降低模型的过拟合程度。正则化项一般是模型复杂度的...原创 2019-03-05 14:46:01 · 1013 阅读 · 0 评论