- 博客(6)
- 收藏
- 关注
RSS订阅原创 机器学习-回归树
回归树树形算法的基础就是决策树。决策树因其易理解、易构建、速度快的特性，被广泛应用于统计学、数据挖掘、机器学习领域。根据处理数据类型的不同，决策树又分为两类:· 分类决策树: 处理离散型数据· 回归决策树: 处理连续型数据决策树实际上是将空间用超平面进行划分的一种方法，每次分割的时候，都将当前的空间一分为二， 这样使得每一个叶子节点都是在空间中的一个不相交的区域，在进行决策的时候，会根据输入样本每一维feature的值，一步一步往下，最后使得样本落入N个区域中的一个（假设有N个叶子节点），如下
2021-04-01 21:15:59
449
原创 2021-03-29
EDA的流程如下：1、提出问题；2、筛选、清洗数据；3、分析数据；4、构建模型；5、得出结论；一、读取并分析数据质量二、探索性分析每个变量1、变量是什么类型；2、变量是否有缺失值；3、变量是否有异常值；4、变量是否有重复值；5、变量是否均匀；6、变量是否需要转换三、探索性分析变量与标签的关系1、变量与标签是否存在相关性；2、变量与标签是否存在业务逻辑；四、探索变量之间的关系连续型变量与连续型变量;可视化：散点图、相关性热力图；离散变量与离散变量；可视化：柱状图、饼图
2021-03-29 22:42:16
80
原创 机器学习-CRAT
CRAT(Classification And Regression Tree)):分类树如果目标变量是离散变量，则是classfication Tree。分类树是使用树结构算法将数据分成离散类的方法。回归树如果目标是连续变量，则是Regression Tree。CART树是二叉树，不像多叉树那样形成过多的数据碎片。原理: 它采用一种二分递归分割的技术，分割方法采用基于最小距离的基尼指数估计函数，将当前的样本集分为两个子样本集，使得生成的的每个非叶子节点都有两个分支。因此，CART算法生成的决
2021-03-25 22:21:41
417
2
原创 机器学习-决策树
决策树分类决策树是一种树形结构，其中每个内部节点表示一个属性上的测试，每个分支代表一个测试输出，每个叶节点代表一种类别。决策树用于对新样本的分类，是通过决策树对新样本属性值的测试，从树的根结点开始，按照样本属性的取值，逐渐沿着决策树向下，直到树的叶结点，该叶结点表示的类别就是新样本的类别。决策树分类算法，及其原理决策树常用的算法有三种：ID3ID3算法使用信息增益为准则来选择划分属性根据样本子集属性取值的信息增益值的大小来选择决策属性，并根据该属性的不同取值生成决策树的分支，再对子集进行递
2021-03-24 20:22:40
335
原创 机器学习-模型评估方法
模型评估准确率（Accuracy）的定义是：对于给定的测试集，分类模型正确分类的样本数与总样本数之比；Accuracy = TP+TNTP+TN+FP+FN\frac{TP+TN}{TP+TN+FP+FN}TP+TN+FP+FNTP+TN导包：from sklearn.metrics import accuracy_score精确率（Precision）的定义是：对于给定测试集的某一个类别，分类模型预测正确的比例，或者说：分类模型预测的正样本中有多少是真正的正样本；Percision
2021-03-23 22:40:47
402
原创 机器学习-逻辑回归
过拟合产生的原因和解决方法过拟合定义:模型在训练集上表现的很好，但在测试集和新数据上的表现很差。训练集表现测试集表现结论不好不好欠拟合好不好过拟合好好适度拟合产生原因:模型复杂度过高，参数过多数量数据较小训练集和测试集分布不一致样本中的噪声数据干扰太大，导致模型过分记住噪声特征，反而忽略了真是的输入输出特征。训练集和测试集特征部分不一样(如果训练集和测试集使用了不同类型的数据集会出现这种情况)解决方法:降低模型复杂度 处理
2021-03-22 22:57:56
356
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人