2018年09月_nextdoor6

原创决策树算法

决策树算法决策树本质上是通过一系列规则对数据进行分类的过程。如何构造精度高、规模小的决策树是决策树算法的核心内容。决策树学习通常包括3个步骤：特征选择、决策树的生成和决策树的修剪。特征选择：通过一种衡量标准，来计算通过不同特征进行分支选择后的分类情况，找出来最好的那个当成根节点，以此l类推，而衡量的标准就是熵。计算公式熵值不确定性越大，得到的熵值也就越大。当p=0或...

2018-09-29 22:55:46 404

原创机器学习中欠拟合和过拟合/上采样和下采样

过拟合和欠拟合机器学习模型在训练数据集上表现出的误差叫做训练误差，在任意一个测试数据样本上表现出的误差的期望值叫做泛化误差。欠拟合under-fitting：机器学习模型无法得到较低训练误差。过拟合over-fitting：机器学习模型的训练误差远小于其在测试数据集上的误差。但是训练误差的降低不一定意味着泛化误差的降低。机器学习既需要降低训练误差，又需要降低泛化误差。图像表示...

2018-09-27 21:28:05 23475 3

原创机器学习中模型评估方法

交叉验证什么是交叉验证(CV)交叉验证的基本思想是把在某种意义下将原始数据(dataset)进行分组,一部分做为训练集(train set),另一部分做为验证集(validation set or test set),首先用训练集对分类器进行训练,再利用验证集来测试训练得到的模型(model),以此来做为评价分类器的性能指标。交叉验证的分类1.随机抽样验证(Hold-OutMeth...

2018-09-24 21:54:29 471

转载机器学习项目实战交易数据异常检测

https://blog.csdn.net/u010057965/article/details/80614278

2018-09-24 18:24:39 362

原创 K-近邻算法(KNN)

K-近邻算法介绍如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。K-近邻算法是一种分类算法。K-近邻算法步骤k-近邻算法步骤如下：计算已知类别数据集中的点与当前点之间的距离；按照距离递增次序排序；选取与当前点距离最小的k个点；确定前k个点所在类别的出现频率；返回前k个点所出现频率最高的类别作为当前点的...

2018-09-18 13:47:33 263

原创逻辑回归算法

逻辑回归介绍逻辑回归（Logistic Regression）是用于处理因变量为分类变量的回归问题，常见的是二分类或二项分布问题，也可以处理多分类问题，它实际上是属于一种分类方法。如给的一封邮件，判断是不是垃圾邮件。逻辑回归一般是提供样本和已知模型求回归参数。逻辑回归算法模型以及模型推导将任意的输入映射到了[0,1]区间，我们在线性回归中可以得到一个预测值，再将该值映射到Sig...

2018-09-16 15:43:43 5426 1

原创线性回归算法

线性回归什么是线性回归如果我们能够建立了回归背后的数学模型，我们便可以根据输入变量来预测输出量。这个数学模型就是回归方程，里面的系数就是回归系数。求解这些回归系数的过程就是回归。一元线性回归一元回归的主要任务是从两个相关变量中的一个变量去估计另一个变量，被估计的变量，称因变量，可设为Y；估计出的变量，称自变量，设为X。回归分析就是要找出一个数学模型Y=f(X)，使得从X估计Y可以用...

2018-09-09 22:08:38 2608

原创常见的概率公式总结

1.古典概率般说来,如果在全部可能出现的基本事件范围内构成事件A的基本事件有a个,不构成事件A的事件有b个,则出现事件A的概率为:P(A)=a/(a+b)例子:同时掷两枚硬币，可能出现正正、反反、正反、反正四种可能的结果，每种可能出现概率1/42.条件概率公式描述：公式中P(AB)为事件AB的联合概率，P(A|B)为条件概率，表示在B条件下A的概率，P(B)为事件B的...

2018-09-08 23:58:46 70291

nextdoor6的博客