- 博客(8)
- 收藏
- 关注
RSS订阅原创 决策树的特性及优缺点
决策树是一种树形结构，其中每个内部节点表示一个属性上的测试，每个分支代表一个测试输出，每个叶节点代表一种类别。 决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。 构建决策树采用贪心算法，只考虑当前纯度差最大的情况作为
2015-07-31 12:32:19
55508
原创 数据丢失处理方法
训练数据中样本特征值的部分缺失是很棘手的问题，很多文献致力于解决该问题，因为数据直接丢掉太可惜，重新获取代价也昂贵。一些可选的数据丢失处理方法包括：1、使用可用特征的均值来填补缺失值；2、使用特殊值来±真补缺失值，如-1;3、忽略有缺失值的样本；4、使用相似样本的均值添补缺失值；5、使用另外的机器学习算法预测缺失值。
2015-07-30 17:26:41
2866
原创 逻辑斯底回归的特征、多分类问题及过拟合问题
首先，Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题，此外还能解决非线性问题。LR分类器(Logistic Regression Classifier)目的就是从训练数据特征学习出一个0/1分类模型--这个模型以样本特征的线性组合作为自变量，使用logistic函数将自变量映射到(0,1)上。因此LR分类器的求解就是求解一组权值，当有一新样本过来时，首
2015-07-30 16:51:32
4036
原创 逻辑回归与决策树在分类上的区别
在讨论之前，让我们来看一下逻辑回归和决策树的主要差别：有些分歧是表面的，例如决策树可以对付缺失值，而逻辑回归需要挖掘人员预先对缺失数据进行处理。但实际上决策树同样要对缺失值做出某种假设和处理。例如CART在遇到一个变量中有缺失情况时，是用次级变量进行替换切分。这种做法在逻辑回归中也可以办到，但需要单独的编程。而在决策树中，这一步已经嵌入软件的算法引擎。从实质上看，决
2015-07-30 16:29:15
7519
1
原创 SVM 的推导、特点、优缺点、多分类问题及应用
关于SVM的推导网上有一大堆的资料可以参考，在这里就不在叙述了，重点讲解SVM的其他问题SVM有如下主要几个特点：(1)非线性映射是SVM方法的理论基础,SVM利用内积核函数代替向高维空间的非线性映射；(2)对特征空间划分的最优超平面是SVM的目标,最大化分类边际的思想是SVM方法的核心；(3)支持向量是SVM的训练结果,在SVM分类决策中起决定作用的是支持向量。(4)SV
2015-07-30 11:07:39
14959
原创 用python编写mapreduce版的wordcount程序
python版的mapreduce版的wordcount程序网上有很多，但是都或多或少的有问题，运行时基本上都会出错，从而导致本人走了不少弯路。经过本人的探索和实践，整理出了能正常运行的代码，并且附上几点需要注意的地方。1、代码整个编码阶段必须全过程在linux环境下编写，如果从windows拷贝过去，则会由于字符编码不一致，导致程序不能正常运行。2、如果运行./mapper.py时报错，
2015-07-30 09:02:10
1222
原创 无监督和有监督算法的区别
无监督和有监督的理解方法有很多，主要可以从以下几方面来理解：1、无监督与监督学习的区别在于一个无教学值，一个有教学值。但是，个人认为他们的区别在于无监督学习一般是采用聚簇等算法来分类不同样本。而监督学习一般是利用教学值与实际输出值产生的误差，进行误差反向传播修改权值来完成网络修正的。但是无监督学习没有反向传播修改权值操作。 2、样本全部带标记/样本全部不带标记··· PS:
2015-07-28 12:09:51
45028
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人