- 博客(6)
- 资源 (5)
- 收藏
- 关注
原创 贝叶斯决策、朴素贝叶斯、贝叶斯估计
概述在日常学习之中,我们经常能见到各种带有“贝叶斯”的词语,例如贝叶斯决策、朴素贝叶斯、贝叶斯估计,有时就会在诸如机器学习或者模式识别的课程上遇到它们中的一两个,学习的时候能把其中某个弄得清清楚楚,时间一长,反而这几个就有些混淆了,因此,集中进行学习整理。总结来说,朴素贝叶斯包含于贝叶斯决策,贝叶斯决策与贝叶斯估计的任务不同,它们都是基于贝叶斯定理去解决不同的问题;贝叶斯决策任务在于学习一个分类器,
2017-11-18 15:54:18 3137
原创 决策树笔记-CART算法
概述CART算法的提出比IDE3和C4.5还要早,它既可以应用于回归问题,也可以应用于分类问题。相同于IDE3和C4.5,CART算法也由以下两步组成: 1. 决策树生成 2. 决策树剪枝CART决策树的生成回归树的生成回归问题中,模型的输入输出都是连续的。 假设XX和YY分别为输入和输出变量,给定训练数据集: D=(x1,y1),(x2,y2),...,(xN,yN)D={(x_1,y_1
2017-11-17 11:41:27 884
原创 决策树笔记
概述决策树的生成特征选择信息增益熵条件熵信息增益信息增益比决策树的生成IDE3算法C45算法决策树的剪枝说明概述决策树是一种用来做分类的树形结构。 决策树的节点分为两种,内部节点和叶节点。内部节点表示一个特征或属性,叶节点表示分类结果。用决策树进行分类时,从根节点开始,对待分类实例的某一特征进行测试,根据测试结果将实例分配到子节点,如此递归进行下去,直到达到叶节点,即完成分
2017-11-16 14:23:50 613
原创 支持向量机笔记-软间隔支持向量机
支持向量机概述符号定义硬间隔支持向量机软间隔支持向量机对应的最优化问题回顾硬间隔支持向量机的优化问题改进以获得软间隔支持向量机优化问题优化问题最终形式学习算法算法原理说明支持向量机概述支持向量机的基础是定义在特征空间上的间隔最大的线性分类器。当训练数据线性可分时,通过硬间隔最大化学习一个线性分类器;当训练数据近似线性可分时,通过软间隔最大化学习一个线性分类器;当训练数据线性不可分
2017-11-14 12:22:10 1329 1
原创 支持向量机笔记-硬间隔支持向量机
概述符号定义硬间隔支持向量机函数距离几何距离几何间隔和函数间隔间隔最大化对应的最优化问题求解间隔最大化对应的最优化问题软间隔支持向量机核函数概述支持向量机的基础是定义在特征空间上的间隔最大的线性分类器。当训练数据线性可分时,通过硬间隔最大化学习一个线性分类器;当训练数据近似线性可分时,通过软间隔最大化学习一个线性分类器;当训练数据线性不可分时,通过使用核
2017-11-13 14:48:36 1374
原创 理解正则化项l1和l2的区别
防止过拟合的思路防止过拟合的思路就是让模型别那么复杂,简单点。 那么怎么能让模型简单点呢?有两个思路:减少参数的数量可想而知,参数越少模型越简单。减小参数的绝对值参数数量越少模型越简单,为什么参数绝对值越小模型越简单呢? 一个复杂的、容易过拟合的模型相比一个简单的、泛化能力更好的模型,往往表现为坑坑洼洼,没有后者平滑;平滑的模型,其导数绝对值(坡度)往往较小,而坑坑洼洼的模型,相对来说存在更多的
2017-11-05 20:53:26 1598 2
直方图均衡化和线性变换(带简单界面)
2015-04-20
Thinking in C++.english
2014-05-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人