- 博客(8)
- 资源 (51)
- 收藏
- 关注
原创 支持向量机(SVM)三
感知机模型对应于特征空间中将实例划分为正负两类的分离超平面,但是,感知机的解却不止一个。对同一个数据集而言,可以计算得到很多的感知机模型,不同的感知机的 **训练误差** 都是一样的,都为0。那么,这些训练误差都为0的感知机模型中,如何针对当前数据集,选择一个最好的感知机模型呢?现在就需要考虑模型的 **泛化误差** 了。即,在所有训练误差为0的感知机中,选择泛化误差最小的那个感知机,这就是SVM算法最初的目的。
2016-07-31 16:55:05 4156 1
原创 支持向量机(SVM)二
感知机模型对应于特征空间中将实例划分为正负两类的分离超平面,但是,感知机的解却不止一个。对同一个数据集而言,可以计算得到很多的感知机模型,不同的感知机的 **训练误差** 都是一样的,都为0。那么,这些训练误差都为0的感知机模型中,如何针对当前数据集,选择一个最好的感知机模型呢?现在就需要考虑模型的 **泛化误差** 了。即,在所有训练误差为0的感知机中,选择泛化误差最小的那个感知机,这就是SVM算法最初的目的。
2016-07-31 16:53:33 4404
原创 支持向量机(SVM)一
感知机模型对应于特征空间中将实例划分为正负两类的分离超平面,但是,感知机的解却不止一个。对同一个数据集而言,可以计算得到很多的感知机模型,不同的感知机的 **训练误差** 都是一样的,都为0。那么,这些训练误差都为0的感知机模型中,如何针对当前数据集,选择一个最好的感知机模型呢?现在就需要考虑模型的 **泛化误差** 了。即,在所有训练误差为0的感知机中,选择泛化误差最小的那个感知机,这就是SVM算法最初的目的。
2016-07-31 16:51:51 8142 1
原创 机器学习算法:从原理到实践(持续更新中...)
@author : duanxxnj@163.com @first update time : 2016-07-11 @last update time : 2016-07-11根据scikit-learn的目录,从原理到代码实现,对机器学习算法做说明。参考书目: 《pattern recognition 4th》 《pattern Classification 2th》 《Pattern
2016-07-11 18:21:44 10467
原创 线性判别分析(Linear Discriminant Analysis)
从贝叶斯公式出发,得到了线性判别分析的公式,这里从另外一个角度来看线性判别分析,也就是常说的Fisher判别式。其实Fisher判别式就是线性判别分析(LDA),只是在讨论Fisher判别式的时候,更侧重于LDA的数据降维的能力。
2016-07-11 16:34:37 77067 12
原创 稳健回归(Robustness regression)
之前文章里的关于线性回归的模型,都是基于最小二乘法来实现的。但是,当数据样本点出现很多的异常点(outliers),这些异常点对回归模型的影响会非常的大,传统的基于最小二乘的回归方法将不适用。
2016-07-08 09:27:06 55931 4
原创 感知机(Perceptron)
之前的线性回归的概率解释中,假设样本的概率密度函数的参数形式是已知的,然后需要基于样本,使用参数估计的方法来估计概率密度函数的参数值;这里的感知机算法和前一篇文章《LR回归》,都是直接假设判别函数的参数形式是已知的,然后基于训练样本,来估计判别函数的参数值,被称为判别式方法。感知机所得到的是一个线性判别函数。而一般来说,寻找线性判别函数的问题,会被形式化为极小化准则函数的问题,以分类为目的的准则函数可以是样本的风险函
2016-07-04 16:47:34 7552 2
原创 逻辑斯蒂回归(Logistic Regression)
LR回归,虽然这个算法从名字上来看,是回归算法,但其实际上是一个分类算法,学术界也叫它logit regression, maximum-entropy classification (MaxEnt)或者是the log-linear classifier。在机器学习算法中,有几十种分类器,LR回归是其中最常用的一个。
2016-07-03 19:57:32 36600 5
Duanxx 的MLearning:Software and Tools for Windows
2014-09-11
Duanxx的MDK学习:自动补全功能
2014-08-29
Duanxx的Vs2012使用技巧学习
2014-08-04
Duanxx的OpenCV学习:OpenCV4.9+vld+VS2012环境搭建
2014-08-04
Duanxx的Java学习:关键字Static详解
2014-08-04
Duanxx的HEVC学习(三)HEVC编码框架(一)框架说明
2014-08-04
Duanxx的HEVC学习(二)HEVC测试代码环境搭建
2014-08-04
Win7安装交叉编译环境
2015-09-15
SR518产品手册
2014-11-13
计算机图形学 第三版源码 ch7source
2014-10-11
计算机图形学 第三版源码 ch6source
2014-10-11
计算机图形学 第三版源码 ch5source
2014-10-11
计算机图形学 第三版源码 ch3source
2014-10-11
计算机图形学 第三版源码ch2source
2014-10-11
XKT-510规格书中文
2014-10-01
XKT-510规格书英文
2014-10-01
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人