算法
文章平均质量分 89
linkin1005
呵呵
展开
-
斯坦福大学机器学习——支持向量机(2)
五、拉格朗日对偶(Lagrange duality)(1)拉格朗日算子如果我们需要求解形如这样的优化问题:原创 2014-10-10 09:20:49 · 2489 阅读 · 0 评论 -
斯坦福大学机器学习——支持向量机(3)
八、核(kernel)如果样本点为线性不可分,那么,需要将数据映射到高维空间,使在原始空间内其线性可分变为线性可分。如下图所示:上文提到,分类器可以写成:}+b" alt="">那么,如果使用一种映射的方法,将低维数据映射到高维(),使得线性不可分变为线性可分。称为特征映射函数,这样,分类器就变为:}+b" alt="">(1)实例低维映射到高维能否原创 2014-11-10 12:06:02 · 3590 阅读 · 1 评论 -
斯坦福大学机器学习——EM算法求解高斯混合模型
EM算法(Expection-Maximizationalgorithm,EM)是一种迭代算法,通过E步和M步两大迭代步骤,每次迭代都使极大似然函数增加。但是,由于初始值的不同,可能会使似然函数陷入局部最优。下面来谈谈EM算法以及其在求解高斯混合模型中的作用。原创 2014-11-17 16:57:14 · 34899 阅读 · 5 评论 -
斯坦福大学机器学习——支持向量机(1)
首次听说SVM是在实验室的科研进展报告上听杨宝华老师提到过,当时听得云里雾里,觉得非常的高大上。随后在辜丽川老师的人工智能作业上我也选择介绍SVM。但都是浅显的认识,没有继续深入。最近看了Andrew Ng的讲义和v_JULY_v大神的博文《支持向量机通俗导论(理解SVM的三层境界)》才算对基本概念有所了解。下面对SVM的基本概念进行总结。简介SVM是Support Vector Ma原创 2014-09-25 09:18:38 · 3030 阅读 · 0 评论 -
斯坦福大学机器学习——线性回归(Linear Regression)
一、概念线性回归是利用称为线性回归函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。线性回归函数则是一个或多个称为回归系数的模型参数的线性组合。二、用途当结论或者类是数值,并且所有训练样本都为数值时,可以使用线性回归的方法。线性回归主要用途是预测,线性回归可以利用训练集拟合出一个预测模型。当完成这样一个模型以后,对于一个新增的x值,在没有给定与它相配对的y的情况下,可以原创 2014-09-10 22:28:21 · 4742 阅读 · 0 评论 -
斯坦福大学机器学习——K-means算法
k-means通过设置重心和移动中心两个简答的步骤,就实现了数据的聚类。下面就来介绍下k-means算法。一、 数值属性距离度量度量数值属性相似度最简单的方法就是计算不同数值间的“距离”,如果两个数值之间“距离”比较大,就可以认为他们的差异比较大,而相似度较低;换而言之,如果两数值之间“原创 2014-09-16 09:11:06 · 3992 阅读 · 0 评论 -
斯坦福大学机器学习——logistic回归
Logistic回归是一种最常见的二分类算法,它利用已知样本对模型进行参数估计,属于监督算法。原创 2014-09-10 16:03:03 · 2679 阅读 · 0 评论 -
斯坦福大学机器学习——高斯判别分析
同朴素贝叶斯一样,高斯判别分析(Gaussian discriminant analysismodel, GDA)也是一种生成学习算法,在该模型中,我们假设y给定的情况下,x服从混合正态分布。通过训练确定参数,新样本通过已建立的模型计算出隶属不同类的概率,选取概率最大为样本所属的类。原创 2014-09-04 16:01:56 · 21579 阅读 · 0 评论 -
斯坦福大学机器学习——朴素贝叶斯
首次听说朴素贝叶斯是在吴军的google黑板报数学之美专题,统计语言模型一章中谈及。其后,吴信东在我们学院的《数据挖掘十大算法》中再次介绍。最近,在学习Andrew Ng的机器课程也介绍了朴素贝叶斯。既然这么重要,有必要将课程内容进行整理。一、 概念1) 贝叶斯模型贝叶斯模型是将两个事件之间的先验概率和后验概率建立起一座桥梁,即原创 2014-09-03 12:26:30 · 3606 阅读 · 0 评论 -
斯坦福大学机器学习——广义线性模型
同事提到了SPSS处理广义线性模型问题,今天就抽空对广义线性模型相关概念进行一番梳理。1.指数分布族指数分布族(Exponential Family)是这样一组分布:这些分布的概率密度函数可以表示成以下形式:其中,y是随机变量;h(x)称为基础度量值(base measure);称为自然参数(natural parameter),也称为规范参数(canonical pa原创 2014-08-22 11:35:08 · 7413 阅读 · 0 评论