模式识别
文章平均质量分 94
HuFeiHu-Blog
知无涯者,虚心若愚,求知若饥,勇者天佑!
展开
-
机器学习资源大全中文版
我想很多程序员应该记得 GitHub 上有一个 Awesome - XXX 系列的资源整理。awesome-machine-learning 就是 josephmisiti 发起维护的机器学习资源列表,内容包括了机器学习领域的框架、库以及软件(按编程语言排序)。Awesome 系列虽然挺全,但基本只对收录的资源做了极为简要的介绍,如果有更详细的中文介绍,对相应开发者的帮助会更大。这也是我们发起转载 2016-11-26 13:01:24 · 1369 阅读 · 0 评论 -
机器学习常见算法分类汇总
机器学习常见算法分类汇总 2016-11-08 算法与数学之美原文出处:IT经理网 机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。本文为您总结一下常见的机器学习算法,以供您在工作和学习中参考。机器学习的算法很多。很多时候困惑人们都是,很多算法是一类算法,而有些算法又是从其他算法中延伸出来的。这里,我们从两个方面来给大家介绍转载 2016-11-26 13:00:22 · 966 阅读 · 0 评论 -
诠释数据降维算法:一文讲尽t-分布邻域嵌入算法(t-SNE)如何有效利用
摘要: t-分布领域嵌入算法(t-SNE, t-distributed Stochastic Neighbor Embedding )是目前一个非常流行的对高维度数据进行降维的算法, 由Laurens van der Maaten和 Geoffrey Hinton于2008年提出。这个算法已经在机器学习领域(文中所有截图,都有华丽的动态效果,详情请点击原文:http://distill转载 2016-11-26 12:42:55 · 5751 阅读 · 0 评论 -
机器学习数据挖掘-软件、网站、课程资源知识点汇总
以下文章转载自:http://blog.csdn.NET/zouxy09/article/details/8102252 ,感谢原作者!!!机器学习知识点学习zouxy09@qq.comhttp://blog.csdn.net/zouxy09 在学习机器学习的有关知识时,搜索到JerryLead的cnblog中的Machine Le转载 2016-11-22 17:02:30 · 1193 阅读 · 0 评论 -
谱聚类算法及其代码(Spectral Clustering)
本文转自:http://blog.csdn.net/liu1194397014/article/details/52990015简介文章将介绍谱聚类(spectral clustering)的基本算法,以及在matlab下的代码实现。介绍内容将包括:从图分割角度直观理解谱聚类谱聚类算法步骤数据以及实现代码本文将不会涉及细节化的证明和推导,如有兴趣可参考july大神的文章从拉转载 2016-12-03 16:31:38 · 4096 阅读 · 1 评论 -
数据降维工具箱drtoolbox
这里有两个这个工具箱的简单介绍:【Matlab】数据降维工具箱drtoolboxhttp://blog.csdn.net/xiaowei_cqu/article/details/7515077【Dimensionality Reduction】数据降维方法分类http://blog.csdn.net/xiaowei_cqu/article/details/7522368转载 2016-12-03 15:35:48 · 2763 阅读 · 1 评论 -
常见的几种最优化方法
阅读目录1. 梯度下降法(Gradient Descent)2. 牛顿法和拟牛顿法(Newton's method & Quasi-Newton Methods)3. 共轭梯度法(Conjugate Gradient)4. 启发式优化方法 我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题,比如每个企业和个人都转载 2016-12-03 13:36:30 · 9753 阅读 · 0 评论 -
从拉普拉斯矩阵说到谱聚类
从拉普拉斯矩阵说到谱聚类本文转自:http://blog.csdn.net/v_july_v/article/details/407382111 矩阵基础 在讲谱聚类之前,有必要了解一些矩阵方面的基础知识。1.0 理解矩阵的12点数学笔记 如果对矩阵的概念已经模糊,推荐国内一人写的《理解矩阵by孟岩》系列,其中,抛出了很多有趣的观点,我之前在阅读的过程中做了些笔转载 2016-12-03 12:54:01 · 603 阅读 · 0 评论 -
模式识别三--MATLAB实现贝叶斯分类器
文章转自:http://www.kancloud.cn/digest/prandmethod/102845贝叶斯分类器的分类原理是通过某对象的先验概率,利用贝叶斯公式计算出其后验概率,即该对象属于某一类的概率,选择具有最大后验概率的类作为该对象所属的类。也就是说,贝叶斯分类器是最小错误率意义上的优化,它遵循“多数占优”这一基本原则。一、分类器的基本概念经过了一个阶段的模式识转载 2016-11-26 19:23:51 · 21133 阅读 · 0 评论 -
模式识别二--分类器的性能评价
文章转自:http://www.kancloud.cn/digest/prandmethod/102844模式识别:分类器的性能评价最近开始了模式识别的学习,对模式和模式类的概念有一个基本的了解,并使用MATLAB实现一些模式类的生成。而接下来如何对这些模式进行分类成为了学习的第二个重点。我们都知道,一个典型的模式识别系统是由特征提取和模式分类两个阶段组成的,而其中模式分类转载 2016-11-26 19:21:54 · 1556 阅读 · 0 评论 -
模式识别一--利用MATLAB生成模式类
最近开始了模式识别的学习,在此之前需要对模式和模式类的概念有一个了解,这里使用MATLAB实现一些模式类的生成。在此之前,引用百科上对于模式识别和模式类的定义,也算加深以下了解:模式识别(Pattern Recognition):人类在日常生活的每个环节,从事着模式识别的活动。可以说每个有正常思维的人,在他没有入睡时都在进行模式识别的活动。坐公共汽车找汽车站,骑车判别可行进道路,对观察到的转载 2016-11-26 19:17:41 · 8840 阅读 · 1 评论 -
数据挖掘学习清单
基础篇矩阵背后的现实意义概率分布无约束最优化方法拉格朗日乘子法和KKT条件推荐相关性检验协同过滤推荐算法分类朴素贝叶斯LRSVM聚类KMeansDBScanCHAMELEONGMM决策树ID3C4.5AdaboostGBDT关联规则挖掘AprioriFP-Tree序列标记HMM1HMM2转载 2016-12-20 09:58:39 · 357 阅读 · 0 评论 -
模式识别十一--分类回归决策树CART的研究与实现
文章转自:http://www.kancloud.cn/digest/prandmethod/102853摘 要:本实验的目的是学习和掌握分类回归树算法。CART提供一种通用的树生长框架,它可以实例化为各种各样不同的判定树。CART算法采用一种二分递归分割的技术,将当前的样本集分为两个子样本集,使得生成的决策树的每个非叶子节点都有两个分支。因此,CART算法生成的决策树是结构简洁的二叉树。在M转载 2016-11-26 19:40:16 · 1123 阅读 · 0 评论 -
模式识别十--k-均值聚类算法的研究与实现
本实验的目的是学习和掌握k-均值聚类算法。k-均值算法是一种经典的无监督聚类和学习算法,它属于迭代优化算法的范畴。本实验在MATLAB平台上,编程实现了k-均值聚类算法,并使用20组三维数据进行测试,比较分类结果。实验中初始聚类中心由人为设定,以便于实验结果的比较与分析。一、技术论述1.无监督学习和聚类在之前设计分类器的时候,通常需要事先对训练样本集的样本进行标定以确定类别归属。这种利转载 2016-11-26 19:38:06 · 1104 阅读 · 0 评论 -
模式识别九--模拟退火算法的设计与实现
本文转自:http://www.kancloud.cn/digest/prandmethod/102851 本节的目的是记录以下学习和掌握模拟退火(Simulated Annealing,简称SA算法)过程。模拟退火算法是一种通用概率算法,用来在一个大的搜寻空间内寻找命题的最优解。这里分别使用随机模拟退火算法和确定性模拟退火算法,在MATLAB平台上进行编程,以寻找一个6-单转载 2016-11-26 19:37:15 · 7896 阅读 · 0 评论 -
模式识别八--三层BP神经网络的设计与实现
本文的目的是学习和掌握BP神经网络的原理及其学习算法。在MATLAB平台上编程构造一个3-3-1型的singmoid人工神经网络,并使用随机反向传播算法和成批反向传播算法来训练这个网络,这里设置不同的初始权值,研究算法的学习曲线和训练误差。有了以上的理论基础,最后将构造并训练一个3-3-4型的神经网络来分类4个等概率的三维数据集合。一、技术论述1.神经网络简述神经网络是一种可以适应复杂转载 2016-11-26 19:35:01 · 4143 阅读 · 0 评论 -
模式识别七--非参数估计法之Parzen窗估计和k
文章转自:http://www.kancloud.cn/digest/prandmethod/102849 本实验的目的是学习Parzen窗估计和k最近邻估计方法。在之前的模式识别研究中,我们假设概率密度函数的参数形式已知,即判别函数J(.)的参数是已知的。本节使用非参数化的方法来处理任意形式的概率分布而不必事先考虑概率密度的参数形式。在模式识别中有躲在令人感兴趣的非参数化方法转载 2016-11-26 19:33:54 · 4188 阅读 · 2 评论 -
模式识别六--感知器的实现
文章转自:http://www.kancloud.cn/digest/prandmethod/102848 在之前的模式识别研究中,判别函数J(.)的参数是已知的,即假设概率密度函数的参数形式已知。本节不考虑概率密度函数的确切形式,使用非参数化的方法来求解判别函数。由于线性判别函数具有许多优良的特性,因此这里我们只考虑以下形式的判别函数:它们或者是x的各个分量的线性函数,或者转载 2016-11-26 19:31:57 · 1623 阅读 · 0 评论 -
模式识别五--PCA主分量分析与Fisher线性判别
文章转自:http://www.kancloud.cn/digest/prandmethod/102847 本实验的目的是学习和掌握PCA主分量分析方法和Fisher线性判别方法。首先了解PCA主分量分析方法的基本概念,理解利用PCA 分析可以对数据集合在特征空间进行平移和旋转。实验的第二部分是学习和掌握Fisher线性判别方法。了解Fisher线性判别方法找的最优方向与非最转载 2016-11-26 19:30:39 · 2408 阅读 · 0 评论 -
模式识别四--最大似然估计与贝叶斯估计方法
文章转自:http://www.kancloud.cn/digest/prandmethod/102846 之前学习了贝叶斯分类器的构造和使用,其中核心的部分是得到事件的先验概率并计算出后验概率 ,而事实上在实际使用中,很多时候无法得到这些完整的信息,因此我们需要使用另外一个重要的工具——参数估计。参数估计是在已知系统模型结构时,用系统的输入和输出数据计算系统模型参数的过转载 2016-11-26 19:29:12 · 7135 阅读 · 0 评论 -
谱聚类算法(Spectral Clustering)优化与扩展
谱聚类(Spectral Clustering, SC)在前面的博文中已经详述,是一种基于图论的聚类方法,简单形象且理论基础充分,在社交网络中广泛应用。本文将讲述进一步扩展其应用场景:首先是User-Item协同聚类,即spectral coclustering,之后再详述谱聚类的进一步优化。1 Spectral Coclustering1.1 协同聚类(Coclustering)转载 2016-12-03 12:51:38 · 1275 阅读 · 0 评论 -
谱聚类算法(Spectral Clustering)
文章转自:http://www.cnblogs.com/sparkwen/p/3155850.html 谱聚类(Spectral Clustering, SC)是一种基于图论的聚类方法——将带权无向图划分为两个或两个以上的最优子图,使子图内部尽量相似,而子图间距离尽量距离较远,以达到常见的聚类的目的。其中的最优是指最优目标函数不同,可以是割边最小分割——如图1的Smallest c转载 2016-12-03 12:49:53 · 3670 阅读 · 0 评论 -
和机器学习和计算机视觉相关的数学
1. 线性代数 (Linear Algebra):我想国内的大学生都会学过这门课程,但是,未必每一位老师都能贯彻它的精要。这门学科对于Learning是必备的基础,对它的透彻掌握是必不可少的。我在科大一年级的时候就学习了这门课,后来到了香港后,又重新把线性代数读了一遍,所读的是Introduction to Linear Algebra (3rd Ed.) by Gilber转载 2016-11-20 08:30:41 · 416 阅读 · 0 评论 -
机器学习--通俗理解LDA主题模型
通俗理解LDA主题模型0 前言 印象中,最开始听说“LDA”这个名词,是缘于rickjin在2013年3月写的一个LDA科普系列,叫LDA数学八卦,我当时一直想看来着,记得还打印过一次,但不知是因为这篇文档的前序铺垫太长(现在才意识到这些“铺垫”都是深刻理解LDA 的基础,但如果没有人帮助初学者提纲挈领、把握主次、理清思路,则很容易陷入LDA的转载 2016-11-19 10:36:57 · 2062 阅读 · 0 评论 -
从拉普拉斯矩阵说到谱聚类
从拉普拉斯矩阵说到谱聚类0 引言 11月1日上午,机器学习班 第7次课,邹讲聚类(PPT),其中的谱聚类引起了自己的兴趣,邹从最基本的概念:单位向量、两个向量的正交、方阵的特征值和特征向量,讲到相似度图、拉普拉斯矩阵,最后讲谱聚类的目标函数和其算法流程。 课后自己又琢磨了番谱聚类跟拉普拉斯矩阵,打算写篇博客记录学习心得, 若有不足或建议,欢迎随时不吝指出,thank转载 2016-11-19 10:33:03 · 2247 阅读 · 0 评论 -
机器学习--Adaboost 算法的原理与推导
0 引言 一直想写Adaboost来着,但迟迟未能动笔。其算法思想虽然简单:听取多人意见,最后综合决策,但一般书上对其算法的流程描述实在是过于晦涩。昨日11月1日下午,在我组织的机器学习班 第8次课上讲决策树与Adaboost,其中,Adaboost讲得酣畅淋漓,讲完后,我知道,可以写本篇博客了。 无心啰嗦,本文结合机器学习班决策树与Adaboost 的PPT,跟邹讲Adabo转载 2016-11-19 10:30:20 · 11099 阅读 · 1 评论 -
机器学习--从K近邻算法、距离度量谈到KD树、SIFT+BBF算法
引言 最近在面试中,除了基础 & 算法 & 项目之外,经常被问到或被要求介绍和描述下自己所知道的几种分类或聚类算法(当然,这完全不代表你将来的面试中会遇到此类问题,只是因为我的简历上写了句:熟悉常见的聚类 & 分类算法而已),而我向来恨对一个东西只知其皮毛而不得深入,故写一个有关数据挖掘十大算法的系列文章以作为自己备试之用,甚至以备将来常常回顾思考。行文杂乱,但侥幸若能对读者起到转载 2016-11-19 10:25:21 · 1477 阅读 · 0 评论 -
从决策树学习谈到贝叶斯分类算法、EM、HMM
从决策树学习谈到贝叶斯分类算法、EM、HMM引言 最近在面试中,除了基础 & 算法 & 项目之外,经常被问到或被要求介绍和描述下自己所知道的几种分类或聚类算法(当然,这完全不代表你将来的面试中会遇到此类问题,只是因为我的简历上写了句:熟悉常见的聚类 & 分类算法而已),而我向来恨对一个东西只知其皮毛而不得深入,故写一个有关数据挖掘十大算法的系列文章以作为自己备试之转载 2016-11-19 10:22:21 · 516 阅读 · 0 评论 -
机器学习--支持向量机通俗导论(理解SVM的三层境界)
支持向量机通俗导论(理解SVM的三层境界)作者:July 。致谢:pluskid、白石、JerryLead。说明:本文最初写于2012年6月,而后不断反反复复修改&优化,修改次数达上百次,最后修改于2016年11月。前言 动笔写这个支持向量机(support vector machine)是费了不少劲和困难的,原因很简单,一者这个东西本身就并不好懂,要转载 2016-11-19 10:21:35 · 1231 阅读 · 0 评论 -
模式识别:感知器的实现
在之前的模式识别研究中,判别函数J(.)的参数是已知的,即假设概率密度函数的参数形式已知。本节不考虑概率密度函数的确切形式,使用非参数化的方法来求解判别函数。由于线性判别函数具有许多优良的特性,因此这里我们只考虑以下形式的判别函数:它们或者是x的各个分量的线性函数,或者是关于以x为自变量的某些函数的线性函数。在设计感知器之前,需要明确以下几个基本概念:一、判别函数:是指由x的各个分量的线性组合转载 2016-11-13 17:08:46 · 1723 阅读 · 0 评论 -
谱聚类--Ng算法的Matlab简单实现
请编写一个谱聚类算法,实现“Normalized Spectral Clustering—Algorithm 3 (Ng 算法)”结果如下谱聚类算法核心步骤都是相同的:•利用点对之间的相似性,构建亲和度矩阵;•构建拉普拉斯矩阵;•求解拉普拉斯矩阵最小的特征值对应的特征向量(通常舍弃零特征所对应的分量全相等的特征向量);•由这些特征向量构成样本点的新特征,采用K-转载 2016-12-11 22:21:59 · 2607 阅读 · 0 评论 -
大数据等最核心的关键技术:32个算法
奥地利符号计算研究所(Research Institute for Symbolic Computation,简称RISC)的Christoph Koutschan博士在自己的页面上发布了一篇文章,提到他做了一个调查,参与者大多数是计算机科学家,他请这些科学家投票选出最重要的算法,以下是这次调查的结果,按照英文名称字母顺序排序。1、A* 搜索算法——图形搜索算法,从给定起点到给转载 2016-12-11 22:24:05 · 3642 阅读 · 0 评论 -
机器学习算法比较
机器学习算法比较目录:常见算法优缺点1. 朴素贝叶斯2. Logistic Regression(逻辑回归)3. 线性回归4. 最近邻算法——KNN5. 决策树6. SVM支持向量机7. 人工神经网络的优缺点8. K-Means聚类本文主要回顾下几个常用算法的适应场景及其优缺点!(提示:部分内容摘自网络)。转载 2016-12-11 22:25:45 · 1492 阅读 · 0 评论 -
北美+德国18名校的数据挖掘、数据分析、人工智能及机器学习课程资源汇总
[+]QuoraWhat is Data Science?How do I become a Data Scientist?How does Data Science differ from traditional statistical analysis?Related CoursesConcepts in Computing with Data, Berkele转载 2016-11-20 08:28:33 · 1437 阅读 · 0 评论 -
开源机器学习软件
今天给大家介绍一下经典的开源机器学习软件:编程语言:搞实验个人认为当然matlab最灵活了(但是正版很贵),但是更为前途的是Python(numpy+scipy+matplotlib)和C/C++,这样组合既可搞研究,也可搞商业开发,易用性不比matlab差,功能组合更为强大,个人认为,当然R和Java也不错.1.机器学习开源软件网(收录了各种机器学习的各种编程语言学术与商业的开源软件)转载 2016-11-20 08:25:10 · 383 阅读 · 0 评论 -
机器学习论文资源
国际顶级会议AAAICIKM 2010CIKM 2011COLT 2010COLT 2011Computer Vision ResourceICJIAICMLNIPSSIGIR 2010SIGIR 2011SIGKDDSIGKDD2010论文搜索CV顶级会议论文下载google 学术搜索超全计算机视觉资源汇总联合参考文献学术牛人主页feifei li -comput转载 2016-11-20 08:24:19 · 323 阅读 · 0 评论 -
机器学习方便查询用
Bookmarks书签栏技术文章cppreference.comReference - C++ ReferenceLaTeXStudioprobml/pmtk3 · GitHub深入理解SVM之对偶问题 - 王国龙_成长的个人页面 - 开源中国社区scikit-learn: machine learning in Python — scikit-learn v0.11转载 2016-11-20 08:23:14 · 575 阅读 · 0 评论 -
机器学习,模式识别,数据挖掘常用链接
国际顶级会议AAAICIKM 2010CIKM 2011COLT 2010COLT 2011Computer Vision ResourceICJIAICMLNIPSSIGIR 2010SIGIR 2011SIGKDDSIGKDD2010论文搜索CV顶级会议论文下载google 学术搜索超全计算机视觉资源汇总联合参转载 2016-11-20 08:16:54 · 478 阅读 · 0 评论 -
常用主页链接(计算机视觉、模式识别、机器学习相关方向,陆续更新。。。。)
常用牛人主页链接(计算机视觉、模式识别、机器学习相关方向,陆续更新。。。。)牛人主页(主页有很多论文代码)Serge Belongie at UC San DiegoAntonio Torralba at MITAlexei Ffros at CMUCe Liu at Microsoft Research New EnglandVittorio Ferrari at Uni转载 2016-11-20 08:12:07 · 1157 阅读 · 0 评论 -
机器学习网站
北京大学视觉与听觉信息处理实验室北京邮电大学模式识别与智能系统学科复旦大学智能信息处理开放实验室IEEE Computer Society北京映象站点计算机科学论坛机器人足球赛模式识别国家重点实验室南京航空航天大学模式识别与神经计算实验室 - PARNEC南京大学机器学习与数据挖掘研究所 - LAMDA南京大学人工智能实验室南京大学软件新技术国家重点实验室转载 2016-11-20 08:05:17 · 673 阅读 · 0 评论