模式识别经典算法——LDA

原创 2012年05月18日 16:27:12

线性判别式分析,又称为Fisher线性判别~(Linear discriminant analysis)(Fisher linear discriminant)

最大化类间均值,最小化类内方差

通过调整权重向量组件,可选择一个投影方向,最大化地类别分离性~

两个类的均值向量:

对样本进行投影时,使得类别最简单的分离,是投影的类别均值的分离~

最大化类间均值

   其中约束

 

 

最小化类内方差

,其中

 

Fisher 判别准则:

等价于:

其中:

对权重W求微分,使得J(W)最大化,当:

化简之~

 

参考文献:Pattern recognition and machine learning (Christopher M. Bishop) pp: 186-189

此博文中,也有介绍~ 讲的非常好~  http://blog.csdn.net/warmyellow/article/details/5454943

主题模型-LDA浅析

上个月参加了在北京举办SIGKDD国际会议,在个性化推荐、社交网络、广告预测等各个领域的workshop上都提到LDA模型,感觉这个模型的应用挺广泛的,会后抽时间了解了一下LDA,做一下总结: (一...

LDA算法总结

主要是参考了文章 http://www.cnblogs.com/LeftNotEasy/archive/2011/01/08/lda-and-pca-machine-learning.html ...

LDA学习总结

今天晚上看了lda算法的原理,深感自己知识的缺乏啊(Dirichlet分布、多项分布、图模型、Gibbs抽样)。这也让我深感惭愧,早就意识到自己数学知识的缺乏,但是一直没有补一下。    好吧,简单来...

线性判别分析(Linear Discriminant Analysis, LDA)算法分析

LDA算法入门 一. LDA算法概述:线性判别式分析(Linear Discriminant Analysis, LDA),也叫做Fisher线性判别(Fisher Linear Discrimina...

LDA算法入门

摘自:http://blog.csdn.net/warmyellow/article/details/5454943 一. LDA算法概述: 线性判别式分析(Linear Discri...

几种常见模式识别算法整理和总结

1. KNN 2. Bayes 3. PCA 4. LDA 5. NMF 6. GMM 书上写的老师ppt上写的都看不懂,然后绕了一大圈去自己查资料理解,回头看看发现,Ah-ha,原来...
  • scyscyao
  • scyscyao
  • 2010年11月04日 15:59
  • 142175

常见模式识别算法

机器学习10大经典算法 1、C4.5 C4.5算法是机器学习算法中的一种分类决策树算法,其核心算法是ID3算法.  C4.5算法继承了ID3算法的优点,并在以下几方面对ID3算法进行了改进...
  • sgs1018
  • sgs1018
  • 2014年09月26日 18:51
  • 3159

Delphi7高级应用开发随书源码

  • 2003年04月30日 00:00
  • 676KB
  • 下载

LDA模型改进

这里只是说明模型的概率图,具体实现算法以后研究。文章综述参考Probabilistic topic models (DaviD m. Blei)LDA模型文献参考LDA数学八卦、parameter e...

线性判别分析LDA详解

1 Linear Discriminant Analysis    相较于FLD(Fisher Linear Decriminant),LDA假设:1.样本数据服从正态分布,2....
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:模式识别经典算法——LDA
举报原因:
原因补充:

(最多只允许输入30个字)