机器学习
文章平均质量分 79
kuang_liu
这个作者很懒,什么都没留下…
展开
-
[机器学习] LDA理论
1. LDA 与 PCA线性判别分析(Linear Discriminant Analysis, LDA)和主成分析法(PCA)都可以用于数据分类和降低维度。但 LDA 尽可能的保留不同类数据的差别。LDA 使不同类的数据它们的差别尽可能的大,而使同一类的数据它们的差别尽可能的小。即让类型间的差别与同一类型内的差别的比值尽可能的大。LDA 比 PCA 更好的体现出数据的分布原创 2013-10-27 17:25:39 · 1640 阅读 · 0 评论 -
[机器学习] PCA理论
1. PCA综述主成分析法(Principal Component Analysis, PCA)的思想就是 降维。主成分析法可以 ① 降低整个数据集合的维度(单独每组数据维度不变) ② 提取数据集合中的主要成分,移除数据冗余,便于识别数据集中的一些规律(pattern)用途有: 图像压缩,人脸识别。2.原创 2013-10-22 22:25:32 · 1486 阅读 · 0 评论 -
信息与熵的计算
1. 什么是信息?信息的定义涉及概率论中的随机事件概率,如果待分类事物可能划分在多个分类之中,则符号 Xi 的信息定义为:AAABBB其中 P(xi) 是选择该分类的概率。举个例子:已知事件 X 的概率分布如下,计算符号 X 的信息:XX0X1 P 0.50.5l(x0) = log原创 2014-03-18 18:22:19 · 3702 阅读 · 1 评论