![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
数据挖掘
沙漠之狐MSFollower
在读博士生,研究方向包括多模态智能、机器学习、图学习、自然语言处理。期待与有共同爱好的同学一起发现信息化世界的美好。
展开
-
核主成分分析方法(KPCA原理篇)
(1)方法的基本思想是:对样本进行非线性变换,在变换空间进行主成分分析来实现在原空间的非线性主成分分析;(2)算法步骤:① 通过核函数计算矩阵,其元素为。其中和为原空间的样本,是核函数。② 计算K的特征值,并从大到小进行排列。找出由特征值对应的特征向量(表示第个特征向量),并对进行归一化()。③ 原始样本在第个非主成分下的坐标为: 这里的是指第i个样本,的...原创 2020-10-07 21:03:58 · 6088 阅读 · 0 评论 -
高斯混合模型(GMM)原理
参考:http://www.cnblogs.com/CBDoctor/archive/2011/11/06/2236286.htmlhttp://blog.sina.com.cn/s/blog_54d460e40101ec00.htmlhttp://blog.csdn.net/crzy_sparrow/article/details/7413019原创 2017-06-10 10:26:02 · 2354 阅读 · 0 评论 -
K-means聚类
K-means是一种常见的无监督分类器。其主要思想是:1)假设有n个样本,选出k个样本,作为初始质心;2)计算剩下n-k个样本分别距离k个质心的距离,每个样本将属于距离最近的那个质心所在的类;3)这样对n个样本进行了简单的分类,得到了k个类。分别计算每个类的样本均值,并作为每个类新的质心。4)重复2)和3),直到类的质心收敛。K-means聚类时间复杂度分析:方法的时间复杂...原创 2018-11-02 11:01:28 · 613 阅读 · 0 评论 -
决策树
今天抽空补充一下决策树的相关知识:决策树的种类及区别:决策树以自顶向下递归的分治方式进行构造。从训练元组集和它们相关联的类标号开始构建决策树。随着树的构建,训练集递归地划分成较小的子集。ID3:使用信息增益作为属性选择度量(偏向于选择具有大量值的属性)。C4.5:选择具有最大增益率的属性作为分裂属性。增益率=属性增益/总增益CART:使用基尼指数作为属性度量。熵:我们首...原创 2018-11-02 15:58:27 · 486 阅读 · 0 评论 -
Bagging和Boosting
Bagging:Bagging基于自助采样法。给定包含m个样本的数据集,先随机取出一个样本放入采样集中,再把该样本放回初始数据集,使得下次采样时该样本仍有可能被选中。这样,经过m次随机采样操作,我们得到含m个样本的采样集,初始训练集中有的样本再采样集里多次出现,有的则从未出现。 采样出T个含有m个训练样本的采样集,然后基于每个采样集训练出一个基学习器,再将这些基本学习器进行结合。 Ba...原创 2018-11-02 16:05:53 · 400 阅读 · 0 评论