Machine Learning
文章平均质量分 76
ABadCandy
读书,见人,历事,行路。
展开
-
特征提取与选择
特征提取与选择特征提取 PCA LDA CCA ICA Manifold learning 特征选择原创 2018-02-10 12:37:56 · 656 阅读 · 0 评论 -
聚类
聚类原创 2018-02-10 12:25:20 · 296 阅读 · 0 评论 -
决策树与随机森林
决策树与随机森林决策树算法有ID3,C4.5和CART 随机森林原创 2018-02-10 12:15:20 · 369 阅读 · 0 评论 -
SVM & Kernel Method
SVM & Kernel Method前言 网上关于SVM的教程有很多,在此推荐一篇通俗易懂的: http://blog.csdn.net/v_july_v/article/details/7624837,SVM的主要思想是求解能够正确划分训练数据集并且几何间隔最大的分离超平面。这里的间隔最大化指的是硬间隔,并且考虑到几何间隔与函数间隔之间的关系以及最大/最小化目标函数的转换,可以...原创 2018-02-10 11:51:37 · 427 阅读 · 0 评论 -
神经网络Ⅱ
神经网络Ⅱ原创 2018-02-09 21:26:27 · 204 阅读 · 0 评论 -
神经网络Ⅰ
神经网络Ⅰ引言 拓扑结构和训练方法 多层感知器 径向基网络 反馈神经网络 自组织映射原创 2018-02-09 21:12:07 · 261 阅读 · 0 评论 -
线性判别函数
线性判别函数前言 前面几章主要介绍了贝叶斯决策理论、概率密度估计(函数已知情形时,参数估计)以及非参数估计(密度函数未知),本章的主要任务是:假定用于分类的判别函数的参数形式已知,直接从样本来估计判别函数的参数。其优点是不需要有关概率密度函数的确切的参数形式,因此,属于无参数估计方法。 线性判别函数与决策面 广义线性判别函数 感知准则函数 ...原创 2018-02-09 18:33:06 · 441 阅读 · 0 评论 -
非参数方法
非参数方法前言 如前所述,我们总是假设概率密度函数的参数形式已知,并在此条件下来处理有监督学习过程。但在现实世界中,我们一般给出的概率密度的形式很少符合实际情况。为此在这一章我们将讨论”非参数化方法”,它能处理任意的概率分布,而不必假设密度的参数形式已知。密度估计 ...原创 2018-02-08 23:31:06 · 1336 阅读 · 0 评论 -
数据缺失情况下的参数估计
数据缺失情况下的参数估计前言 前一篇讲到了参数估计, 其中会涉及到特征维数问题,类别间有差异的特征有助于分类,而特征太多又会造成计算和存储的困难,并且还会造成overfitting导致泛化性能不高。通常会添加正则化或进行特征降维或进行参数共享/平滑来防止过拟合。本章讨论的是在样本点的某些特征丢失的情况下如何进行分类的问题。EM(expectation-maximization)算法 ...原创 2018-02-08 22:56:14 · 1586 阅读 · 0 评论 -
最大似然估计与贝叶斯参数估计
最大似然估计与贝叶斯参数估计前言上一篇讲到了贝叶斯决策理论,其与贝叶斯估计是两种不同的思想。前者是根据先验概率P(ωi)P(ωi)P(\omega_i)和类条件概率密度p(x|ωi)p(x|ωi)p(x|\omega_i)来设计最优分类器。然而在实际应用中,通常得不到有关问题的概率结构的全部知识。我们只能利用手头的训练样本来估计问题中所涉及的先验概率和条件密度函数,并把这些估计的结果当...原创 2018-02-08 22:08:50 · 564 阅读 · 0 评论 -
贝叶斯决策理论
贝叶斯决策理论该系列文章旨在记录学习模式识别课程时的心得与体会,如有错误敬请指正!统计模式识别方法统计学习由监督学习、非监督学习、半监督学习和强化学习等组成,其三要素为模型、策略与算法。其中监督学习方法又包括生成方法和判别方法,所学到的模型分别称为生成模型和判别模型。生成方法由数据学习联合概率分布,然后求出条件概率分布作为预测的模型,而判别方法由数据直接学习决策函数f(X)或者条件概...原创 2018-02-08 21:22:19 · 1072 阅读 · 0 评论 -
聚类算法(K-means + Fuzzy C-means + Hierarchical + Mixture of Gaussians)---第一部分:简介
前言什么是聚类? 聚类可以被认为是最重要的无监督学习问题; 所以,像这样的其他问题一样,它涉及在未标记数据的集合中找到一个结构。聚类的简单定义可能是“将对象组织成某些成员相似的组的过程”。因此,"cluster"是它们之间“相似”的对象的集合,并且与属于其他"cluster"的对象“不相似”。我们可以用简单的图示来显示它:在这种情况下,我们可以轻松识别数据可以划分为4个簇; 相似性翻译 2017-03-28 15:03:19 · 3163 阅读 · 0 评论 -
概率图模型
概率图模型(PGM) CRF https://www.jianshu.com/p/55755fc649b1原创 2018-02-10 12:50:24 · 515 阅读 · 1 评论