![](https://img-blog.csdnimg.cn/20190920121916475.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
Machine Learning
文章平均质量分 84
止于至玄
愿无岁月可回首
展开
-
浅谈混合因子分析——A Brief Discussion about Mixture of Factor Analysis (MFA)
混合因子分析(MFA),或曰概率主成分分析(PPCA),在数据科学中是一种有效的数据降维方法。但是其用途不啻如此。本文从实用的角度简单介绍下混合因子分析的基本原理。原创 2021-03-23 16:35:05 · 1985 阅读 · 0 评论 -
隐式半马尔可夫模型简述——Hidden semi-Markov Model: My superficial review
本文介绍隐式半马尔可夫模型(HSMM)的基本概念与使用。原创 2021-01-03 20:12:25 · 5731 阅读 · 0 评论 -
浅谈狄利克雷分布——Dirichlet Distribution
浅谈狄利克雷分布的概念与简单使用。原创 2020-12-31 09:09:06 · 13918 阅读 · 5 评论 -
浅谈隐式马尔可夫模型 - A Brief Note of Hidden Markov Model (HMM)
简要介绍隐式马尔可夫模型的一般概念,特征与相关问题,并给出常用的解决算法。原创 2017-11-25 16:46:19 · 1452 阅读 · 0 评论 -
机器学习中的常用模型与距离简述
以下仅对机器学习领域常用的几种模型、距离进行介绍。原创 2017-04-02 16:04:57 · 815 阅读 · 0 评论 -
浅谈几种基本的点估计方法及实例
参数估计有两种形式:点估计与区间估计。本文选择几种常用的点估计方法作一些讨论。用于估计未知参数的统计量称为点估计(量)。参数 θθ\theta 的估计量常用 θ^=θ^(x1,x2,…,xn)θ^=θ^(x1,x2,…,xn)\hat{\theta} = \hat{\theta}(x_{1},x_{2}, \dots, x_{n}) 表示,参数 θθ\theta 的可能取值范围称为参数空间,记...原创 2018-06-19 12:37:11 · 14111 阅读 · 0 评论 -
浅谈贝叶斯推断、朴素贝叶斯分类与MCMC
Thanks Cameron Davidson-Pilon for the great work of Bayesian Methods for Hackers: Probabilistic programming and Bayesian Inference.Popular Probability DistributionPoisson DistributonBinary Distr...原创 2018-07-06 17:19:16 · 3403 阅读 · 2 评论 -
Monte Carlo 方法与 MCMC 简介
Monte Carlo 方法也即随机模拟方法的别称,它的基本原理是:当求解随机事件方式的概率或随机变量的数学期望时,通过设计某种实验,得出某个特定事件发生的频率,使用这个频率来近似表示这一事件发生的概率,从而得到问题的数值解。 可以看出,Monte Carlo 方法包含三个核心问题:构造概率过程、从已知概率分布中抽样、建立估计量。静态 Monte Carlo 方法MCMCMetropo...原创 2018-06-20 16:05:51 · 1224 阅读 · 0 评论 -
浅谈核函数与核方法
当输入空间为欧氏空间火离散集合,特征空间是希尔伯特(Hilbert)空间时,核函数(Kernel function)表示将输入从输入空间映射到特征空间得到的特征向量之间的内积。 核函数的应用十分广泛,例如使用核函数可以学习非线性支持向量机,等价于隐式地在高维的特征空间中学习线性支持向量机,这样的方法称为核技巧。核方法(Kernel method)是一种比支持向量机更为一般的机器学习方法。...原创 2018-08-02 11:09:20 · 3808 阅读 · 0 评论 -
浅谈高斯混合模型与EM算法 - An overview of GMM and EM algorithm
Expectation-Maximization 算法简述高斯混合模型(Gaussian Mixture Model, GMM)用EM算法学习高斯混合模型Expectation-Maximization 算法简述高斯混合模型(Gaussian Mixture Model, GMM)用EM算法学习高斯混合模型感谢李航——《统计学习方法》清华大学出版...原创 2019-05-30 22:54:06 · 1345 阅读 · 0 评论 -
Dynamic Movement Primitve - My Superficial Review
Let’s talk about the Dynamic Movement Primitive (DMP) for robots learning from demonstration. In this article, we make an assumption that you readers all have the background of control theory and robo...原创 2019-03-09 17:34:03 · 1104 阅读 · 1 评论 -
实用多元高斯分布
本文简单概括多元高斯分布的定义、性质与应用,内容会持续更新。原创 2019-09-19 14:24:18 · 704 阅读 · 0 评论 -
Fisher判别分析简述
Supervised Dimension ReductionGreater dimensionality always brings about more difficult learning tasks. Here we introduce a supervised dimension reduction method based on linear dimension reduction as ...原创 2017-05-06 11:01:01 · 2973 阅读 · 0 评论 -
浅析利用高斯核函数进行半监督分类
Laplacian RegularizationIn Least Square learning methods, we calculate the Euclidean distance between sample points to find a classifier plane. However, here we calculate the minimum distance along the...原创 2017-05-05 22:45:28 · 403 阅读 · 0 评论 -
Logistic Regression & Least Square Probability Classification
Logistic Regression & Least Square Probability Classification1. Logistic RegressionLikelihood function, as interpreted by wikipedia: https://en.wikipedia.org/wiki/Likelihood_functionplays one of the...原创 2017-04-08 10:22:19 · 1246 阅读 · 0 评论 -
l1约束的最小二乘学习
ℓ1\ell_{1} Constrained Least Squares In sparse learning, ℓ1\ell_{1} constrained LS, also known as Lasso Regression, is a common learning method:原创 2017-03-31 22:18:41 · 1905 阅读 · 0 评论 -
l2约束的最小二乘学习法
Least Squaresℓ2ℓ2\ell_{2} constrained least squaresLeast SquaresLeast squares regression is a traditional ML algorithm that minimizes the total square error between samples and learning o...原创 2017-03-25 21:19:33 · 1625 阅读 · 0 评论 -
Huber损失最小化学习法
Huber regression In least square learning methods, we make use of ℓ2\ell_{2} loss to make sure that we get a suitable outcome. However, in the robust point of view, it is always better to make use of原创 2017-04-01 21:18:07 · 1811 阅读 · 0 评论 -
常用无监督降维方法简述
Unsupervised Dimension ReductionData with high dimension is always difficult to tackle. One hand is that it requires tremendous computation resource. On the other hand, it is not so objective as the on...原创 2017-04-17 15:37:11 · 1657 阅读 · 0 评论 -
ID3决策树与C4.5决策树分类算法简述
Let’s begin with ID3 decision tree:原创 2017-04-05 11:17:30 · 424 阅读 · 0 评论 -
一个简单谱聚类的例子
聚类是一种常见的无监督学习方法,目的在于从原始无标记数据中提取出分类标记。最简单的代表是K-means聚类,下面给出一个简单例子...原创 2017-04-18 11:25:33 · 2826 阅读 · 0 评论 -
局部异常因子与KL散度异常检测算法简述
Local Outlier FactorGiven local outlier factors, we can detect the outliers that are always away from most of the samples. In order to outline the algorithm, some concepts must go first:原创 2017-04-14 15:35:49 · 2147 阅读 · 0 评论 -
集成剪枝分类算法的Bagging与Adaboost示例
Bagging (Bootstrap Aggregation)Pruning Classification is one of the simplest classification algorithms. It works just like if-then. However, when aggregating a lot of prunnings we are able to create a...原创 2017-04-07 21:29:28 · 1023 阅读 · 1 评论