- 博客(6)
- 资源 (5)
- 收藏
- 关注
原创 高斯过程回归(GPR)—— 数学推导
补充知识点:1. 高斯分布; 2. 条件概率P的值:P = N(u, E) ??posterior:后验分布GP:连续域上,无限多个高维随机变量(高斯分布)所组成的随机过程。:高维高斯分布GPR可从两个视角观察 权重空间角度和函数空间角度,二者结果一样,但函数空间角度更加简单。1. 权重空间角度 GPR = Bayesian LR + Ker...
2019-07-31 22:00:10 8127 1
原创 特征工程(3):特征选择—信息增益
信息增益,基于信息熵来计算,它表示信息消除不确定性的程度,可以通过信息增益的大小为变量排序进行特征选择。信息量与概率呈单调递减关系,概率越小,信息量越大。1. 基本概念1.1 信息量 信息量的数学定义如下式所示,U表示发送的信息,则表示发送信息U中的一种类型。 1....
2019-07-30 15:59:42 5826
原创 特征工程(3):特征选择
在建立模型之前,我们已经按照特征构建的方法得到了数据集,但是这样的数据集可能存在大量的特征,特征之间可能存在相关性,也可能存在冗余特征,因此需对数据集进行降维处理,以得到最优子集,这个过程叫做特征选择。 特征选择的常用方法通常可分为三类:直接法、单变量特征选择、多变量特征选择。 1. 直接法 2. 单元法 2....
2019-07-30 15:32:07 295
原创 卡尔曼滤波器算法(Kalman Filter)—— 数学推导,图文并茂
(1)HMM:隐变量是离散的(2)Kalman Filter:又叫 Linear Dynamic Model 或 Linear Gaussian Model 隐变量和观测变量都是连续的,都是服从高斯分布的 (3)Particle Filter:Non-Linear、Non-Guaaian1.Kalman Filter这里:Z为状态,相当...
2019-07-10 14:24:52 1536
原创 隐马尔科夫模型(HMM)
出处:视频截图,b站shuhuai008目录代码实现:hmmlearn1. 背景1.1 数理统计学两大派1.2 概率图2. HMM2.1 一个模型,两个假设,三个问题2.2 Evaluation问题(1)前向(2)后向2.3 Learning问题2.4 Decoding问题3. 总结3.1 HMM3.2 动态模型(Dynamic Mo...
2019-07-07 16:38:06 35513 5
chapter13_Income Forecasting Model.rar
2019-05-28
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人