- 博客(4)
- 收藏
- 关注
RSS订阅原创 KL散度（Kullback–Leibler divergence）
相对熵（relative entropy）又称为KL散度（Kullback–Leibler divergence，简称KLD），信息散度（information divergence）。KL散度是描述两个概率分布P和Q差异的一种非对称（D(P||Q) ≠ D(Q||P)）度量，从信息论的角度来解释的话，D(P||Q)表示用概率分布Q来拟合真实分布P时，产生的信息损耗，即使用基于 的编码来编码...
2018-08-29 15:24:33
1447
原创 线性模型与线性过程
线性过程是通过一系列独立脉冲（一般为零均值和常数方差的高斯分布）激励一个线性模型（滤波器）产生的随机过程。线性模型（滤波器）分为三类，分别称为自回归模型（AR），滑动平均模型（MA）和自回归滑动平均模型（ARMA）；一个ARMA过程可以表示为：a(0)y(n)+a(1)y(n-1)+...+a(na)y(n-na) = b(0)x(n)+b(1)x(n-1)+...+b(nb)x(n-...
2018-08-28 10:33:15
2394
原创 相关矩阵小结
相关矩阵在统计分析和离散时间滤波器的设计中起着非常重要的作用。对于平稳随机过程，由于它在时域由均值常数和自相关函数两个参数唯一确定，而我们可以通过减均值使随机过程的均值为0，因此可以由自相关函数或自相关矩阵来唯一确定一个零均值平稳随机过程。平稳离散时间随机过程的相关矩阵是非奇异，非负定，且几乎总是正定的Hermitian-Toeplitz矩阵（若为实过程，则为Real Symmetric-...
2018-08-28 10:03:45
4297
原创 严平稳随机过程，宽平稳随机过程，二阶矩过程之间的关系
严平稳随机过程（strictly stationary process）与宽平稳随机过程（wide-sense/weakly stationary process）之间没有直接的子集关系。严平稳随机过程定义为：“任何n维分布函数或概率密度与时间起点无关的随机过程”，严平稳可以推导出“均值恒定、相关函数只与时间间隔有关”这一性质，但是反之并不成立。而宽平稳随机过程则定义为“均值恒定、相关函数只与...
2018-08-28 09:41:54
15328
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人