机器学习--概率图算法--隐马尔科夫算法理论

最新推荐文章于 2023-02-10 16:30:30 发布

我是疯子喽

最新推荐文章于 2023-02-10 16:30:30 发布

阅读量768

点赞数

文章标签：机器学习隐马尔科夫模型马尔科夫链 viterbi algorithm python

本文链接：https://blog.csdn.net/weixin_35733800/article/details/105378530

版权

本文详细介绍了马尔科夫性质与马尔科夫链，接着深入探讨了隐马尔科夫模型的参数、重要性质。重点讲述了隐马尔科夫模型的三个核心问题——概率计算的前向-后向算法、参数学习的Baum-Welch算法以及预测问题的Viterbi算法，强调了动态规划在Viterbi算法中的应用。

摘要由CSDN通过智能技术生成

三隐马尔科夫模型算法（本质上是贝叶斯网络）

1 概率计算问题：给定模型参数以及观测值序列，计算（前向-后向算法）

1）暴力计算法

2）前向-后向算法

2 学习问题：已知观测序列Q，估计模型参数，使得最大（Baum-Welch算法）

1）有监督学习（根据大数定理，频率估计概率）

2）无监督学习（采用最大期望估计）

3 预测问题：已知模型参数以及观测序列，使得最大（Viterbi算法）

1）近似算法（使每个状态达到最优状态，即单个状态的最大概率表示该状态）

2）Viterbi算法（采用动态规划的思想，选择概率最大的路径以及对应的状态序列）

一马尔科夫性质与马尔科夫链

1 马尔科夫性质（以三段式描述）

大前提

$\left \{ X(t),t\in T \right \}$ 是一个随机过程，且为其状态空间

小前提

$\left\{\begin{matrix} t_{1}<t_{2}<...<t_{n}<t\\ X(t_{1})=x_{1},X(t_{2})=x_{2},...,X(t_{n})=x_{n},X(t)=x(\forall x,x_{i}\in E) \end{matrix}\right.$

结论（当前状态的条件分布只与上一个状态有关）

$p(X(t)=x|X(t_{1})=x_{1},...,X(t_{n})=x_{n})=p(X(t)=x|X(t_{n})=x_{n})$

注意：满足马尔科夫性质的随机过程，称为马尔科夫过程

2 马尔科夫链

1）概念

马尔科夫链是指具有马尔科夫性质的随机过程，在过程中，给定当前状态下，预测将来的状态与过去的状态无关

2）三要素

要素一：状态空间（各种状态组成的集合）

$S=\left \{ S_{1}, S_{2},,...,S_{n}\right \}$

要素二：转移概率矩阵 $p\subset C^{n*n}$

马尔科夫链的每一步，系统根据条件概率分布，可以从当前状态变为另一状态，也可以保持当前状态不变

要素三：初始概率分布 $\pi$ （各个状态的初始化概率）

$\pi =\left \{ \pi _{1},\pi _{2},...,\pi _{n} \right \},\sum_{i=1}^{n}\pi _{i}=1$

二隐马尔科夫模型参数说明

1 隐马尔科夫模型概念

第一点：隐马尔科夫模型由隐状态S，可观测值O，初始概率分布 $\pi$ ，隐状态转移概率矩阵A，观测值转移概率矩阵B组成

第二点：状态概率转移矩阵A和初始概率分布 $\pi$ 决定了状态序列，观测值转移概率矩阵B决定了观测序列

第三点：隐马尔科夫模型可以使用三元符号表示： $HMM=\lambda (\pi ,A,B)$

2 具体参数说明

1）隐状态S（是所有可能的状态集合）

$S=\left \{ s_{1},s_{2},...,s_{n} \right \}$

2）可观测值O（是所有可能的观测值集合）

$O=\left \{ o_{1},o_{2},...,o_{m} \right \}$

3）状态序列，以及对应的观测序列

$I=\left \{ i_{1}, i_{2},..., i_{T}\right \},Q=\left \{ q_{1},q_{2},..,q_{T} \right \}$

4）隐状态转移概率矩阵A

$A=\left [ a_{ij} \right ]_{n*n}=\begin{bmatrix} a_{11} &a_{12} &... &a_{1n} \\ a_{21}&a_{22} &... &a_{2n} \\ ...& ... & ... & ...\\ a_{n1}& a_{n2} &... &a_{nn} \end{bmatrix}$

注意：

$a_{ij}=p(i_{t+1}=s_{j}|i_{t}=s_{i}),\sum _{j=1}^{n}a_{ij}=1$

5）观测值转移概率矩阵B

$B=\left [ b_{ij} \right ]_{n*m}=\begin{bmatrix} b_{11} &b_{12} &... &b_{1m} \\ b_{21}&b_{22} &... &b_{2m} \\ ...& ... & ... & ...\\ b_{n1}& b_{n2} &... &b_{nm} \end{bmatrix}$