本文是关于PRML读书会第十三章Sequential Data的内容，重点讨论了Hidden Markov Models（HMM）。HMM用于建模具有前后关系的序列数据，如语音和DNA序列。模型包括转移概率、初始概率和生成观测数据的概率。讨论了HMM的学习问题、预测问题和解码问题，其中学习问题使用EM算法解决，预测问题通过直接推导，解码问题转化为动态规划问题。此外，还提到了Linear Dynamical Systems作为HMM的连续版本。
主讲人 张巍
（新浪微博: @张巍_ISCAS）
软件所-张巍<zh3f@qq.com> 19:01:27
我们开始吧，十三章是关于序列数据，现实中很多数据是有前后关系的，例如语音或者DNA序列，例子就不多举了，对于这类数据我们很自然会想到用马尔科夫链来建模：
例如直接假设观测数据之间服从一阶马尔科夫链，这个假设显然太简单了，因为很多数据时明显有高阶相关性的，一个解决方法是用高阶马尔科夫链建模：
但这样并不能完全解决问题 ：1、高阶马尔科夫模型参数太多；2、数据间的相关性仍然受阶数限制。一个好的解决方法，是引入一层隐变量，建立如下的模型：
这里我们假设隐变量之间服从一阶马尔科夫链，观测变量由其对应的隐变量生成。从上图可以看出，隐变量是一阶的，但是观测变量之间是全相关的，今天我们主要讨论的就是上图中的模型。如果隐变量是离散的，我们称之为Hidden Markov Models；如果是连续的，我们称之为: Linear Dynamical Systems。现在我们先来看一下HMM ，从图中可以看出，要完成建模，我们需要指定一下几个分布：
1、转移概率：
2、马尔科夫链的初始概率：
3、生成观测变量的概率(emission probabilities)：
最低0.47元/天 解锁文章
6473
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
