时序模型

时序模型

• 非时序类数据：图片，人的特征。使用数据时维度固定，时间维度固定
• 时序类数据：股票价格，价格波动，前后相关；语音；文本；时序数据的长度是不固定的

模型：HMM/CRF --> RNN/LSTM

HMM(Hidden Markov Model)

每个时刻的观测值x，latend variable隐式变量z作为状态，在进行转移，有向图，生成模型。状态都是离散的情况，连续的话转到GMM

场景举例：

A/B两枚硬币，正面概率分别为${\mu }_1$,${\mu }_2$。小明在幕后扔，我在前面观察结果。

想知道的问题：

• 预测背后扔硬币的顺序，egABBA。。。（decoding，inference问题）
• 预测估算${\mu }_1$,${\mu }_2$，扔完A后仍A/B的概率，概率的转移矩阵（参数估计问题）
• P(观测序列)=？动态规划的方法

场景举例：词性标注part of speech tagging(POS)，其中词性是隐状态，词是观测

想知道的问题：

• sequence of tagging，inference 通过viterbi算法
• 参数估计：隐状态生成该观测和一个概率矩阵，词性和单词的对应概率，还有是词性之间转换的概率矩阵，两个词性的矩阵。观测只有句子没有对应的词性也就是概率矩阵未知，EM算法
• p（观测）边缘概率，DP算法

HMM的参数 $\theta =(A,B,\pi )$

• 观测值$（x_1,\dots ,x_n）$,隐状态值$（z_1,\dots ,z_n）$,假设z是离散型的，如词性是有限个离散型
• 参数A代表状态的转移矩阵，transition probability，A(i,j)表示当前为状态i，转移到状态j的概率
• 参数B代表观测值的生成矩阵，emission probability，A(i,j)表示在状态i时，观测到j的概率。连续型的变量通过高斯混合模型用进来（怎么用）
• 参数$\pi$表示第一个位置为某个状态的概率
• 参数估计的过程，有观测值x，估计出参数$\theta$。推理inference的过程，由$\theta ,x$推理出z

Inference过程（Viterbi算法）

• 最笨的办法，将所有的可能的z的组合罗列出来，然后计算每个组合的概率。其中p（x,z）就是一系列z的bigram的条件概率和z生成对应x的概率之积，选出最大的。但是组合的数量是指数级的，所以要用动态规划的方法。Viterbi算法
• Viterbi算法等动态规划算法，通过存储一些中间结果，从而来减小指数级别的计算的复杂度。在重复的计算某一些数字，通过存储下来来减少运算。
• 可以降复杂度的原因是状态只是和前序状态有关，如果是一个全图，那么还是没有办法降低复杂度。序列的方式，节点的入度只有1，，图的话节点入度可以很多，算该节点产生的概率要好多项相乘，这样导致不同的组合往往计算的值是不同的，没有重复的计算。
• 列表示各个$z_i$，行表示可选的值，那么只需要划出一条最优的路径即可。
• ${\delta }_k(i)$：结束点在k时刻的，z为状态i的最优路径的得分

估计整个模型的参数：

• Forward and Backward Algorithm：计算$P(z_k|x)$
• Forward Algorithm：计算$P(z_k,x_{1:k})$
• Backward Algorithm：计算$P(x_{k+1:n}|z_k)$
• 推导 $p(z_k|x)=p(z_k,x)/p(x)(正相关)=p(z_k,x)=p(x_{k+1:n}|z_k,x_{1:k})\ast p(z_k,x_{1:k})(x之间独立)=p(x_{k+1:n}|z_k)\ast p(z_k,x_{1:k})$

应用：变化的检测

• 通过比较前后观测的相似度，当大于某个阈值，则变化
• 通过HMM，观测值背后的隐状态不相等的概率大于某个阈值，则变化

Forward Algorithm

• 目标：$P(z_k,x_{1:k})$
• 动态规划的思想，递推式，原问题的解决转化为子问题解决$P(z_k,x_{1:k})=()P(z_{k-1},x_{1:k-1})$

Backward Algorithm

• 目标：$P(x_{k+1:n}|z_k)$
  
  隐变量模型通过EM算法来求参数，一定是z的维度小于x。

进行参数估计MLE，最大似然概率，也就是在该参数下能够产生这样的观测和状态的概率。分为两种情况：隐变量是否可见

• Complete case：$L(\theta ;D)=logp(x,z|\theta )=logp(z|{\theta }_z)+logp(x|z,{\theta }_x)$
• Incomplete case：$L(\theta ;D)=logp(x)=logp{\sum }_z(x,z|\theta )=log{\sum }_{}$