本笔记仅记录《统计学习方法》中各个章节算法|模型的简要概述,比较泛泛而谈,用于应对夏令营面试可能会问的一些问题,不记录证明过程和详细的算法流程。大佬可自行绕路。
更多章节内容请参阅:李航《统计学习方法》学习笔记-CSDN博客
目录
隐马尔可夫模型(HMM)概述:
HMM是用于标注问题的统计学习模型,描述由隐藏的马尔可夫链随机生成观测序列的过程,属于生成模型。
一个例子:
由于HMM比较抽象,因此在深入了解之前可以先看一个例子。(用维特比算法解决预测问题)
问题背景:
模型参数:
实际观测:
解码问题(根据实际观测找出最可能的天气序列) :
所以最可能的天气状态是Sunny、Sunny、Rainy。
总结:
通过隐马尔可夫模型,我们可以根据观测的活动(散步和读书)推测出最可能的天气变化(隐含状态)。在这个例子中,通过三天的活动记录,我们推测出最可能的天气序列是“晴天,晴天,雨天”。
隐马尔可夫模型广泛应用于类似的时间序列数据分析,比如语音识别、基因序列分析等,通过观测到的数据推测背后的隐藏状态序列。
在大概了解了上述例子后,接下来就可以深入了解什么是隐马尔可夫模型了。
隐马尔可夫模型的定义:
也即隐马尔可夫模型由初始概率分布、状态转移概率分布以及观测概率分布确定。
隐马尔可夫模型的三要素:
A和Π确定了隐藏的马尔可夫链,生成不可观测的状态序列。而B确定了如何从状态生成观测,与状态序列综合确定了如何产生观测序列。
两个假设:
观测序列的生成过程:
隐马尔可夫模型的3个基本问题:
三种算法的实现细节可自行了解
概率计算算法:
- 直接计算法:概念上可行但计算上不可行
- 前向算法
- 后向算法
学习算法:
- 监督学习方法
- 无监督学习算法(Baum-Welch算法)
预测算法:
- 近似算法
- 维特比算法