学习周期:5.26-6.1
学习时长:
5.28 0h(加班干活去了)
5.29 1h10min (20:00-21:10) –chap10
5.30 1h20min(08:40-09:20,22:20-23:00) –chap10
5.31 1h20nub(08:40-09:10,19:30-20:20) –chap10
6.1 1h (在知乎学习CRF)
学习内容:
一句话心得: hmm、crf是解决标注问题主要的模型,了解标注问题需要解决的问题是什么。
笔记
Chap10 隐马尔科夫模型
- HMM三要素:初始状态概率向量π、状态转移概率矩阵A、观测概率矩阵B
- HMM两个基本假设:
- 齐次马尔科夫性假设:假设隐藏的马尔科夫链在任意时刻t的状态只依赖于其前一时刻的状态,与其他时刻的状态及观测无关,与时刻t无关。
- 观测独立性假设:假设任意时刻的观测只依赖于该时刻的马尔科夫链的状态,与其他观测及状态无关。
- HMM三个基本问题:
- 概率计算问题:给定模型(A,B,π)和观测序列O,计算 p(O|A,B,π)
- 学习问题:给定观测序列O,估计模型(A,B,π),使得在该模型下 p(O|A,B,π)最大
- 预测问题,也称解码问题。给定模型(A,B,π)和观测序列O,求对给定观测序列条件概率p(I | O)最大的状态序列。(给定观测序列,求最有可能的状态序列,维比特算法
- 问题:
- 算法复杂度怎么估计的 P177
- 之前觉得隐马挺复杂的,这一章看下来清楚很多。
Chap11 条件随机场
- 条件随机场(conditional random field,CRF)
- 概率无向图
- 概率无向图模型的因子分解
- 4.