隐马尔可夫模型，CRF条件随机场

隐马尔可夫模型

隐马尔可夫模型是一个关于时序的概率模型，描述由马尔可夫链随机生成规则序列的过程，属于生成模型，隐马尔可夫模型在语音识别，自然语言处理，生物信息等领域有着广泛的应用

隐马尔可夫模型的两个假设
1.齐次马尔可夫性假设，即使假设隐藏的马尔可夫链在任意时刻 t 的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关，也与时刻 t 无关
2.观测独立性实验，即使设任意时刻的观测只依赖于该时刻的马尔可夫链的状态，与其他观测及状态无关

隐马尔可夫模型 λ =（A,B,π），状态转移概率矩阵A，初始状态概率向量π，确定了隐藏的马尔可夫链，生成不可预测的状态序列，观测概率矩阵B却ing了如何从状态生成观测，与状态序列综合确定了如何产生观测序列

隐马尔可夫模型三个基本问题
1.概率计算问题，给定模型 λ = （A,B,π），和观测序列，计算在模型λ下观测序列出现的概率
2.学习问题，已知观测序列，估计模型λ=(A,B,π)参数，使得在该模型下观测序列概率最大
3.预测问题，已知模型λ= （A,B,π），和观测序列，求对给定观测序列条件概率最大的状态序列，即给定观测序列，求最有可能的对应的状态序列

应用：词性标注，中文分词，天气预报等

CRF条件随机场

CRF条件随机场是一个序列标注模型，其优点在于为一个位置进行标注的过程中可以利用丰富的内部及上下文特征信息
CRF由John Lafferty最早在NLP技术领域任务中进行文本标注，有多种应用场景，如：
分词（标注字的词位信息，由字构词）
词性标注（标注分词的词性，例如：名词，动词，助词）
命名实体识别（识别人名，地名，机构名，商品名等具有一定内在规律等实体名词）