AI-机器学习（7）-CRF-一看就懂

1.CRF定义：

      Conditional Random Fields-条件随机场是一种判别模型，可以用于预测序列数据，通过使用过去的上下文信息，使模型达到更好的预测效果。

2.CRF应用：

      CRF 可以对序列数据建模， NLP 领域有很多应用。
例如 ：Parts-of-Speech tagging，这个任务依赖之前的单词，通过使用 feature functions ，可以用 CRF 来判别哪些单词对应哪个 POS。
       Named Entity recognition，CRF 可用于预测多变量相互依赖的序列。
       还可用于图片的 parts-recognition，基因预测等任务.

3.HMM与CRF 区别：

          

      HMM 是有向图，CRF 是无向图；
      HMM 计算的是状态和观测的联合概率，而 CRF 计算的是状态基于观测的条件概率。
      HMM 多用于那种状态“原生”，观测是状态“生成”出来的场景。如，用 HMM 来生成一段语音，则状态对应的是音节（声韵母）或文字，而观测则是这个音节所对应的声学特征。
    CRF 则多用于那种观测“原生”。状态“后天”产生，用来标记观测的情况。如，用 CRF 来做文本实体标记。输入一句话“我有一个苹果”，CRF 处理后将“苹果”标记成了“水果”。这个时候，“苹果”是观测，而“水果”则是对应的状态。

4.必知概念：图、极大图、势函数、分离、特征函数、

       这些概念我如何表达呢，就用图、函数表达，取名团、极大团、势函数、特征函数等，下面会分别对这些名词做些解释。

5.CRF的三个问题

---

4.1   团、极大团

           团：任意都有边连接。

          极大团：无法再加节点。

        

             
4.2   势函数

          那这些图怎么表示呢？这就引出了势函数的概念。上述的图->数学表达式。我总要表示或者计算出来。

上图的表达式就是

                 

         势函数是非负实函数。一个团就是一个势函数。多个团和团关系，称联合概率。变成数学公式就是势函数乘积。

      这种团和函数的关系就是 Hammersley-Clifford定理表达的内容。

    马儿可夫随机场数学表达式成正概率分布的充要条件。

4.3分离

  

              
4.4特征函数

      实值函数，用来刻画数据的一些可能成立或期望成立的经验特性。

            

 

---

5.CRF的三个问题