全连接条件随机场_条件随机场CRF详解

一，条件随机场需要解决的问题：

CRF条件随机场，很适合做分类器相关的任务。假设有一些的照片，我们要去给打标签，在吃饭或是在跑步等等，一张照片上只有张着大的大嘴，他可能是在吃饭也可能是在唱歌，这时候单单依靠照片本身的信息，不足以准确的判断照片中的人在干啥！但是如果把这些照片按照时间的顺序来排列起来，它的前一张照片是在吃饭，那有极大的可能这张大嘴也是在吃饭。

自然语言处理中的词性标注(POS Tagging)就是非常适合CRF使用的地方。词性标注的目标是给出一个句子中每个词的词性（名词，动词，形容词等）。而这些词的词性往往和上下文的词的词性有关，因此，使用CRF来处理是很适合的，当然CRF不是唯一的选择，也有很多其他的词性标注方法。

二，从随机场到马尔科夫随机场：

随机场是由若干个位置组成的整体，当给每一个位置中按照某种分布随机赋予一个值之后，其全体就叫做随机场。还是举词性标注的例子：假如我们有一个十个词形成的句子需要做词性标注。这十个词每个词的词性可以在我们已知的词性集合（名词，动词...)中去选择。当我们为每个词选择完词性后，这就形成了一个随机场。

马尔科夫随机场是随机场的特例，它假设随机场中某一个位置的赋值仅仅与和它相邻的位置的赋值有关，和与其不相邻的位置的赋值无关。继续举十个词的句子词性标注的例子：比如第三个词的词性除了与自己本身的位置有关外，只与第二个词和第四个词的词性有关。

三，从马尔科夫随机场到条件随机场：

条件随机场（CRF）是马尔科夫随机场的特例，它假设马尔科夫随机场中只有X和Y两种变量，X一般是给定的，而Y一般是在给定X的条件下我们的输出。这样马尔科夫随机场就特化成了条件随机场。在我们十个词的句子词性标注的例子中，X是词，Y是词性。因此，如果我们假设它是一个马尔科夫随机场，那么它也就是一个CRF。

对于CRF，我们给出准确的数学语言描述：设X与Y是随机变量，P(Y|X)是给定X时Y的条件概率分布，若随机变量Y构成的是一个马尔科夫随机场，则称条件概率分布P(Y|X)是条件随机场。

四，从条件随机场到线性随机场：

我们再对X和Y变量进行限制，使其具有形同的结构形式，即：

如下