前段时间看到了一篇基于CRF的ReID的文章,对于里面的CRF(条件随机场的内容百思不得其解)。所以去网上找一些相关的资料但是感觉又都说的不求甚解。要么是理解等的有偏差,要么是缺乏系统的介绍,大多数来说只是公式的堆积让人不知所云。所以呢,我自己也琢磨了两天,零零散散的也都看了一些,所以打算把自己的理解给整理下来,做一个学习笔记,也供有兴趣的朋友交流学习。
绕回主体,讲到CRF,就离不开对马尔科夫网络,隐马尔科夫网络以及图模型这些概念会扯上千丝万缕的联系。之前看到的博客中有这样的图,我觉得一目了然,可以把它当做武功秘籍的大纲或者说类似与文明里面的科技树。
我们可以看到,CRF作为图模型发展的一个分支,在后面的介绍中,相关图模型的概念是必不可少的,所以在这里先介绍一下图的概念以及有向图和无向图。
1.1图的基本概念
一张图都可以用G=<V,E>这样的有序二元组来表示。
V节点集:其中的V代表了图中的节点的集合,不如下图左侧中的{v1,v2,v3...}这些点
E边集:E代表了图中类似于(e1,e2,e3.....)的边的集合
有向图:类似于下图左侧边没有指明方向的图称为有向图
无向图:类似于下图右侧指明了方向的图称为有向图
1.2概率图模型
在上节中讲解的是普通图模型,在这里要给大家说道说道概率图模型。概率图模型也可以用G={V,E}来表示,只不过在这个表示里面,V代表节点表示的是随机变量,可以是一个标签或者一个代号。同时可以利用Y表示这些随机变量的分布。而E带边的则是两个随机变量之类的依赖关系,具体的讲解过程,在之后的几张里,应该都能够有所学习。而区分有向图与无向图的关键就是如何表示Y的联合概率
1.2.1有向图的概率图分布
上图就是个典型的有向图,如果要求x1到X5的联合概率,我们可以轻易看出他们之间的依赖关系,比如x2的概率与X1有关,X3和X4的概率都与X2有关所以这个联合分布可以表示为
P(x1,x2,x3,x4,x5)=P(x1)*P(x2|x1)*P(x3|x2)*P(x4|x2)*P(x5|x3,X4)
1.2.2无向图的概率图分布
对于无向概率图,简称马尔科夫随机场,是不是听到这个名字既因为马尔科夫这个概念很熟悉,又因为随机场两个字想到了我们最终的目的CRF而激动,别着急耐着性子慢慢来请。这部分内容比较多,有兴趣的朋友可以移步“CRF修炼秘籍(二)马尔科夫篇”继续学习