CRF++的简单使用

CRF++是著名的条件随机场开源工具，也是目前综合性能最佳的CRF工具。本文简要介绍其使用方法。

一、工具包的下载：

a) http://crfpp.sourceforge.net

其中有两种，一种是Linux下（带源码）的，一种是win32的，当然是在什么平台下用就下载什么版本了。

b) http://download.csdn.net/source/1425683

两种版本打成一个包了。

二、安装：

a) Windows版的无须安装，直接解压即可使用；

b) Linux版本的安装方法是：

i. 解压到某目录下

ii. 打开控制台，将当前目录切换到解压目录

iii. 依次输入命令：

./configure

make

su

make install

注：需要root权限才能成功安装。

三、训练语料格式：

a) 训练语料至少应具有两列，列间由空格或制表位间隔，且所有行（空行除外）必须具有相同的列数。句子间使用空行间隔。

b) 一些合法的语料示例：

i. 有两列特征的

太 Sd N

短 Sa N

而 Bu N

已 Eu N

。 Sw N

以 Sp N

家 Bn N

乡 En N

的 Su N

ii. 只有一列特征的

太 N

短 N

而 N

已 N

。 N

以 N

家 N

乡 N

的 N

四、特征的选取及模板的编写：

a) 特征选取的行是相对的，列是绝对的，一般选取相对行前后m行，选取n-1列（假设语料总共有n列），特征表示方法为：%x[行,列]，行列的初始位置都为0。例如：

i. 以前面语料为例

“ Sw N

北 Bns B-LOC

京 Mns I-LOC

市 Ens I-LOC

首 Bn N

假设当前行为“京”字这一行，那么特征可以这样选取：

特征模板	意义	代表特征
%x[-2,0]	-2行，0列	“
%x[-1,0]	-1行，0列	北
%x[0,0]	0行，0列	京
%x[1,0]	1行，0列	市
%x[2,0]	2行，0列	首
%x[-2,1]	-2行，1列	Sw
%x[-1,1]	-1行，1列	Bns
%x[0,1]	0行，1列	Mns
%x[1,1]	1行，1列	Ens
%x[2,1]	2行，1列	Sw
%x[-1,0]/%x[0,0]	-1行0列与0行0列的组合	北/京
%x[0,0]/%x[1,0]	0行0列与1行0列的组合	京/市
%x[-2,1]/%x[-1,1]	-2行1列与-1行1列的组合	Sw/ Bns
%x[-1,1]/%x[0,1]	-1行1列与0行1列的组合	Bns/Mns
%x[0,1]/%x[1,1]	0行1列与1行1列的组合	Mns/Ens
%x[1,1]/%x[2,1]	1行1列与2行1列的组合	Ens/Sw
%x[-2,1]/%x[-1,1]/%x[0,1]	-2行1列、-1行1列、0行1列的组合	Sw/Bns/Mns
%x[-1,1]/%x[0,1]/%x[1,1]	-1行1列、0行1列、1行1列的组合	Bns/Mns/Ens
%x[0,1]/%x[1,1]/%x[2,1]	0行1列、1行1列、2行1列的组合	Mns/Ens/Sw

b) 模板制作：模板分为两类：Unigram和Bigram。

其中Unigram/Bigram是指输出token的Unigram/Bigrams，而不是特征。

c) 以前面示例中的特征为特征，制作为Unigram模板如下：

#Unigram

U00:%x[-2,0]

U01:%x[-1,0]

U02:%x[0,0]

U03:%x[1,0]

U04:%x[2,0]

U05:%x[-2,1]

U06:%x[-1,1]

U07:%x[0,1]

U08:%x[1,1]

U09:%x[2,1]

U10:%x[-1,0]/%x[0,0]

U11:%x[0,0]/%x[1,0]

U12:%x[-2,1]/%x[-1,1]

U13:%x[-1,1]/%x[0,1]

U14:%x[0,1]/%x[1,1]

U15:%x[1,1]/%x[2,1]

U16:%x[-2,1]/%x[-1,1]/%x[0,1]

U17:%x[-1,1]/%x[0,1]/%x[1,1]

U18:%x[0,1]/%x[1,1]/%x[2,1]

说明：

i. 其中#开头的行不起作为，为注释；

ii. 行与行之间可以有空行；

iii. Unigram的特征前使用字母U，而Bigram的特征前使用字母B。后面的数字用于区分特征，当然这些数字不是一定要连续。

五、训练方法

a) 语料的训练可以使用命令（在终端或DOS命令行中）：crf_learn <模板> <训练语料> <模板文件>

其中模板和训练语料是需要事先准备好的，模板文件在训练完成后生成

注意：

1) 如果提示语料格式错误，则注意检查语料的存储编码，有些编码CRF++是会读取错误的；

2) 文件路径要正确，如果文件没在当前目录，那么要使用绝对路径。

b) 训练中一些参数的说明：

ter：迭代次数

terr：标记错误率

serr：句字错误率

obj：当前对象的值。当这个值收敛到一个确定值的时候，训练完成

diff：与上一个对象值之间的相对差

六、解码方法

a) 可以使用crf_test -m <模板文件> <测试文件1> <测试文件2> ……。

b) 结果会直接输出到屏幕上面，如果想让结果保存到文件中，那么使用重定向，在上面命令后面加上一个开关“>”即可：crf_test -m <模板文件> <测试文件1> > <保存位置>。例如：crf_test -m model test.txt > result.txt

七、评测工具CoNLL 2000的用法

a) 下载：

i.http://download.csdn.net/source/1425687

ii. http://www.cnts.ua.ac.be/conll2000/chunking/output.html

b) 使用它是用来评分，所以要求crf_test一步使用的测试文件中本身带有答案，这样解码后生成的结果会在答案的后一列。比如原来为：

使 En N

、 Sw N

交 Bni B-ORG

通 Mni I-ORG

部 Eni I-ORG

部 Bn N

那么解码后变成：

使 En N N

、 Sw N N

交 Bni B-ORG B-ORG

通 Mni I-ORG I-ORG

部 Eni I-ORG I-ORG

部 Bn N N

CoNLL 2000将把最后一列与倒数第二列进行对比，统计出最后各类的正确率，召回率、F值等。

c) 使用评测工具前要将评测文件中的所有制表位转换成空格，否则评测工具会出错。

d) 评测命令为：perl conlleval.pl < <评测文件>