目录
- 安装
- 数据准备
- 创建项目
- 创建抽取式任务
- 上传
- 定义标签
- 构建抽取式任务标签
- 任务标注
- 命名实体识别
- 导出数据
- 查看数据
命名实体识别(Named Entity Recognition,简称NER),是指识别文本中具有特定意义的实体。在开放域信息抽取中,抽取的类别没有限制,用户可以自己定义。
安装
详见:数据标注工具 doccano | 文本分类(Text Classification)
数据准备
上传的文件为txt格式,每一行为一条待标注文本,示例:
corpus.txt 随便找了几个,一般都是垂直领域的数据标注
创建项目
UIE 支持抽取与分类两种类型的任务,根据实际需要创建一个新的项目:
- 抽取式任务项目创建
适配命名实体识别、关系抽取、事件抽取、评价观点抽取等任务
- 分类式任务项目创建
适配文本分类、句子级情感倾向分类等任务。
创建抽取式任务
上传
NOTE:doccano支持TextFile、TextLine、JSONL和CoNLL四种数据上传格式,UIE定制训练中统一使用TextLine这一文件格式,即上传的文件需要为txt格式,且在数据标注时,该文件的每一行待标注文本显示为一页内容。
定义标签
构建抽取式任务标签
抽取式任务包含Span与Relation两种标签类型,Span指原文本中的目标信息片段,如实体识别中某个类型的实体,事件抽取中的触发词和论元;Relation指原文本中Span之间的关系,如关系抽取中两个实体(Subject&Object)之间的关系,事件抽取中论元和触发词之间的关系。
以 corpus.txt 中的 第一条数据为例(医疗场景-专病结构化):
任务标注
命名实体识别
导出数据
选择导出的文件类型为JSONL(relation),导出数据示例:
查看数据
标注数据保存在同一个文本文件中,每条样例占一行且存储为json
格式,其包含以下字段
-
id
: 样本在数据集中的唯一标识ID。 -
text
: 原始文本数据。 entities
: 数据中包含的Span标签,每个Span标签包含四个字段:
-
id
: Span在数据集中的唯一标识ID。 -
start_offset
: Span的起始token在文本中的下标。 -
end_offset
: Span的结束token在文本中下标的下一个位置。 -
label
: Span类型。
relations
: 数据中包含的Relation标签,每个Relation标签包含四个字段:
-
id
: (Span1, Relation, Span2)三元组在数据集中的唯一标识ID,不同样本中的相同三元组对应同一个ID。 -
from_id
: Span1对应的标识ID。 -
to_id
: Span2对应的标识ID。 -
type
: Relation类型。
作者:VipSoft