构想:中文文本标注工具(内附多个开源文本标注工具)

■ 项目地址 | https://github.com/crownpku/Chinese-Annotator

自然语言处理的大部分任务是监督学习问题。序列标注问题如中文分词、命名实体识别,分类问题如关系识别、情感分析、意图分析等,均需要标注数据进行模型训练。深度学习大行其道的今天,基于深度学习的 NLP 模型更是数据饥渴。 


最前沿的 NLP 技术往往首先针对英文语料。英文 NLP 的生态很好,针对不同有意思的问题都有不少大规模语料公开供大家研究,如斯坦福的 SQuAD 阅读理解语料。中文方面开源语料就少得多,各种英文 NLP 上的犀利模型和前沿技术都因为中文语料的匮乏很难迁移过来。


另一方面,对于一些垂直领域,如医疗、金融、法律、公安等等,专有名词和特有需求甚多,很难将比较 general 的比如在 wikipedia dump 上面训练的模型直接拿过来用。 


传统人工标注数据的过程往往是繁琐和低效率的。刚标了一个“联想”是公司名,又来一个“联想集团”,再标一次又来一个“联想集团有限公司”,如此的例子令标注过程含有大量的重复劳动。另一方面也没有一个易上手的标注 UI,标注工作者往往需要直接按预先定好的格式直接在写字板之类的软件中修改原始数据,格式错误率也较高。 


能不能构建一个中文文本的标注工具,可以达到以下两个特点: 


1. 标注过程背后含有智能算法,将人工重复劳动降到最低; 


2. 标注界面显而易见地友好,让标注操作尽可能简便和符合直觉。 


答案是可以的。事实上很多标注工具已经做到了这一点,最先进的如 Explosion.ai 的 Prodigy;然而开发了著名的 NLP 开源包 Spacy 的 explosion.ai 选择了将 Prodigy 闭源,而 Spacy 支持中文也仍然遥遥无期。我们希望构建一个开源的中文文本标注工具,而本文很多的技术灵感正是来自 Prodigy 文档[1]。 


主动学习的智能标注算法


流程: 


1. 用户标一个label;


2. 主动学习的后台算法分为 online 和 offline 部分。online 部分即时更新模型,可使用诸如 SVM、bag of words 等尽可能快的传统方法;offline 部分当标注数据积累到一定数量时更新模型,可使用准确度较高的深度学习模型; 


3. 模型更新后,对尽可能多的 example 做预测,将确信度排序,取确信度最低的一个 example 作为待标注例子。重复 1 的过程。 


可以想象如果模型训练得好的话,这个过程将直接忽略掉确信度最大的那些例子,而把所有重点放在分类边界上的那些确信度小的例子。这样可以尽算法所能减少用户端的人工工作量。 


online 与 offline 模型互相协作,与用户手动标注的过程一起不断迭代;在最终标注任务完成之后,offline 模型可以重新在所有标注数据上重新训练,以达到最好的模型效果。 


显而易见的友好标注前端

 

用户标注的界面应该尽可能符合直觉,让用户完全聚焦在当前的标注任务上。 Prodigy 给了一个非常好的 demo[2],每一次的标注只需要用户解决一个 case 的问题。以文本分类为例,对于算法给出的分类结果,只需要点击“正确”提供正样本,“错误”提供负样本,“略过”将不相关的信息滤除,“Redo”让用户撤回操作,四个功能键以最简模式让用户进行标注操作。 


真正应用中,应该还要加入一个用户自己加入标注的交互方式,比如用户可以高亮一个词然后选择是“公司”,或者链接两个实体选择他们的关系等等。



以上是个人觉得的一个智能中文文本标注工具的最大亮点。算法本身还有很多细节需要思考,比如 online 机器学习算法与 offline 深度学习算法的协作、中文 NLP 的特征提取与模型构建、正则规则的引入、word embedding 的训练和使用等等。


系统本身还要考虑后台存储(SQLite?)和数据导入导出,前端框架选型和开发,前后端交互(django? flask? RestAPI?)等等的问题。下面是 Prodigy 的简单架构图。



我们希望专注于中文文本标注的功能。前期我们想实现三种中文 NLP 任务的标注工具:中文命名实体识别,中文关系识别,中文文本分类。未来如果有更多如中文图片问答、中文图片描述之类的任务,我们可以再研究加入图片标注这一块。


希望这个工具的开发会是以中文社区的开源协作方式,为整个中文 NLP 的开源生态做出一点贡献。


FAQ


1. 待标注数据集如何分割?


应该分为按句子、按段落、按文章三种,写入配置文件由用户选择。 原因是命名实体识别与关系抽取可能按句子或者段落为单位给用户标注比较合适;同时可能用户会有全文章分类的需求,需要给出全文。 


2. 为什么要使用 online?


用户标注数据 + offline 标注数据,为什么还要使用 online model 更新数据呢?原因是 offline 的模型往往在全量数据上重新学习,也很可能需要使用深度学习模型,训练的速度会很慢。而 active learning 的人机迭代过程要求模型给出几乎实时的 stream 级别的训练和推断速度,这时候就需要 online model 来先行更新数据。 


3. 使用什么机制触发 offline model? 


这也可以是写入配置文件的参数。一种是用户标够了 100 个或提前设置好的足够多的新的数据,就可以启用 offline model 进行训练;另一种是给用户一个按钮,用户可以点击启动后台的 offline 模型训练并给出进度条。 


4. 系统使用什么格式的配置文件? 


推荐 json 格式的配置文件。请参考一个例子在这里[3]


5. AIgo Factory 是什么?和 User Instance 里面的部分是不是有点重合?


Algo factory 是算法的代码模块,你可以想象一堆 tensorflow 或者 sklearn 的代码;而 user instance 是 config 文件与模型参数,是一堆用户生成的 json 文件和模型文件。algo factory 是可以不同 user instance 传入参数复用的,而每一个 user instance 代表了一个用户任务的实例。


这样设计的目的,是尽可能使系统可复用部分模块化,而抽出用户具体任务的配置与数据单独存储管理。


附录:几个开源文本标注工具


• IEPY 



整个工程比较完整,有用户管理系统。前端略重,对用户不是非常友好。


代码:https://github.com/machinalis/iepy 

说明:http://iepy.readthedocs.io/en/latest/index.html


• DeepDive (Mindtagger)


Screenshot of Mindtagger precision task in progress


前端比较简单,用户界面友好。 


介绍:http://deepdive.stanford.edu/labeling 

前端代码:https://github.com/HazyResearch/mindbender 


将 DeepDive 的 corenlp 部分转为支持中文的代码尝试:


https://github.com/SongRb/DeepDiveChineseApps 

https://github.com/qiangsiwei/DeepDive_Chinese 

https://github.com/mcavdar/deepdive/commit/6882178cbd38a5bbbf4eee8b76b1e215537425b2


• BRAT



介绍:http://brat.nlplab.org/index.html 

在线试用:http://weaver.nlplab.org/~brat/demo/latest/#/ 

代码:https://github.com/nlplab/brat


• SUTDAnnotator



用的不是网页前端而是 pythonGUI,但比较轻量。 


代码:https://github.com/jiesutd/SUTDAnnotator 

Paper:https://github.com/jiesutd/SUTDAnnotator/blob/master/lrec2018.pdf


• Snorkel



Page: https://hazyresearch.github.io/snorkel/ 

Github: https://github.com/HazyResearch/snorkel 

Demo Paper: https://hazyresearch.github.io/snorkel/pdfs/snorkel_demo.pdf


• Slate



Code: https://bitbucket.org/dainkaplan/slate/ 

Paper: http://www.jlcl.org/2011_Heft2/11.pdf


• Prodigy



和著名的 spacy 是一家做的。


Website: https://prodi.gy/docs/ 

Blog: https://explosion.ai/blog/prodigy-annotation-tool-active-learning


相关链接


[1] Prodigy 文档:https://prodi.gy/docs/

[2] Prodigy demo:https://prodi.gy/demo

[3] 系统配置参考:

https://github.com/crownpku/Rasa_NLU_Chi/tree/master/sample_configs


招募


中文文本标注工具 Chinese-Annotator,是一个集合了前后端开发和 NLP 算法开发的富有挑战性的全栈开源项目。


万事开头难。前期的开发需要核心团队协同完成,我们需要你的帮助!


1. 程序架构


程序框架开发,与前后端及算法模块紧密沟通,定义函数功能,规范接口和参数。 我们希望参考[rasa_nlu](https://github.com/RasaHQ/rasa_nlu)的用户配置设计将通用算法模块和用户数据隔离开,同时参考[iepy](https://github.com/machinalis/iepy)的前后端设计和算法尤其是 active learning 部分的设计。 


2. 前后端开发 


前端使用 vue+flask 构架全栈开发,完成 web 用户中文文本标注的动态交互。后端业务逻辑支撑和可扩展的数据持久化。 


3. NLP 算法模块开发


传统 NLP 特征工程,传统分类(SVM)和序列标注(CRF,HMM)算法开发,深度学习 NLP 的分类和序列标注算法开发。online 及 offline 算法优化,以及接口 API 开发。 


4. Python工程师


Python代码开发。


如果你对以上职位感兴趣,请将简历发送至:crownpku@gmail.com

          

 我是彩蛋


 解锁新姿势:用微信刷论文!


PaperWeekly小程序上线啦


今日arXiv√猜你喜欢√热门资源


随时紧跟最新最热论文

 

 解锁方式 

1. 识别下方二维码打开小程序

2. 用PaperWeekly社区账号进行登陆

3. 登陆后即可解锁所有功能

 

长按识别二维码,使用小程序

*点击阅读原文即可注册





关于PaperWeekly


PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。


▽ 点击 | 阅读原文 | 加入社区

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页