json中文乱码_(深度解析)基于规则的中文复合事件抽取,附python源码

文/IT可达鸭

图/IT可达鸭、网络

前言

什么是复合事件?复合事件包括条件事件、因果事件、顺承事件、反转事件。

6738abb3c9647cb8fce1096faf69da6a.png

很多NLP实际项目都需要用到复合事件的抽取,例如:知识图谱中的事件抽取,形成事理图谱;智能聊天对话中的事件抽取,用于识别用户意图。复合事件的抽取作为一个NLP的基础模块,还是有很多东西可以研究的。

本文主要介绍,一种基于规则的中文事件抽取方法,源码来自网友的贡献。本文的源码在此基础上进行优化,将数据与代码分开,方便后期扩充事件抽取的规则,同时简化代码,更易于理解。

最好的学习方法就是阅读优秀的源码,最好的成果检验,就修改源码,把代码融入自己的想法。下面就跟着可达鸭一起学习如何开发这个项目吧。

技术难点

json文件的读取和存储,以及一些乱码情况的处理。

6b76ae209e29326a372b3eb45b6c7f89.png

读取json文件

保存文件的时候,使用dump函数,“ensure_ascii”参数设置为False,这样保存的文件就不会出现中文乱码。

0eda8ebe8defd856304a11af52013f61.png

保存json文件

如何去提取复合事件呢?这里使用正则表达式,也是最常用的基于规则的方法。

9ccaf68328a13e6da93826a52cde54d3.png

由于事件的句式有上百个连接关键词词,而连接词有上千种组合。我们必须设计出能匹配所有组合的正则表达式。这里设计一个生成动态正则表达式的函数,由手工整理出固定的连接词(详细见数据文件data.json),再有程序自动排列组合出各种形式。

将上述“不但”、“而且”设计为变量,用python中的占位符代替。从文件中读取句式连接词,迭代赋值“pre”和“pos”,就能生成所有的正则表达式。

d21effc570b87f14cc6c5b272c1123d7.png

文章代码来源于开源的源码,这边做了优化和改进。我们将数据与代码分开,并引入设计模式中的策略模式。策略模式主要解决:在有多种算法相似的情况下,使用“if...else...”所带来的难以维护的问题。避免过多使用多重条件的判断,扩展性良好。

如果大家的代码出现大量的“if....else....”, 可以考虑是否可以使用策略模式。

项目总体框架图

fc832dfc93561f7c03e71c1844429617.png

有了项目总体框架图,就能很好的把握整个项目的开发进度。

详细代码

导入相应的python包,其中re是一个正则表达式模块,用于模式匹配。

2665ab2df7f836938411b917195cd440.png

所有的事件连接词,都写入data.json,其中格式如下图。写入json文件的好处就是,方便后续的扩展。增加事件连接词,增加事件类型都可以很方便实现,不用去修改源码。

6164aaf23452ad43520cc14335b6112c.png

将复合事件抽取封装成一个类,这是类初始化函数基本写法。

284b689c781655041e1e9a2052642d10.png

数据加载模块,从data.json读取数据,并整理数据的格式。

72cb48a65b1bd4e49d66c443e6e67617.png

根据数据加载模块中获取的数据,生成所有的正则表达式。

c430ea28184f82b1e85a83ba71aae3b0.png

基于正则表达式,对每个输入的句子,进行匹配与事件抽取。

18a37df7e0a49ab841fed12eea790985.png

这里是对输入的文本进行切分,然后对每个句子进行事件抽取。

6aa4366aa924f40ead92ade8864893f9.png

建立main函数,对写好的类进行测试。

afe0581d0f9c1d3c7bd5c4817d30b83e.png

最终输出结果,大家可以根据自己想要的输出格式进行修改。

9728e18cbba9aaf158e50b5eb3b1efe5.png

结语

本项目中用到了正则表达式文件读取设计模式--策略模式,这些都是一些基本的编程知识。需要在日常编程中不断积累,不能一蹴而就。

学习python,不需要一杯奶茶钱,只需要你点个关注。如果觉得小编的文章对你有帮助,记得点个赞,顺便帮我分享出去。如果想获取源码,可以关注后,私信:python事件抽取,我把源码发给你。最后,感谢大家的阅读,祝大家生活愉快。

本文由 IT可达鸭 原创,欢迎关注,带你一起长知识!

表情包
插入表情
评论将由博主筛选后显示,对所有人可见 | 还能输入1000个字符
相关推荐
©️2020 CSDN 皮肤主题: 深蓝海洋 设计师:CSDN官方博客 返回首页