1. 介绍
在之前的文章中,我们讨论了如何使用 spaCy 的预训练管道完成各种自然语言处理任务。今天,我们将进一步探讨如何通过自定义 Pipeline 来扩展 spaCy 的功能,并引入正则表达式(Regex)来处理更加复杂的文本模式。
Pipeline 是 spaCy 中的一个核心概念,它允许我们模块化地处理文本数据。而通过添加自定义的管道,我们可以根据特定需求进行灵活的扩展。此外,Regex 是一种强大的文本匹配工具,适用于复杂语法的匹配。我们将结合 Regex 与 spaCy 管道,为文本处理提供更多可能性。
2. 自定义 Pipeline
在 spaCy 中,我们可以通过自定义组件来扩展现有的管道。以下是一个简单的示例,展示了如何创建一个自定义管道来显示文本的长度。
2.1 创建自定义组件
import spacy
from spacy.language import Language
# 创建 nlp 对象
nlp = spacy.load('en_core_web_sm')
# 定义自定义组件
@Language.component("show_length")
def show_length(doc):
print('Doc length:', len(doc))
return doc
# 将组件添加到管道的最前面
nlp.add_pipe("show_length", first=True)
# 处理文本
doc = nlp("Hello world!")
在这个示例中,我们定义了一个名为 show_length
的自定义管道,它会输出文档的长度。我们通过 add_pipe
方法将这个组件插入到管道中。
2.2 移除命名实体的自定义组件
接下来,我们创建一个更有趣的组件,它将从命名实体列表中移除所有的地理政治实体(GPE)。虽然这个例子在实际应用中没有太多意义,但它能帮助我们理解如何操作 spaCy 中的实体。
@Language.component("remove_gpe")
def remove_gpe(doc):
original_ents = list(doc.ents) # 将生成器转换为列表
for ent in doc.ents:
if ent.label_ == "GPE":
original_ents.remove(ent)
doc.ents = original_ents
return doc
# 添加自定义组件到 NER 之后
nlp.add_pipe("r