假设您是报纸行业的编辑,每天都会收到数千个故事。您将如何找到与体育,政治等特定领域相关的故事?您会讲完所有这些故事吗?无权利?一个可以帮助您划分为不同类别的系统怎么样?该系统还可以执行复杂的任务,例如按城市划分故事,识别故事中涉及的人员姓名,组织等。在这篇文章中,我将向您介绍一个名为命名实体识别(NER)的东西。NER的任务是在文本中查找单词的类型。
简介:
在自然语言处理(NLP)中,实体识别是常见问题之一。该实体称为感兴趣的文本部分。在NLP中,NER是一种从大型语料库中提取相关信息并将这些实体分类为预定义类别(如位置,组织,名称等)的方法。这是一个简单的示例,可以解决与特定于领域的问题相关的复杂实体识别。
2.先决条件:
这篇文章假定您熟悉:机器学习和神经网络的基本概念
在Python和Keras中运行的LSTM网络
条件随机场(CRF)
3.了解数据:
我已经使用了kaggle的数据集。该数据集是从GMB(格罗宁根意思银行)语料库中提取的,该语料库经过标记,注释和构建,专门用于训练分类器以预测命名的实体(例如名称,位置等)。
所有实体均使用BIO方案进行标记,其中每个实体标签以B或I字母开头。B-表示实体的开始和I-内部。不需要的单词用0 –标签标记。
下表显示了有关单词标签的详细信息。
读取CSV文件并显示前10行。