知识图谱系统课程笔记（二）——知识抽取与挖掘

已于 2022-12-29 21:55:04 修改
阅读量1.2k 收藏 10
点赞数 2
分类专栏： 知识图谱 文章标签： 知识图谱 人工智能
于 2022-12-28 22:09:59 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43654669/article/details/128473453
版权

知识图谱系统课程笔记（二）——知识抽取与挖掘

文章目录

在这里插入图片描述
在这里插入图片描述

OWL、RDF与RDFS关系

RDF是数据模型,定义了知识图谱的图结构,以主谓宾来表示的三元组,对应很多序列化格式。
RDFS也可以用RDF来表示，只是这里的调语和宾语是一些预定 义的词汇,如谓语是rdf:type, rdfs:subClass或rdfs subProperty , domain, range,宾语rdfs:Class和rdfs:Property等.在此基础上, OWL也可以用RDF来表示为三元组,他会增加更多的预定义的词汇.这些词汇使得我们有了更严格并支持本体推理的schema层或称为概念层。
对于了解一些常用的缩写是有价值的,这种多看几个我们说的知识库,并用- -下他们的SPARQL查询接口或浏览界面就会慢慢熟悉了，不要强行去背。
在这里插入图片描述

知识抽取任务定义和相关比赛

知识抽取技术

定义：知识抽取是自动地从文本中发现和抽取相关信息。
● 实体抽取
● 关系抽取
● 事件抽取.
在这里插入图片描述
（行业）知识图谱数据来源
在这里插入图片描述
知识抽取的数据类型
从不同来源、不同结构的数据中进行知识提取，形成知识存入到知识图谱。
在这里插入图片描述
示例：
在这里插入图片描述

知识获取关键技术与难点

●) 从结构化数据库中获取知识: D2R
●难点:复杂表数据的处理
●从链接数据 中获取知识:图映射
●难点:数据对齐
●从半结构化 (网站)数据中获取知识:使用包装器
●难点:方便的包装器定义方法，包装器自动生成、更新与维护
●从文本中获取知识:信息抽取
● 难点:结果的准确率与覆盖率

知识抽取的子任务

1.命名实体识别
检测：西瓜书的作者是周志华。→[西瓜书]：实体
分类：西瓜书的作者是周志华。→[西瓜书]：书籍
在这里插入图片描述

2.术语抽取
从语料中发现多个单词组成的相关术语。
3.关系抽取
抽取出实体、属性等之间的关系。
例子：王思聪是万达集团董事长王健林的独子。→[王健林] <父子关系> [王思聪]
4.事件抽取
相当于多元关系抽取
例子：
在这里插入图片描述
5.共指消解
在这里插入图片描述

在这里插入图片描述
其他
- 实体检测与识别
例如：人、组织、地点、工具等。
在这里插入图片描述
- 数值检测与识别
在这里插入图片描述
- 实体发现与链接
人 person(PER)
在这里插入图片描述
- 槽填充
发现并填充 实体的属性。
在这里插入图片描述
其他
在这里插入图片描述

实体抽取

定义：抽取文本中的原子信息元素。
实体：包括人名、组织/机构名、地理位置、时间/日期、字符值、金额值等（原子根据场景来定义）。
例子：
在这里插入图片描述

命名实体识别 NER

发展历史：
在这里插入图片描述

**定义：**识别出待处理文本中三大类（实体类、时间类和数字类）、七小类（人名、机构名、地名、时间、日期、货币和百分比）命名实体。一般而言，主要是识别出待处理文本中七类（人名、机构名、地名、时间、日期、货币和百分比）命
名实体
两个任务：实体边界识别和实体类别标注(Entity Typing)
**功能：**命名实体识别是信息提取、问答系统、句法分析、机器翻译、面向Semantic Web的元数据标注等应用领域的重要基础工具，在自然语言处理技术走向实用化的过程中占有重要地位。一般来说，命名实体识别的任务就是识别出待处理文本中三大类（实体类、时间类和数字类）、七小类（人名、机构名、地名、时间、日期、货币和百分比）命名实体。
在这里插入图片描述

标签类型：进行命名实体识别时，通常需要对每个字进行标注，中文为单个字，英文为单词，空格分割。标注的标签类型如下表所示在这里插入图片描述

————————————————
原文链接：https://blog.csdn.net/scgaliguodong123_/article/details/121303421

非结构化数据的实体抽取

非结构化数据的实体抽取可以认为是一个序列标注问题，于是我们可以使用序列标注的方法，例如使用HMM、CRF等方法，也可以使用LSTM+CRF的方法，

序列标注方法

序列标注定义：序列标注（Sequence Tagging）是NLP中最基础的任务，应用十分广泛，如分词、词性标注（POS tagging）、命名实体识别（Named Entity Recognition，NER）、关键词抽取、语义角色标注（Semantic Role Labeling）、槽位抽取（Slot Filling）等实质上都属于序列标注的范畴。
原文链接：https://blog.csdn.net/scgaliguodong123_/article/details/121303421

  • 简述序列标注的三种方法
    实体识别三种常见的序列标注方法如下：
    **BIO：**标识实体的开始，中间部分和非实体部分
    **BMES：**增加S单个实体情况的标注
    **BIOSE：**增加E实体的结束标识
    1.BIO-三位序列标注法(B-begin，I-inside，O-outside)
    B-X代表实体X的开头
    I-X代表实体X的中间或结尾
    O代表不属于任何类型的
    样例：
    我是李果冻，我爱中国，我来自四川。
 我 O
 是 O
 李 B-PER
 果 I-PER
 冻 I-PER
 ， O
 我 O
 爱 O
 中 B-ORG
 国 I-ORG
 ， O
 我 O
 来 O
 自 O
 四 B-LOC
 川 I-LOC
 。 O

2.BMES-四位序列标注法(B-begin，M-middle，E-end，S-single)
B 表示一个词的词首位值
M 表示一个词的中间位置
E 表示一个词的末尾位置
S 表示一个单独的字词
样例：

我是四川人

 我 S
 是 S
 四 B
 川 M
 人 E

3.BIOES-四位序列标注法(B-begin，I-inside，O-outside，E-end，S-single)
B表示开始
I表示内部
O表示非实体
E表示实体尾部
S表示改词本身就是一个实体
样例：
我是李果冻，我爱中国，我来自四川。

 我 O
 是 O
 李 B-PER
 果 I-PER
 冻 E-PER
 ， O
 我 O
 爱 O
 中 B-LOC
 国 E-LOC
 ， O
 我 O
 来 O
 自 O
 四 B-LOC
 川 E-LOC
 。 O

————————————————
原文链接：https://blog.csdn.net/scgaliguodong123_/article/details/121303421
在这里插入图片描述
序列标注的实例：
在这里插入图片描述
序列标注的经典方法：HMM，MEMM，CRF
参考序列标注的经典方法：HMM，MEMM，CRF
添加链接描述

HMM（隐马尔可夫模型）

在这里插入图片描述

CRF（条件随机场）

在这里插入图片描述

LSTM+CRF

每个句子按照词序逐个输入双向LSTM中，结合正反向隐层输出得到每个词属于每个实体类别标签的概率，输入CRF中，优化目标函数，从而得到每个词所属的实体类别.
在这里插入图片描述
几种方法通过F1值的比较如下：
在这里插入图片描述

参考文献

实体抽取：

  • hiheng Huang, Wei Xu, Kai Yu. Bidirectional LSTM-CRF Models for Sequence Tagging. CoRR. 2015
  • Guillaume Lample, Miguel Ballesteros, Sandeep Subramanian, Kazuya Kawakami, Chris Dyer. Neural Architectures for Named Entity Recognition. The 2016 Conference of the North American Chapter of the Association for Computational Linguistics. 2016: 260-270

实体识别与链接

实体链接：识别非结构化数据（文本）中的实体，并将它们链接到知识库中，是让机器理解自然语言的第一步，也是至关重要的一步。
实体消歧的原因：实体识别出来的实体名可能是有歧义的，可能有多个实体都对应着某个实体名，也可能摸个实体对应着多个实体名，如china可能是中国也可能是瓷器，此时我们需要对实体进行消歧与链接。
过程：
在这里插入图片描述

在这里插入图片描述

DBpedia Spotlight

DBpedia Spotlight可以把我们输入的文本中的实体抽取出来，将其对应到知识图谱DBpedia。官方提供了一个示例网站：https:/demo.dbpedia-spotlight.org
dbpedia-spotlight网站
在这里插入图片描述
【DBpedia Spotlight】知识图谱实体链接/抽取文本实体
在这里插入图片描述
Demo:http://dbpedia-spotlight.github.io/demo/网址

opencalais

http://www.opencalais.com/
在这里插入图片描述
Demo: http://viewer.opencalais.com/
在这里插入图片描述
实体链接举例：
在这里插入图片描述

实体识别和链接的开源系统

【1】http://acube.di.unipi.it/tagme/
【2】https://github.com/parthatalukdar/junto
【3】http://orion.tw.rpi.edu/~zhengj3/wod/wikify.php
【4】https://github.com/yahoo/FEL
【5】https://github.com/yago-naga/aida
【6】http://www.nzdl.org/wikification/about.html
【7】http://aksw.org/Projects/AGDISTIS.html
【8】https://github.com/dalab/pboh-entity-linking

关系抽取

简介：信息抽取 (Information Extraction)研究领域的任务之一， ==从文本中抽取出两个或者多个实体之间的语义关系。==关系抽取主要有基于模板的方法、监督学习方法和弱监督学习方法。
举例：
在这里插入图片描述
在这里插入图片描述
举例：企业知识图谱
在这里插入图片描述
关系抽取的方法：
在这里插入图片描述

1.基于模板的方法
  • 基于触发词的Pattern
    首先确定一个触发词（trigger word），然后根据触发词做pattern的匹配及抽取，然后做一个映射。
    例子：
    在这里插入图片描述
  • 基于依存句法分析的Pattern
    文本一般具有一些句法结构，如主谓结构、动宾结构、从句结构、这些结构可以是跨多个词所产生的。最常见的情况是动宾短语，所以我通常以动词为起点，构建规则，对节点上的词性和边上的依存关系进行限定（可以理解为泛化的正则表达式）。
    在这里插入图片描述
    具体的流程如下：
  1. 对句子进行分词、词性标注、命名实体识别、依存分析等处理
  2. 根据句子依存语法树结构上匹配规则，每匹配一条规则就生成一个三元组
  3. 根据扩展规则对抽取到的三元组进行扩展
  4. 对三元组实体和触发词进一步处理抽取出关系

在这里插入图片描述
例子：董卿现身国家博物馆看展优雅端庄大方。
依存分析：
在这里插入图片描述
基于模板的方法的优缺点：
优点
➢ 在小规模数据集上容易实现
➢ 构建简单
缺点
➢特定领域的模板需要专家构建
➢难以维护
➢可移植性差
➢规则集合小的时候，召回率很低。（召回率召回率详解也叫查全率，旨在找到实际为正的样本中多少被预测为正。）

面向结构化数据的知识抽取

面向半结构化数据的知识抽取

实践展示:基于百科数据的知识抽取

微莱羽墨
关注
  • 2
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
基于CFN的教材内容提要信息抽取研究 (2010年)
05-29
文章选用教材内容提要作为研究对象，探索了基于中文框架语义（CFN）的文本信息抽取技术。以文本的语义特征向量作为信息抽取的基础，并用神经网络方法对语料进行训练学习并自动获取模板语义特征向量，最后结合目标模板抽取出所需信息。这种方法避开语法分析，具有较细的处理粒度，对语义元素搭配形式相对规范的领域具有一定的普遍适用性。实验结果表明，基于中文框架语义的信息抽取方法具有相对较高的准确率。
动手学关系抽取-知识图谱基础篇视频课程
08-17
好课分享——动手学关系抽取-知识图谱基础篇视频课程
知识抽取-实体及关系抽取
sophicchen的专栏
06-30 7675
知识抽取涉及的“知识”通常是清楚的、事实性的信息，这些信息来自不同的来源和结构，而对不同数据源进行的知识抽取的方法各有不同，从结构化数据中获取知识用 D2R，其难点在于复杂表数据的处理，包括嵌套表、多列、外键关联等；从链接数据中获取知识用图映射，难点在于数据对齐；从半结构化数据中获取知识用包装器，难点在于 wrapper 的自动生成、更新和维护，这一篇主要讲从文本中获取知识，也就是我们广义上说的信息抽取。 1. 信息抽取三个最重要/最受关注的子任务： 实体抽取 也就是命名实体识别，包括实体的检测.
第4章 关系抽取——《知识图谱概念与技术》肖仰华
fufu_good的博客
04-23 2720
4.1 概述 知识抽取（Information Extraction，IE）旨在从非结构化和半结构化文本中抽取出结构化数据。一般而言，关系抽取产生的结果为三元组<主体（Subject），谓语（Predicate），客体（Object）>，表示主体和客体之间存在谓词表达的关系。 除了从文本中或半结构化数据中国抽取关系，还可以有： 人工输入 从结构化数据转换而来 4.1.1 关系抽取的...
NLP实验二：二元文法模型
zhiliao_aaa的博客
05-26 2682
中国海洋大学NLP实验二：二元文法模型
知识图谱之知识抽取
jinhao_2008的专栏
10-20 4417
知识抽取是知识图谱构建的核心技术之一，是实现自动化构建大规模知识图谱的重要技术。其目的主要从不同来源、不同结构的数据中进行知识提取并存入知识图谱中。知识抽取任务主要包括以下三个子任务：实体抽取、关系抽取和事件抽取。
数据挖掘 知识发现过程与应用结构
weixin_51273276的博客
11-30 1645
（1）Quest：使用Client/Server结构进行设计的一种多任务KDD系统。（2）DBMiner：多任务数据挖掘系统，把关系型数据库和数据挖掘功能集成在一起，由图形用户界面、DBMiner引擎和通信模块构成。数据挖掘查询语言、数据挖掘建模语言、通用数据挖掘语言。这里介绍DMQL数据挖掘语言顶层语法的直观印象。
一文读懂知识图谱的主要技术
热门推荐
04-20 1万+
导读：知识图谱主要技术包括知识获取、知识表示、知识存储、知识建模、知识融合、知识理解、知识运维等七个方面知识图谱主要技术包括知识获取、知识表示、知识存储、知识建模、知识融合、知识理解、知识运维等七个方面，通过面向结构化、半结构化和非结构化数据构建知识图谱为不同领域的应用提供支持，具体的技术架构如图4.1所示。一、知识获取知识图谱中的知识来源于结构化、半结构化和非结构化的信...
知识图谱--知识抽取
weixin_52185313的博客
06-13 1608
知识抽取是知识图谱与NLP的交叉领域；知识图谱工程 可以从关系型数据库中获取知识 从视觉数据获取知识,（Scene Graph Construction之前的Caption-LSTM看图说话也可以理解为从视觉数据获取知识） 从文本获取知识 核心就是NLP的序列标注问题，这里不再赘述；最开始先是机器学习模型HMM为主，后被深度学习模型取代BiLSTM-CRF；总结一下HMM模型即可对于网络的Head部分有这样几个常用的结构Softmax层，简单粗暴CRF层，考虑上下文信息(在CRF层之前是一个映射到类别的FC
9.知识图谱和知识挖掘的了解
酒心★
11-01 1238
知识图谱想做的，就是在不同数据（来自现实世界）之间建立联系，从而带给我们更有意义的搜索结果。比如：用 Google 搜索自然语言处理，右侧会显示研究领域和相关概念。点击这些知识点，又可以深入了解；再比如，搜索一个人名时，右侧会给出此人的生平、背景、居住位置、作品等信息。
python课程设计大作业基于知识图谱的问答系统源码.zip
06-17
python课程设计大作业基于知识图谱的问答系统源码。里面含有项目的详细介绍和部署文档，按图索骥即可完成项目； 源码中有五个文件夹，如下所示： 1. Kbqa-website-deploy：项目部署所需内容； 2. buildQAModule：...
基于知识图谱的课程学习智能问答系统.zip
03-15
知识图谱的核心价值在于其能够精确、直观地表示复杂世界中的知识，并支持高效的知识查询与推理。例如，在搜索引擎中，知识图谱可以提升搜索结果的相关性和准确性，为用户提供直接的答案而非仅仅是网页链接。同时，...
基于python与知识图谱的推荐系统设计与实现
06-02
基于python与知识图谱的推荐系统设计与实现
基于Python实现的医疗知识图谱的知识问答系统.zip
07-07
基于所构建的医疗知识图谱实现简单的对话系统。 这样的对话系统优点很明显，那就是不需要花时间训练，运行的速度很快，缺点也很明显，那就是不能有效分析任意的输入，输出也只能是预设定好的输出，灵活度太小，要想...
【炼金术士】BatchSize对网络训练的影响
kabuto_hui的博客
04-25 1010
首先我们设置一个非常小的初始学习率，比如1e-5，然后在每个batch之后都更新网络，同时增加学习率，统计每个batch计算出的loss。最后我们可以描绘出学习的变化曲线和loss的变化曲线，从中就能够发现最好的学习率。针对BatchSize越大，网络训练速度快这条很好理解，在相同的单位时间内，一次训练的数据越多，网络训练的速度也就越快。初始的学习率肯定是有一个最优值的，过大则导致模型不收敛，过小则导致模型收敛特别慢或者无法学习，下图展示了不同大小的学习率下模型收敛情况的可能性。
TR6 - Transformer实战 单词预测
Loser
04-26 886
实验做的还是比较简单的，Transformer模型中的编码器直接使用的是pytorch框架预定义好的模块，但是对于理解整个模型的训练过程还是非常有帮助的。在实验的过程中，发现torchtext模块也已经不在维护了，和计算机视觉不同，自然语言处理的模型的输入格式灵活多变，经常需要自己写代码调整，比如上面的data_process函数。
知识在人工智能中的核心作用：连接主义与符号主义的交融
最新发布
笔者从事电信媒体开发多年，愿意将多年的开发经验分享给同行
04-27 605
在人工智能（AI）的浩瀚海洋中，连接主义和符号主义是两股不可忽视的潮流。这两大流派在AI的发展历程中起到了举足轻重的推动作用。连接主义，深受人脑神经网络启发，致力于模仿其结构与功能；而符号主义则侧重于利用符号与规则来构建和处理知识。本文旨在深入探讨知识在AI领域的多维作用，特别是连接主义如何借助深度学习技术实现知识的捕获、转化与运用。
【AI】一文介绍索引增强生成RAG的原理和结构
每日出拳老爷子的博客
04-26 225
今天向大家介绍一下关于RAG的一些知识和经验。这里说的RAG可以理解为目前针对企业知识库问答等AI应用场景的解决方案，这个场景就是利用自然语言大模型LLM与用户自有的文件进行对话的能力。
知识图谱的分类
suliuzhen的博客
04-22 527
知识图谱分为通用知识图谱与领域知识图谱两类，两类图谱本质相同，其区别主要体现在覆盖范围与使用方式上。（1）通用知识图谱：通用知识图谱主要强调知识的广度，可以形象地看成一个面向通用领域的结构化的百科知识库，其中包含了大量的现实世界中的常识性知识，覆盖面广，通常运用百科数据进行自底向上（Top-Down）的方法进行构建；
python基于知识图谱的问答系统设计与实现
09-13
Python基于知识图谱的问答系统设计与实现是利用Python语言和知识图谱技术建立一个能够回答用户问题的智能系统。该系统主要包含两个部分：知识图谱的构建和问题回答模块。 首先，我们需要使用Python来构建一个知识图谱，可以利用爬虫技术从互联网上获取数据，或者使用已有的数据源进行构建。然后，使用Python的数据处理和图谱构建库，如NetworkX等，处理数据并生成知识图谱。知识图谱的构建涉及到实体的抽取和关系的建立，可以使用自然语言处理和机器学习技术进行支持。 接下来，我们需要使用Python来实现问题回答模块。首先，要将用户的问题进行分析和理解，可以使用Python的自然语言处理库，如NLTK或SpaCy等，进行分词、命名实体识别等处理。然后，根据用户问题，在知识图谱中进行搜索和匹配，找到与问题相关的实体和关系。最后，根据用户问题和知识图谱中的信息，生成回答并返回给用户。在回答的过程中，可以利用Python的文本生成技术，如模板匹配、机器学习等方法进行支持。 总之，Python基于知识图谱的问答系统设计与实现需要用到爬虫技术、自然语言处理、机器学习和文本生成等技术。通过Python的丰富库和强大的生态系统，可以方便地进行系统的构建和实现，提供高效准确的问题回答服务。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

微莱羽墨

感谢支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值