LLMs之RAG：KAG(知识增强生成)的简介、安装和使用方法、案例应用之详细攻略

已于 2024-12-14 00:11:33 修改
阅读量2.8k 收藏 19
点赞数 26
分类专栏： RAG_Agent NLP/LLMs 文章标签： RAG LLMs
于 2024-12-09 21:55:42 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41185868/article/details/144358806
版权

LLMs之RAG：KAG(知识增强生成)的简介、安装和使用方法、案例应用之详细攻略

目录

KAG的简介

1、核心功能特点

2、技术架构

(1)、KAG 的核心功能之LLM 友好的语义化知识管理：知识表示+知识融合+互索引机制+噪声降低

(2)、KAG 的核心功能之逻辑符号引导的混合推理引擎：混合推理+多策略集成

KAG的安装和使用方法

1、产品版 (面向普通用户)

2、工具包版 (面向开发者)

KAG的案例应用

KAG的简介

2024年10月25日，KAG (Knowledge Augmented Generation) 是一个基于OpenSPG引擎和大型语言模型(LLM)的逻辑形式引导推理和检索框架。它用于构建专业领域知识库的逻辑推理和事实问答解决方案。KAG能够有效克服传统RAG向量相似度计算模型的不足以及OpenIE引入的GraphRAG的噪声问题。它支持逻辑推理和多跳事实问答等功能，性能显著优于当前最先进的方法(SOTA)。KAG的目标是在专业领域构建一个知识增强的LLM服务框架，支持逻辑推理、事实问答等。KAG充分整合了知识图谱(KG)的逻辑和事实特征。

KAG是一个强大的知识增强型LLM框架，能够处理复杂的逻辑推理和问答任务。其安装方法相对简单，提供了面向普通用户和开发者的两种途径。

GitHub地址：https://github.com/OpenSPG/KAG

1、核心功能特点

>> 知识和片段互索引结构：整合更完整的上下文文本信息。

>> 基于概念语义推理的知识对齐：减轻OpenIE造成的噪声问题。

>> 模式约束的知识构建：支持领域专家知识的表示和构建。

>> 逻辑形式引导的混合推理和检索：支持逻辑推理和多跳推理问答。

2、技术架构

KAG 框架由三个主要部分组成：

  • kg-builder: 负责知识表示和构建。它实现了一种对LLM友好的知识表示，基于DIKW层次结构升级SPG知识表示能力，兼容无模式和有模式的知识构建，并支持图结构和文本块的互索引表示，为后续推理问答阶段的高效检索提供支持。

  • kg-solver: 负责推理和求解。它采用逻辑形式引导的混合求解和推理引擎，包含规划、推理和检索三种运算符，能够集成检索、知识图谱推理、语言推理和数值计算四种问题求解过程，从而处理复杂的逻辑推理和问答任务。

  • kag-model: (未来逐步开源) 该部分的功能在当前版本中未详细说明，可能包含模型训练、优化或其他与模型相关的组件。

(1)、KAG 的核心功能之LLM 友好的语义化知识管理：知识表示+知识融合+互索引机制+噪声降低

  • 知识表示: KAG 采用了一种对大型语言模型友好的知识表示框架LLMFriSPG，它基于DIKW（数据、信息、知识、智慧）层次结构，升级了原有的SPG知识表示能力。 这种框架能够处理私域知识库中非结构化数据（新闻、事件、日志、书籍等）、结构化信息（交易、统计、审批等）以及业务专家经验和领域知识规则。
  • 知识融合: 它兼容同一知识类型（如实体类型、事件类型）上的无模式约束信息提取和有模式约束的专业知识构建。 通过布局分析、知识抽取、属性规范化和语义对齐等技术，将原始业务数据和专家规则整合到统一的业务知识图谱中。
  • 互索引机制: KAG 支持图结构与原始文本块之间的互索引表示，这有助于构建基于图结构的倒排索引，并促进逻辑形式的统一表示、推理和检索，从而提高知识检索效率和准确性。
  • 噪声降低: 通过知识理解和语义对齐等技术，降低信息抽取过程中的噪声，提高知识的准确性和一致性。

(2)、KAG 的核心功能之逻辑符号引导的混合推理引擎：混合推理+多策略集成

  • 混合推理: KAG 采用逻辑符号引导的混合求解和推理引擎，它将自然语言问题转化为结合语言和符号的问题求解过程。
  • 多策略集成: 该引擎包含三种类型的运算符：规划、推理和检索。 每一步都可以利用不同的运算符（精确匹配检索、文本检索、数值计算或语义推理），从而集成四种不同的问题求解过程：图谱推理、逻辑计算、Chunk检索和LLM推理。 这使得KAG能够灵活应对各种类型的问答需求。

KAG的安装和使用方法

KAG 提供两种安装和使用方法：产品版 (面向普通用户) 和工具包版 (面向开发者)。

1、产品版 (面向普通用户)

系统要求：

macOS： macOS Monterey 12.6 或更高版本
Linux： CentOS 7 / Ubuntu 20.04 或更高版本
Windows： Windows 10 LTSC 2021 或更高版本

软件要求：

macOS/Linux： Docker，Docker Compose
Windows： WSL 2 / Hyper-V，Docker，Docker Compose

安装步骤：

设置HOME环境变量 (仅限Windows用户)： set HOME=%USERPROFILE%下载docker-compose.yml文件： curl -sSL https：//raw.githubusercontent.com/OpenSPG/openspg/refs/heads/master/dev/release/docker-compose.yml -o docker-compose.yml

启动服务： docker compose -f docker-compose.yml up -d

使用方法： 使用浏览器访问默认URL： http://127.0.0.1:8887

2、工具包版 (面向开发者)

引擎和依赖镜像安装： 参考产品版步骤完成安装。

KAG安装：

T1、macOS/Linux：

创建conda环境： conda create -n kag-demo python=3.10 && conda activate kag-demo
克隆代码： git clone https://github.com/OpenSPG/KAG.git
安装KAG： cd KAG && pip install -e .

T2、Windows：

安装Python 3.8.10或更高版本，安装Git。
创建并激活Python虚拟环境： py -m venv kag-demo && kag-demo\Scripts\activate
克隆代码： git clone https://github.com/OpenSPG/KAG.git
安装KAG： cd KAG && pip install -e .

KAG的案例应用

KAG可以用于构建专业领域知识库的逻辑推理和事实问答解决方案，并支持逻辑推理和多跳事实问答。 未来计划包括支持事件推理知识图谱和医学知识图谱的KAG解决方案。

LLMs之RAG：深度剖析基于大语言模型的RAG系统中优化技巧总结—“用户查询”阶段优化策略经验—Query重写、Query分解、Query增强技术思路分析与代码实验结果对比之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
07-12 4666
​ LLMs之RAG：深度剖析基于大语言模型的RAG系统中优化技巧总结—“用户查询”阶段优化策略经验—Query重写、Query分解、Query增强技术思路分析与代码实验结果对比之详细攻略 目录 相关参考内容 深度剖析基于大语言模型的RAG系统中优化技巧总结—“用户查询”阶段优化策略经验—Query重写、Query分解、Query增强技术思路分析与代码实验结果对比之详细攻略 # 1、定义嵌入模型和LLM # 2、加载数据并预处理：加载网页、文本分割、索引构建 # 3、R
LLMs之Tokenizer之Unigram：Unigram分词方法的简介、使用方法、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
02-05 1249
Unigram源自N-gram，最简单的分词方式，而UnigramLM是一种基于语言模型的分词算法/切分技术，它使用已经切分好的词汇序列(比如Unigram)来训练n-gram语言模型，然后使用该模型来预测新的句子中的词汇切分位置。为了估计Unigram语言模型，它采用了期望最大化（EM）算法：在每次迭代中，我们首先根据旧的语言模型找到当前最优的单词分词方式，然后重新估计Unigram的概率以更新语言模型。此外，为了更好的子词抽样，我们提出了一种基于unigram语言模型的新的子词分割算法。
KAG开源了，知识增强掀翻RAG，性能翻倍
2401_84208172的博客
10-29 1529
LLMFriSPG定义了一个数据结构M，包括实体类型（T）、概念类型（C）、归纳关系（ρ）和可执行规则（L）。实体类型包括预定义的属性，这些属性与LPG语法声明兼容。概念类型包括概念类、概念及其关系，每个概念树的根节点是一个与LPG语法兼容的概念类型类。
知识增强图（KAG）在LLM检索中的应用
llm_way的博客
01-03 1386
KAG 即知识增强图（Knowledge - augmented Graph），它将大语言模型与结构化的知识图谱深度整合，旨在实现专业领域中的逻辑推理和问答功能。KAG 构建于 OpenSPG 引擎之上，这一引擎是创建和管理知识图谱的框架，就如同一张庞大且详尽的信息地图，能够将原始数据转化为有用的知识，支持知识图谱的持续更新和完善，并将大数据与人工智能系统相连接，以解决复杂的实际问题。OpenSPG 的灵活性使其可以根据不同行业和需求进行定制化调整，为 KAG 的强大功能提供了坚实基础。
AI | 大模型入门（十）：RAG vs. KAG
kukule520129的博客
04-08 191
因此，需要构建一种新型多模数据库，将向量库、图库、关系库进行统一管理，消除现在的割裂状态，实现各类型数据的统一存储，实现查询使用简化操作，同时实现自主知识更新的功能，例如通过冲突检测自动修正知识图谱，实现多模态融合，将图像、视频等非文本数据纳入知识图谱。然而，对于需要基于结构化知识的一致的、基于事实的答案的任务，需严格逻辑和事实验证的专业领域（如法律条文引用、医疗诊断），或涉及多步推理的复杂问题（如“头痛+高血压→脑卒中风险”），那么KAG则可以提供更可靠的方法。
知识增强式生成KAG
weixin_41496173的博客
12-25 1261
随着人工智能技术的不断发展，尤其是在自然语言处理领域，知识增强式生成（KAG）作为一种新兴的技术框架，正逐步脱颖而出。与其前身——检索增强式生成（RAG）相比，KAG在处理特定领域知识、推理能力和信息检索的准确性方面展现出了更强的能力。在本文中，我们将深入探讨KAG的核心原理及其相对于RAG的优势，帮助开发者更好地理解这一技术，并应用于大语言模型的问答系统中。
KAG：通过知识增强生成提升专业领域的大型语言模型（一）
最新发布
qq_60040306的博客
04-20 1001
本周阅读的论文题目是《KAG: Boosting LLMs in Professional Domains via Knowledge Augmented Generation》（《KAG：通过知识增强生成提升专业领域的大型语言模型》）。最近开发的检索增强生成（RAG）技术使得构建特定领域的应用变得高效。然而，它也存在局限性，包括向量相似性与知识推理的相关性差距，以及对知识逻辑（如数值、时间关系、专家规则等）的不敏感，这些都阻碍了专业知识服务的有效性。
国内首个专业领域知识增强服务框架 KAG 技术报告，助力大模型落地垂直领域
金融机器智能社区
10-12 1667
以上也是当前多数大模型所欠缺的能力。鉴于此，今年上半年我们进行了大量探索，并正式着手构建一个基于知识增强的、面向垂直领域的可控生成框架。
蚂蚁 KAG 开发环境搭建及三个案例实现（本地实践）
Ax的博客
12-06 6048
读者需要在引擎&依赖及镜像安装的基础上，才可顺利对本文所述的三个案例进行本地实践。本文主要介绍如果案例没有被打包时，该如何知识建模、知识抽取和知识问答。前文可参考：《蚂蚁 KAG 环境部署、技术实践和全部复现（面向用户）》
LLMs之RAG：基于Langchain框架和Elasticsearch库采用关键词搜索结合Anthropic模型生成能力来构建基于文档的问答系统——配置Elasticsearch客户端→初始化Ant
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
11-14 1612
​ LLMs之RAG：基于Langchain框架和Elasticsearch库采用关键词搜索结合Anthropic模型生成能力来构建基于文档的问答系统——配置Elasticsearch客户端→初始化AnthropicBedrock客户端→定义搜索算法的索引及文档→采用bm25算法从Elasticsearch中获取与查询相关的结果→创建基于上下文的提示词→调用Anthropic模型生成回答 目录 基于Langchain框架和Elasticsearch库采用关键词搜索结合Anthropic模型生成能力来构建
LLMs之HFKR：HFKR(基于大语言模型实现异构知识融合的推荐算法)的简介、原理、性能、实现步骤、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
11-02 1790
​ LLMs之HFKR：HFKR(基于大语言模型实现异构知识融合的推荐算法)的简介、原理、性能、实现步骤、案例应用之详细攻略 目录 HFKR的简介 HFKR的简介 异构知识融合:一种基于LLM的个性化推荐新方法 论文 《Heterogeneous Knowledge Fusion: A Novel Approach for Personalized Recommendation via LLM》翻译与解读 地址 地址：https://arxiv.org/abs/2308.03333 时间
Py之ast：ast(静态分析工具/用于识别代码中潜在的安全问题)的简介、安装和使用方法、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
03-17 738
​ Py之ast：ast(静态分析工具/用于识别代码中潜在的安全问题)的简介、安装和使用方法、案例应用之详细攻略 目录 ast的简介 ast的安装和使用方法 ast的案例应用 ast的简介 ast（Abstract Syntax Tree）库是Python标准库的一部分，它提供了一个将Python源代码编译成AST的功能，并且可以操作这个AST。AST是源代码的抽象语法结构的树状表示，它比源代码字符串更加结构化和易于分析 AST是一个表示代码结构的中间形式，它比原始代码字符串更安全，因
【KAG：基于 OpenSPG 引擎的知识增强生成框架，旨在构建知识增强的严谨决策和信息检索知识服务】
u013818406的博客
10-27 2395
KAG（Knowledge Augmented Generation）是一个基于OpenSPG引擎构建的知识增强生成框架，它旨在通过结合大型语言模型（LLM）和知识图谱的优势，提供更加严谨的决策支持和信息检索服务。KAG通过四个关键方面来增强LLM和知识图谱：对LLM友好的知识表示、知识图谱与原文片段之间的互索引、逻辑形式引导的混合推理引擎，以及与语义推理的知识对齐。
KAG，一种知识增强生成的私域知识库可信框架，产品模式、开发者模式实操演示，支持GPT大模型、国产大模型、开源本地大模型
youeyeb的博客
01-08 1398
1.1 主要内容KAG开源框架介绍及使用KAG实现知识增强生成应用本次实现功能为:产品模式测试、开发者模式测试1.2 KAG框架(1)KAG是什么KAG是OpenSPG发布v0.5版本中推出的知识增强生成（KAG）的专业领域知识服务框架，旨在充分利用知识图谱和向量检索的优势，增强大型语言模型和知识图谱，以解决 RAG 挑战。
KAG：RAG已经不够了，知识增强生成才是王道，提升朴素RAG一倍性能
qkh1234567的博客
10-02 3092
RAG新推出的检索增强生成 (RAG) 技术虽能高效构建领域应用，但受限于模糊检索、通用语言模型的“幻觉”问题及复杂系统中的级联损失，专业知识服务效果受阻。在科学计算、医学和法律等领域，知识精准、信息完整及规则逻辑严密尤为关键。为此，我们推出知识增强生成 (KAG) 框架，通过双向增强大型语言模型 (LLM) 和知识图谱 (KG)，提升生成与推理能力，涵盖五大关键增强：LLM 友好的知识语义表示、知识图谱与原始块的相互索引、逻辑形式引导的混合推理、基于语义推理的知识对齐及 KAG 模型。
KAG来了，RAG慌了！
强化学习曾小健
11-08 933
采用版面分析、知识抽取、属性标化、语义对齐等技术，将原始的业务数据&专家规则融合到统一的业务知识图谱中。KAG在多跳问答任务中表现优异，相较于其他方法如NaiveRAG、HippoRAG等，在hotpotQA上的F1分数提高了19.6%，在2wiki上的F1分数提高了33.5%。kg-solver采用逻辑形式引导的混合求解和推理引擎，包括规划、推理和检索三种类型的运算符，将自然语言问题转化为结合语言和符号的问题求解过程。将转换的逻辑表达式提交到 OpenSPG reasoner 执行，得到用户的分类结果。
KAG模型
panshengnan的专栏
12-10 913
（如图谱、维基百科、专业文献等）来提升模型生成的准确性、深度和上下文相关性。部知识，提高生成模型在复杂任务中的表现，特别是对于一些需要背景知识或者语境上下文的生成任务。，尤其在回答问题、自动化摘要、生成问答等任务中，能够产生更具逻辑性和事实依据的输出。：基于 Transformer 的生成模型（如 GPT、BART、T5）。借助外部知识，生成结果更具真实性和准确性，降低模型生成不真实内容的风险。：在生成内容的过程中，利用外部知识库或实时检索的方式，向语言模型。：知识库和生成模型可独立扩展和优化。
KAG 图谱 + 多模态 RAG + LLM 智能体 = 强大的 AI 推理能力
python1234_的博客
02-24 706
知识感知图生成器（KAG）框架是开源的，充分利用了知识图谱和 RAG 技术的互补优势。它不仅将图结构整合到知识库中，还将知识图谱的语义类型、关系和知识图谱问答（KGQA）整合到 KAG 中。
KAG配置
03-08
### Kaggle API Gateway (KAG) 配置教程 #### 安装 Kaggle API 为了使用 Kaggle 的 API 功能，安装 `kaggle` 库是必要的。可以通过 Python 包管理工具 pip 来完成这一操作： ```bash pip install kaggle -i http://pypi.tuna.tsinghua.edu.cn/simple/ --trusted-host pypi.tuna.tsinghua.edu.cn ``` 此命令利用清华大学的镜像源加速下载过程[^4]。 #### 获取 API 密钥 访问 [Kaggle](https://www.kaggle.com)，创建账号并登录。导航至个人资料页面中的“Account”部分，在这里能够发现有关如何获取用于身份验证所需的 `.json` 文件的信息[^3]。该文件包含了用户的认证令牌，对于后续调用 API 至关重要。 #### 设置环境变量或配置文件 获得上述 JSON 文件之后，需将其放置于特定位置以便程序自动读取。通常情况下，建议将此文件保存到用户主目录下的隐藏文件夹 `.kaggle/kaggle.json` 中，并确保设置适当的权限防止敏感数据泄露。另外一种方式则是通过设定环境变量来指定路径[^1]。 #### 测试连接 一旦完成了以上步骤，便可通过简单的 Python 脚本来测试是否成功配置了 KAG: ```python from kaggle.api.kaggle_api_extended import KaggleApi api = KaggleApi() api.authenticate() print(api.get_config_value('username')) ``` 如果一切正常，这段代码会打印出当前关联账户的用户名，表明已经正确设置了 API 访问凭证[^2]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一个处女座的程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值