一、KAG简介
浙江大学与蚂蚁集团推出的知识增强生成(KAG)框架,旨在解决传统检索增强生成(RAG)方法在多跳推理和复杂逻辑处理中的不足。KAG通过结合知识图谱(KGs)和创新技术,显著提升了大语言模型在专业领域问答中的准确性和效率。
KAG框架的五大创新亮点:
-
LLM友好的知识表示:通过层次化的知识组织,使大语言模型更适应专业领域的知识处理。
-
知识图谱与文本块互索引:提高了数据检索的精确度和效率,增强了知识的整合能力。
-
逻辑形式引导推理:结合语言推理与符号推理,支持复杂的多轮推理和问题求解。
-
知识对齐与语义推理:通过语义推理对齐不同层次的知识,提升了推理的准确性。
-
模型能力增强:优化大语言模型的推理能力,提升了专业领域问答系统的整体表现。
在蚂蚁集团,KAG成功应用于电子政务和电子健康项目。在电子政务中,KAG开发了一个高效的政府服务问答系统;在电子健康中,KAG提升了医疗问答系统的准确度,尤其在医学指标解读和推荐方面,展现了强大的推理能力。
不同 RAG 模型在三个多跳问答数据集上的端到端生成性能。粗体和下划线的值分别是最佳指标和第二佳指标
二、KAG与常见RAG优化方法的比较
KAG框架在多跳推理和复杂查询处理上明显优于传统的RAG方法。为了更好地理解KAG的优势,以下是与常见几种RAG优化方法的对比:
-
Light RAG 和 Graph RAG:这两种方法通过使用知识图谱保持实体间的逻辑连接,解决了传统RAG方法在处理实体之间关系时丧失逻辑连贯性的问题。它们通常通过简单的知识图谱索引来进行检索,较为依赖基础的相似性匹配。
-
KAG:相比于Light RAG和Graph RAG,KAG不仅仅保留了知识图谱中的实体关系,还引入了多跳问答和推理能力。KAG框架的核心优势在于其通过逻辑形式推理引擎,将复杂问题分解为多个子问题,通过多次检索和推理逐步构建答案。KAG能够在不同的推理层面上进行跨模态的信息处理,使得多步推理问题得到有效解决。
简而言之,KAG不仅仅保持了知识图谱的优势,还通过更为复杂的推理流程,提升了LLM在处理复杂问题时的能力。
三、KAG在数据摄取和数据查询阶段的优化
KAG在数据摄取(Data Ingestion)和数据查询(Data Querying)两个阶段进行了诸多优化,以确保大语言模型能更准确、高效地响应复杂查询。以下是其在这两个阶段的创新:
数据摄取阶段的优化
-
LLM友好的知识表示:KAG使用LLMFriSPG框架,这是一种为LLM定制的知识表示方式,它将知识组织成层次结构,包括数据、信息和知识。该框架支持无模式的信息提取,以及模式约束的专业知识构建,有效解决了不同领域知识的表示问题。
-
互索引系统:KAG建立了知识图谱和原始文本块之间的互索引系统,保证了知识图谱和文本块的统一表示、推理和检索。这种互索引方式使得KAG能够高效地从知识图谱中获取有价值的信息,同时增强了推理的深度和精度。
-
语义分块:为了更好地适应LLM的输入要求,KAG将文档划分为语义一致的语义块,每个块都包含ID、摘要、主要文本等字段,并且维护原文档与分块之间的双向关系。这种分块方式使得每个语义块都能保持独立的上下文和主题一致性。
-
信息提取与知识图谱构建:KAG通过信息提取(例如实体、事件、关系等)构建了KGfr(知识图谱框架),并通过互索引将这些提取的知识和文本块关联起来。通过这种方式,KAG能够更精确地进行知识的索引和推理。
数据查询阶段的优化
-
逻辑形式引导的混合推理引擎:KAG使用逻辑形式引导的混合推理引擎,通过将自然语言问题转化为符号化的推理问题,实现了多种推理方式的组合,如文本检索、知识图谱推理、语言推理和数值计算。这种多元化的推理方式使得KAG能够更加精确地处理复杂的查询。
-
多轮解题机制:在面对复杂问题时,KAG能够通过多轮推理机制反思和存储中间结果,确保问题得到有效解决。如果一个问题无法一次解决,系统会在全局记忆中存储结果,并生成补充性问题以进一步推理。
-
语义推理与知识对齐:KAG利用语义推理和知识对齐技术,通过对知识图谱中不同粒度的知识进行语义对齐,降低噪声,提高图谱的连通性和准确性。这使得KAG在处理需要深度理解的查询时,能够利用语义推理弥补知识图谱中的空白。
四、KAG在蚂蚁集团的电子政务及电子健康项目上的应用
KAG框架已在蚂蚁集团的电子政务和电子健康项目中得到了实际应用,以下是两个典型案例:
4.1 KAG在电子政务中的应用
在电子政务项目中,KAG被应用于构建一个支持政府服务问答的系统。该系统可以回答用户关于服务方法、所需材料、服务条件和服务地点等问题。系统的建设过程中,KAG框架使用了11,000篇政府服务文档,并通过逻辑形式推理、语义增强等技术,提升了问答准确性和服务效率。
4.2 KAG在电子健康中的应用
在电子健康项目中,KAG被应用于构建一个医疗问答系统,能够回答用户关于疾病症状、疫苗接种、医疗指标等问题。系统使用了来自医学专家的权威文档,构建了超过180万个实体和40万个术语集,通过KAG框架,提供了超过700条医疗指标计算规则。这一应用显著提高了医疗问题的解答效率和准确性,特别是在复杂的医学问题上。
五、快速上手
对于普通用户,KAG提供了简单的安装步骤,以下是如何快速启动KAG系统:
5.1 环境与依赖项安装
- macOS 用户:macOS Monterey 12.6或更高版本
- Linux 用户:CentOS 7 / Ubuntu 20.04或更高版本
- Windows 用户:Windows 10 LTSC 2021或更高版本,配合WSL 2 / Hyper-V,Docker,Docker Compose
5.2 使用步骤
1. 下载并启动KAG服务:
curl -sSL https://raw.githubusercontent.com/OpenSPG/openspg/refs/heads/master/dev/release/docker-compose-west.yml -o docker-compose-west.yml
docker compose -f docker-compose-west.yml up -d
2. 访问KAG产品: 在浏览器中输入以下URL:http://127.0.0.1:8887
通过这些简单的步骤,用户可以快速启动并体验KAG框架的强大功能。
六、总结
KAG(知识增强生成)框架通过结合知识图谱与大语言模型,显著提升了模型在处理复杂查询和多跳推理时的能力。通过在数据摄取和查询阶段的优化,KAG能够更精确地进行知识推理、信息检索及语义增强,尤其在电子政务和电子健康等专业领域应用中展现了其强大的实际效能。随着技术的不断发展,KAG将在更多领域中得到广泛应用,并有望继续推动大语言模型在专业领域的突破。
KAG不仅仅是一个技术框架,它的创新性将为更多行业带来智能化转型的机会,未来的发展值得期待。
参考链接:
- https://github.com/OpenSPG/KAG
- https://arxiv.org/pdf/2409.13731
随着大模型的持续爆火,各行各业都在开发搭建属于自己企业的私有化大模型,那么势必会需要大量大模型人才,同时也会带来大批量的岗位?“雷军曾说过:站在风口,猪都能飞起来”可以说现在大模型就是当下风口,是一个可以改变自身的机会,就看我们能不能抓住了。
如何学习AI大模型?
大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业
?”“谁的饭碗又将不保了?
”等问题热议不断。
不如成为「掌握AI工具的技术人
」,毕竟AI时代,谁先尝试,谁就能占得先机!
想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。
但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高
那么针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料
分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓
AI大模型学习福利
作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
大模型&AI产品经理如何学习
求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。
1.学习路线图
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
2.视频教程
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
(都打包成一块的了,不能一一展开,总共300多集)
因篇幅有限,仅展示部分资料,需要点击下方图片前往获取
3.技术文档和电子书
这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
4.LLM面试题和面经合集
这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
权,请联系删除。