前言:本文详细介绍 蚂蚁 KAG 的环境部署、技术实践和全部复现(面向用户),后续该系列继续更新<面向开发者的技术实践或应用>,敬请关注~
目录
② 最终一路走到这里,能看到版本号说明 docker 可以使用
③ 然后需要下载 Docker Compose,具体是下载 docker-compose-windows-x86_64.exe
⑤ 设置 HOME 环境变量(仅 Windows 用户需要执行)
⑥ 在使用 curl 命令下载 docker-compose-west.yml 之前
⑧ 进入 http://127.0.0.1:8887 查看产品界面,如下:
① 关于 docker 和 docker compose 的介绍
一、蚂蚁 KAG 介绍
① KAG 的介绍:可以通过开源项目查看
- KAG 论文地址: https://arxiv.org/pdf/2409.13731
- KAG 项目地址: https://github.com/OpenSPG/KAG
KAG 是 基于 OpenSPG 引擎和大型语言模型的逻辑推理问答框架,用于构建垂直领域知识库的逻辑推理问答解决方案。KAG 可以有效克服传统 RAG 向量相似度计算的歧义性和 OpenIE 引入的 GraphRAG 的噪声问题。KAG 支持逻辑推理、多跳事实问答等,并且明显优于目前的 SOTA 方法。
KAG 的目标是在专业领域构建知识增强的 LLM 服务框架,支持逻辑推理、事实问答等。KAG 充分融合了 KG 的逻辑性和事实性特点,其核心功能包括:
- 知识与 Chunk 互索引结构,以整合更丰富的上下文文本信息
- 利用概念语义推理进行知识对齐,缓解 OpenIE 引入的噪音问题
- 支持 Schema-Constraint 知识构建,支持领域专家知识的表示与构建
- 逻辑符号引导的混合推理与检索,实现逻辑推理和多跳推理问答
② KAG 的前身是 RAG,RAG 是什么?
1、 RAG:检索生成增强生成
一句话总结:外部语料库知识+内部参数知识=>生成内容(如图)
第一部分:主要指的是投入问题后,结合外部语料库进行信息检索,抽取出文档列表
第二部分:主要是通过大语言模型参数优化和调整,针对性输出生成内容
2、 难点:跨领域跨任务泛化性高;推理开销大,这主要是因为上下文空间有限,且对排
序精度和鲁棒性要求高
③ KAG 基于 RAG 迭代(11 月发布),主体由三部分组成: KAG-builder、KAG-solver 和KAG-Model,涵盖知识图谱,文档块或语义块分割、检索增强、大模型多个前沿技术集成
KAG-builder、KAG-solver 和 KAG-Model 的模块逻辑关系:
针对大模型友好的知识表示及专家规则定义:
推理过程的子问题拆解及知识增强:
有可视化图谱界面,可以直观看到结果(第二部分有展示复现效果图):
二、KAG 技术实践和复现(面向用户)详细步骤
① 完成引擎&依赖的镜像安装
点击官方链接(Get Docker | Docker Docs),进入可选择 windows 版本进行安装:
勾选并 OK 就可以了,后续安装配置步骤比较繁杂(参考教程:windows docker 桌面版的安装与使用 - 小白兔晒黑了 - 博客园),需要注意里边提到的细节:
② 最终一路走到这里,能看到版本号说明 docker 可以使用
③ 然后需要下载 Docker Compose,具体是下载 docker-compose-windows-x86_64.exe
下载完后重命名为 docker-compose.exe 丢到 C:\Program Files\Docker 下就可以。如下图:
注意:上述的 exe 只能以cmd形式运行,双击打开无效
④ 验证 docker-compose 是否装成功
⑤ 设置 HOME 环境变量(仅 Windows 用户需要执行)
set HOME=%USERPROFILE%
此命令将 $HOME 变量设置为用户目录的路径,通常为 C:\Users\username,例如:
⑥ 在使用 curl 命令下载 docker-compose-west.yml 之前
curl -sSL https://raw.githubusercontent.com/OpenSPG/openspg/refs/heads/master/dev/release/docker-compose-west.yml -o docker-compose-west.yml
需要更改 Docker 这个文件夹的权限(否则会报错:curl: (23) client returned ERROR on write of 2102 bytes),这个非常重要,另外 VPN 最好开着:
然后再去执行 curl 命令即可。
⑦ 用 docker-compose 启动服务
docker-compose -f docker-compose-west.yml up -d
如下图效果所示:
上述命令执行结束即完成服务端启动:
⑧ 进入 http://127.0.0.1:8887 查看产品界面,如下:
默认的账号和密码如下,可以用来直接登录:
# Default login information:
# Username: openspg
# Default password: openspg@kag
登录后会让自行改个密码,登录后界面如下:
⑨ 进一步配置知识库,即可使用
三、附录参考:Docker 必备知识及相关教程
① 关于 docker 和 docker compose 的介绍
② 关于 Docker Compose的安装,包括 Linux 和 Windows 安装、以及如何去制作一个docker-compose.yml 文件、yml配置项的解释、Docker Compose 常用命令的讲解相关介绍
https://juejin.cn/post/7220730324752859195https://juejin.cn/post/7220730324752859195