什么是GraphRAG?
GraphRAG是一种基于AI的内容解释和搜索能力。它利用大型语言模型(LLM)解析数据,创建知识图谱,并回答用户关于用户提供的私人数据集的问题。
GraphRAG能做什么?
GraphRAG能够在大量信息中连接信息,并利用这些连接来回答使用关键词和基于向量的搜索机制难以或无法回答的问题。基于前一个问题,它提供了半技术性的、高层次的信息,展示了系统如何为各种用途提供功能。这使得使用GraphRAG的系统可以回答跨越多个文档的问题以及诸如“该数据集中的主要主题是什么?”等主题性问题。
GraphRAG的预期用途是什么?
GraphRAG旨在支持关键的信息发现和分析用例,这些用例中所需的信息分散在许多文档中,信息可能是嘈杂的,混杂着错误和/或虚假信息,或者用户希望回答的问题比底层数据能直接回答的问题更加抽象或具有主题性。
GraphRAG被设计用于用户已经接受过负责任的分析方法培训且预期具备批判性思维的环境中。GraphRAG能够在复杂信息主题上提供高度洞察力,但需要领域专家对生成的答案进行人工分析以验证和补充GraphRAG的响应。
GraphRAG旨在与特定领域的文本数据集一起部署和使用。GraphRAG本身不收集用户数据,但建议用户验证所选LLM的隐私政策。
GraphRAG如何进行评估?使用了哪些指标来衡量性能?
GraphRAG以多种方式进行了评估。主要关注点是:
1)数据集的准确表示。
2)响应的透明性和扎实性。
3)对提示和数据集成攻击的弹性。
4)低幻觉率。
每个关注点的具体评估方式如下:
数据集的准确表示通过人工检查和基于“黄金答案”的自动测试进行,“黄金答案”由测试语料库的随机选定子集创建。
响应的透明性和扎实性通过自动化的答案覆盖评估和对返回的上下文进行人工检查来测试。
通过人工和半自动化技术测试用户提示注入攻击(“越狱”)和跨提示注入攻击(“数据攻击”)。
幻觉率通过声明覆盖指标、手动检查答案和来源、以及通过对抗性和极具挑战性的语料库进行强制幻觉攻击来评估。
GraphRAG的局限性是什么?用户在使用系统时如何最小化这些局限性的影响?
GraphRAG依赖于构建良好的索引示例。对于一般应用(例如围绕人物、地点、组织、事物等的内容),我们提供示例索引提示。对于独特的数据集,有效的索引依赖于正确识别领域特定的概念。
索引是相对昂贵的操作;缓解索引的最佳实践是创建目标领域的小型测试数据集,以确保索引器性能,然后再进行大规模索引操作。
哪些操作因素和设置能促进GraphRAG的有效和负责任使用?
GraphRAG专为具有领域知识和处理复杂信息挑战经验的用户设计。虽然该方法对注入攻击和识别冲突信息源通常具有鲁棒性,但系统设计是面向可信用户的。对响应进行适当的人类分析对于生成可靠的见解至关重要,并且需要追溯信息来源以确保人类同意作为答案生成的一部分所做的推断。
GraphRAG在自然语言文本数据上表现最佳,这些数据集体上聚焦于一个总体主题或主题,并且富含实体——实体指的是可以唯一标识的人物、地点、事物或对象。
尽管GraphRAG已被评估其对提示和数据集成注入攻击的弹性,并已探查特定类型的危害,但用户配置GraphRAG所用的LLM可能会生成不适当或冒犯性的内容,这可能使其在没有具体用例和模型的附加缓解措施的情况下不适合在敏感环境中部署。开发人员应评估输出的上下文,并使用可用的安全分类器、模型特定的安全过滤器和功能(例如:https://azure.microsoft.com/en-us/products/ai-services/ai-content-safety)或适用于其用例的自定义解决方案。
与其他RAG系统类似, GraphRAG整个Pipeline也可划分为索引(Indexing)与查询(Query)两个阶段。索引过程利用LLM提取出节点(如实体)、边(如关系)和协变量(如 claim),然后利用社区检测技术对整个知识图谱进行划分,再利用LLM进一步总结。最终针对特定的查询,可以汇总所有与之相关的社区摘要生成一个全局性的答案。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。