AI大模型学习之白话笔记（六）-- RAG

在前面的大模型应用技术架构里我们已经有提到过RAG。

在人工智能领域，我们广泛使用大规模语言模型来处理自然语言理解和生成任务。这些模型像GPT-3和BERT这样的深度学习模型需要大量数据训练，以便他们能够理解和生成文本。

但是，正如我们所见，当模型试图生成不熟悉的内容或是在有限信息下作出判断时，它们偶尔会出现“幻觉”现象，即产生不准确或完全不相关的信息。

为了解决这个问题，一个名为"检索增强生成" (Retrieval Augmented Generation，简称RAG) 的技术被提出。

大模型的“幻觉”问题

大模式的“幻觉”问题，是指模型在没有足够依据的情况下创造出错误或无意义的信息。 例如，一个语言模型可能会错误地断定某个历史事件的时间，或在回答问题时创造出不存在的事实。这是由于模型在训练数据中未见过足够的相关示例，或是因为它过度依赖于它在数据中看到的模式。

什么是大模型检索增强生成（RAG）?

RAG的全称是Retrieval-Augmented Generation，中文翻译为检索增强生成。 RAG是一种新颖的机器学习方法，它结合了预训练的语言模型和检索系统。其核心思想是在进行文本生成之前，先通过一个检索系统查找相关的文档或信息，然后把这些信息“融合”到语言模型中，辅助模型生成更准确和丰富的内容。

RAG的特点

RAG通过以下几个特点来弥补单纯的语言模型：

• 信息检索: RAG使用检索系统（比如Elasticsearch）来从大规模数据集中检索相关文档或数据。
• 上下文融合: 将检索到的信息和原始的问题或输入融合，构造一个扩展的上下文。
• 知识增强: 通过上下文融合，模型可以利用外部检索到的知识来指导生成过程，这可以显著减少“幻觉”。
• 快速更新：实施RAG需要矢量数据库等技术，这些技术可以快速编码新数据，并搜索该数据以输入给LLM模型。
• 灵活性: RAG模型可以与不同的检索库和不同的语言模型结合使用。
• 不需要训练：RAG可以通过查询最新的外部数据源来处理频繁变化的数据，不需要训练，模型大小不会产生变化。

RAG能解决的问题

再把之前举过的例子搬出来，比如春节放假前，你需要请个假多休息几天，那你需要知道你还剩几天年假，以及公司的请假制度，需要提前多久申请，春节期间是否允许请假，最高可以请几天，以前我们需要问好几个同事，或者查好几个资料，然后通过衡量得出该怎么请假，那如果将员工信息、考勤系统、公司各种规章制度都通过一个叫做Embeddings的技术塞到大模型里面，Embeddings可以理解为向量化，就是把自然语言的知识转换成大模型可以识别的向量，保存到向量数据库，这样整合到大模型后，我们只需要向这个大模型提问，大模型通过检索这些信息，经过推理能直接给你一个最优的请假方案。

RAG能够解决多种类型的问题，比如：

• 事实查验和知识问答: 确定所提供的陈述是否准确，或者在问答任务中给出准确的回答。
• 内容生成: 生成文章或报告时，确保内容的准确性和涉及的详细程度。
• 数据稀缺任务: 对于少见话题的问题回答，RAG可以从检索文档中提取相关信息。

搭建专属私有大模型

现在，让我们来看如何使用RAG搭建一个专属的私有大模型。这是一个简化的步骤介绍：

步骤1：创建检索数据库

ini
复制代码
from haystack.document_stores.elasticsearch import ElasticsearchDocumentStore
document_store = ElasticsearchDocumentStore(
    host="localhost", username="", password="", index="document"
)
documents = [...]  # 这里的documents是你的数据集合，每一个元素是一个文档
document_store.write_documents(documents)

步骤2：设置检索器

ini
复制代码
from haystack.retriever.sparse import ElasticsearchRetriever
retriever = ElasticsearchRetriever(document_store=document_store)

步骤3：初始化RAG模型

ini
复制代码
from transformers import RagTokenizer, RagRetriever, RagTokenForGeneration
tokenizer = RagTokenizer.from_pretrained("facebook/rag-token-nq")
retriever = RagRetriever.from_pretrained(
    "facebook/rag-token-nq", retriever=retriever
)
model = RagTokenForGeneration.from_pretrained(
    "facebook/rag-token-nq", retriever=retriever
)

步骤4：使用RAG进行预测

ini
复制代码
inputs = tokenizer(question, return_tensors="pt")
with tokenizer.as_target_tokenizer():
    generated = model.generate(**inputs)
print(tokenizer.decode(generated[0], skip_special_tokens=True))

以上代码展示了如何使用Transformers库中的RAG组件创建和使用RAG模型。

注意，这里只是一个构建RAG模型的框架，实际应用中需要大量定制工作来适应特定的任务和数据。

在使用过程中，模型开发者需要注意：

• 细心构建和维护检索数据库，以保证模型能够检索到高质量和相关性高的信息。
• 细化模型配置和超参数调节，来适应具体的应用场景。
• 考虑隐私和数据安全问题，尤其是处理敏感信息时。

通过以上步骤，你将拥有一个工作原型，即使是刚入门的读者也能够开始使用RAG构建模型。

不过，RAG的最佳实践方式并没有一个通用完整的方案， 我们可以基于此对检索器和生成器微调进行更深入的开发和优化。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。
• 内容：
  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
    - L1.4.1 知识大模型
    - L1.4.2 生产大模型
    - L1.4.3 模型工程方法论
    - L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
• 内容：
  • L2.1 API接口
    - L2.1.1 OpenAI API接口
    - L2.1.2 Python接口接入
    - L2.1.3 BOT工具类框架
    - L2.1.4 代码示例
  • L2.2 Prompt框架
    - L2.2.1 什么是Prompt
    - L2.2.2 Prompt框架应用现状
    - L2.2.3 基于GPTAS的Prompt框架
    - L2.2.4 Prompt框架与Thought
    - L2.2.5 Prompt框架与提示词
  • L2.3 流水线工程
    - L2.3.1 流水线工程的概念
    - L2.3.2 流水线工程的优点
    - L2.3.3 流水线工程的应用
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
• 内容：
  • L3.1 Agent模型框架
    - L3.1.1 Agent模型框架的设计理念
    - L3.1.2 Agent模型框架的核心组件
    - L3.1.3 Agent模型框架的实现细节
  • L3.2 MetaGPT
    - L3.2.1 MetaGPT的基本概念
    - L3.2.2 MetaGPT的工作原理
    - L3.2.3 MetaGPT的应用场景
  • L3.3 ChatGLM
    - L3.3.1 ChatGLM的特点
    - L3.3.2 ChatGLM的开发环境
    - L3.3.3 ChatGLM的使用示例
  • L3.4 LLAMA
    - L3.4.1 LLAMA的特点
    - L3.4.2 LLAMA的开发环境
    - L3.4.3 LLAMA的使用示例
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
• 内容：
  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

学习计划：

• 阶段1：1-2个月，建立AI大模型的基础知识体系。
• 阶段2：2-3个月，专注于API应用开发能力的提升。
• 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
• 阶段4：4-5个月，专注于高级模型的应用和部署。

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓