RAG_Example

最新推荐文章于 2024-10-06 17:01:59 发布
最新推荐文章于 2024-10-06 17:01:59 发布
阅读量200 收藏
点赞数 1
文章标签： llama
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_19859865/article/details/139668149
版权

今天尝试基于langchain进行LLM RAG搭建，感觉使用难度没有想象中大。具体流程参考末尾链接。

主要流程包括下面几个模块，每一个模块都有很多选择，而不是唯一解。

但这里可以感受到潜在的几个问题

1. 文本转换过程中，PDF的信息可能会丢失和损坏。比如对于一个只包含很多小标题的文档，我怀疑是否能够获得足够多的有效信息。此外，一些文档中的信息，是通过图文结合的方式，这种信息是否能有效获取呢？

2. LLM基座模型的选择比较重要，目前来看，模型可以理解中文，但是不能说中文，这是一个问题，想到的解决方案就是替代基座模型。

3. 目前由于使用不够充分，无法给出结论，但是目前感觉每个环节都可能会出问题。

 

https://medium.com/@cch.chichieh/rag%E5%AF%A6%E4%BD%9C%E6%95%99%E5%AD%B8-langchain-llama2-%E5%89%B5%E9%80%A0%E4%BD%A0%E7%9A%84%E5%80%8B%E4%BA%BAllm-d6838febf8c4 

Undefined游侠
关注
Vector | Graph：蚂蚁首个开源Graph RAG框架设计解读
南七小僧的学海无涯
08-09 355
RAG的目标是通过知识库增强内容生成的质量，通常做法是将检索出来的文档作为提示词的上下文，一并提供给大模型让其生成更可靠的答案。更进一步地，RAG的整体链路还可以与提示词工程（Prompt Engineering）、模型微调（Fine Tuning）、知识图谱（Knowledge Graph）等技术结合，构成更广义的RAG问答链路。增强训练REALM引入了知识检索器增强大模型预训练，以改进大模型的问答质量和可解释性。增强微调RA-DIT实现了对大模型和检索器的双指令微调，RAFT。
LangChain学习笔记—RAG（检索增强生成）
姚家湾博客
04-05 4653
当用户在大模型输入问题后，将问题本身也embedding，转化为向量，在向量数据库中查找与之最匹配的相关知识，组成大模型的上下文，将其输入给大模型，最终返回大模型处理后的文本给用户，这种方式不仅降低大模型的计算量，提高响应速度，也降低成本，并避免了大模型的tokens限制，是一种简单高效的处理手段。例如，使用链，您可以同时运行提示符和 LLM，从而避免了首先格式化 LLM 模型的提示，然后使用模型在单独的步骤中执行它。实际的 RAG 链，它在运行时接受用户查询并从索引中检索相关数据，然后将其传递给模型。
LangChain入门2 RAG详解
weixin_41870426的博客
04-27 2303
最常见的方法是嵌入每个文档分割的内容，并将这些嵌入插入到矢量数据库（或矢量存储）中。当我们想搜索分割时，我们采用文本搜索查询，嵌入它，并执行某种“相似性”搜索，以识别嵌入与查询嵌入最相似的存储分割。我们将使用LCEL Runnable协议来定义链，使我们能够以透明的方式将组件和函数管道连接在一起，在LangSmith中自动跟踪我们的链，从而获得流式、异步和批量调用。我们想要创建一个简单的应用程序，该应用程序接受用户问题，搜索与该问题相关的文档，将检索到的文档和初始问题传递给模型，并返回答案。
LangChain 0.2 - 构建RAG应用
AI + 工程
05-27 2263
RAG 是一种利用附加数据增强 LLM 知识的技术。LLM 可以推理广泛的主题，但他们的知识仅限于他们接受训练的特定时间点的公共数据。如果您想构建能够推理私有数据或模型截止日期后引入的数据的 AI 应用程序，则需要使用模型所需的特定信息来增强模型的知识。将适当的信息引入模型提示的过程称为检索增强生成 (RAG)。LangChain 有许多组件，旨在帮助构建问答应用程序以及更广泛的 RAG 应用程序。注意：这里我们专注于非结构化数据的问答。如果您对结构化数据的 RAG 感兴趣，请查看我们关于。
如何使用 DSPy 构建多步骤推理的 RAG 系统
FrenzyTechAI的博客
07-25 808
检索增强生成 (RAG) 系统已经成为构建基于大语言模型 (LLM) 应用的强大方法。RAG 系统的工作原理是：首先使用检索模型从外部知识源检索相关信息，然后使用这些信息来提示 LLM 生成最终的响应。然而，基本的 RAG 系统（也称为朴素 RAG）在处理需要对多条信息进行推理的复杂查询时可能会遇到挑战。多步骤检索的出现正是为了解决这一问题。在多步骤检索中，系统会跨多个步骤或“跳跃”收集信息，以回答复杂的问题或收集详细信息。这种技术在高级问答系统中很常见，其中多个来源或文档包含回答问题所需的信息。构建多步骤
LlamaIndex——RAG概述
weixin_45325331的博客
04-03 2149
目前，以下组件是 Transformation 对象：文本分割器、节点解析器、元数据提取器、Embeddingsmodel（查看我们支持的嵌入列表）。除了这些模块，我们可以自定义转换操作，例如import re],
评估 RAG？只要大模型框架 LlamaIndex 就足够了
机器学习社区
06-19 918
总体而言，LlamaIndex 的评估功能可以帮助我们快速地评估 RAG 的性能，满足我们基本的 RAG 评估需求，无需借助其他第三方库。如果你正在使用 LlamaIndex 开发 RAG 应用，建议使用 LlamaIndex 内置的评估工具，使用后如果发现满足不了需求再考虑使用其他第三方评估工具。希望这篇文章可以帮助大家更好地了解 LlamaIndex 的评估功能。
RAG原理及本地化实践
stingfire的博客
04-26 1392
参考资料1中，Patrick Lewis等人提出了一个基于LLM的新架构，并命名为RAG。RAG不是一种新的深度学习网络模型，我更倾向于将它理解为一种基于LLM模型，并组合了其他技术的一种新型框架。RAG是Retrieval-AugmentedGeneration的首字母缩写，同时这三个单词也分别表示了这个技术处理的三个步骤，分别的意思是：Retrieval：数据的获取部分。根据用户输入的query数据，再从用户提供的资料中查找出跟query相关的内容。Augmented：数据增强部分。
LangChain 0.2 - 对话式RAG
AI + 工程
05-27 2225
一、项目说明 二、设置 1、引入依赖 2、LangSmith 三、Chains 1、添加聊天记录 Contextualizing the question 聊天记录状态管理 2、合并 四、Agents 1、检索工具 2、代理建造者 3、合并 五、下一步
RAG 提示词工程最佳实践
AI天才研究院
04-06 896
虽然目前网络上关于提示工程的相关资料已经多如牛毛，然而 RAG (检索增强生成) 任务中提示工程如何进行的资料相对而言却较少。不少朋友之前也热烈的讨论过 RAG 场景下提示词的运用，因此 Zen 禅与计算机程序设计艺术 特别推出 RAG 任务下的提示词实践经验系列分享。RAG 是检索增强生成（Retrieval Augmented Generation）的简称，是当前最火热的企业级LLM应用方案。
AutoGen 检索增强生成（RAG）功能解析
Linux猿
09-01 738
检索增强生成 (RAG) 是大模型的一种扩展技术，它将大模型与外部知识检索相结合，以提高生成的响应的质量和相关性，例如：FastGPT。RAG架构图如下所示。主要流程如下所示：（1）用户（User）提出问题（Query）;（2）在数据库（Data Source）中查询与问题（Query）相关的内容，这些内容将作为 LLM 的上下文（Text），将问题（Query）和上下文（Text）一起传给 LLM；（3）LLM 根据 Data Source 中检索到的内容组织回答，最终生成回答，返回给用户；
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
丨汀、的博客
06-13 1766
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
还在困惑RAG评估？一篇文章彻底解析RAG评估工作流程！
春华秋实
08-16 64
参考：https://smith.langchain.com/hub/langchain-ai/rag-answer-vs-reference。参考：https://smith.langchain.com/hub/langchain-ai/rag-answer-helpfulness。参考：https://smith.langchain.com/hub/langchain-ai/rag-document-relevance。评估生成步骤，以确保在检索到的文档中生成正确的答案。
构建llama.cpp并在linux上使用gpu
百般回首曾经的相遇，留下的只是一缕残忆
10-06 418
更多详情参见，官网网站会随着版本迭代更新。
【项目记录】大模型基于llama.cpp在Qemu-riscv64向量扩展指令下的部署
知识，既贵，又便宜。
10-03 1055
大模型基于llama.cpp在Qemu-riscv64向量扩展指令架构的模拟器上部署
Llama 3.2 多模态大模型快速指南
新缸中之脑
10-02 1311
Meta 刚刚发布了 Llama 3.2，将语言和视觉模型整合到一个强大的多模态系统中。它引入了四个模型：两个轻量级文本模型（1B 和 3B）和两个视觉模型（11B 和 90B）。这些模型专为一系列任务而设计，从总结长文档到以复杂的方式理解图像。
使用 llamafile 以单个文件运行本地大模型
最新发布
成富的专栏
10-06 467
在开发 GenAI 应用时，有一个在本地运行的大模型是非常重要的，可以很方便地进行开发和测试。目前有几个流行的在本地运行大模型的选项，包括 Ollama 和 LM Studio。这里介绍的是 llamafile。llamafile 是 Mozilla 支持的开源项目。llamafile 的目标是以单个文件来分发和运行大模型。每个大模型对应一个文件。这个文件可以直接运行。不需要安装，也不需要运行额...
Llama 3.2 安卓手机安装教程
新缸中之脑
10-05 1120
在刚刚结束的Meta开发者大会上，Llama 3.2惊艳亮相。此次，它不仅拥有多模态能力，还与Arm等公司合作，推出了专门针对高通、联发科硬件优化的“移动”版本。根据​​官方数据，Llama 3.2 11B和90B已经展现出超越同等规模闭源模型的性能。尤其是在图像理解任务上，Llama 3.2 11B的表现优于Claude 3 Haiku，90B版本甚至可以与GPT-4o-mini相媲美。
AttributeError: module 'skimage.graph' has no attribute 'rag_mean_color'
06-26
这个错误提示是在使用Scikit-Image（skimage）库时遇到的问题，`skimage.graph.rag_mean_color` 是一个不存在的属性。Scikit-Image的`graph`模块中并没有名为 `rag_mean_color` 的函数或方法。可能的原因有： 1. 你...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值