rag框架比较

最新推荐文章于 2024-10-09 00:57:21 发布
最新推荐文章于 2024-10-09 00:57:21 发布
阅读量135 收藏
点赞数 1
分类专栏： 其他 文章标签： python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43655307/article/details/142283100
版权
功能模块QAnythingRAGFLowFastGPT智谱AI
知识处理模块不包含OCR包含OCR`
召回模块向量库采用milvus，BM25+向量检索混合检索，向量模型例如bce-embedding-base_v1向量库采用 ElasticSearch，文本检索 + 向量检索混合检索向量模型例如BGE-M3，文本检索 + 向量检索混合检索，并采用RFF算法排序
重排模块例如bce-reranker-base_v1
web服务使用sanic实现web服务FlaskFastapi
亮点与常规的RAG比较，在rerank环节做了精细化调整解析过程写的也很复杂，无怪乎处理速度有点慢
大小瓶
关注
专栏目录
Vector | Graph：蚂蚁首个开源Graph RAG框架设计解读
南七小僧的学海无涯
08-09 394
RAG的目标是通过知识库增强内容生成的质量，通常做法是将检索出来的文档作为提示词的上下文，一并提供给大模型让其生成更可靠的答案。更进一步地，RAG的整体链路还可以与提示词工程（Prompt Engineering）、模型微调（Fine Tuning）、知识图谱（Knowledge Graph）等技术结合，构成更广义的RAG问答链路。增强训练REALM引入了知识检索器增强大模型预训练，以改进大模型的问答质量和可解释性。增强微调RA-DIT实现了对大模型和检索器的双指令微调，RAFT。
开源RAG框架汇总
深度学习机器
05-11 4142
本文搜集了一些开源的基于LLM的RAG（Retrieval-Augmented Generation）框架
大模型主流 RAG 框架TOP10
2401_85373691的博客
08-27 988
本文主要讲了2个问题，一个是回顾下主流RAG框架TOP10及一个有趣的soda RAG小工具，另一个为防止恶意检索污染攻击的RAG方案RobustRAG思路。其中关于主流框架方面，当前有很多，但不需要哪个都做，还是需要选一个就行。另外，RobustRAG在真实场景下用不太到，但单纯从思想上来看，是很有趣的。
主流RAG框架TOP10及RAG小工具SODA ：兼看RobustRAG防攻击污染框架思路
人工智能曾小健
05-28 1066
本文主要讲了2个问题，一个是回顾下主流RAG框架TOP10及一个有趣的soda RAG小工具，另一个为防止恶意检索污染攻击的RAG方案RobustRAG思路。其中关于主流框架方面，当前有很多，但不需要哪个都做，还是需要选一个就行。另外，RobustRAG在真实场景下用不太到，但单纯从思想上来看，是很有趣的。
RAG 企业级应用落地框架细节差异对比
Meimei9411的博客
07-23 632
在模型微调过程中，我们采取了分步骤的策略：起初使用公开可用的通用问答数据集进行初步微调，随后利用特定领域的问答数据进行进一步微调，最终使用经过人工精确标注的高质量问答数据来进行细致的微调。作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。这三个步骤表面上看似乎并不复杂，然而在 RAG 从构建到实际部署的整个流程中，包含了众多精细且复杂的工作环节，这些落地细节是最具挑战的工作。
RAG框架，都在这了!
python12345_的博客
06-09 3081
RAG 很多人都听说过，或者实践过，目前最直接的应用就是构建智能问答系统。
Cognita：一款面向生产环境的开源、模块化 RAG 框架
FrenzyTechAI的博客
06-04 1276
Cognita 是一个开源、模块化的应用程序，它被设计用于生产环境，并且结合了信息检索增强生成（Retrieval-Augmented Generation，简称 RAG）技术。RAG 是一种人工智能技术，它通过结合检索（检索相关信息）和生成（生成新内容）的方式来增强模型的性能。Cognita 的设计目标是在完全定制化和适应性之间取得平衡，同时确保用户友好性。它考虑到了 RAG 和 AI 技术的快速发展，因此在设计时注重了可扩展性，以便能够无缝集成新的技术突破和不同的应用场景。
LlamaIndex 或 LangChain,哪个更适合作为RAG框架？
CSDNDN的博客
06-11 1350
无论是公司数据的定制问答聊天机器人、内部分析工具，还是与数据源协作的AI助手，LangChain 内置的链机制帮助开发者将其他工具集成到LLM应用程序中，并将它们链接在一起，从而构建一个更全面的系统。LangChain 利用一个链机制，这种机制实际上是一长串的请求序列，这些请求被发送到LLMs以及其他集成的工具中，其中一个步骤的输出被前推，成为下一个步骤的输入。虽然你的数据是专有的，但可以将其索引为嵌入向量，这些向量在大规模上对最先进的LLMs而言是可以理解的，从而消除了重新训练模型的需求。
RAG框架中的Retrieve算法评估
之乎者也·的博客
01-08 2972
RAG即 Retrieval Augmented Generation 的简称，是现阶段增强使用 LLM 的常见方式之一，其一般步骤为：1. 文档划分（Document Split）2. 向量嵌入（Embedding）3. 文档获取（Retrieve）4. Prompt 工程（Prompt Engineering）5. 大模型问答（LLM）大致的流程图参考如下：通常来说，可将RAG划分为召回（Retrieve）阶段和答案生成()阶段，而效果优化也从这方面入手。
RAG Foundry：开源RAG框架，数据、推理、测评一条龙
lqfarmer的博客
08-14 603
RAG FOUNDRY是一个开源的Python框架，专为开发高级的检索增强型大型语言模型（LLMs）而设计，以应对RAG领域的各种应用场景。支持用户在RAG的各个方面进行快速原型开发和实验，涵盖了从数据筛选、聚合与过滤，到检索、文本处理、文档排序、少量样本生成、模板化的提示设计、微调、推理以及评估等各个环节。该库由四个核心模块构成：数据生成、训练、推理和评估。每个模块都通过配置文件进行封装和控制，确保了模块间的输出输入兼容性。
如何使用Java Spring Boot执行RAG架构GenAI项目的示例.zip
01-17
在本示例中，我们将探讨如何使用Java Spring Boot框架来实现一个基于RAG（Red-Amber-Green）架构的GenAI项目。RAG是一种广泛应用于项目管理、风险评估和KPI跟踪的颜色编码系统，其中Red代表高风险或问题，Amber表示...
RAG框架LlamaIndex核心——各种索引应用分析
击水三千里的专栏
12-22 3588
LlamaIndex 是一个大型语言模型（LLM）的数据框架，它提供了数据摄取、数据构建、检索和查询接口以及与其他框架集成的工具。LlamaIndex 可以帮助用户轻松地将现有的数据源和格式（如 API、PDF、文档、SQL 等）与 LLM 结合使用。它提供了多种索引类型，如列表索引、向量索引、树索引和关键字表索引，以便更好地组织和检索相关信息。
大语言模型应用指南：RAG框架微调概述
最新发布
AI天才研究院
10-09 1056
大语言模型应用指南：RAG框架微调概述 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来 随着深度学习在自然语言处理（NLP
python队列
qq_43655307的博客
09-22 5529
导入库 from queue import Queue,LifoQueue,PriorityQueue from collections import deque 队列方法 Queue.qsize()¶ 返回队列的大致大小。注意，qsize() > 0 不保证后续的 get() 不被阻塞，qsize() < maxsize 也不保证 put() 不被阻塞。 Queue.empty() 如果队列为空，返回 True ，否则返回 False 。如果 empty() 返回 True ，不保证后续调
python操作networkx
qq_43655307的博客
12-17 5045
一、图的种类 Graph：指无向图（undirected Graph），边无向 DiGraph：指有向图（directed Graph），边有向 MultiGraph：指多重无向图，允许两节点间的边多于一条 MultiDiGraph：指多重有向图 二、创建图 1）创建图 import networkx as nx ''' nx.Graph() nx.DiGraph() nx.MultiGraph() nx.MultiDiGraph() ''' G = nx.Graph() G.add_edge(1,2)
BAT批处理命令
qq_43655307的博客
10-24 4819
基础语法 1.批处理文件是一个“.bat”结尾的文本文件，这个文件的每一行都是一条DOS命令。可以使用任何文本文件编辑工具创建和修改。 2.批处理是一种简单的程序，可以用 if 和 goto 来控制流程，也可以使用 for 循环。 3.批处理的编程能力远不如C语言等编程语言，也十分不规范。 4.每个编写好的批处理文件都相当于一个DOS的外部命令，把它所在的目录放到DOS搜索路径(path)中，即可在任意位置运行。 5.C:\AUTOEXEC.BAT 是每次系统启动时都会自动运行的，可以将每次启动时都
Microsoft Visual C++ 14.0
qq_43655307的博客
06-05 3668
选择C++桌面开发，右边选MSVC v142 和 Windows 11 SDK。
python占位符
qq_43655307的博客
06-29 2493
占位符% 输出整数 ''' %d —— dec 十进制 %o —— oct 八进制 %x —— hex 十六进制 ''' print('%d %o %x'%(15,15,15)) #15 17 f 输出浮点数 import math ''' %.3f，保留3位小数位 %.3e，保留3位小数位，使用科学计数法 ''' #默认保留6位小数位 print('%f %e'%(math.pi,math.pi)) #3.141593 3.141593e+00 print('%.3f %.3e'%(m
解决 python3 “No module named ‘_ssl‘“
qq_43655307的博客
05-24 1295
因openssl 1.0.1存在安全问题，python3自3.7版本后要求依赖openssl 1.0.2以上或libressl；错误提示如下：Python requires an OpenSSL 1.0.2 or 1.1 compatible libssl with X509_VERIFY_P。python3.7以上建议使用libressl代替openssl，故需通过源码编译安装libressl。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值