RAFT：Adapting Language Model to Domain Specific RAG

最新推荐文章于 2024-11-04 22:31:49 发布
最新推荐文章于 2024-11-04 22:31:49 发布
阅读量267 收藏
点赞数 1
文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39006282/article/details/141543646
版权

论文链接
简单来说，就是你SFT微调的时候得考虑RAG的场景。
RAG什么场景？你检索top-k回来，里面有相关doc有不相关doc，后者是影响性能的重要原因，LLM需要有强大的识别能力才能分得清哪块和你的query相关。微调就是为了这个。你做领域微调时，根据chunk生成query、answer，然后直接拿这仨微调，这里面没有干扰项，没有“不相关doc”，就扛不住RAG的噪声。

RAFT就是针对这个搞的。怎么搞？就是chunk query answer里，chunk再多加几个不相关文档，并且answer生成时使用CoT，CoT其实是选用，用了，效果好，不用，推理速度快。

混合多少不相关文档，得你自己凭经验。

蒸土豆的技术细节
关注
RAFT：为特定领域RAG优化语言模型的新方法
步子哥的博客
08-09 459
在人工智能和自然语言处理领域，大型语言模型（LLMs）的预训练已成为一种标准范式。这些模型通过在海量文本数据上进行训练，在各种通用知识推理任务中取得了显著进展。然而，当将这些模型应用于特定领域的下游任务时，仅仅依靠预训练是不够的。**为了提高模型在特定领域的表现，研究人员通常会采用两种方法：基于RAG（检索增强生成）的提示，或者微调。**但是，如何最有效地将新信息整合到预训练模型中仍然是一个开放的问题。
RAFT: Adapting Language Model to Domain Specific RAG
程序认生
03-31 950
1.如果想要对RAG任务来微调大模型，作者做的DSF以及DSF+RAG的失败实验，值得排除这种尝试。否则大家可能都想试试。不过先在领域继续预训练，学到足够多的领域知识，再用SFT微调，可能效果会更好点？（不过就是知识没办法更新了）2.到底有多少负例文档对效果最好，两个数据集表现不一。作者最终使用的是一个正例文档加上4个负例文档。不过可以肯定的是：如果训练集中只有正例文档都是效果最差的。
RAFT: Adapting Language Model to Domain Specific RAG阅读笔记
mashutian的博客
03-21 1463
然后，整理了一份训练数据（包含两份数据：P%和1-P%），P%包含了问题、相关问答、不相关文档，1-P%包含了问题、不相关文档。然后对于模型的选择，文章大大夸赞了一番Llama2-7B，“适用于RAG任务，是良好的基础模型，在单个GPU上也可以提供服务，易于部署balbalbal”。因此，就需要准确识别和引用有用文档中的相关片段。RAFT：RAFT还不是开卷考，而是特定领域的开卷考（domain-specific open-book exam），哎，就是LLM不需要去open-domain上检索结果了。
[论文笔记]RAFT: Adapting Language Model to Domain Specific RAG
日积月累，天道酬勤
09-03 803
⭐ 本篇工作提出了一种检索增强微调方法RAFT，可以提高模型在开卷领域内问答的能力。在训练RAFT时，给定一个问题和一组检索到的文档，训练模型忽略那些在回答问题时无用的干扰文档。RAFT通过逐字引用相关文档中的正确序列来帮助回答问题，同时结合RAFT的思维链式响应，帮助提高模型的推理能力。
RAFT: Adapting Language Model to Domain Specific RAG复现
qq_45440103的博客
10-14 851
前沿的RAG方法基本有两种：1.知识图谱+RAG；2.微调+RAG；知识图谱的方法对机器内存要求过高，这里来复现一下微调方法。
LLMs之RAG：《RAFT: Adapting Language Model to Domain Specific RAG》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
10-23 1159
​ LLMs之RAG：《RAFT: Adapting Language Model to Domain Specific RAG》翻译与解读 目录 《RAFT: Adapting Language Model to Domain Specific RAG》翻译与解读 Abstract 1 Introduction 7、Conclusion 《RAFT: Adapting Language Model to Domain Specific RAG》翻译与解
【论文阅读】RAFT: Adapting Language Model to Domain Specific RAG
qq_41502855的博客
07-02 470
这篇论文主要是研究如何提升RAG中pre-trained LLM在垂域知识中的开卷考试的能力，提出了一种名为“RAFT”的训练范式。RAG的一个挑战在于，检索内容中同时包含golden document（正确的文档）和distractor documents（相关但非正确的混淆文档）时，大模型可能会从distractor document中抽取出错误回答。RAFT通过构造COT类型的QA对数据集来微调模型，从而提升大模型的推理能力。
【RAG 论文】RAFT：适用于 domain specific RAG 的 LLM
VLyb
04-29 2149
RAFT：适用于 domain specific RAG 的 LLM，结合了 SFT 和 RAG 的思想，实现了特定领域进行 QA 的好的效果。
RAFT：让大型语言模型更擅长特定领域的 RAG 任务
FrenzyTechAI的博客
03-25 2247
生成式 AI 对企业最具影响力的应用之一是创建能够访问已有知识库的自然语言接口，换句话说，它能够针对银行、法律和医学等特定领域提供问题解答。
特定领域 RAG 新突破：LlamaPack 实现 RAFT 论文方法
FrenzyTechAI的博客
04-03 1403
RAFT 和 LlamaIndex 的协同作用是特定领域自然语言处理领域的一次重大进步。通过利用检索文档的力量，RAFT 使 LLM 能够轻松、准确地处理复杂的信息。随着我们将专业知识整合到 LLM 中的探索不断深入，RAFT 将指引我们走向人工智能真正理解和适应人类语言和语境复杂性的未来。
async-raft：使用Tokio框架的Raft分布式共识协议的实现
02-05
《async-raft：基于Tokio框架的Rust实现Raft分布式共识协议详解》 在分布式系统领域，一致性是至关重要的，而Raft算法作为一种简单易理解的分布式一致性算法，已经得到了广泛的应用。async-raft是用Rust语言实现的...
自助餐剩余食品识别图像分割系统：教学内容全覆盖
sgcsdn99的博客
11-04 1046
数据集信息展示在本研究中，我们使用的数据集名为“9_5_Merged”，该数据集专门用于训练改进YOLOv8-seg的自助餐剩余食品识别图像分割系统。该数据集包含71个类别，涵盖了丰富多样的食品种类，旨在提高模型对不同类型剩余食品的识别和分割能力。通过对这些类别的细致划分，我们希望能够实现更高精度的图像分割，进而优化自助餐剩余食品的管理和利用。
探讨Facebook的AI研究：未来社交平台的技术前瞻
LokiSan的博客
10-29 1546
在数字时代，社交媒体已成为人们日常生活的重要组成部分。作为全球最大的社交网络之一，Facebook不断致力于人工智能（AI）的研究与应用，以提升用户体验、增强平台功能并推动技术创新。本文将探讨Facebook在AI领域的研究方向及其对未来社交平台的潜在影响。
UOS AI 1.6 版本升级，如何实现精准搜索，效率翻倍？
vickynesss的博客
11-01 615
通过直接接入互联网的实时数据流，搜索结果变得多样化，不仅限于文字总结，还包括思维导图、事件与人物的综合概述，以及图片、视频、音频等多种形式，显著提高了回答的准确性和全面性。全局搜索全新搭载端侧大模型：支持离线自然语言搜索，无论身在何处，即使没有网络，只需通过快捷键“Shift+space(空格键）”唤醒全局搜索，都能轻松找到所需文件。：对于日常积累的海量截图，只需借助全局搜索功能，简要描述图片内的文字信息，便能迅速锁定并检索到所需图片。：重要信息直接添加到知识库，方便日后查阅，让全局搜索成为你的第二大脑。
如何在 AI 时代打造你的核心竞争力？
玉树芝兰
11-01 609
（注：本文为小报童精选文章。已订阅小报童或加入知识星球「玉树芝兰」用户请勿重复付费）焦虑在《AI 研究已摘得诺奖桂冠，普通科研工作者将何去何从？》一文中我谈过自己对目前 AI 技术浪潮对大众影响的体会——未来已来，只是分布不均。很多人在还没有意识到 AI 带来的变革潜能时，觉得与自己无关，日子该怎么过怎么过，倒也轻松。而一旦突然意识到 AI 的重要性，就会变得焦虑万分。这种焦虑，就是挣扎与思考在外...
基于Keras的U-Net模型在图像分割与计数中的应用
10-31 2163
网络结构优化：项目基于经典的U-Net模型进行改进，采用了更深的网络层次结构，使模型能够在多尺度上捕捉到图像中的细节信息。特别是针对医学图像分割，项目通过增加卷积层数和引入Dropout层来增强模型的特征提取能力，并有效防止过拟合，从而提高模型在训练数据较少情况下的表现。项目中采用了he_normal初始化器和relu激活函数组合，使得网络在训练时能够更快地收敛，降低梯度消失的风险。自定义数据增强策略：在中实现了一个自定义的图像增强类。
【自然语言处理与大模型】大模型（LLM）基础知识②
最新发布
qq_39780701的博客
11-04 693
（1）LLaMA输入句子的长度理论上可以无限长吗？（2） 什么情况用Bert模型，什么情况用LLaMA和ChatGLM这类大模型？怎么选？（3）各个专业领域是否需要各自的大模型来服务？（4）如何让大模型处理更长的文本？（5）如果想要在某个模型基础上做全参数微调，需要多少显存？（6）为什么SFT之后觉得大模型LLM变傻了？（7）微调和指令微调的区别？（8）SFT指令微调数据如何构建？（9）领域模型Continue PreTrain数据如何选取？（10）领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘
AI产品经理实战手册：策略、开发与商业化指南
清图出版
10-31 746
通过《AI产品经理手册》，将可以了解不同类型的AI，如何将AI整合到产品或业务中，以及支持创建AI产品或将AI集成到现有产品所需的基础设施。熟悉实践管理AI产品开发流程、评估和优化AI模型，以及应对与AI产品相关的复杂伦理和法律问题等相关知识。通过案例研究和学习，在快速发展的AI和机器学习领域保持领先地位。通过阅读本书，读者将能够从产品角度全面了解AI领域。
AI代币是什么？AI与Web3结合的未来方向在哪里？
BlockOne11的博客
10-30 1317
近两年随着人工智能的崛起，AI已经渗透到制造业、电商、广告、医药等各个行业，加密货币领域也不例外，人工智能与区块链的融合，让我们看到了独特的数字资产 — AI加密代币。它的流行始于2022年底，随着OpenAI智能聊天机器人ChatGPT的火爆，许多人意识到，人工智能不再只是出现在电影里面，更多的应用已经照进现实，AI已经作为一种高效的生产力应用到实际的产业中。人工智能狂热也影响了机构巨头。例如，谷歌宣布将着手开发自己的人工智能聊天机器人 Bard。
Raft：易于理解的分布式一致性解决方案
总结来说，Raft之所以被认为是更易理解的分布式一致性算法，是因为它将复杂性降低到更直观的层次，使得开发者能够更容易地理解和实现，从而提高了系统的可靠性和扩展性。这在追求高可用性和易用性的现代分布式系统...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值