思维链CoT / 检索增强生成RAG，来调用ChatGPT，有效的原因

已于 2024-10-25 14:59:42 修改
阅读量79 收藏
点赞数
分类专栏： 自然语言处理 文章标签： 自然语言处理
于 2024-10-07 11:34:26 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/guotong1988/article/details/142737672
版权

在prompt本身正确的前提下，肯定是prompt内容越多，ChatGPT回复的越准，

prompt相当于模型的输入的特征。自己训练一个模型，也是希望特征在正确的前提下越多越好。

cover一些情况，甚至可以把答案就放在prompt里输入给LLM。

高级RAG技术：提升生成式AI系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
丨汀、的博客
10-26 780
高级RAG技术：提升生成式AI系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
15 种高级 RAG 技术 从预检索到生成
fudaihb的博客
10-02 1096
我们关于检索增强生成 (RAG) 的入门文章介绍了关键概念，并探讨了 RAG 系统的工作原理。在本白皮书中，我们探索了 15 种高级 RAG 技术，以提高生成式 AI 系统的输出质量和整体性能的鲁棒性。这些高级 RAG 技术极大地扩展了团队微调系统性能的选择。例如，在为一家大型金融服务公司构建安全的对话式 AI 助手时，我们实验了本白皮书中探讨的大多数高级 RAG 技术。这使我们能够测试并识别适当的优化方案，从预检索到生成，利用我们的自动化 RAG 评估管道（见下图）。
检索增强生成RAG系列4--RAG优化之问题优化
代码还是得自己扣
06-30 3548
方法描述场景通过生成更多角度的问题针对问题模糊时RAG-fusion在Multi-Query基础上，在检索文档结果后增加RRF重排针对问题模糊时HyDE使用大模型生成假设性答案，再使用答案去查询相似度，而不是原始问题用户问题和语义不在一个空间将问题分解为子问题，再通过并行或串行方式获得答案针对复杂问题或者需要逻辑推理问题Step-back使用few-shot方式，让大模型基于原始问题提出更为抽象问题针对复杂问题。
AI--构建检索增强生成 (RAG) 应用程序
qq_29983883的博客
05-23 1178
LLM 所实现的最强大的应用之一是复杂的问答 (Q&A) 聊天机器人。这些应用程序可以回答有关特定源信息的问题。这些应用程序使用一种称为检索增强生成 (RAG) 的技术。典型的 RAG 应用程序有两个主要组件4.：根据用户输入，使用检索器从存储中检索相关分割。5.：ChatModel / LLM使用包含问题和检索到的数据的提示生成答案输出结果首先：这些组件（retriever、prompt、chat等）中的每一个都是Runnable的实例。
如何评估一个RAG（检索增强生成）系统-上篇
Cracked_hitter的博客
09-12 1202
最近项目中需要评估业务部门搭建的RAG助手的效果好坏，看了一下目前业界一些评测的方法。目前分为两大类，基于传统的规则、机器学习的评测方法，基于大模型的评测方法。在这里做一些记录，上篇主要做评测方法的记录，下篇会详细分析下RAGas评测框架指标的一些实现。
如何评估检索增强型生成（RAG）应用
qianggezhishen的专栏
10-24 731
RAG，也就是检索增强型生成，是现在大型语言模型（LLMs）时代里的一个超火的AI框架，比如你知道的ChatGPT。它通过把外面的知识整合进来，让这些模型变得更聪明，能给出更准确、更及时的回答。详见前篇文章《概括来说，一个典型的RAG系统得有一个LLM，一个像Milvus这样的向量数据库，还得有一些提示，就像下图所示那样。现在越来越多的开发者和公司开始用RAG来开发GenAI应用了，所以评价这些应用好不好用就变得越来越关键了。
AI实践与学习4_大模型之检索增强生成RAG实践
xiaosi的博客
04-14 1249
论文Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks （知识密集型 NLP 任务的检索增强生成）作者们探讨了如何通过结合预训练的语言模型和非参数记忆（即检索机制）来提高自然语言处理（NLP）任务的性能，特别是在需要大量知识密集型任务中。预训练的神经语言模型已经显示出从数据中学习大量深入知识的能力，但这些模型无法轻松扩展或修改它们的记忆，也不能直接提供对其预测的洞察，有时还可能产生“幻觉”。
Prompt提示工程上手指南:基础原理及实践(四)-检索增强生成(RAG)策略下的Prompt
master_hunter的博客
03-25 3803
想象一下，当你在写一篇文章或解决一个问题时，如果遇到了难题，你会怎么做？可能会去搜索引擎查找信息，然后基于找到的信息来构建你的答案。这个过程，其实很像是RAG框架在做的事情。化繁为简，我们先来了解RAG到底是什么。先从字母意思开始理解，RAG——Retrieval Augmented Generation，正如其名，是一种将检索（Retrieval）和生成（Generation）结合起来的技术。它首先从一个巨大的知识库中检索出与提出的问题最相关的信息，然后基于这些信息来生成回答。
构建一个检索增强生成（RAG）应用程序
weixin_49477258的博客
06-24 924
我们将在网站上构建一个 QA 应用程序。我们将使用的具体网站是 Lilian Weng 的博客文章，该网站允许我们提出有关帖子内容的问题。
终极指南：大模型检索增强生成（RAG）全面综述，CSDN最详尽解析，一篇文章掌握RAG精髓！
2301_82000445的博客
08-15 1369
是什么：RAG 是一种通过检索外部知识库来获得额外语料，并使用 ICL（In-Context-Learning，上下文学习）来改进 LLM 生成效果的范式。为什么：LLM 受训练语料的限制，无法感知最新的内容，比如 LLM 训练后的新闻；此外，LLM 也容易产生幻觉，生成不正确的内容。如何做：当用户发起一个生成请求时，首先基于用户的 prompt 来检索相关信息，然后这些信息会被组合到 prompt 中，为生成过程提供额外的上下文，最后将组合后的 prompt 输入 LLM 生成结果。
开卷翻到毒蘑菇？浅谈大模型检索增强（RAG）的鲁棒性
Paper weekly
11-25 1276
©PaperWeekly 原创 ·作者 |陈思硕单位 |北京大学研究方向 |自然语言处理很久没有写论文 notes 了，近期因为参与对检索增强生成（Retrieval-Augmented Generation, RAG）范式鲁棒性的研究，注意到了近两个月来社区中涌现了一小批关于这个话题的工作，简单梳理以飨读者。何为检索增强：模型可以开卷考纯参数化的大语言模型将其在海量语料上学习到的世界知识...
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
丨汀、的博客
07-08 945
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
2、Bert论文笔记
weixin_44986037的博客
12-25 959
Bert
Bert中文文本分类
最新发布
Toby的博客
12-27 708
这是一个经典的文本分类问题，使用google的预训练模型BERT中文版bert-base-chinese来做中文文本分类。可以先在Huggingface上下载预训练模型备用。我使用的训练环境是。
信息抽取（NLP)是什么技术有哪些应用？
kuaitongAI的博客
12-25 1149
信息抽取是将非结构化的信息转化为结构化信息的过程。一般应用于电商平均分析、知识图谱和大模型训练。
论文浅尝 | 编辑基于语言模型的知识图谱嵌入（AAAI2024）
开放知识图谱
12-25 1211
笔记整理：曲晏林，天津大学硕士，研究方向为大语言模型论文链接：https://arxiv.org/abs/2301.10405发表会议：AAAI 20241. 动机知识图谱(Knowledge Group, KG)由三元组(头部实体、关系、尾部实体)组成，广泛应用于下游任务，如问答和推荐系统。传统的图谱嵌入方法通常基于结构化信息，如 TransE、RotatE等，但难以表示长尾实体和动态实体。基于...
3GPP R18 MT-SDT
asd199086的博客
12-25 262
Rel-17 指定MO-SDT允许针对UL方向的数据包进行小数据包传输。对于DL，MT-SDT(即DL触发的小数据)可带来类似的好处，即 通过不转换到 RRC_CONNECTED来减少信令开销和UE功耗，并通过允许快速传输(小而少见的)数据包(例如用于定位)来减少延迟。在R17中，NR_SmallData_INACTIVE的工作项允许在UE保持在RRC_INACTIVE状态时传输小信令或数据包。这些R17的增强功能仅支持MO SDT过程。R18 就引入了MT-SDT。
【阅读记录-章节7】Build a Large Language Model (From Scratch)
weixin_44329069的博客
12-25 922
为了处理指令微调中的批次数据，我们实现了一个自定义的collate函数，用于填充序列并生成目标 token IDs。collate希望您喜欢从零开始实现一个 LLM 并从头编写预训练和微调功能的这段旅程。在我看来，从头构建一个 LLM 是深入理解 LLM 工作原理的最有效方式。希望这种实践方法为您提供了有价值的见解和坚实的 LLM 开发基础。虽然本书的主要目的是教育，但您可能有兴趣在实际应用中使用不同且更强大的 LLM。为此，我建议探索一些流行工具，如 Axolotl () 或 LitGPT (
77、将adaface的mtcnn模型npy文件转成atlas310p模型，并进行推理
sxj731533730
12-26 102
新建立一个export_onnx.py文件文件路径 /home/ubuntu/AdaFace/face_alignment/mtcnn_pytorch/src/export_onnx.py。一、按照readme进行测试mtcnn模型，将main.py代码添加到/home/ubuntu/AdaFace/face_alignment/mtcnn_pytorch/目录下。可以看出非常接近，优化一下代码，完全独立官方的逻辑代码，使用但文件推理，方便在atlas设备上推理。
ChatGPT技术解析：RLHF、IFT、CoT与对话智能
"本文主要探讨了ChatGPT背后的关键技术，包括RLHF（ Reinforcement Learning with Human Feedback，强化学习与人类反馈）、IFT（Inference Time Fine-tuning，推理时间微调）、CoT（Chain ofThought，思考链）以及红...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

_Focus_

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>