self-refine: 让LLM自己修改outupt

最新推荐文章于 2024-11-01 17:13:19 发布
最新推荐文章于 2024-11-01 17:13:19 发布
阅读量214 收藏
点赞数 2
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_56583393/article/details/142640565
版权

#self-refine: 让LLM自己修改outupt

Self-Refine: Iterative Refinement with Self-Feedback是发表在NeurIPS 2023的一篇论文，本文作者提出了self-refine方法让LLM 自己修改output，优点是不需要对LLM做任何的训练/微调。缺点是依赖prompt工程，导致方法不够general，需要为每个下游任务设计一套prompt。

Artiken
关注
OpenAI o1的开源平替版self-replay RL来了！
jude2013的专栏
09-15 846
引人注目的是，rStar将LLaMA2-7B在GSM8K数据集上的准确率从12.51%提高到63.91%，将Mistral-7B的准确率从36.46%提高到81.88%，将LLaMA3-8BInstruct的准确率从74.53%提高到91.13%。相互一致性反映了在缺乏监督的情况下的常见人类实践，其中同行（即两个SLMs）对推导出的答案的一致性表明了更高的可能性是正确的。然而，所达到的性能往往取决于LLM的固有能力，对于SLM来说，它们较弱的指令遵循能力和不可靠的自我奖励可能会误导自我改进。
【LLM 论文】Self-Refine：使用 feedback 迭代修正 LLM 的 output
VLyb
06-25 1707
论文提出了 Self-Refine，核心就是反复迭代 Feedback 和 Refine 操作，从而让 LLM 在具体任务上有更好的表现。论文在多个任务上进行了实验，发现 Self-Refine 可以有效地在各种任务上提升 LLM 的表现，当在较弱的小模型上则表现不佳（会重复输出）。
论文阅读 - SELF-REFINE: Iterative Refinement with Self-Feedback
qq_40671063的博客
09-17 1054
与人类一样，大型语言模型（LLMs）并非总能在首次尝试时产生最佳输出结果。受人类如何完善书面文本的启发，作者引入了 SELF-REFINE，这是一种通过迭代反馈和完善来改进 LLM 初始输出的方法。其主要思路是使用 LLM 生成初始输出；然后，同一 LLM 为其输出提供反馈，并利用反馈反复改进自身。不需要任何有监督的训练数据、额外的训练或强化学习，而是使用单个 LLM 作为生成器、改进器和反馈提供者。作者使用最先进的 LLM（GPT-3.5 和 GPT-4）对 SELF-REFINE 在。
[NeurIPS 2024] Self-Refine: Iterative Refinement with Self-Feedback
连理o的博客
08-25 310
[NeurIPS 2024] Self-Refine: Iterative Refinement with Self-Feedback
论文阅读_2_大模型记忆反思_《Self-Refine: Iterative Refinement with Self-Feedback》
javacc2015的博客
03-26 1244
像人一样，LLM也不能一次尝试就能产生最好的结果。受启发与人类精炼写作的过程，本文提出self-refine的方法。该方法LLM，通过内部的反馈和精炼机制来提升模型最初的输出结果。这个方法的主要idea是，用LLM先生成一个最初的输出，然后在用这个LLM对自己的结果做出评价然后根据评价来升华自己的最初的输出。self-refine不需要有监督训练数据，额外的训练，强化学习等等，只需要一个LLM同时作为，生成器，反馈器和精炼器。本文中在7个不同的任务中进行评价，从对话生成到数学推理。
SELF-REFINE: 带自我反馈的迭代改进
yorkhunter的博客
10-05 698
23年5月来自CMU、AI2、U Washington、Nvidia、UCSD和谷歌的论文 “SELF-REFINE: Iterative Refinement with Self-Feedback”。
LLM agentic模式之reflection：SELF-REFINE、Reflexion、CRITIC
beingstrong的博客
06-23 1659
LLM agentic论文《Self-Refine: Iterative Refinement with Self-Feedback》 《Reflexion: Language Agents with Verbal Reinforcement Learning》《CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing》
【LLM-推理】Self-Refine：使用feedback迭代修正LLM的Output
weixin_57128596的博客
07-19 591
本文主要提出了Self-Refine策略，旨在通过一个LLM不断refine修正LLM的输出，使其在无需额外训练的情况下，在下游任务产生更好的效果。该方法的直观Insight：我们在写一封 email 时，往往写出一个 draft，然后再修改其中措辞不当的地方，修改为更好的版本。首先，给定一个input x，在下让 LLM 先生成一个初始outputy0。​进行迭代，每一轮 t 中：Feedback：将input x、上一轮和给 LLM，得到这一轮的。【feedback的prompt】
Self-Refine：基于自我反馈的迭代优化
gitblog_00813的博客
10-10 597
Self-Refine：基于自我反馈的迭代优化 self-refine LLMs can generate feedback on their work, use it to improve the output, and repeat this process iteratively. ...
Alpha-Refine: Boosting Tracking Performance by Precise Bounding Box Estimation--精度翻译cvpr21
weixin_45032769的博客
12-16 3373
Abstract 视觉对象跟踪的目的是精确估计给定目标的边界框，由于诸如变形和遮挡等因素，这是一个具有挑战性的问题。 许多最新的跟踪器采用多阶段跟踪策略来提高边界框估计的质量。 这些方法首先粗略地定位目标获取，然后在接下来的阶段中完善初始预测。 但是，现有的方法仍然受限于精度，而且不同阶段的耦合严重限制了该方法的可移植性。 这项工作提出了一种新颖，灵活，准确的细化模块，称为Alpha-Refine，可以显着提高基本跟踪器的预测质量。 通过探索一系列设计方案，我们得出结论，成功进行精炼的关键在于尽可能多地提取
lc-open-refine:图书馆木工
04-28
图书馆木工维护人员：OpenRefine （领导） 图书馆木工的过往维护者：OpenRefine 课程维护者的沟通是通过。 图书馆木工 是一个软件和数据技能培训计划，面向从事与图书馆和信息相关的工作的人员。 它以和的工作为...
elm-refine:榆树的细化类型
04-29
让我们看下面的例子。 {- | @refine \int -> int /= 0 -} type alias IntWithoutZero = Int dividedBy : IntWithoutZero -> Int -> Int dividedBy a b = b // a 3 |> dividedBy 0通常将返回0 ，但是使用此类型...
live-script-refine:一个使用 lsjs 清理杂乱数据的浏览器内工具
06-01
4. **前端界面**：作为一个浏览器内的工具，live-script-refine 应该有一个用户友好的界面，让用户可以交互式地查看和编辑数据。这可能包括数据预览、编辑选项、脚本输入区以及执行和刷新按钮等元素。 5. **轻量级*...
2021-02-15-LIACS-code-refine:2021-02-15 LIACS代码精炼车间的所在地
05-10
仅当您正确 该页面并让我们知道工作坊URL时，我们才能这样做。 如果您遇到问题，或者对如何简化此过程有任何想法，请。 有关 的页面，和详细介绍了我们的工作方式和原因。 并且请注意：如果您要教Git，请供学习者...
探讨Facebook的AI研究：未来社交平台的技术前瞻
LokiSan的博客
10-29 1356
在数字时代，社交媒体已成为人们日常生活的重要组成部分。作为全球最大的社交网络之一，Facebook不断致力于人工智能（AI）的研究与应用，以提升用户体验、增强平台功能并推动技术创新。本文将探讨Facebook在AI领域的研究方向及其对未来社交平台的潜在影响。
UOS AI 1.6 版本升级，如何实现精准搜索，效率翻倍？
vickynesss的博客
11-01 454
通过直接接入互联网的实时数据流，搜索结果变得多样化，不仅限于文字总结，还包括思维导图、事件与人物的综合概述，以及图片、视频、音频等多种形式，显著提高了回答的准确性和全面性。全局搜索全新搭载端侧大模型：支持离线自然语言搜索，无论身在何处，即使没有网络，只需通过快捷键“Shift+space(空格键）”唤醒全局搜索，都能轻松找到所需文件。：对于日常积累的海量截图，只需借助全局搜索功能，简要描述图片内的文字信息，便能迅速锁定并检索到所需图片。：重要信息直接添加到知识库，方便日后查阅，让全局搜索成为你的第二大脑。
如何在 AI 时代打造你的核心竞争力？
最新发布
玉树芝兰
11-01 328
（注：本文为小报童精选文章。已订阅小报童或加入知识星球「玉树芝兰」用户请勿重复付费）焦虑在《AI 研究已摘得诺奖桂冠，普通科研工作者将何去何从？》一文中我谈过自己对目前 AI 技术浪潮对大众影响的体会——未来已来，只是分布不均。很多人在还没有意识到 AI 带来的变革潜能时，觉得与自己无关，日子该怎么过怎么过，倒也轻松。而一旦突然意识到 AI 的重要性，就会变得焦虑万分。这种焦虑，就是挣扎与思考在外...
基于Keras的U-Net模型在图像分割与计数中的应用
10-31 2023
网络结构优化：项目基于经典的U-Net模型进行改进，采用了更深的网络层次结构，使模型能够在多尺度上捕捉到图像中的细节信息。特别是针对医学图像分割，项目通过增加卷积层数和引入Dropout层来增强模型的特征提取能力，并有效防止过拟合，从而提高模型在训练数据较少情况下的表现。项目中采用了he_normal初始化器和relu激活函数组合，使得网络在训练时能够更快地收敛，降低梯度消失的风险。自定义数据增强策略：在中实现了一个自定义的图像增强类。
UI原型工具pipeline-editor：绘制数据管道新体验
这个工具的设计灵感来源于Open Refine和IPython Notebook。通过这个工具，用户可以在浏览器中输入UNIX或sh命令（例如curl命令），并通过点击和点击的方式进行数据转换和处理。" 知识点: 1. 数据管道：数据管道是一种...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值