RefuteBench: Evaluating Refuting Instruction-Following for Large Language Models

最新推荐文章于 2024-10-02 00:23:27 发布
最新推荐文章于 2024-10-02 00:23:27 发布
阅读量25 收藏
点赞数
分类专栏： LLM Evaluation 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/c_cpp_csharp/article/details/137858758
版权
LLM Evaluation 同时被 2 个专栏收录
60 篇文章 2 订阅 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
516 篇文章 3 订阅

已下架不支持订阅

RefuteBench是一个全面的基准，用于测试大型语言模型在接收用户反驳反馈时的响应能力，特别是在问答、机器翻译和电子邮件写作等任务中。研究发现，LLM在遵循用户反馈方面存在问题，会忽视或忘记反馈，随着对话深入表现得更加顽固。提出的召回和重复提示策略能改善这种情况。
摘要由CSDN通过智能技术生成

本文是LLM系列文章，针对《RefuteBench: Evaluating Refuting Instruction-Following for Large
Language Models》的翻译。

RefuteBench:评估大型语言模型的反驳指令遵循

摘要

大型语言模型（LLM）的应用范围正在日益扩大。在实际使用中，用户可能会根据模型的输出提供反馈，希望有一个响应模型能够根据他们的反馈完成响应。该模型是否能够适当地回应用户的反驳反馈，并始终如一地执行，还没有得到彻底的分析。有鉴于此，本文提出了一个全面的基准RefuteBench，涵盖问答、机器翻译和电子邮件写作等任务。该评估旨在评估模型是否能够积极接受反驳指令形式的反馈，以及它们是否能够在整个对话中始终如一地遵守用户需求。我们对许多LLM进行了评估，发现LLM很顽固，即倾向于其内部知识，经常不遵守用户反馈。此外，随着对话长度的增加，模型会逐渐忘记用户所说的反馈，转而使用自己的回答。我们进一步提出了召回和重复提示，作为一种简单有效的方法来提高模型对反馈的响应能力。

1 引言

2 相关工作

3 问题定义

4 数据收集

5 实验结果

了解本专栏 订阅专栏 解锁全文 超级会员免费看
UnknownBody
关注
专栏目录
订阅专栏
LLMs：《Instruction Tuning for Large Language Models: A Survey—大型语言模型的指令调优的综述》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
08-31 3942
​ Paper：《Instruction Tuning for Large Language Models: A Survey—大型语言模型的指令调优的综述》翻译与解读 目录 《Instruction Tuning for Large Language Models: A Survey—大型语言模型的指令调优的综述》翻译与解读 Abstract摘要 1 Introduction引言 2、Methodology方法 3、Datasets数据集：大多都是英文指令
NLP之GPT-3：《 Language Models are Few-Shot Learners》的翻译与解读
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
07-29 1万+
​ NLP之GPT-3：《 Language Models are Few-Shot Learners》的翻译与解读 目录 相关文章 《GPT-3: Language Models are Few-Shot Learners》的翻译与解读 Abstract 摘要 1 Introduction 介绍 2 Approach方法 3 Results 结果 4 Measuring and Preventing Memorization Of Ben
AGI之Agent：《ChemCrow: Augmenting large-language models with chemistry tools用化学工具增强大语言模型》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
12-13 1304
​ AGI之Agent：《ChemCrow: Augmenting large-language models with chemistry tools用化学工具增强大语言模型》翻译与解读 目录 《ChemCrow: Augmenting large-language models with chemistry tools》翻译与解读 Abstract摘要 4、Conclusion结论 《ChemCrow: Augmenting large-language models with chemist
Evaluating Object Hallucination in Large Vision-Language Models----评估大视觉语言模型中的物体幻觉
Mars_prime的博客
12-11 1810
在第 3 节的实证结果中，我们揭示了 LVLM 中物体幻觉问题的严重性，并强调了现有评估方法的局限性，例如对指令敏感和偏向短字幕。此外，现有的方法大多依赖于解析生成的标题来提取预测的对象，这通常需要人为设计的复杂规则，并且仍然不可避免地遗漏或错误分类对象。因此，我们考虑设计一种更适合LVLM稳定、公平和灵活的物体幻觉评估的方法，即基于轮询的物体探测评估（POPE）。具体来说，POPE 将对象幻觉的评估制定为二元分类任务，提示 LVLM 输出“是”或“否”，例如“图像中有一把椅子吗？
LLMs:《OPT: Open Pre-trained Transformer Language Models》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
07-31 5392
​ LLMs:《OPT: Open Pre-trained Transformer Language Models》翻译与解读 目录 《OPT: Open Pre-trained Transformer Language Models》翻译与解读 Abstract 1、Introduction 2 、Method方法 3、Evaluations评估 4 Bias & Toxicity Evaluations偏见和有害性评估 5 Limitatio
LLMs：《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
12-31 4672
​ LLMs：《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》翻译与解读 目录 《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》翻译与解读 Abstract 1、Introduction介绍 2、Background背景 3、BLOOM
论文笔记--Evaluating Large Language Models Trained on Code
weixin_38124427的博客
06-05 1160
GPT系列模型之Codex，代码界的大语言模型
react-native 启动android项目失败：A problem occurred evaluating project ‘:react-native-orientation‘.
向着太阳迎着光
01-04 1768
【代码】react-native 启动android项目失败：A problem occurred evaluating project ':react-native-orientation'.
【AI4Code】CodeX：《Evaluating Large Language Models Trained on Code》（OpenAI）
chadlee
07-18 1794
CodeX尝试了从头训练和基于GPT-3的参数fine-tuning，结果发现基于GPT-3的参数fine-tuning并没有取得效果上的提升，但基于GPT-3的参数fine-tuing可以收敛的更快，因此，论文中都采用的是这种训练策略。CodeX是在Github的159GB的代码文本上无监督的训练的，论文造了一个和HumanEval数据集格式一致的SupervisedFine-Tuning数据集，在这个数据集上fine-tuning后的模型效果更好。这点想的有点科幻了。...
INFOBENCH: Evaluating Instruction Following Ability in Large Language Models
c_cpp_csharp的专栏
02-19 463
本文介绍了分解需求遵循率（DRFR），这是一种评估大型语言模型（LLM）遵循指令能力的新指标。为了解决当前方法中的差距，DRFR将复杂的指令分解为更简单的标准，有助于对LLM遵守任务各个方面的情况进行详细分析。除了这个指标之外，我们还介绍了INFOBENCH，这是一个基准测试，包括500条不同的指令和2250个跨多个约束类别的分解问题。我们的实验将DRFR与传统的评分方法进行了比较，并探索了注释来源，包括人类专家、众包工作者和GPT-4。
CLongEval: A Chinese Benchmark for Evaluating Long-Context Large Language Models
c_cpp_csharp的专栏
05-24 138
开发具有强大长上下文能力的大型语言模型（LLM）是近年来的研究热点，导致了精通汉语的长上下文LLM的出现。然而，由于缺乏基准，对这些模型的评估仍不完善。为了解决这一差距，我们提出了CLongEval，这是一个评估长上下文LLM的综合中文基准。CLongEval的特点有三个：（1）数据量充足，包括7个不同的任务和7267个例子；（2） 广泛的适用性，适用于上下文窗口大小从1K到100K的模型；（3） 高质量，除了自动构建的标签外，还有2000多个手动注释的问答对。
FineMath: A Fine-Grained Mathematical Evaluation Benchmark for Chinese Large Language Models
c_cpp_csharp的专栏
05-26 149
为了全面评估大型语言模型（LLM）的数学推理能力，我们需要仔细策划涵盖不同数学概念和不同难度的数学问题的评估数据集。为了实现这一目标，我们在本文中提出了FineMath，这是一个用于评估中文LLM的细粒度数学评估基准数据集。FineMath旨在涵盖小学数学中教授的主要关键数学概念，这些概念又分为17类数学单词问题，从而能够深入分析LLM的数学推理能力。根据解决这些问题所需的推理步骤的数量，手动注释所有17类数学单词问题的难度等级。
MT-Eval: A Multi-Turn Capabilities Evaluation Benchmark for Large Language Models
c_cpp_csharp的专栏
03-06 75
在不同的现实世界应用程序中，越来越多地依赖大型语言模型（LLM）进行复杂的多轮对话。然而，现有的基准主要集中在单轮评估上，忽略了模型在多轮交互中的能力。为了解决这一差距，我们引入了MT Eval，这是一个旨在评估多轮会话能力的综合基准。通过分析人类LLM对话，我们将互动模式分为四种类型：回忆、扩展、精炼和后续。我们通过扩充现有数据集或使用GPT4创建新的示例来为每个类别构建多轮查询，以避免数据泄露。为了研究影响多轮能力的因素，我们创建了1170个多轮查询的单轮版本，并比较了性能。
扩散模型（2）--1
m0_63860007的博客
09-29 782
生成模型通过学习并建模输入数据的分布，从而采集生成新的样木，该模型广泛运用于图片视频生成、文本生成和药物分子生成。扩散模型是一类概率生成模型，扩散模型通过向数据中逐步。
[论文精读]AI-Guardian: Defeating Adversarial Attacks using Backdoors
m0_52911108的博客
09-27 1307
本文提出了AI-Guardian框架，本质是让模型预测结果受到后门控制，而很难被攻击者操纵，从而抵御对抗攻击。在模型训练阶段，AI-Guardian会针对原始训练样本生成一批后门样本（经过后门处理的样本），按标签双射关系为后门样本分配对应标签，实现后门注入；在模型预测阶段，AI-Guardian先对输入数据进行后门处理，然后将其输入到模型，根据模型输出结果、标签双射关系返回对输入数据真实标签的预测结果。
Linux嵌入式有发展吗，以及对uboot，kernel，rootfs的领悟
rjszcb的博客
09-30 617
上一份工作是2022,11—2023，11年底，汽车公司，底层修修改改，编译镜像，修改后，客户给东西，重新编译给他，客制化配置启动参数，环境，支持应用部门，不懂怎么使用某些驱动。uboot到底是干嘛的，想想，emmc的镜像文件是怎么被读到ddr的，emmc为啥可以被分区，烧录镜像，tftp网络命令为啥可以运行，启动设备时，为啥lcd可以看到图像，kernel还没启动，怎么出图像的。不管做应用开发，驱动开发也好，知道，系统原理，驱动框架，进程管理调度，内核竞争，信号，中断，锁，这些就够了。
大模型~合集5
最新发布
whaosoft~aiotの开发板商城
10-02 940
FLock 的机制设计受到了证明权益（PoS）区块链共识机制和桌面游戏《The Resistance》（一种角色扮演类游戏，该游戏的一个变种叫阿瓦隆）的启发。《The Resistance》游戏则通过投票机制，每轮游戏中玩家独立推理并投票，从而实现全局共识。《The Resistance》有两个不匹配的竞争方，其中较大的一方被称为抵抗力量，另一方被称为间谍。在《The Resistance》中，有一个投票机制，在每一轮中，每个玩家进行独立推理并为一个玩家投票，得票最多的玩家将被视为「间谍」并被踢出游戏。
神经网络在多分类问题中的应用
小高~的博客
09-29 776
神经网络在分类任务中的应用越来越广泛，尤其是在图像识别、自然语言处理等领域。本文将介绍如何使用PyTorch构建一个简单的神经网络来处理多分类问题。我们将通过一个实战案例，展示数据构造、模型训练、模型保存与加载、以及评估结果的整个过程。
联邦政府IT战略：成本-收益-风险分析框架
这篇2018年的论文《Implementing an Information System Strategy: A Cost, Benefit, and Risk Analysis Framework for Evaluating Viable IT Alternatives in the US Federal Government》由Sofia E. Espinoza、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值