论文笔记：Time Travel in LLMs: Tracing Data Contamination in Large Language Models

最新推荐文章于 2024-09-04 22:00:35 发布
最新推荐文章于 2024-09-04 22:00:35 发布
阅读量965 收藏 8
点赞数 17
分类专栏： 论文笔记 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40206371/article/details/137776334
版权

iclr 2024 spotlight reviewer评分 688

1 intro

  • 论文认为许多下游任务（例如，总结、自然语言推理、文本分类）上观察到的LLMs印象深刻的表现可能因数据污染而被夸大
    • 所谓数据污染，即这些下游任务的测试数据出现在LLMs的预训练数据中
    • 保证无污染并非易事，因为有两个潜在的污染源：直接从官方数据集版本摄取（较易控制），和通过网络上某处找到的重复数据间接获得（几乎无法控制）
  • ——>论文提出了一种成本低廉且稳健的方法，自动检测给定数据集分区的数据污染
    • 论文基于两个现实假设：
      • （a）无法直接访问LLMs的预训练数据
      • （b）的计算资源有限
  • 方法首先通过从相应数据集分区的小型随机样本中抽取个别实例来识别潜在污染
    • 使用从个别实例获得的信息，然后评估整个数据集分区是否受污染
  • 为了识别个别实例的污染，论文采用了一种“引导指令”：一个整合了源数据集的独特标识符的提示
    • 这些信息包括数据集名称、它的分区（训练、测试或验证）以及随机选择的参考实例的初始部分，并在相关时补充其标签
    • 指导LLM续写给定的部分实例
  • 使用这些生成的内容，论文提出了两种启发式方法来估计整个数据集分区是否受污染
    • 第一种启发式方法认为，如果在引导指令下生成的部分与参考实例之间的平均重叠得分在统计上显著高于使用不包括数据集和分区名称的“通用指令”测得的得分，则该分区很可能受污染
    • 第二种启发式方法是，如果基于GPT-4的分类器通过少量示例的in-context learning，至少标记一个生成的部分与参考实例精确匹配，或至少两个生成的部分为近精确匹配，则标记该分区为受污染

     2 method

  • 论文基于两个核心假设：
    • （1）缺乏直接访问LLMs的预训练数据，
    • （2）计算资源有限
  • 在这些前提下，论文：
    • 首先检查数据集分区中的个别实例，以在实例级别发现污染
    • 其次检测到的受污染实例相关分区可以被标记为泄露给LLM的预训练数据
  • 实例的精确复制作为相应分区污染的标志

2.1 检测实例级污染

2.1.1 测量实例级污染的组件

2.1.2 测量实例级污染

  • 方法1：BLEURT和ROUGE-L
    • ROUGE-L评估词汇相似性
    • BLEURT衡量生成序列与参考实例相比的语义相关性和流畅性
    • 如果在引导指令下完成的平均重叠得分超过通用指令的得分，则检测到实例级污染
  • GPT-4评估：
    • 虽然BLEURT和ROUGE-L都量化了生成实例与参考实例之间的重叠，但它们无法精确指出近乎精确的匹配
    • ——>采用少量示例的ICL提示来指导检测精确/近精确匹配
      • 在提示中使用一些代表性的精确匹配和近乎精确匹配的示例——这些示例来自人类评估，用以评估所有其他生成的完成

2.2 检测分区级污染

  • 为了从实例级污染推广到分区级离散决策（即分区是/不是受污染的），论文利用了两个观察结果：
    • 观点1：
      • 如果使用引导指令生成的完成与参考实例的平均重叠得分显著高于使用通用指令生成的完成的得分，则该数据集很可能受到污染
      • 两种指令之间的唯一区别是引导指令包含了数据集和分区的名称作为指导，因此改进只能由污染来解释
    • 观点2：
      • 如果使用少量示例ICL提示的GPT-4检测到至少一个精确匹配或至少两个近乎精确匹配，则该数据集很可能受到污染

3 实验

UQI-LIUWJ
关注
  • 17
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
论文笔记：Time-LLM: Time Series Forecasting by Reprogramming Large Language Models
qq_40206371的博客
04-21 844
iclr 2024 reviewer 评分 3888。
论文笔记：How Can Large Language Models Understand Spatial-Temporal Data?
qq_40206371的博客
04-21 597
arxiv 202401
论文笔记：UrbanGPT: Spatio-Temporal Large Language Models
qq_40206371的博客
04-20 774
时空预测的目标是预测并洞察城市环境随时间和空间不断变化的动态。其目的是预见城市生活多个方面的未来模式、趋势和事件，包括交通、人口流动和犯罪率。虽然已有许多努力致力于开发神经网络技术，以准确预测时空数据，但重要的是要注意，许多这些方法。不幸的是，数据稀缺问题在实际的城市感知场景中普遍存在。在某些情况下，从下游场景收集任何标记数据变得具有挑战性，这进一步加剧了问题。因此，建立一个能。借鉴大型语言模型（LLM）的显著成就，我们的目标是创建一个能在。为实现这一目标，我们推出了UrbanGPT，它。
AI之MLM：《MM-LLMs: Recent Advances in MultiModal Large Language Models多模态大语言模型的最新进展》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
01-27 3372
​ AI之MLM：《MM-LLMs: Recent Advances in MultiModal Large Language Models多模态大语言模型的最新进展》翻译与解读 目录 《MM-LLMs: Recent Advances in MultiModal Large Language Models》翻译与解读 Abstract摘要 1、Lntroduction引言 2、Model Architecture模型架构，五个组件 3、Tra
论文阅读：Large Language Models for Education: A Survey
CSPhD-winston的博客
07-08 703
论文由Hanyi Xu、Wensheng Gan、Zhenlian Qi、Jiayang Wu和Philip S. Yu撰写的，是关于大型语言模型（LLMs）在教育领域应用的综合调查研究。
论文笔记：Integrating Large Language Models with Graphical Session-Based Recommendation
qq_40206371的博客
05-24 859
基于会话的推荐任务是基于用户历史行为会话构建的，并根据当前用户会话进行预测在此任务中，存在一个项目集 V，其中∣V∣ 为项目的数量，所有项目都是唯一的每个会话S=[v1​,v2​,...,vn​] 由一系列用户的交互组成，其中vt​ 表示在 S 中时间 t 点击的项目，n 表示会话的长度SBR任务是预测用户在给定会话 S 中最有可能下次点击的项目对于训练过程中的每个给定会话 S，有一个对应的标签 y 作为目标。
多模态系列-综述MM-LLMs: Recent Advances in MultiModal Large Language Models
lansebingxuan的专栏
03-28 1380
在过去的一年中，多模态大型语言模型（MM-LLMs）取得了实质性的进展，通过高效的训练策略，增强了现成的语言模型，以支持多模态输入或输出。由此产生的模型不仅保留了语言模型的固有推理和决策能力，还赋予了多样化的多模态任务。在本文中，我们提供了一份旨在促进进一步研究多模态大型语言模型的综合调查。首先，我们概述了模型架构和训练流程的一般设计公式。随后，我们介绍了一个包含122个多模态大型语言模型的分类体系，每个模型都具有其特定的公式。
论文阅读：Rethinking Interpretability in the Era of Large Language Models
CSPhD-winston的博客
07-08 686
可解释机器学习在过去十年迅速发展，这与大型数据集和深度神经网络的崛起有关。大型语言模型（LLMs）在各种任务上展示了卓越能力，为可解释机器学习提供了重新思考的机会。LLMs能够用自然语言解释，扩大了可以向人类解释的模式规模和复杂性。然而，这些新能力也带来了新的挑战，如错误解释和巨大的计算成本。可解释性是一个定义不明确的概念，需要根据解释所服务的问题和受众来精确定义。LLMs通常指包含数十亿至数百亿参数的基于transformer的神经语言模型。
论文阅读 - TIME-LLM: TIME SERIES FORECASTING BY REPROGRAMMING LARGE LANGUAGE MODELS
qq_40671063的博客
05-28 1989
时间序列预测在许多真实世界的动态系统中具有重要意义，并已得到广泛研究。与自然语言处理（NLP）和计算机视觉（CV）不同，在自然语言处理和计算机视觉中，一个大型模型可以处理多个任务，而时间序列预测模型往往是专门的，需要针对不同的任务和应用进行不同的去符号化。虽然预训练基础模型在 NLP 和 CV 领域取得了令人瞩目的进展，但它们在时间序列领域的发展却受到了数据稀缺性的限制。最近的研究表明，大型语言模型（LLM）对复杂的标记序列具有强大的模态识别和推理能力。然而，如何有效地。
大型语言模型（Large Language Models，LLMs）概览.docx
08-31
大型语言模型（Large Language Models，LLMs）概览
Large Language Models(LLMs) on Tabular Data: Prediction, Generation, and Understanding - A Survey
c_cpp_csharp的专栏
05-10 71
最近在大型语言建模方面的突破促进了对其在与表格数据建模相关的各种任务中的应用的严格探索，如预测、表格数据合成、问答和表格理解。每项任务都会带来独特的挑战和机遇。然而，目前缺乏对该研究领域的关键技术、指标、数据集、模型和优化方法进行总结和比较的全面综述。这项调查旨在通过整合这些领域的最新进展来解决这一差距，对所使用的数据集、指标和方法进行彻底的调查和分类。它确定了现有文献中的优势、局限性、未探索的领域和差距，同时为这一重要且快速发展的领域的未来研究方向提供了一些见解。它还提供了相关的代码和数据集参考。
The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits
c_cpp_csharp的专栏
05-08 166
最近的研究，如BitNet，正在为1位大型语言模型（LLM）的新时代铺平道路。在这项工作中，我们引入了一个1位LLM变体，即BitNet b1.58，其中LLM的每个单个参数（或权重）都是三元{-1，0，1}。它在困惑和最终任务性能方面与具有相同模型大小和训练token的全精度（即FP16或BF16）Transformer LLM相匹配，同时在延迟、内存、吞吐量和能耗方面显著更具成本效益。更深入地说，1.58位LLM定义了一种新的缩放定律和配方，用于训练新一代的LLM，这些LLM既高性能又具有成本效益。
[论文笔记] Data-Juicer: A One-Stop Data Processing System for Large Language Models
心宝的博客
08-16 194
Data-Juicer的工作原理可以想象成一个厨房，你的数据集就是各种食材，而Data-Juicer就是一套高级的烹饪工具，帮助你将这些食材制作成美味的菜肴——也就是为大型语言模型（LLMs）准备的优质数据食谱。简而言之，Data-Juicer是一个强大的工具，它通过提供灵活、高效的数据处理能力，帮助研究人员和开发者更好地训练和优化大型语言模型。通过这些步骤，Data-Juicer帮助你从原始数据中提取最大价值，为大型语言模型制作出最优质的数据食谱。
如何开发主播美颜工具？直播美颜SDK的实现方案
q1031691172的博客
09-04 852
由于直播场景对实时性要求极高，因此性能优化是美颜SDK开发的关键。开发者可以通过减少计算复杂度、优化算法效率、利用硬件加速等手段来提升性能。同时，还需在不同设备和操作系统上进行兼容性测试，确保SDK的广泛适用性。
机器学习：opencv图像识别--图片运算、边界、阈值处理、平滑处理
最新发布
纸上得来终觉浅
09-04 1525
opencv图像识别--图片运算、边界、阈值处理、平滑处理
智能化升级：AI在客服知识库中的应用
LookLook同学的博客
09-03 1664
探讨AI在客服知识库中的应用，提升效率与用户体验。
YOLOV5入门教程-yolov5s.yaml文件
vimpirespider的博客
09-04 1357
这段backbone共有9个层次，每个层次逐步提取图像特征并下采样。最后输出的特征图尺寸为40x40，通道数为1024。这个特征图包含了从输入图像中提取到的高层次特征，准备在后续的网络层中用于目标检测。
Transformer
m0_65325092的博客
09-04 523
是谷歌2017年发表在NeurlIPS上的文章中提出的模型。模型仅基于注意力机制，能够有效捕捉输入序列中的长距离依赖关系，完全不涉及循环和卷积，解决了传统的序列到序列(Seq2Seq)模型处理可变长序列时存在的问题(RNN处理长序列时易出现梯度消失或爆炸，不能并行计算，难以捕捉长距离依赖关系。CNN卷积操作的输入需要具有固定尺寸，处理可变长序列时为使序列长度相同需要填充短序列因而效率较低)。实验表明其在质量上更优越，更易于并行化，训练时间也大大减少。
LLMs与图增强：推动推荐系统革新
《LargeLanguageModelswithGraphAugmentationforRecommendation》这篇论文探讨了如何利用大语言模型（LLMs）在推荐系统中的创新应用。 论文的核心观点在于，传统的推荐系统主要依赖用户历史行为数据，而大模型的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UQI-LIUWJ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值