LLM论文：ALCE （Enabling Large Language Models to Generate Text with Citations）

最新推荐文章于 2024-11-07 14:12:51 发布
最新推荐文章于 2024-11-07 14:12:51 发布
阅读量754 收藏 7
点赞数 5
文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/major_in_data_/article/details/135581797
版权
本文探讨了在RAG领域中，如何通过ALCE评估模型解决大语言模型在信息搜索和生成带引用文本时的事实准确性问题。模型强调了对长文本生成、正确性和引用质量的自动评估，并区分了vanilla、inlinesearch和closebook三种检索生成方式。
摘要由CSDN通过智能技术生成

这是一篇RAG领域的文章，原文在这：https://aclanthology.org/2023.emnlp-main.398.pdf

时间[Submitted on 24 May 2023 (v1), last revised 31 Oct 2023 (this version, v2)]
背景LLM在信息搜索、生成带引用的文本时存在幻觉问题，即事实准确性有待提升，而且用户难以验证准确性。
现有工作的不足人工评估或商用搜索引擎，难以复现和比较不同模型
解决提出Automatic LLM Citation Evalutation 自动化评估模型检索生成能力
创新点

1. 评估长文本生成

2. 自动评估引用质量

3. 允许为一个陈述引用多篇文章

具体工作内容：

数据集

有三个数据集，分别是

ALCE评估模型：

三方面评估

  • 流畅度——MAUVE (Pillutla et al., 2021)
  • 正确性——根据数据集特点，定制了三种评估方式，主要使用了召回率，正确率
  • 引用质量——根据数据集特点，定制了三种评估方式，主要使用了召回率，正确率

检索生成方式

  1. vanilla：提供模型可能包含答案的文章，写提示词告诉他要正确地引用
  2. summ/snippet: 不提供完整的文章而是概要版或某一段，为了减少信息损失，还结合了INTERACT，模型可以选择是否去看一个浓缩版对应的完整的文章
  3. inlinesearch： 不提供检索结果，允许模型调用搜索
  4. closebook：不提供外部文章，让模型闭卷给出答案。

__心似大海__
关注
Enabling Large Language Models to Generate Text with Citations
c_cpp_csharp的专栏
08-21 1191
大型语言模型（LLM）已成为一种广泛使用的信息搜索工具，但其生成的输出容易产生幻觉。在这项工作中，我们的目标是使LLM能够生成带有引用的文本，提高其事实的正确性和可验证性。现有的工作主要依赖于商业搜索引擎和人类评估，这使得复制和比较不同的建模方法具有挑战性。我们提出了ALCE，这是LLM自动引文评估的第一个基准。ALCE收集了一组不同的问题和检索语料库，需要建立端到端的系统来检索支持证据并生成带有引文的答案。我们建立了三个维度的自动指标——流利性、正确性和引用质量——并证明了它们与人类判断的强烈相关性。
Training Language Models to Generate Text with Citations via Fine-grained Rewards
c_cpp_csharp的专栏
02-22 334
虽然最近的大型语言模型（LLM）已被证明在回答用户查询方面很有用，但它们很容易产生幻觉，而且由于缺少对可靠来源的引用，它们的响应往往缺乏可信度。这些问题的直观解决方案是在文本中引用外部文件作为证据。虽然以前的工作直接促使LLM生成文本引用，但它们的表现远不能令人满意，尤其是当涉及到较小的LLM时。在这项工作中，我们提出了一个有效的训练框架，使用细粒度的奖励来教授LLM生成高度支持和相关的引用，同时确保其响应的正确性。
day02论文学习：能够使大语言模型产生带有引用的文章
weixin_57128596的博客
06-17 1140
大型语言模型（LLMs）已经成为广泛使用的信息搜索工具，但它们生成的输出容易出现幻觉【1.前景】。在这项工作中，我们的目标是让LLMs生成带有引文的文本【2.目的】，提高其事实正确性和可验证性。现有的工作主要依赖商业搜索引擎和人工评估，这使得重新复制和比较不同的建模方法变得具有挑战性。我们提出了** ALCE【3.核心关键词，控制变量的关键】**，这是第一个用于自动LLMs引文评估的基准。ALCE收集了各种问题和检索语料库，并要求构建端到端系统来检索所支持的文档并生成带有引文的答案。【4.关键词作用】
探索 ALCE：Princeton NLP 的先进语言模型校准工具
gitblog_00006的博客
04-27 549
探索 ALCE：Princeton NLP 的先进语言模型校准工具 ALCE[EMNLP 2023] Enabling Large Language Models to Generate Text with Citations. Paper: https://arxiv.org/abs/2305.14627项目地址:https://gitcode.com/gh_mirrors/al/ALCE 简...
论文笔记：Time-LLM: Time Series Forecasting by Reprogramming Large Language Models
qq_40206371的博客
04-21 1047
iclr 2024 reviewer 评分 3888。
《PointLLM: Empowering Large Language Models to Understand Point Clouds》论文阅读及代码实现
m0_58520624的博客
12-22 1655
与众不同的是，PointLLM通过端到端训练提供了对对象点云的直接和全面的理解，实现了准确、开放和自由形式的交互。它们提供直接的几何和外观数据，能够更全面地了解3D形状、有效的遮挡管理和独立于视点的分析。第一阶段：特征对齐阶段，冻结点云编码器和LLM的参数，并仅仅训练MLP projector，在这个阶段，训练过程使用简短的描述指令，旨在有效地将点特征与文本标记空间对齐。增强LLM对3D对象点云的理解会带来三个问题：缺乏训练数据，建立合适的模型架构的必要性，以及缺乏全面的基准和评估方法。
【论文阅读】LLM4CP: Adapting Large Language Models for Channel Prediction（2024）
Glass_Gun的博客
09-05 1146
massive multi-input multi-output (m-MIMO)，大规模多输入多输出。large language models (LLMs)，大语言模型LLMs。该论文把大语言模型LLM用到物理层通信无线信道CSI预测上。channel prediction，信道预测。time-series，时间序列。fine-tuning，微调。
论文阅读 - TIME-LLM: TIME SERIES FORECASTING BY REPROGRAMMING LARGE LANGUAGE MODELS
qq_40671063的博客
05-28 2600
时间序列预测在许多真实世界的动态系统中具有重要意义，并已得到广泛研究。与自然语言处理（NLP）和计算机视觉（CV）不同，在自然语言处理和计算机视觉中，一个大型模型可以处理多个任务，而时间序列预测模型往往是专门的，需要针对不同的任务和应用进行不同的去符号化。虽然预训练基础模型在 NLP 和 CV 领域取得了令人瞩目的进展，但它们在时间序列领域的发展却受到了数据稀缺性的限制。最近的研究表明，大型语言模型（LLM）对复杂的标记序列具有强大的模态识别和推理能力。然而，如何有效地。
论文翻译：Emulated Disalignment: Safety Alignment for Large Language Models May Backfire!
CSPhD-winston的博客
08-13 935
大型语言模型（LLMs）会经历安全对齐，以确保与人类的安全对话。然而，本文介绍了一种无需训练的攻击方法，能够逆转安全对齐，通过仅访问LLM输出的标记分布，将更强对齐的结果转变为更大的潜在伤害风险。具体来说，我们的方法通过对比安全对齐的语言模型（例如，Llama-2-chat）与其预训练版本（例如，Llama-2）的输出标记分布，实现了这种逆转，使得标记预测向安全对齐的相反方向转变。我们称这种方法为模拟错位（ED），因为从这种对比分布中采样可以证明是模拟了微调以最小化安全奖励的结果。
【论文阅读】LLM4SGG: Large Language Models for Weakly Supervised Scene Graph Generation
weixin_46052134的博客
06-03 834
由于全监督方法严重依赖昂贵标注，最近弱监督场景图生成(WSSGG)研究替代方案出现。在这一点上（ In this regard），针对WSSGG的研究主要利用图像标题（image caption）来获取非局部三元组，而主要关注将非局部三元组建立在图像区域上。这句话翻译不明白，后续再补充然而，他们忽略了在三元组形成过程中涉及的两个问题:1)从标题中提取三元组时存在语义过于简化的问题，导致标题中的细粒度谓词被不理想地转换为粗粒度谓词，从而导致长尾谓词分布;
自助餐剩余食品识别图像分割系统：教学内容全覆盖
sgcsdn99的博客
11-04 1403
数据集信息展示在本研究中，我们使用的数据集名为“9_5_Merged”，该数据集专门用于训练改进YOLOv8-seg的自助餐剩余食品识别图像分割系统。该数据集包含71个类别，涵盖了丰富多样的食品种类，旨在提高模型对不同类型剩余食品的识别和分割能力。通过对这些类别的细致划分，我们希望能够实现更高精度的图像分割，进而优化自助餐剩余食品的管理和利用。
掌握AIStarter新功能，轻松关闭广告享受纯净浏览体验
ai_xiaogui的博客
11-07 190
AIStarter的广告拦截器是一项集成在平台内部的新特性，它允许用户根据自己的喜好设置广告过滤规则。无论是烦人的横幅广告、视频前贴片广告还是弹窗广告，都可以通过简单的设置被有效屏蔽。这项功能不仅提升了用户的浏览效率，还保护了用户的隐私安全。在数字时代，拥有一个清爽无干扰的网络环境对每个人都至关重要。AIStarter的广告拦截器正是为此而设计，它帮助用户夺回了对个人浏览体验的控制权。现在就尝试启用这项功能，开始享受一个更加干净、高效的上网体验吧！不要广告！关闭广告！
在后LLM时代，关于新一代智能体的思考
最新发布
langboat_mengzi的博客
11-07 424
同时，新一代智能体工具平台应具备与基座LLM保持独立的多层次智能体系，无需依赖单一大模型或者技术供应商，如此一来，有利于实现模块化开发，具备较强的可维护性，同时还能够建立良好的生态，促进智能体的繁荣发展。而“慢思考”是指在基础模型的基础上，当处理一些复杂指令时，智能体将需求拆解成多个子任务，会调用不同的工具来完成任务，并对结果进行反思、确认，这一过程体现了一种类似于人类思维的“系统 2”的过程，即 step-by-step、可解释的且能导致更准确结果的过程。这些能力对于智能体具有重要的作用和价值。
AI代币是什么？AI与Web3结合的未来方向在哪里？
BlockOne11的博客
10-30 1675
近两年随着人工智能的崛起，AI已经渗透到制造业、电商、广告、医药等各个行业，加密货币领域也不例外，人工智能与区块链的融合，让我们看到了独特的数字资产 — AI加密代币。它的流行始于2022年底，随着OpenAI智能聊天机器人ChatGPT的火爆，许多人意识到，人工智能不再只是出现在电影里面，更多的应用已经照进现实，AI已经作为一种高效的生产力应用到实际的产业中。人工智能狂热也影响了机构巨头。例如，谷歌宣布将着手开发自己的人工智能聊天机器人 Bard。
CVPR2024：PKINet(上下文锚点注意力机制)
kuailezzf的博客
11-06 346
PKINet采用无扩展的多尺度卷积核来提取不同尺度的目标特征并捕获局部上下文。具体来说，首先，PKINet不依赖于大核卷积或膨胀卷积来扩展感受野，而是利用无扩展的深度卷积（inception-style）来提取不同感受野之间的多尺度纹理特征。最后，这两个模块协同工作，促进了局部和全局上下文信息的自适应特征提取，从而提高了遥感目标检测的性能。为了解决上述问题，以前的方法是通过大核卷积或膨胀卷积来扩展主干网络的空间感受野。但是，前者通常会引入相当大的背景噪声，而后者可能会产生过于稀疏的特征表示。
Python的自然语言生成与对话系统介绍
余生的博客
11-05 777
自然语言生成(Natural Language Generation，NLG)和对话系统是人工智能领域的重要研究方向。NLG 涉及将计算机理解的信息转换为自然语言文本，而对话系统则涉及计算机与用户之间的自然语言交互。Python 作为一种易于学习、易于使用的编程语言，在这两个领域中发挥了重要作用。核心概念与联系核心算法原理和具体操作步骤数学模型公式详细讲解具体最佳实践：代码实例和详细解释说明实际应用场景工具和资源推荐总结：未来发展趋势与挑战。
Meta AI 推出机器人开源项目：推动触觉感知和人机交互的前沿研究
weixin_41496173的博客
11-04 823
在人工智能的各个领域中，**机器人技术的开源项目**成为了近年来的焦点。随着Meta AI（FAIR）发布了最新的触觉感知和机器人交互开源工具包，AI与机器人技术的结合再次引起广泛关注。通过开源的触觉编码工具、标准化的机器人手部平台以及人机协作基准，Meta AI为研究者和开发者提供了大量的创新工具。这一举措不仅促进了触觉感知和灵巧性研究的进步，也为多种应用场景下的机器人智能增强奠定了基础。 本文将深入解读Meta最新发布的触觉和人机交互研究成果，包括Meta Sparsh、Digit 360和Digit
数字孪生+AI：从数据、算法、场景层面全面驱动园区迈向智能化
wlsjdszls的博客
11-06 303
在碳排放管理方面，平台整合了园区内的水、电、暖、气等能耗数据，通过直观的界面展示能耗趋势，进行综合考评，并实时在线监测区域能源动态。在数字化转型的浪潮下，数字孪生+AI的联合为智慧园区的管理与运营提供了一整套高效的解决方案，不仅提升了园区的运营效率，还改善了人们的体验。Frontop智慧园区平台深度整合园区内所有资源，构建了一个统一的物联网设备管理体系，能够实时监控整个园区的运营状态，并运用AI技术进行设备故障的智能预测，实现了从人为管理到数据驱动治理的转变，显著提升了产业园的运营效率。
计算机视觉（CV）技术的优势和挑战。
Enya61的博客
11-04 297
计算机视觉（CV）技术是一种使用计算机算法和技术实现对图像和视频数据进行理解和分析的技术。
探索LLM论文：全面学习资源指南
LLM（Large Language Models）指的是大型语言模型，它是基于深度学习的自然语言处理技术。LLM可以处理各种自然语言任务，如文本生成、翻译、摘要、问答系统等。LLM模型通常包含数以亿计的参数，并依赖大量的数据...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

__心似大海__

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值