A Survey of Hallucination in “Large” Foundation Models

最新推荐文章于 2024-08-25 22:07:20 发布
最新推荐文章于 2024-08-25 22:07:20 发布
阅读量178 收藏
点赞数
分类专栏： Survey Paper 文章标签： 人工智能 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/c_cpp_csharp/article/details/133030651
版权
Survey Paper 同时被 2 个专栏收录
182 篇文章 7 订阅 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
515 篇文章 3 订阅

已下架不支持订阅

本文详述了大型基础模型（LFM）如大语言模型、图像、视频和音频模型中的幻觉问题，探讨了幻觉的自动评估、利用知识来源改进检测和缓解策略。幻觉可能导致模型生成不准确或捏造的信息，研究提出了评估指标开发、对抗性测试、知识图谱集成和偏见检测等未来方向。
摘要由CSDN通过智能技术生成

本文是LLM系列文章，针对《A Survey of Hallucination in “Large” Foundation Models》的翻译。

大型基础模型幻觉现象综述

摘要

基础模型中的幻觉是指产生偏离事实现实或包含捏造信息的内容。这篇调查论文对最近旨在识别、阐明和解决幻觉问题的努力进行了广泛的概述，特别关注“大型”基础模型（LFM）。本文对LFM特有的各种类型的幻觉现象进行了分类，并建立了评估幻觉程度的评估标准。它还研究了减轻LFM幻觉的现有策略，并讨论了该领域未来研究的潜在方向。从本质上讲，本文对LFM中与幻觉相关的挑战和解决方案进行了全面的研究。

1 引言

2 大语言模型中的幻觉

3 大图像模型中的幻觉

4 大视频模型中的幻觉

5 大音频模型中的幻觉

6 幻觉不总是有害的：不同的视角

7 结论和未来方向

我们简要地对LFM中幻觉领域的现有研究进行了分类。我们对这些LFM进行了深入分析，包括关键方面，包括1.检测，2.缓解措施，3.任务，4.数据集和5.评估指标。
下面给出了解决LFM中幻觉挑战的一

了解本专栏 订阅专栏 解锁全文 超级会员免费看
UnknownBody
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
【大模型】大语言模型简介
禅与计算机程序设计艺术
04-03 2万+
因此，模型规模增长是必然趋势，当推进大模型规模不断增长的时候，涌现能力的出现会让任务的效果更加出色。有趣的是，当参数规模超过一定水平时，这些扩大的语言模型不仅实现了显着的性能提升，而且还表现出一些小规模语言模型所不具备的特殊能力。如 Google 发布的多模态具身视觉语言模型 PaLM-E，由540B 的 PaLM 文本模型和 22B 的 VIT 图像模型构成，两者集成处理多模态信息，所以它的总模型规模是 566B。随着模型规模的不断增长，任务效果也持续增长，说明这类任务对大模型中知识蕴涵的数量要求较高。
【论文笔记】A Survey of Hallucination in “Large” Foundation Models
qq_35166730的博客
10-07 122
基础模型（Foundation Models）指的是通过自监督学习在大量未标记数据上训练的大规模AI模型，能够在各种各样的任务中表现出色。在基础模型的背景下,幻觉（Hallucination）是指模型生成的内容不是基于事实或准确信息的情况。当模型生成的文本包括虚构的、误导性的、或完全捏造的细节、事实或主张,而不是提供可靠和真实的信息时,就会发生幻觉。之所以会出现这个问题,是因为模型能够根据它从训练数据中学习到的模式生成听起来可信的文本,即使生成的内容与现实不符。
Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models翻译
nopSled
10-21 338
大型语言模型（LLM）以其巨大的参数量为特征，已成为自然语言处理（NLP）和人工智能发展的有前途的基石。通过适当的对齐技术，例如监督微调（SFT）和来自人类反馈的强化学习（RLHF），最近的LLM在解决各种下游任务方面表现出了强大的能力。尽管如此，如图 1 所示，LLM尽管取得了显着的成功，但有时会产生看似合理的输出，但实际上偏离了用户输入、与先前生成的上下文相反或不符合事实知识的内容——这种现象通常被称为幻觉，这极大地破坏了LLM在现实场景中的可靠性。
Mitigating Object Hallucinations in Large Vision-Language Models through Visual Contrastive Decoding
Mars_prime的博客
12-04 1518
大视觉语言模型（LVLM）已经取得了长足的进步，将视觉识别和语言理解交织在一起，生成不仅连贯而且与上下文相协调的内容。尽管取得了成功，LVLM 仍然面临物体幻觉的问题，即模型生成看似合理但不正确的输出，其中包括图像中不存在的物体。为了缓解这个问题，我们引入了视觉对比解码（VCD），这是一种简单且无需训练的方法，可以对比源自原始视觉输入和扭曲视觉输入的输出分布。所提出的 VCD 有效减少了对统计偏差和单峰先验的过度依赖，这是物体幻觉的两个重要原因。
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 8036
检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
CVPR2017论文摘要汇总
热门推荐
super_chicken的博客
04-09 1万+
1. Exclusivity-Consistency Regularized Multi-view Subspace Clustering Abstract: Multi-view subspace clustering aims to partition a set of multi-source data into their underlying groups. To boost the ...
Math VISTA：多模态大模型之视觉上下文条件下的数学推理能力评估
pku_langzi的博客
10-29 497
引入了一个数学推理能力的评测集MATH Vista，包含七种数学推理类型，五个主要任务，31个子数据集，并且在LLM，visual augmented LLM，开源LMM，以及两个专有 LMM（即 GPT-4V、Bard）展开了广泛的评测（人类表现60.3%）
【小迪安全笔记V2022】信息打6~8
2202_75354817的博客
08-25 673
小迪安全学习笔记
零基础学习人工智能—Python—Pytorch学习（六）
kiba518的博客
08-21 983
前言 本文主要讲神经网络的上半部分。 这篇文章开始有很多公式了，这些公式都很简单，但是如果是不经常在脑海里思考公式的人，那可能需要多花点时间做一下自我训练，个人感觉，也就几天时间，就能把自己感觉给调整出来。 习惯了公式看下面内容就会轻松很多，另外如果要深入学习人工智能，熟练的认知公式也是个必须的事情。 另外，我发现我前面文章写的有歧义的地方还是挺多，虽然，已经改了一部分，但，可能还有没发现的，大...
透明性和解释性AI：概念与应用
weixin_49007164的博客
08-25 841
透明性AI指的是AI系统的操作过程、决策机制、数据流动和模型行为是可理解和可追踪的。换句话说，透明性AI使得人们可以清楚地看到AI系统是如何做出决策的，这一过程包括输入数据的处理方式、模型的内部计算过程、以及最终决策的产生机制。解释性AI是指AI系统不仅能够给出决策结果，还能够提供关于该决策如何产生的解释。解释性AI的目标是帮助用户理解AI的行为，尤其是当AI的决策与预期不符时，提供合理的解释来消除用户的疑虑。
yolov8 出现loss 为nan
zhaoluruoyan89的博客
08-21 338
这篇博客警示读者在购买用于深度学习的显卡时要避开那些导致RuntimeWarning: All-NaN slice encountered的问题。作者强调这些Tensor核心存在严重缺陷，不适宜进行深度学习任务，建议大家在选购时务必谨慎。方法二：将混合精度训练AMP 设置为False。方法一：降低cuda和pytorch 版本号。
基于Python星载气溶胶数据处理与反演分析
lwjnlqiqi的博客
08-21 1207
Python星载气溶胶数据处理与反演分析
基于YOLO V8的PCB缺陷检测识别系统（python源码+Pyqt5界面+数据集+训练代码）
2401_83580557的博客
08-22 468
基于YOLO V8的PCB缺陷检测识别系统【python源码+Pyqt5界面+数据集+训练代码】
论大模型在金融行业的应用场景
最新发布
m0_53773302的博客
08-25 360
需要指出的是，虽然上面这些场景都是大家能够最先想到的，但真正要做的很好，也不是那么容易，必须结合优质的技术架构与工具设计，模型优化，数据准备与处理，以及反复的尝试与试错，同时也不可避免的需要对所在行业与场景知识的专业性通过实操深入理解。但如果想到达到90%以上的准确率，那就必须结合专业细致的行业数据、话术抽象、切分，上下文学习/RAG使用，知识图谱的构造，人类反馈的常态化，模型的选择，模型微调中参数调优、数据质量与混合比例的调优、减少遗忘的策略设计，甚至模型结构的创新改造设计等手段综合起来，才可以达到。
图卷积神经网络算法
2401_85886655的博客
08-21 605
元学习，自监督学，transformer，lstm，cnn，bert，GAN，强化学习 图神经网络推荐算法。图神经网络 图卷积神经网络 GNN GCN 算法 咨询 图卷积神经网络（GCN） python D码，应用于节点分类。元学习，自监督学，transformer，lstm，cnn，bert，GAN，交通预测 强化学习 图神经网络推荐算法。lightGCN NGCF 创新点1-3 movielen-1m数据集 指标：recall、ndcg。具体价格根据难易程度定。
CAS-ViT实战：使用CAS-ViT实现图像分类任务（一）
m0_47867638的博客
08-21 1068
EMA是一种加权移动平均技术，其中每个新的平均值都是前一个平均值和当前值的加权和。在深度学习中，EMA被用于模型参数的更新，以减缓参数在训练过程中的快速波动，从而得到更加平滑和稳定的模型表现。
均值漂移算法原理及Python实践
u013571432的博客
08-25 1004
均值漂移算法（Mean Shift Algorithm）是一种基于密度的非参数聚类算法，其原理主要基于核密度估计和梯度上升方法。
CAS-ViT实战：使用CAS-ViT实现图像分类任务（二）
m0_47867638的博客
08-22 940
训练部分。
可变K值的近邻算法在应急指挥中的应用
该资源主要讨论的是在应急指挥中心情境下的图像处理技术，特别是针对人脸超分辨率重建（Face Hallucination）以及与之相关的近邻搜索算法的改进。描述中提到了样本集分类、特征抽取、自适应选择重建算法以及可变的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值