大语言模型-幻觉

最新推荐文章于 2024-08-08 14:28:23 发布
最新推荐文章于 2024-08-08 14:28:23 发布
阅读量699 收藏 11
点赞数 9
分类专栏： 大语言模型 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41527980/article/details/135868184
版权

幻觉

1、Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models

https://arxiv.corg/pdf/2309.01219.pdf

AI海洋中的女妖之歌

2、Check Your Facts and Try Again: Improving Large Language Models with External Knowledge and Automated Feedback

https://arxiv.org/abs/2302.12813

LLM-AUGMENTER

3、SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models

https://arxiv.org/abs/2303.08896

4、WebBrain: Learning to Generate Factually Correct Articles for Queries by Grounding on Large Web Corpus

https://arxiv.org/abs/2304.0435

一只特蕉
关注
  • 9
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
当大语言模型遇见推荐系统
11-21
当大语言模型遇见推荐系统 一、大语言模型在推荐系统中的应用 大语言模型 (LLMs) 近年来已经在自然语言处理 (NLP) 领域获得了巨大成功，但是在推荐系统领域的应用还处于初步阶段。如何让 LLMs 有效地助力于推荐...
大语言模型时代的推荐系统
11-21
大语言模型时代的推荐系统 在大语言模型时代，推荐系统的发展面临着新的挑战和机遇。随着大语言模型（LLMs）的出现，推荐系统领域开始探索LLMs如何在推荐系统中发挥作用。然而，LLMs在推荐系统中的应用仍然面临着...
大型语言模型的幻觉问题
wdn blog
01-06 1600
在语言模型的背景下，幻觉指的是一本正经的胡说八道：看似流畅自然的表述，实则不符合事实或者是错误的。幻觉现象的存在严重影响LLM应用的可靠性，本文将探讨大型语言模型(LLMs)的幻觉问题，以及解决幻觉现象的一些常见方法。
【AIGC调研系列】大型语言模型如何减少幻觉生成
zachary的博客
04-26 1684
在解读大型语言模型（LLMs）中的长格式事实性问题时，我们首先需要认识到这些模型在生成内容时可能会产生与既定事实不一致的情况，这种情况通常被称为“幻觉”[2][3]。这种现象不仅可能导致信息的误传，还可能对社会造成误导和伤害[3]。因此，提高LLMs的事实性成为了一个重要的研究方向。为了提高LLMs的事实性，研究人员提出了多种方法。一种方法是通过对模型进行微调，使其更加注重事实性，而无需人工标注[2]。另一种方法是通过对比不同层的输出来减少幻觉的生成，这种方法不需要依赖外部知识或额外的微调[13]。
大型语言模型中的幻觉研究综述：原理、分类、挑战和未决问题
qq_32907491的博客
05-05 1955
大型语言模型（LLM）的出现标志着自然语言处理（NLP）的重大突破，导致文本理解和生成的显着进步。然而，除了这些进步之外，LLM还表现出产生幻觉的关键倾向，导致内容与现实世界的事实或用户输入不一致。这种现象对它们的实际部署提出了重大挑战，并引起了对LLM在现实世界场景中的可靠性的担忧，这吸引了越来越多的关注来检测和减轻这些幻觉。在这项调查中，我们的目标是提供一个全面和深入的概述LLM幻觉领域的最新进展。我们开始与LLM幻觉的创新分类，然后深入研究的因素，有助于幻觉。
【LLM】大模型幻觉问题的原因和缓解方法
发现问题，并解决问题，批判性思维
10-03 4280
一、幻觉定义 备注（下面提及的两个名词）： Faithfulness：是否遵循input content； Factualness：是否符合世界知识； 传统nlp任务重，幻觉大多数是faithfulness，比如Intrinsic Hallucination（冲突），摘要内容和document内容有冲突；再比如Extrinsic Hallucination（无中生有），生成内容中包含input要求的其他杂七杂八虚假信息；但LLM应该考虑的幻觉Factualness，因为数据源是Open-doman的世界知
如何减轻大语言模型中的幻觉？
DaVenci的博客
06-20 1137
大型语言模型（LLMs）存在产生幻觉的问题，即生成不准确的文本。本文探讨了导致幻觉的原因及缓解技术，并指出这些方法的挑战和局限性，强调需要进一步研究来提高模型的准确性和可靠性。
大语言模型的幻觉问题综述
yorkhunter的博客
05-22 958
23年9月来自腾讯实验室、TTI和几所大学的大语言模型幻觉综述“Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models“。
Evaluation and Analysis of Hallucination in Large Vision-Language Models----大视觉语言模型中幻觉的评估与分析
Mars_prime的博客
11-30 1214
以 ChatGPT 为代表的大型语言模型（LLM）的成功引起了广泛的关注（Zhang et al., 2022;最近，大视觉语言模型（LVLM）扩展了 LLM 来理解视觉输入，并以零样本的方式展示令人印象深刻的多模态能力（Zhu et al., 2023；Gong）等，2023；Wang 等，2023；Li 等，2023a；Mu 等，2023；Su 等，2023；Liu 等，2020）。这些努力推动了多模态通用人工智能的发展。
大语言模型LLM中的幻觉
红目香薰
01-01 497
实话说，想彻底解决这个问题可以说很难很难，在数据收集的时候很多数据我们无法保证它的正确性，就算是当前科学界确认的东西也可能在某方面是不正确的，本身就没有绝对正确的事物，我们都在这个过程中不断的摸索，并找寻最终答案而已。
跟着DW学习大语言模型-了解一些历史渊源
白水空空
06-18 1063
开发大模型相关应用，其技术核心点虽然在大语言模型上，但一般通过调用 API 或开源模型来实现核心的理解与生成，通过 Prompt Enginnering 来实现大语言模型的控制，因此，虽然大模型是深度学习领域的集大成之作，大模型开发却更多是一个。作为重要的研究方向之一，语言模型得到了学术界的广泛研究，从早期的统计语言模型和神经语言模型开始，发展到基于Transformer的预训练语言模型。ChatGPT 从本质上来说是一个 LLM 应用，是基于基座模型开发出来的，与基座模型有本质的区别。
实用的大型语言模型 (LLM) 应用
08-24
但是，用户需要注意，语言模型容易产生幻觉，并且有捏造事实和数字的倾向。 5. 虚拟助理和客户支持：语言模型可以作为虚拟助理在客户支持领域。人工智能虚拟助理允许客户询问有关服务和产品的问题、要求退款并立即...
从ChatGPT谈大语言模型及其应用.pdf
12-23
【大语言模型及其应用】 大语言模型，如ChatGPT，是人工智能领域自然语言处理（NLP）的一个重要分支，其目标是使机器理解和生成人类语言。这些模型通过深度学习技术，尤其是生成式预训练转换器（GPT）的原理，以自...
智能服务员-机器人大模型结合
02-21
一方面，我们设计了向量数据库和工具调用，另一方面，在实现智能体规划上，我们不再需要大语言模型输出完整的动作序列，而仅仅给出一个任务目标，这大大缓解了大模型的具身幻觉现象。 3 而具身机器人是系统的躯体，...
大模型微调工具-torchtune
最新发布
weixin_40777649的博客
08-08 734
1.定义2.安装3. 案例。
【OpenCV C++20 学习笔记】阈值操作—分离图片对象
TeamLee的博客
08-04 1003
简单介绍了OpenCV中二值化、反二值化等阈值操作的原理和代码实现。
【Sklearn学习】Sklearn的数据集介绍
一条咸鱼
08-07 610
sklearn数据集的介绍，方便后面学习使用的对应的数据集。
jupyter下载
Einstein·Jun
08-06 686
Anaconda下载 参考链接：https://blog.csdn.net/qq_48372575/article/details/125630622 设置Jupyter Notebook的代码路径 在“此电脑”中搜索。删除最后一个""后面的的内容，包括“\”。 用记事本打开它。 按下ctrl+F就可以开始查找。查找内容如下： 找到之后，右键该文件，找到“发送到”，找到“桌面快捷方式”。然后就会发现桌面上已经建立好了！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值