幻觉

最新推荐文章于 2024-08-16 16:41:49 发布

graceminc_粒子

最新推荐文章于 2024-08-16 16:41:49 发布

阅读量896

点赞数

文章标签：语言

本文链接：https://blog.csdn.net/graceminc/article/details/5791897

版权

所有的一切好像很不真实，因为--什么都不知道。

所有的感觉却是真实的，难受、想念、紧张、开心、幸福。

很多东西用语言表达不出来

但在血液里起着微妙的反应

很模糊

或许就是因为朦胧，才会觉得美好

人生很有意思

我们永远都不知道下一秒是什么

即便如此

我们总还是会期待

期待能了解、把握、掌控

可什么能被控制

不知

所以

这刻如果有感觉了

静静的去感受即可

即使心跳加速

也只能让脉搏知道

淡定

每秒扫过的都是历史

享受历史带来的快感

认真对待当下

不悲

不喜

珍惜

------------------病得不轻，高烧不退，胡言乱语开了。

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

graceminc_粒子

关注关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
16
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

一文读懂「LLM的幻觉/涌现」问题

女王の专属领地

01-05

2011

1、幻觉定义大模型生成看似合理的内容，其实这些内容是不正确的或者是与输入Prompt无关，甚至是有冲突的现象，即生成与用户输入不符、与先前生成的内容矛盾或与已知世界知识不符的内容。2、幻觉类型输入冲突幻觉Input-conflicting：生成的内容与用户提供的输入不符；输入冲突幻觉指的是LLM生成的内容与用户提供的源输入（①任务指示：例如用户对摘要的提示和②任务输入：例如需要摘要的文档）不一致。当LLM生成的内容偏离用户的输入时，就会出现这种幻觉。

LLM的幻觉验证

Criss@陈磊

07-26

对于模型的幻觉的验证现在虽然已经有了这么多办法，在面对幻觉的时候应该还是有很多未解的问题，对于评估方法、测试实践上还有很多值得探索和挖掘的内容。在模型的幻觉测试中，原子事实的分割和现实完全可信对比的方法虽然繁琐，但是确实当前最容易实施的方案；其次，selfcheckGPT的思路简单，方便实施，但是在相似性评价上哪一个更适合你所测试的模型，却需要读者自己判断了。最后的一致性检测相对繁琐，需要自己准备的内容较多，但是在发现幻觉上发挥一定的作用，也是一个值得深入的方向。

16 条评论您还未登录，请先登录后发表或查看评论

【LLM】大模型幻觉问题的原因和缓解方法

发现问题，并解决问题，批判性思维

10-03

4635

一、幻觉定义备注（下面提及的两个名词）： Faithfulness：是否遵循input content； Factualness：是否符合世界知识；传统nlp任务重，幻觉大多数是faithfulness，比如Intrinsic Hallucination（冲突），摘要内容和document内容有冲突；再比如Extrinsic Hallucination（无中生有），生成内容中包含input要求的其他杂七杂八虚假信息；但LLM应该考虑的幻觉Factualness，因为数据源是Open-doman的世界知

一份全面的大模型「幻觉」综述

u012744245的博客

11-21

2066

，来自腾讯AI实验室和一些国内大学的研究团队，综述提出了LLM幻觉现象的分类法和评估基准，分析旨在减轻LLM幻觉的现有方法，并确定未来研究的潜在方向。将重点放在解决与数据相关的幻觉、与训练相关的幻觉和与推理相关的幻觉的方法上，每种方法都提供了量身定制的解决方案，以应对各自原因所固有的特定挑战。）从LLM幻觉的创新分类方法出发，深入探究了可能导致幻觉的因素，并对检测幻觉的方法和基准进行了概述。目前在LLM幻觉问题上已经有无数的研究，比如关于幻觉的检测、幻觉的评估基准分类、缓解幻觉的方法等。

多模态大模型中的幻觉问题及其解决方案

人工智能讲师分享前沿技术

08-12

1530

人工智能咨询培训老师叶梓转载标明出处多模态大模型在实际应用中面临着一个普遍的挑战——幻觉问题（hallucination），主要表现为模型在接收到用户提供的图像和提示时，可能会产生与图像内容不符的描述，例如错误地识别颜色、数量或位置等。这种误判可能对实际应用造成严重影响，如在自动驾驶场景中，错误的图像解读可能导致严重的交通事故。为了解决这一问题，中国科学技术大学的安徽数字安全重点实验室与上海人工智能实验室的研究人员联合提出了一种名为OPERA的新型解码方法。

RAG 如何消除大模型幻觉

python12222_的博客

06-20

1118

假设我们有一个基于大型生成模型（如GPT-3）的问答系统，该系统用于回答药企内部知识库中的问题。我们向其提出一个问题：“阿司匹林的主要药理作用是什么？正确的答案应该是：“阿司匹林主要通过抑制环氧酶（COX）酶的活性，降低前列腺素和血栓素的生成，从而起到抗血小板聚集、镇痛和解热的作用。然而，由于大模型幻觉问题，生成模型可能会给出一个在语法和流畅性上看似合理，但实际上并不准确的答案，例如：“阿司匹林的主要药理作用是通过抑制多巴胺受体来改善心血管功能。

揭秘LLM的幻觉问题及其解决之道

2401_85343303的博客

08-16

653

LLM 时常会出现一些神奇的现象——幻觉 Hallucination，在 AI 领域，幻觉是指模型生成的信息可能不真实或不准确，这是一个常见的问题，而 Truthfulness 指的是模型输出的真实性或者叫可靠性，显然如果模型输出的真实性越高，那么出现幻觉的概率就是越低的。下面展示了 LLM 常见的几个衡量指标，今天我们主要来关注一下可靠性中的幻觉可靠性Misinformation 错误信息Hallucination 幻觉Inconsistency 矛盾。

漫谈大模型的[幻觉]问题

发狂的小花的博客

01-06

910

幻觉问题产生的原因分析针对数据集的解决方案针对模型结构的改进策略训练过程中的优化技巧实验验证与结果分析

模型幻觉

weiyi99999的博客

06-01

849

在搭建模型的过程中，我们往往会从已知的特征中提取更多新的特征，并以此搭建更为复杂的模型，但是模型越复杂，越会值其本身掉入不断“自我催眠，强化偏见”的过程，从而引起过度拟合的问题。如果将毫不相关的变量加入到模型中，也会得到相应的参数估计值，而这个估计值几乎不可能为0，这就造成了所谓的“模型幻觉”。模型幻觉会引起模型参数的不可靠，更严重的是使得原本可能较为正确的估计扭曲为错误，比如将原来变量的正效应估...

如何解决大模型的「幻觉」问题？

走向CTO的路上...

05-04

1006

大模型「幻觉」是指大模型在生成文本、图像或代码时，会产生一些看似合理实则虚假或毫无意义的内容的现象。这些内容就像幻觉一样，欺骗了用户，使其误以为它们是真实存在的。生成文本时，可能会出现语法错误、逻辑不通或语意不明的句子。生成图像时，可能会出现物体扭曲、比例失调或背景杂乱的画面。生成代码时，可能会出现语法错误、逻辑错误或无法运行的代码。降低用户对大模型的信任度。导致用户生成错误或无用的内容。在一些应用场景中，可能会造成严重后果。大模型「幻觉」问题是制约大模型发展的一大难题。

调整面部幻觉表示的稀疏度

03-03

面部幻觉表示的稀疏度调整是一项关于提高面部图像超分辨率技术的研究课题。面部超分辨率，又称为面部幻觉，指的是从低分辨率（LR）面部图像序列或者单一低分辨率图像中估计出高分辨率（HR）面部图像的技术。在面部...

剪辑基础：第一篇、视听语言2、幻觉.ppt

09-20

幻觉，作为视听语言的基础，是指观众在观看影视作品时产生的仿佛真实的感觉。这是因为影视通过机械手段捕捉并再现光波和声波，尽管在技术层面上可能与人眼和耳朵相比存在差异，但它能够直接触动观众的视听神经系统，...

【NLP】减轻 LLM 幻觉的 7 大策略

gongdiwudu的专栏

02-25

2098

大型语言模型（LLM）的引入为人工智能（AI）和机器学习（ML）领域带来了重大的范式转变。凭借其显着的进步，LLM 现在可以生成不同主题的内容，解决复杂的查询，并大大提高用户满意度。然而，随着他们的进展，一个新的挑战浮出水面：幻觉。当 LLM 产生错误、无意义或脱节的文本时，就会发生这种现象。此类事件给利用这些模型的组织带来了潜在的风险和挑战。特别令人担忧的是涉及传播错误信息或制造攻击性材料的情况。

基于java的校园美食交流系统设计与实现.docx

09-19

基于java的校园美食交流系统设计与实现.docx

#_ssm_126_mysql_实习支教中小学学校信息管理系统_.zip

09-19

均包含代码，文章，部分项目包含ppt

基于python的酒店评论中文情感分析系统源码+设计文档+数据集.zip

最新发布

09-19

基于python的酒店评论中文情感分析系统源码+设计文档+数据集.zip基于python的酒店评论中文情感分析系统源码+设计文档+数据集.zip基于python的酒店评论中文情感分析系统源码+设计文档+数据集.zip 个人大四的毕业设计、课程设计、作业、经导师指导并认可通过的高分设计项目，评审平均分达96.5分。主要针对计算机相关专业的正在做毕设的学生和需要项目实战练习的学习者，也可作为课程设计、期末大作业。 [资源说明] 不懂运行，下载完可以私聊问，可远程教学该资源内项目源码是个人的毕设或者课设、作业，代码都测试ok，都是运行成功后才上传资源，答辩评审平均分达到96.5分，放心下载使用！ 1、该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的，请放心下载使用！ 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载学习，也适合小白学习进阶，当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行，也可在此代码基础上进行修改，以实现其他功能，也可用于毕设、课设、作业等。下载后请首先打开README.md文件（如有），供学习参考。

ASP.NET公交车管理系统的实现与设计(源代码+论文).zip

09-19

1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合；、4下载使用后，可先查看README.md或论文文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。 5、资源来自互联网采集，如有侵权，私聊博主删除。 6、可私信博主看论文后选择购买源代码。 1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合；、下载 4使用后，可先查看README.md或论文文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。 5、资源来自互联网采集，如有侵权，私聊博主删除。 6、可私信博主看论文后选择购买源代码。 1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合；、 4下载使用后，可先查看README.md或论文文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。 5、资源来自互联网采集，如有侵权，私聊博主删除。 6、可私信博主看论文后选择购买源代码。

ASP基于WEB楼宇专业网站毕业设计(源代码+论文).zip

09-19

1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使用后，可先查看README.md或论文文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。 5、资源来自互联网采集，如有侵权，私聊博主删除。 6、可私信博主看论文后选择购买源代码。 1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使用后，可先查看README.m或d论文文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。 5、资源来自互联网采集，如有侵权，私聊博主删除。 6、可私信博主看论文后选择购买源代码。、1资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使用后，可先查看README.md或论文文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。 5、资源来自互联网采集，如有侵权，私聊博主删除。 6、可私信博主看论文后选择购买源代码。

django基于协同过滤算法的小说推荐系统 -论文.zip

09-19

基于Django框架开发的协同过滤算法小说推荐系统是一种利用用户行为数据来提供个性化小说推荐的应用。该系统通过分析用户的历史阅读记录、评分和反馈，发现用户之间的相似性或小说之间的相似性，进而为用户推荐可能感兴趣的小说。以下是该系统可能包含的关键特性： 1. **用户账户管理**：允许用户创建账户、登录和编辑个人信息，同时跟踪用户的阅读历史和评分。 2. **小说数据库**：构建一个包含大量小说信息的数据库，每本小说都有详细的元数据，如作者、出版年份、流派、标签等。 3. **协同过滤引擎**：实现协同过滤算法，包括用户-用户协同过滤和项目-项目协同过滤，以发现相似用户或相似小说。 4. **推荐生成**：根据协同过滤引擎的结果，生成个性化的小说推荐列表，并提供给用户。 5. **评分系统**：允许用户对小说进行评分，这些评分数据将用于训练推荐算法，提高推荐的准确性。 6. **用户界面**：设计直观、易用的用户界面，使用户能够轻松浏览推荐的小说、查看详情和进行评分。 7. **搜索和筛选功能**：提供强大的搜索功能，允许用户根据标题、作者或流派等关键词搜索小说，并提供筛选

大模型幻觉偏差的量化

02-28

大模型幻觉偏差是指在使用大型语言模型（如GPT）进行生成任务时，模型可能会产生一些看似合理但实际上是错误或不准确的输出。这种偏差可能是由于模型在训练数据中存在的偏见、数据集的不完整性、模型的局限性等原因...