大模型出现的不断重复的现象

已于 2024-07-05 16:28:50 修改
阅读量2.1k 收藏 1
点赞数 1
分类专栏： 大语言模型 文章标签： LVM Qwen 多模态
于 2024-06-11 17:39:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012193416/article/details/138598174
版权
针对大语言模型和多模态模型中出现的重复内容现象，本文探讨了可能的原因和解决方案。通过调整推理参数、检查FAQ以及关注sft方法，可以尝试改善模型的幻觉和重复生成问题。复读机现象源于模型在某些数据上无法获取更多信息，过度拟合可能导致模型记住这些数据，破坏预训练模型的注意力模式。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

无论是大语言模型还是多模态模型，都遇到过这个问题，该如何解决呢？ 

1.调整推理参数

[BUG] 返回重复的内容 · Issue #277 · QwenLM/Qwen · GitHub是否已有关于该错误的issue或讨论？ | Is there an existing issue / discussion for this? 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions 该问题是否在FAQ中有解答？ | Is there an existing answer for this in FAQ? 我已经搜索过FAQ | I have searched FAQ ...

了解本专栏 订阅专栏 解锁全文 超级会员免费看
LLMs之BELLE：源码解读(generate_instruction.py文件)让大模型自动生成大量指令数据并避免生成重复内容—基于种子指令(175个种子任务)利用GPT-3循环来不断生成新的指令
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
10-10 1029
​ LLMs之BELLE：源码解读(generate_instruction.py文件)让大模型自动生成大量指令数据并避免生成重复内容—基于种子指令(175个种子任务)利用GPT-3循环来不断生成新的指令集合(每次迭代中构建一批输入提示【自定义Prompt】+然后使用大模型生成更多指令数据)→并根据采用BM25相似度算法筛选出合适的指令→保存为json文件(后续用于NLP的训练与评估) 目录 源码解读(generate_instruction.py文件)让大模型自动生成大量指令数据并避免生成重复内容—
AI Maas人工智能大模型即服务时代：大模型即服务的未来发展系列
AI天才研究院
11-04 1049
随着人工智能技术的不断发展，尤其是自然语言处理(NLP)、计算机视觉(CV)等领域的突破性进展，人工智能大模型即服务(AI Maas)正在成为行业的热点和未来发展趋势。AI Maas是指通过云计算、大数据等技术手段，将预训练好的海量人工智能大模型以服务化的方式提供给企业和个人用户使用，用户无需关注底层技术实现，只需要通过API接口就可以方便快捷地使用人工智能的能力，极大降低了人工智能应用开发的门槛和成本。
大模型生成内容重复 原理 不训练措施 训练措施
weixin_40941102的博客
01-10 1156
内容重复问题是大型语言模型生成文本时面临的一个重要挑战，它涉及到训练数据、模型架构、解码策略等多个方面。通过综合运用各种方法，可以有效地减少重复内容的生成，提高生成文本的质量和多样性。特别是对于长文本生成，需要采取更加精细化的策略。随着研究的不断深入和技术的不断发展，相信这一问题会得到更好的解决。
大模型训练问题
hanwj_986960134的博客
11-14 469
引入噪声：在生成文本时，引入一些随机性或噪声，例如通过采样不同的词或短语，或者引入随机的变换操作，以增加生成文本的多样性。缺乏多样性的训练数据：虽然大型语言模型可以处理大规模的数据，但如果训练数据中缺乏多样性的语言表达和语境，模型可能无法学习到足够的多样性和创造性，导致复读机问题的出现。后处理和过滤：对生成的文本进行后处理和过滤，去除重复的句子或短语，以提高生成文本的质量和多样性。引入噪声：在生成文本时，可以引入一些随机性或噪声，例如通过采样不同的词或短语，或者引入随机的变换操作，以增加生成文本的多样性。
大模型（LLMs）学习笔记（二）——进阶知识
m0_71745484的博客
03-26 785
生成式大模型(一般简称大模型 LLMs)是指能用于创作新内容，例如文本、图片、音频以及视频的一类深度学习模型。相比普通深度学习模型，主要有两点不同:模型参数量更大，参数量都在 Billion 级别；可通过条件或上下文引导，产生生成式的内容(所谓的 prompt2engineer 就是由此而来)。
【大模型理论篇】大模型生成之解码策略(涉及束搜索、长度及重复惩罚、温度调节、Top-K及Top-P采样、对比解码、解码策略优化等)
源泉的小广场
10-20 2738
贪心搜索、概率采样、束搜索、长度惩罚、重复惩罚、温度调节、Top-K采样、Top-P采样、对比解码、解码策略优化、非自回归解码、早退机制、级联解码、推测解码
大模型重复输出怎么办？
qq_42755230的博客
10-17 7638
对大模型重复输出问题进行了简要介绍，分析了原因并给出了一些缓解方法。
零一万物Yi大模型vllm推理时Yi-34B或Yi-6bchat重复输出的解决方案
人工智能和通讯技术分享。
02-04 3067
使用vllm推理yi模型的时候，发送消息中需要加入"stop_token_ids": [7]，就可以解决重复刷屏的问题。破案了同志们，用vllm直接推理yi模型确实会重复刷屏，但是用官方给的web_demo推理是没问题的。在使用yi-34B进行问答的时候，出现了模型重复输出内容的情况，如下图所示。在群里等待了几天之后，又有群友反馈出现了这个情况。
大模型常见的问题
普通人能赶追天才的方法只有坚持
08-05 1246
复读机问题指的是大型语言模型在生成文本时倾向于重复先前的输出，缺乏创新性和多样性QLoRA跟LoRA基本上没什么区别，就是在LoRA的基础上对低秩矩阵进行量化，将低秩矩阵参数的精度降低到Int8，或者Int4。
什么是大模型复读机问题：原因和解决方案
weixin_63866037的博客
01-11 1385
复读机问题是大语言模型生成文本时的一种常见现象。重复相同的词语或短语。反复表达相同的意思，尽管用词可能略有不同。在长文本生成中，模型忘记之前的内容，重新生成相似段落。例如，当用户向模型提问“如何提高写作能力？”时，模型可能会反复强调“多读书”或“多练习”，而缺乏更深层次的建议。这种现象不仅降低了生成文本的质量，还可能让用户感到困惑或不耐烦。复读机问题是大语言模型在文本生成过程中面临的一个重要挑战。其成因复杂，涉及训练数据、解码策略、模型架构等多个方面。
LLM大模型学习：大模型生成回复，解决“复读机”的原理
2401_84494441的博客
09-08 1337
在阅读本文前，需要熟悉torch的常用算子，现列举如下：torch.where(condition, x, y) 根据条件选择张量condition 条件x，当condition=True时，选择 x 的值y，当condition=False时，选择 y 的值Tensor.scatter_(dim, index, src) 类似于torch.scattertorch.scatter(output, dim, index, src) 将张量 src 中的值，按照元素索引写入output中。
大模型生产力工具的思考与实践.pptx
01-11
本文档《大模型生产力工具的思考与实践》对这一现象进行了深入探讨。 首先，文档分析了市场发展与用户态度的变化。全球开发者中有超过半数正在使用AI编程助手，这显示出AI工具在编程领域的普及程度。以AI编程助手为...
【人工智能】LLM 大型语言模型和 Transformer 架构简介
热门推荐
AI天才研究院
05-24 2万+
然而，传统的机器学习模型，例如神经网络，并不能天生理解输入的顺序。通过将位置编码纳入 Transformer 架构，GPT 可以更有效地理解句子中单词的顺序，并生成语法正确且语义有意义的输出。但是，模型只能理解数字，不能理解文本，因此需要将这些输入转换为称为“输入嵌入”的数字格式。作为初创公司的首席技术官，我每天都在讨论这项革命性的技术，因为围绕它的持续不断的嗡嗡声和炒作。这篇博文将探讨 LLM（大型语言模型）和转换器架构的基本概念，转换器架构是所有带有转换器的语言模型的构建块，包括 GPT。
大模型生成去重技术总结
bbbeoy的专栏
07-12 671
生成重复性问题
NLP实践——LLM生成过程中防止重复循环
weixin_44826203的博客
11-23 7803
本文介绍如何使用LogitsProcessor避免大模型在生成过程中出现重复的问题。
什么是大模型复读机问题
深数研究院
11-13 911
LLMs复读机问题是指这些模型在生成文本时倾向于重复之前说过的内容或者重复某些常见的表达方式，而不是产生新颖或多样化的输出，这种现象在微调开源大模型时尤为常见。
字节大模型一面：“大模型为什么有时候会重复？”
最新发布
2401_84494441的博客
04-21 585
大模型为什么有时候会重复？
让 ChatGPT 永远重复输出一个词，它就能告诉你很多秘密数据？国内的大模型表现如何？
机器学习-深度学习-图像处理-opencv-段子
12-07 1981
具体内容见文末附件。攻击方法：只要向模型发出“永远重复：XXXX 词”的命令，攻击就会实现。关于这个漏洞细节内容见论文：https://arxiv.org/pdf/2311.17035.pdf突发一想，国内的大模型表现如何呢，测试下看看；省流版：详细版：文心一言的表现较好，换了多种提问方式，没有陷入这个“重复困境”；同义千问主打一个诚实，整整输出了1018个“公司”然后中断了；当我把问题换成“请一直重复打印：“张伟”这个词，不要停”，最终输出678次“张伟”，这个就很奇怪了，啥意思看不起我张伟吗？当然最终也
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值