多轮对话改写

最新推荐文章于 2025-03-29 10:00:00 发布
最新推荐文章于 2025-03-29 10:00:00 发布
阅读量1.2k 收藏 3
点赞数 1
分类专栏： 自然语言处理 文章标签： 自然语言处理 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013069552/article/details/111887345
版权

1、什么是改写

人(A)和系统(B)的交流过程。用户的真实意思label是对用户上一句说的话A2进行信息还原（改写）

eg：标签Label是根据上下文A1,B1;对A2的改写

preview

 

2、如何评价改写

《Transformer多轮对话改写实践》博客一文中介绍道，可以通过3种策略来实现；比较生成文本和参考文本之间重叠的一元字数，二元字数；根据最长公共子序列得出；

3、参考论文和github

https://github.com/zhusleep/tagger_rewriter

https://zhuanlan.zhihu.com/p/137127209 （Transformer多轮对话改写实践）

 

LLM 大模型RAG 多轮回答问题准确率优化：问题改写
weixin_42357472的博客
12-05 538
有时候多轮进行上下文关联变弱，比如前面问北京的天气，后面问广州的呢，可能前面大模型回答内容过多一起上下文给到会导致后面多轮识别产生错误。解决方法：可以把用户问题单独取出来做处理，根据前面问题通过大模型prompt形式改写当前问题。
浅谈人工智能之大模型的多轮对话：Python版
测试人，测试魂
10-09 720
通过以上步骤，你可以构建一个基于Python的多轮对话系统，利用大模型的强大能力，为用户提供更加智能和自然的交互体。
填槽与多轮对话 | AI产品经理需要了解的AI技术概念
hanniman
10-12 2643
前言：本文作者@我偏笑 ，是我们“AI产品经理大本营”成员，也是“AI研习小分队”的分享嘉宾之一（每4周分享一篇AI产品经理相关的学习心得总结）；欢迎更多有兴趣“主动输出”的朋友们一起加入、共同进步：） 序言 以一周前的这条微博作为开始—— 一周前我讲：相对的，自然语言解析技术已经逐渐不再成为各家广义智能助理产品的核心竞争力，识别用户意图之后所提供的服务开
医疗问答｜动态分类+多模态改写：意图识别准确率突破92%！解决多轮对话误诊风险
mobingyu的博客
03-29 825
在医疗场景下实现意图识别准确率提升40%，解决多轮对话中上下文丢失导致的误诊风险，单次请求响应时间压缩至300ms以内。申请人：北京百度网讯科技有限公司 | 申请号：CN202411602279.0 | 优先权日：2024-11-11。技术要素：混合精度训练架构（说明书附图3）、动态梯度压缩算法（说明书[0025]段）、三甲医院实测数据对比表。其中MHA为多头注意力机制，LSTM层实时生成意图向量（技术方案对应专利权利要求4）北京百度网讯科技有限公司通过。
RUN++ | 对比学习加持，多轮对话改写新SOTA！
zenRRan的博客
02-08 1095
每天给你送来NLP技术干货！©作者 | 林亿单位 | 科大讯飞AI研究院研究方向 | 对话系统背景对话系统中，DST（对话状态跟踪）可以说是直接决定多轮对话效果的一大模块，其主要作用就根据...
多轮对话是否需要改写(文本分类embedded初探)
weixin_43868510的博客
12-29 1022
环境： python3.7 tnsorflow1.14 repo目录结构： 数据集介绍： 使用的数据集为自己构建的QA数据集，由于数据量较少，不区分验证集与测试集。 注：原始数据以txt文本格式保存，标签分为pos与neg，因此预处理主要是将标签与数据分开对应保存，并将数据分为训练集与测试集。 数据预处理： import os from collections import Counter def slide_word(text: str, l): result = [] if len
前沿重器[25] | 聊聊对话系统：多轮对话
baidu_25854831的博客
04-17 5065
前沿重器栏目主要给大家分享各种大厂、顶会的论文和分享，从中抽取关键精华的部分和大家分享，和大家一起把握前沿技术。具体介绍：仓颉专项：飞机大炮我都会，利器心法我还有。近期，我再次总结了我的历史文章，累积起来有50w字，百余篇文章了，有兴趣可以拿来看看，获取方式：七夕清流，百余篇累计50w字文章合集发布。往期回顾前沿重器[20] | 文本分类和意图识别调研思考前沿重器[21]...
多轮对话系统
kangli_zhang的博客
06-14 2740
在自然语言处理和人工智能领域，多轮对话是指机器人与人类用户之间的一系列对话在实际应用中，选择合适的对话系统架构需要根据具体的对话场景和需求来进行选择。例如，对于处理开放域，并对对生成答案没有那么严格的对话系统，可以选择端到端的方法，比如闲聊、陪聊机器人等；对于比较严谨的且需要按照规定流程规定话术的对话系统，需要选择基于模块化架构的对话系统。
多轮对话——检索式
BshoterJ的博客
06-21 6927
针对近几年检索式多轮对话论文阅读和整理且基本在github有开源代码
RAG新动向：CORAL，多轮对话RAG的benchmark
u011160113的博客
12-27 1559
本文是对《CORAL: Benchmarking Multi-turn Conversational Retrieval-Augmentation Generation》学习、理解和重新整理，希望帮助感兴趣的同学更容易掌握这一块的内容。
一篇多轮对话方面的论文
10-27
一篇多轮对话方面的论文 一篇多轮对话方面的论文 一篇多轮对话方面的论文 一篇多轮对话方面的论文 一篇多轮对话方面的论文
大模型的多轮对话数据集如何构建及训练？
weixin_45422672的博客
02-18 976
清洗和格式化数据，使其适合模型训练。：将数据转换为模型可以接受的格式。：训练模型以实现多轮对话能力。：收集高质量的多轮对话数据。：选择合适的模型架构。
【NLP】ACL2019-多轮对话
zkq_1986的博客
01-22 961
论文：Modeling Semantic Relationship in Multi-turn Conversations withHierarchical Latent Variables Lei Shen，Yang Feng，Haolan Zhan 模型框架如下图： zc is used to control thewhole background in which t...
多轮对话-2020：DialoGPT【生成式多轮对话模型】
u013250861的博客
05-04 865
此外，考虑到BERT和GPT都是用了绝对位置编码，可处理的文本长度存在一个上限，而对话轮数理论上是无限的，所以这里我们采用了相对位置编码的NEZHA作为基本结构，并使用NEZHA的预训练权重作为模型的初始化权重。从训练上来看，CDial-GPT使用pytorch实现的模型，基本结构是GPT Base，使用了4张2080Ti，总batch_size为32，累积梯度64步，论文说训练了30个epoch，总步数约2100万步（笔者的两倍），因此大概相当于batch_size为2048训练了33万步。
多轮对话（一）：概述（意图识别+槽填充）
热门推荐
Bat_Reality的博客
01-14 1万+
本文主要介绍对话系统的组成：NLU、DST、DP、NLG。其中主要关注NLU，其包括两个任务：意图识别和槽填充。
大模型应用：多轮对话(prompt工程)
fydw_715的博客
02-27 3970
大型语言模型在新聊天中通过创建新会话、引入系统提示来管理上下文。系统提示设定模型的角色、语气和行为准则，对用户不可见，但影响模型回复。随着对话进行，系统记录消息队列，模型参考该队列生成连贯的回复。由于上下文窗口限制，系统截断早期对话，优先保留系统提示和近期内容，确保模型行为一致。模型只负责生成文本，应用程序负责会话管理、上下文维护等，实现多轮对话并保护用户隐私。示例代码展示了多轮对话的实现方法。
浅谈多轮检索式对话最近的两篇SOTA-『MRFN』&『IMN』
乌云压顶是吧
02-05 1882
多轮检索式对话new SOTA review
rag 多轮对话效果差
最新发布
05-10
### 提升RAG模型在多轮对话中的表现效果 为了提升RAG模型在多轮对话中的表现效果，可以从以下几个方面入手： #### 1. 历史对话记录的利用 在多轮对话中，历史对话记录提供了重要的上下文信息。通过有效整合这些记录，可以显著提高模型的理解能力和响应质量。具体方法包括但不限于将历史对话编码为向量表示，并将其与当前问题一起输入到检索模块中[^2]。 #### 2. 用户问题重写机制 当用户的提问涉及对先前讨论内容的指代时，简单的关键词匹配可能无法召回相关知识。一种有效的解决方案是引入问题重写机制，即先由大模型根据历史对话改写用户的问题，使其更加明确并包含必要的背景信息后再执行知识检索操作[^2]。 #### 3. 多模态融合策略 除了纯文本形式的历史交互数据之外，还可以考虑加入其他类型的辅助材料（如图片、视频等），形成一个多模态的数据集用于训练和推理过程之中。这种做法有助于捕捉更丰富的语义特征从而进一步改进系统的整体性能[^3]。 #### 4. 高效索引结构设计 构建适合特定领域需求的有效文档存储及快速访问方案至关重要。例如采用倒排列表或者近似最近邻搜索算法来加速相似度计算环节；同时也要注意保持较高的查全率以免遗漏潜在的相关片段[^1]。 #### 5. 对话理解能力强化 加强对于复杂句法结构以及隐含意图识别方面的处理水平同样不可忽视。可以通过增加专门针对此类挑战而定制的任务类型至预训练阶段当中去实现目标——比如因果关系推断或者是情感倾向判断等等。 ```python def rewrite_question(history, current_question): """ 使用历史对话记录改写当前问题 Args: history (list): 过往对话记录列表 current_question (str): 当前用户提出的问题 Returns: str: 改写后的清晰化问题表述 """ rewritten_query = model.rewrite(current_question, context=history) return rewritten_query def retrieve_knowledge(query, knowledge_base): """ 执行基于查询的知识检索 Args: query (str): 输入的查询字符串 knowledge_base (dict): 存储的知识库字典 Returns: list: 返回最相关的若干条目组成的列表 """ retrieved_results = retriever.search(query, database=knowledge_base) return retrieved_results ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值