seq2seq模型学习总结【用作query rewrite问题生成模型】

最新推荐文章于 2024-06-12 09:55:16 发布

HxShine

最新推荐文章于 2024-06-12 09:55:16 发布

阅读量484

点赞数

分类专栏： nlp_paper nlp学习 nlp 文章标签：百度语义变化同义变化

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_16949707/article/details/123914129

版权

nlp 同时被 3 个专栏收录

97 篇文章 3 订阅

订阅专栏

75 篇文章 7 订阅

订阅专栏

61 篇文章 2 订阅

订阅专栏

一、概述

鱼与熊掌兼得：融合检索和生成的SimBERT模型：https://kexue.fm/archives/7427
SimBERTv2来了！融合检索和生成的RoFormer-Sim模型：https://kexue.fm/archives/8454
在这里插入图片描述

代码
v1：https://github.com/ZhuiyiTechnology/simbert/blob/master/simbert.py
v2：https://github.com/ZhuiyiTechnology/roformer-sim

二、代码说明
2.1 利用ulilm模型做seq2seq
从语言模型到Seq2Seq：Transformer如戏，全靠Mask：https://kexue.fm/archives/6933
在这里插入图片描述

2.2 seq2seq解读
https://kexue.fm/archives/5861
输入：X，Y[:-1]
输出：Y[1:]
在这里插入图片描述

2.3 beamsearch
在这里插入图片描述

关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
seq2seq模型学习总结【用作query rewrite问题生成模型】

一、概述鱼与熊掌兼得：融合检索和生成的SimBERT模型：https://kexue.fm/archives/7427SimBERTv2来了！融合检索和生成的RoFormer-Sim模型：https://kexue.fm/archives/8454代码v1：https://github.com/ZhuiyiTechnology/simbert/blob/master/simbert.pyv2：https://github.com/ZhuiyiTechnology/roformer-sim二、代
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。