NLP学习—23.基于Transformer的机器翻译实战

最新推荐文章于 2024-05-07 16:40:57 发布
最新推荐文章于 2024-05-07 16:40:57 发布
阅读量4k 收藏 20
点赞数 7
分类专栏： NLP学习 文章标签： transformer 机器翻译 自然语言处理
本BLOG上原创文章未经本人许可，不得用于商业用途，转载请注明出处。
本文链接：https://blog.csdn.net/weixin_46649052/article/details/120072994
版权
哎呦-_-不错
关注
  • 7
    点赞
  • 踩
  • 20
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
【自然语言处理（NLP）】基于Transformer的中-英机器翻译
m0_54754302的博客
10-23 955
【自然语言处理（NLP）】基于Transformer的中-英机器翻译，基于百度飞桨开发，参考于《自然语言处理实践》所作。
基于Transformer的端到端机器翻译(深度学习)
sybh的博客
04-27 611
损失函数使用稀疏分类交叉熵损失，优化器使用Adam。在本文中，我们介绍了Transformer模型，并使用该模型进行了端到端的机器翻译任务。我们首先预处理数据，然后构建了Transformer模型，使用训练集对模型进行训练，并使用训练好的模型进行翻译任务。Transformer模型是当前自然语言处理领域最先进的模型之一，其表现出色，已经被广泛应用于各种NLP任务。在实际应用中，我们可以根据实际需求对模型进行优化和调整，以达到更好的性能。
深度学习基础 —— 构建基于 Transformer 的自然语言处理应用.pdf
03-24
深度学习基础 —— 构建基于 Transformer 的自然语言处理应用.pdf
【自然语言处理】seq2seq模型——机器翻译
你一定能够成为你想要去成为的人。
05-07 1302
​ 可以看到，通过多种改进方式，有效提升了模型能力，最终采用了训练 150000 epoch 轮次的双向GRU编码器，训练结果最好。模型训练...loss曲线如下：模型验证通过predict来测试test.txt文件，前十条数据翻译如下。Original為什麼我一直學不好英語？她讓我坐在她的身邊。這瓶酸奶不含乳糖。這瓶酸奶不含乳糖。我不能幫你了。我不能幫你了。湯姆不是一個好司機。我會普通話、西南官話、吳語和西班牙語。這個問題沒有那麼簡單。他不會說英語也不會說法語。
基于Transformer的本地机器翻译应用
Resiner的博客
12-18 511
纪念小白完成的第一个机器学习项目，虽然绝大部分代码源自开源项目，只是做了一个数据集替换的工作。
Transformer(四)--实现验证：transformer 机器翻译实践
06-28 1437
这个实验是我很早之前，也就是刚写完代码时做的，只不过模型结果没有经过系统评估，连blue分也没计算，所以当时就没有整理成blog。最近想了想，还是把结果粘上来，大家看一下。没有计算具体的评估指标，主要是当时忙着做其它项目，没有过多的时间，且当时训练的目的也只是为了通过实验来看看代码是否有致命缺陷。此篇文章是衔接上一篇的后续，在这篇blog中，我们会使用之前实现的代码，在真实的大规模语料上来训练一个机器翻译模型，用实际效果来检验我们实现的代码。注：最后一个例子超过我设置的解码长度了，没有翻译完。
Python-PyTorch实现基于Transformer的神经机器翻译
08-11
PyTorch实现基于Transformer的神经机器翻译
机器翻译实战（英译汉）Transformer代码学习详解
九筒的博客
05-04 1万+
任务目标 基于Transformer实现英语翻译汉语。如有疏忽请多指教 数据 Hi. 嗨。 Hi. 你好。 Run. 你用跑的。 Wait! 等等！ Hello! 你好。 I try. 让我来。 I won! 我赢了。 Oh no! 不会吧。 Cheers! 乾杯! Got it? 你懂了吗？ He ran. 他跑了。 Hop in. 跳进来。 I lost. 我迷失了。 I quit. 我退出。 I'm OK. 我沒事。 Listen. 听着。 No way! 不可能！ No way! 没门！ Reall
Pytorch入门实战（5）：基于nn.Transformer实现机器翻译（英译汉）
热门推荐
zhaohongfei_358的博客
08-05 1万+
本文将使用Pytorch提供的nn.Transformer实现英文到中文的机器翻译任务。对nn.Transformer的讲解，可以参考我的另一篇博文Pytorch中 nn.Transformer的使用详解与Transformer的黑盒讲解，建议先学习该文的CopyTask任务，然后再来看该篇就容易多了。......
透彻理解大模型框架：Transformer模型原理详解与机器翻译
zql1009的博客
05-15 8325
已知神经网络权重：W_q, W_k, W_v。
【经典模型实现】一个简单的基于transformer的机器翻译
WitsMakeMen的专栏
09-29 1979
利用transformer学习nlp能力，实现简单的机器翻译模型。
基于BERT的机器翻译模型开发详解.pdf
08-09
摘要: - 数据准备:构建大规模平行语料,分词和清洗。划分训练、验证和测试集。 - 模型构建:使用预训练BERT作为...- 通过BERT表示学习,可以建立高效的机器翻译模型。 - 按步骤实现,不断优化,是获得好的翻译效果的关键。
基于transformers的自然语言处理.zip
04-15
复现transformer的算法，可以直接运行。内含预训练模型
完整报告->基于Transformer的家庭暴力情绪检测系统、机器学习课程设计报告，人工智能课程设计报告，深度学习课程设计报告
最新发布
06-14
机器学习课程设计，人工智能课程设计，深度学习课程设计--基于Transformer的家庭暴力情绪检测系统，系统报告，详细介绍系统的开发背景、开发技术、开发过程、系统测试以及系统总结等一系列实战记录。选取了CMU-MOSI...
NLP技术 自然语言处理技术知识讲解 自然语言处理通用框架BERT原理解读 共33页.pdf
04-25
【自然语言处理通用解决方案】 需要熟悉word2vec，RNN网络模型，了解词向量如何建模 重点在于Transformer网络架构，BERT训练方法，实际应用 开源项目，都是现成的，套用进去就OK了 提供预训练模型，基本任务拿过来...
人工智能与机器学习2021共39份.zip
12-30
自然语言处理技术范式迁徙之路.pdf 视觉智能的平台之路.pdf 视频分析算法在安防中的应用.pdf 语音合成在字节跳动平台的应用探索.pdf 超大规模多模态预训练模型M6实践.pdf 面向亿级用户的小布助手对话式ai算法系统...
基于transformer的Seq2Seq机器翻译模型训练、预测教程
weixin_42280271的博客
05-09 807
机器翻译（Machine Translation, MT）是一类将某种语言（源语言，source language）的句子xxx翻译成另一种语言（目标语言，target language）的句子 yyy 的任务。机器翻译的相关研究早在上世纪50年代美苏冷战时期就开始了，当时的机器翻译系统是基于规则的，利用两种语言的单词、短语对应关系将俄语翻译成英语。在早期的机器翻译主要是依靠统计学模型，使用一种叫统计机器翻译（Statistical Machine Translation, SMT）的方法，在1990年至2
基于transformer的机器翻译实战
moment8aVry的博客
04-13 1077
文本序列中的单词是有顺序的，一个单词在序列中所处的位置对我们理解其词义、上下文关系都十分重要，但是传统的词向量嵌入(word embedding)并不包含位置信息，所以专门引入位置向量。两种方式的比较：有论文实验显示，绝对位置嵌入和可学习位置嵌入最终的效果是类似的，但是可学习位置嵌入会引入额外的参数，增加训练开销，所以本项目使用。作用是避免过拟合，如果不使用mask，会导致模型在训练时就能看到整个句子，从而导致训练准确度上升很快，但是验证准确度会先升后降。的单词，所以可以使用三角型的mask矩阵。
AIGC - 大模型训练（一）- en_to_zh：基于原生transformer训练英译中模型
顶级小学生
10-21 237
基于原生transformer实现，在一块T4 GPU上训练，预计时间是5天完成10个epoch的训练一. 模型原理架构此模型的实现，主要基于pytorch实现的原生transformer，使用AI Challenger Translation 2017数据集 中的train.en和train.zh 来训练。
基于Transformer实现机器翻译
07-25
基于Transformer实现机器翻译是一种先进的方法。在Pytorch中，可以使用nn.Transformer来实现英文到中文的机器翻译任务\[1\]。如果想要深入了解nn.Transformer的使用，可以参考一篇博文《Pytorch中 nn.Transformer的使用详解与Transformer的黑盒讲解》\[1\]。在这篇博文中，作者建议先学习CopyTask任务，然后再学习机器翻译任务，这样会更容易理解。 此外，谷歌翻译也在逐步将转换器编码器引入其翻译算法\[2\]。他们提供了一个即用型翻译界面，可以在谷歌翻译网站上使用\[2\]。另外，瓦斯瓦尼等人在2017年的研究中发现，Transformer在WMT 2014英德翻译任务和WMT 2014英法翻译任务上取得了最先进的BLEU分数\[3\]。BLEU是一种用于评估机器翻译质量的指标，具体的评估方法可以在《Evaluating machine translation with BLEU》部分中找到\[3\]。 综上所述，基于Transformer的机器翻译方法在实践中取得了很好的效果，并且在Pytorch中有相应的实现。同时，谷歌翻译也在逐步引入转换器编码器，并且Transformer在机器翻译任务中取得了最先进的结果。 #### 引用[.reference_title] - *1* [Pytorch入门实战（5）：基于nn.Transformer实现机器翻译（英译汉）](https://blog.csdn.net/zhaohongfei_358/article/details/126175328)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [【NLP】第6章 使用 Transformer 进行机器翻译](https://blog.csdn.net/sikh_0529/article/details/127037111)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值