由浅入深了解统计机器翻译模型

已于 2022-03-25 21:19:44 修改
阅读量2.3k 收藏 4
点赞数 1
文章标签： 机器翻译 nlp 深度学习 机器学习 人工智能
于 2022-03-25 21:18:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51799151/article/details/123744884
版权
本文从最简单的TM翻译模型开始，介绍了如何通过语言模型LM进行优化，以及使用Viterbi算法解决高复杂度问题。进一步讲解了优化后的翻译模型，结合语义相似度和语言模型概率来提高翻译质量。
摘要由CSDN通过智能技术生成

文章目录

一、最简单的机器翻译模型

在这里插入图片描述
TM(Translation Model)： 翻译模型，即他进行字对字翻译，不在乎语境，语义，语法，等等等等。
例如：
我们今天早上吃早餐
首先是将词语分隔在这里插入图片描述

然后词对词翻译
在这里插入图片描述
这样翻译语句肯定是不通顺的，所以我们要保证语句通顺。
所以 我们需要将这句话的所有词都进行排列组合
g_se,x_16)

4个词排列组合 一共有4！=

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Mae_strive
关注
专栏目录
订阅专栏
关于机器学习模型的评估方法
白话机器学习
04-17 3496
当我们辛苦搭建了一个模型后，如何能够知道我们的模型是否好用呢？这就需要了解具体的模型评估方法，本文将分别介绍机器学习中常见的两类问题（分类问题、回归问题）的模型评估方法。
统计学习方法_李航
11-03
叙述从具体问题或实例入手，由浅入深，阐明思路，给出必要的数学推导，便于读者掌握统计学习方法的实质，学会运用。为满足读者进一步学习的需要，书中还介绍了一些相关研究，给出了少量习题，列出了主要参考文献。 ...
统计机器翻译
11-22
用于语料库的对齐处理，在统计机器翻译方面运用广泛。
统计机器翻译中翻译模型的构建
江湖不相信眼泪
01-14 993
因为课程的缘故，需要和同学一起折腾一个统计机器翻译工具出来。我的工作就是翻译模型构建这一步。根据网络上的说法，我使用了GIZA++这个工具。以下内容参考了如下资源: 翻译系统搭建,这个资料算是比较全面的，但是在没有说明应该使用哪个版本的GIZA++和mkclsGIZA++实验报告,比上面文档更加详细（翻译模型这一块），也给出GIZA++的版本和一些解决方案，但是我没有使用，但是命令都是采
一文彻底搞懂大模型 - Attention：联合对齐和翻译（Align And Translate）
最新发布
xx_nm98的博客
08-23 932
Attention MechanismAbstract========================Abstract摘要神经机器翻译是最近提出的一种机器翻译方法。与传统的统计机器翻译不同，神经机器翻译旨在构建一个可以联合调整以最大化翻译性能的单一神经网络。最近提出的神经机器翻译模型通常属于编码器-解码器家族，将源句子编码为一个固定长度的向量，解码器从这个向量生成翻译。在本文中，我们推测使用固定长度的向量是提高这种基本编码器-解码器架构性能的瓶颈，并提出通过允许模型自动（软）搜索与预测目标词相关的源句子的部
肖桐、朱靖波老师-《机器翻译统计建模与深度学习方法》
lqfarmer的博客
05-30 826
分享一本由肖桐、朱靖波老师编著，东北大学自然语言处理实验室 · 小牛翻译联合出品的新书《机器翻译统计建模与深度学习方法》。本书中文编著，对机器学习相关历史和涉及知识进行详细、全面、深入讲解，非常值得深入阅读、学习。 资源整理自网络，感谢两位老师及相关团队辛勤整理和无私分享，源地址：https://opensource.niutrans.com/mtbook/index.html 本书全面回顾了近三十年内机器翻译的技术发展历程，并围绕统计建模和深度学习两个主题对...
机器翻译模型五CNN+seq2seq__Pytorch实现
weixin_38544305的博客
04-17 3437
介绍CNN应用在Seq2Se，并基于pytorch实现
中日机器翻译模型：基于Transformer和PyTorch
m0_66626512的博客
06-26 861
设置随机种子的作用是确保在每次运行代码时生成的随机数相同，这样可以提供代码的可重复性和结果的一致性。这些掩码在编码器和解码器中用于确保模型不会处理填充的位置（即序列中用于对齐的空位置），从而提高模型的性能和准确性。最后，将Google Drive挂载到Colab的文件系统中，以便于数据集的使用以及代码的保存（Colab的文件系统在每次新的会话开始时都会重新初始化，不会保留之前会话中。通过查看具体的样本，可以确认数据是否符合预期，并且可以发现潜在的格式或内容问题，用于确保数据集的正确性和完整性。
机器学习技术课程 统计学习方法第二版系列课程 全部课程PPT课件 由浅入深 讲解清晰 共22个章节.rar
04-30
第1章 机器学习和统计学习 共75页.pptx 第2和12章 感知机和统计学习方法总结 共27页.pptx 第3章 k-近邻算法 共69页.pptx 第4章 贝叶斯分类器 共79页.pptx 第5章 决策树 共98页.pptx 第6章 Logistic回归 共75页.pptx ...
统计学习方法-李航
09-01
本书全面系统地介绍了统计学习的主要方法，特别是监督学习方法，包括感知机、k近邻法、朴素贝叶斯法、决策树、逻辑斯谛回归与最大熵模型、支持向量机、提升方法、em算法、隐马尔可夫模型和条件随机场等。除第1章概论...
统计学习方法.rar
07-05
本书全面系统地介绍了统计学习的主要方法，特别是监督学习方法，包括感知机、k近邻法、朴素贝叶斯法、决策树、逻辑斯谛回归与最大熵模型、支持向量机、提升方法、em算法、隐马尔可夫模型和条件随机场等。除第1章概论...
基于句法的统计翻译模型.pdf
04-02
刘群 熊德意 刘洋 句法 机器翻译 统计翻译模型
机器翻译—统计建模与深度学习方法—3
lakomi的博客
07-27 1172
机器翻译阅读笔记-3第三章 基于词的机器翻译模型1 什么是基于词的机器翻译模型2 构建一个简单的机器翻译系统2.1 如何进行翻译？2.2 基本框架 第三章 基于词的机器翻译模型 1 什么是基于词的机器翻译模型 在翻译一个句子时，可以把其中的每个单词翻译成对应的目标语言单词，然后调整这些目标语言单词的顺序，最后得到翻译结果。 过程分为三个步骤： 分析：将源语言的句子切分成能够处理的最小单元。简单来说就是分词 转换：把每个单词，从源语言单词翻译成目标语言单词 生成：整合句子，变成通顺且合语法的句子 2 构建
机器翻译模型简介（一）
u013453936的专栏
08-26 7458
本系列将记录一些最近的机器翻译模型，作为笔记，以备日后查看。 1、Google’s Neural Machine Translation System: Bridging the Gap between Human and Machine Translation        这篇论文试图解决神经网络机器翻译的一些问题：1、较慢的训练与预测速度，2、解决稀少词的预测3、不能够完全覆盖翻译源句。...
Paper | 机器翻译里程碑，多语言机器翻译模型 M2M-100
机器学习算法与Python学习
10-28 1203
（给机器学习算法与Python学习加星标，提升AI技能）荐语：多语言机器翻译模型 M2M-100不依赖以英语为中心的数据，可以实现 100种语言之间的相互翻译。论文：Beyond E...
机器翻译模型简介（二）
u013453936的专栏
08-26 1770
本系列将记录一些最近的机器翻译模型，作为笔记，以备日后查看。 2、Convolutional Sequence to Sequence Learning        本文提出用卷积网络进行序列到序列模型的建立，针对循环神经网络中现有的时序优势，将卷积网络进行改进，采用pos embedding,多跳attention以及多层卷积等，以将卷积适用于这种时序的场景。 整体框架如下图：   ...
机器翻译：基础与模型（Machine Translation: Foundations and Models）
qq_52181283的博客
07-10 1040
这是一个教程，目的是对机器翻译的基础知识和建模方法进行较为系统的介绍，并在此基础上对机器翻译的一些前沿技术展开讨论（前身为《机器翻译：统计建模与深度学习方法》）。
机器翻译——英译中
RuizhiHe
08-04 5175
1. 前言 本文使用飞桨（PaddlePaddle）训练机器翻译模型，实现从英文翻译成中文的机器翻译。 本人全部文章请参见：博客文章导航目录 本文归属于：NLP模型原理与应用系列 前文：BERT与ERNIE
004-基于统计的翻译系统
weixin_30569001的博客
10-28 369
双语数据预处理 学习目标：了解和学习开发汉英双语数据预处理模块。 双语数据预处理是统计机器翻译系统构建的第一步，为词对齐处理提供分词后的双语数据。预处理的工作本质上就是双语数据的分词处理，与传统分词不同的一点在于需要对一些特定类型词汇进行泛化处理，如数字词汇“123.45”泛化为“$number”来代替原文。本讲中以汉英双语数据为处理内容。 本讲学习内容： 中文分词预处理采用传统基于词典的...
《统计学习方法》第2版：课件与代码资源
资源摘要信息:《统计学习方法》是一本专注于统计学和机器学习交叉领域的学术书籍，其第2版课件PPT和随书代码对于学习和应用统计学习方法提供了极大的帮助。这本教材详细介绍了各种统计学习理论和模型，并将这些理论...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mae_strive

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值