机器翻译Reranking和MERT的几点疑问

最新推荐文章于 2022-09-05 11:05:35 发布
最新推荐文章于 2022-09-05 11:05:35 发布
阅读量1.7k 收藏 1
点赞数
分类专栏： NLP
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/girlhpp/article/details/21181833
版权

1. Och提出的MERT， 其论文和很多博主都说需要不断重复重复 “解码->n-best list-> weight tuning  ”的过程，但是只是使用了rescore后 n-best  list中得分最高的一个假设。调整了权重之后，为什么要重新解码呢？ 


语言中的singleton：翻译做“单件”，即只出现过一次的ngram

黄革革
关注
专栏目录
统计机器翻译的Softmax-margin培训
03-09
统计机器翻译作为自然语言处理领域的一个重要分支，其训练方法对于提升翻译质量和效率至关重要。本文介绍的Softmax-margin方法针对现有训练方法的不足，提出了一种改进方案，通过引入正则化和优化模型结构，不仅提高...
mert18-dev
02-21
"mert18-dev"是一个个人博客项目，主要基于JavaScript技术构建。JavaScript是Web开发中的核心技术，用于实现客户端的交互性和动态功能。这个项目可能是为了展示个人技能、分享技术文章或者提供教学资源而创建的。 ...
机器翻译中的一些名词解释
啊噗啊噗
01-16 2778
1、语言模型（language model）与翻译模型（translate model） 参考：https://zh.wikipedia.org/wiki/%E7%BB%9F%E8%AE%A1%E6%9C%BA%E5%99%A8%E7%BF%BB%E8%AF%91 经常接触两个名词，语言模型（LM）和翻译模型（TM），这一概念最早是从统计机器翻译中来的，统计机器翻译的首要任务是为语言的产生构造...
详细解读行人重识别的k-reciprocal Encoding(k个相互近邻编码方法) re-ranking方法及其实现代码解读
ZJE
08-09 1万+
建议读者手中有re-ranking的代码，或者看过某个行人充实别的代码。 一，re-ranking大致流程： re-ranking是一个图像检索问题，给定一个probe，要从图片集gallery中找出与它相似的图片。如： 既然是检索问题，那么ranking前得到的ranking list就很重要，ranking list有没有使用某些算法得到，这有着很大区别，如下图： L是没...
总结！语义信息检索中的预训练模型
Kaiyuan_sjtu的博客
09-05 851
作者|Chilia哥伦比亚大学nlp搜索推荐整理|NewBeeNLP大家好，这里是NewBeeNLP。本文对预训练模型在召回(retrieval), 排序(re-ranking)，以及其他部分的应用做一个总结，参考学长们的综述：Pre-training Methods in Information Retrieval[1]1. 背景搜索任务就是给定一个qu...
AI Challenger 2018 机器翻译参赛总结
Paper weekly
01-07 2028
金山集团 AI Lab 组队参加了 AI Challenger 2018 全球挑战赛的英中机器翻译项目，并且获得冠军。 AI Challenger 2018 主题为"用 ...
机器翻译中的参数调整---MERT方法
weixin_30641465的博客
12-06 206
机器翻译的大牛Och在2003提出的方法，用于统计机器翻译中对数线性模型参数的调整，这几天读了这篇论文，也算是有了点了解。写篇文章，要不然就忘了，哈哈。 Och在文章中提出在之前的参数调整方法中，参数的确定和最终的翻译质量并没有什么紧密的联系，比如在统计机器翻译的对数线性模型中feature的权重需要调整，使用的 准则就是如下的公式： ...
生成对抗网络中图像到图像翻译的固定点学习及其在疾病检测和定位中的应用
1在生成对抗网络中学习不动点：从图像到图像翻译到疾病检测和定位1，周宗伟1，3，尼玛·塔吉巴赫什1，冯瑞斌1，迈克尔·B.Gotway2，Yoelman Bengio3和Jianming Liang1，31亚利桑那州立大学;2梅奥诊所;3 Mila-魁北克...
mert-internal-app：高级设计项目-MERT内部应用程序
02-18
"Mert Internal App" 是一个基于 TypeScript 的高级设计项目，旨在为MERT组织提供一个内部使用的应用程序。这个项目可能涵盖了许多现代Web开发中的关键技术和最佳实践，以满足内部工作流程、沟通和协作的需求。让...
mert-app-server
02-26
为了深入了解和使用"mert-app-server"，我们需要查看项目源码，了解其具体架构和设计模式，比如是否采用了Model-View-Controller（MVC）或其它设计模式。此外，还需要熟悉项目所依赖的具体库和框架，以及它们的功能...
行人重识别之重排序(re-ranking)
热门推荐
年轻即出发，
08-09 2万+
行人重识别简称Re-identification，目前研究这个方向的大神主要有，UTS的郑良，郑哲东，CUHK的xiaotong等。 这里想分析下，2017年的cvpr, Re-ranking Person Re-identification with k-reciprocalEncoding，文章主要提出了基于k阶导数编码的方式，对需要检测的gallery中的图片进行重排序，使得识别结果有所提
最小错误率训练(mert)基本原理学习
庖丁解牛
05-08 6285
mert主要运用于机器翻译的参数调节过程中。由于目前主流的机器翻译模型多为log-linear模型，在log-linear模型中，有很多参数weights，对于每一个特征，都有与之对应的weight。如何调节这些weights，才能获取更好的翻译结果呢？Och提出了mert——最小错误率训练的方法用于调节参数。 其实在Och之前就有参数调节的方法，他们优化的目标多为翻译结果的最大翻译概率，采用的方法多为梯度下降、Powell搜索等，由于目标函数的特性，这些方法都能够搜索到最优的结果。 但是这些方法有一个
干货｜4条实用小建议，送给初入NLP领域的你（附链接）
数据派THU
03-16 716
来源：知乎作者：李纪为本文约5000字，建议阅读10分钟。本文为你介绍了刚迈进NLP领域需要掌握的一些小技巧。ACL2019投稿刚刚落幕，投稿数超过了2800篇，可以说是...
ACL 2017 录用论文整理（长文）
Q_S_Y_Q的博客
06-06 3924
ACL 2017 录用论文整理（长文） https://chairs-blog.acl2017.org/2017/04/05/accepted-papers-and-demonstrations/ 论文集现在还不能直接下载到（好像在 这里 是能下载的），本文将会陆续搜集录用论文的下载地址。同时部分文章会精读、写一些笔记。下面的短评都是纯粹基于abstract部分加上笔者的脑补形成的。很多领域我...
Reranking for neural semantic parsing论文阅读
蜜汁菠萝头
05-17 238
Abstract 这篇文章也是关于semantic parser的文章，以往一些基于深度学习的semantic parser取得了很大的进步，但是如果手动去验证这些生成的程序就会发现有很多的问题，比如生成的程序不协调，不合适。这篇文章提出的reranker对n个最好的predicted MRs做排序，也就是利用ranking方法做优化。rank的优化方法的文章之前有一篇NEURAL PROGRAM PLANNER FOR STRUCTURED PREDICTIONS Jacob有点像，也是用ranking做
MOSES统计机器翻译系统实现过程
hero51的专栏
10-01 3222
MOSES安装以及初级说明 作为初学者对MOSES现在也没有什么深入的了解就在这里嫌丑，浅显的介绍一下。 首先是moses的官网：http://www.statmt.org/moses/ 里面资料很详细，可以下载说明文档（manual.pdf）按照文档里面的提示一步步进行，一般来说整体只要依照这个步骤就没有问题 我现在本机上安装的moses，然后又在服务器上进行的运行，所以安装经验是本机的
NMT-nametus入门了解（基于TensorFlow的版本）
Bobanimememeem
10-03 1143
  1、首先看github上的readme：   NEMATUS Attention-based encoder-decoder model for neural machine translation //基于注意力编码解码 模型 This package is based on the dl4mt-tutorial by Kyunghyun Cho et al. ( https://...
k互近邻算法 rerank
weixin_44523062的博客
05-19 2600
建议读者手中有re-ranking的代码，或者看过某个行人充实别的代码。 一，re-ranking大致流程：    re-ranking是一个图像检索问题，给定一个probe，要从图片集gallery中找出与它相似的图片。如： 既然是检索问题，那么ranking前得到的ranking list就很重要，ranking list有没有使用某些算法得到，这有着很大区别，如下图： L是...
自然语言处理（四）统计机器翻译SMT
谦芊珺
07-26 2357
1、统计机器翻译三要素1、翻译模型 2、语言模型 3、排序模型2、翻译流程1、双语数据预处理 2、词对齐 3、构造短语翻译表 4、对短语翻译表进行概率估计 5、解码，beam search 6、评估
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值