NMT
文章平均质量分 78
唐唐无糖
这个作者很懒,什么都没留下…
展开
-
(2018-2021年)Uncertainty 相关SOTA文献笔记整理
Uncertainty 文献笔记一边读论文,一边思考最近大家在这块都研究哪些内容,然后考虑哪些点还有进一步研究的价值.ACLWord-Level Uncertainty Estimation for Black-Box Text Classifiers using RNNs摘要:估计神经网络预测的不确定性为更可靠和可信的文本分类铺平了道路。然而,常见的不确定性估计方法仍然是黑盒,没有解释哪些特性导致了预测的不确定性。这阻碍了用户理解不可靠模型行为的原因。本文提出了一种文本分类器不确定性在wor原创 2021-09-04 16:52:30 · 2470 阅读 · 0 评论 -
神经机器翻译(NMT)中的不确定性(Uncertainty)应用思考
神经机器翻译(NMT)中的不确定性(Uncertainty)应用思考前言什么是不确定性?Uncertainty 应用NMT中量化Uncertainty的常见思路总结前言本文的目的是帮助笔者对实习一个多月来调研的NMT不确定性课题进行整理和复盘,笔者以个人较为粗浅的理解阐述不确定性在NMT领域的State-of-the-art(SOTA)研究工作,以及近年来学术界在NMT uncertainty这个方向的着眼点。大家取其精华去其糟粕,如有谬误欢迎各位批评指正~什么是不确定性?不确定性(Uncertai原创 2021-09-03 21:10:13 · 1312 阅读 · 0 评论 -
【阅读笔记】《Uncertainty-Aware Curriculum Learning for Neural Machine Translation》(ACL2020)
《Uncertainty-Aware Curriculum Learning for Neural Machine Translation》学习目标:初步了解NMT领域知识,理解常用方法和术语建议:新手可以先看整理的NMT常见术语,方便理解全文摘要神经机器翻译(NMT)已经被证明易于课程学习(curriculum learning),在不同的训练阶段,以简单-困难的顺序学习样本。关键难度包括数据难度和模型能力的评估。我们提出了具有不确定性意识的课程学习模式,这种模式的动机来源是:1) 翻译pair的原创 2021-07-22 11:41:21 · 1332 阅读 · 0 评论 -
NMT(神经机器翻译Neural Machine Translation)常用术语
神经机器翻译Neural Machine Translation的常用术语:原创 2021-07-16 18:58:36 · 839 阅读 · 0 评论 -
【阅读笔记】《Analyzing Uncertainty in Neural Machine Translation》(ICML2018)
学习目标:初步了解NMT领域成果,理解常用方法和术语摘要解决的问题创新方法与主要思路思考和收获文章得到的结论重点加粗图6自己的发现:对于罕见词sampling的效果更好,对于常见词,beam5的效果更好在构建翻译的模型的时候,基本上有两种不确定性,一种是任务本身固有的不确定性,另一种是数据收集过程中存在的不确定性。内在的不确定性不确定性的一个来源是一句话会有几种等价的翻译。因为在翻译的过程中或多或少是可以直译的,即使字面上有很多表达相同意思的方法。句子的表达可以是主动的,也可以是被动的,原创 2021-07-16 18:04:23 · 244 阅读 · 0 评论