incremental training/align for word alignment

最新推荐文章于 2024-12-23 20:46:47 发布

原创最新推荐文章于 2024-12-23 20:46:47 发布 · 682 阅读

0 ·

CC 4.0 BY-SA版权

学习笔记专栏收录该内容

61 篇文章

订阅专栏

本文介绍了两种用于统计机器翻译的增量对齐工具：BerkeleyWordAligner的扩展版本及GIZA++。前者可在已训练模型的基础上进行增量对齐，无需重新训练；后者支持IBM Model1和基于隐马尔可夫模型的对齐。

The Berkeley Word Aligner

https://github.com/mhajiloo/berkeleyaligner

https://github.com/kmccurdy/inc-align

A small Clojure application which extends the Berkeley Aligner to support incremental alignment, e.g. using an already-trained alignment model to generate alignments on new data without having to retrain the model.

GIZA++: Training of statistical translation models.

http://www.statmt.org/moses/giza/GIZA++.html

https://github.com/colinal/inc-giza-pp (https://code.google.com/archive/p/inc-giza-pp/)

Incremental word alignments for SMT using online EM. Currently supports IBM Model 1 and HMM-based word alignments.

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

warrioR_wx

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

Rasa课程、Rasa培训、Rasa面试、Rasa实战系列之Incremental Training

大模型与Agent智能体

03-28

422

Rasa课程、Rasa培训、Rasa面试、Rasa实战系列之Incremental Training Incremental Training 新增训练数据，sparse vector（countvectorizer）的shape发生了变化而dense vector（预训练模型）的shape是fixed。通过 Rasa 的增量训练减少训练时间这是 Rasa Open Source 2.2.0 中提供的一项新的实验性功能。增量训练允许您在添加新训练示例后微调现有模型，而不是从头开始训练新

Speech and Natural Language Processing《资源教程》

全网120W+关注AI拉呱，专注人工智能以及科技前沿！

05-27

1447

Speech and Natural Language Processing ####################################### … image:: https://cdn.rawgit.com/sindresorhus/awesome/d7305f38d29fed78fa85652e3a63e154dd8e8829/media/badge.svg :alt: Awesome :target: https://github.com/sindresorhus/awesome A c

参与评论您还未登录，请先登录后发表或查看评论

WordAlignment:使用平行语料库进行机器翻译的词对齐

06-23

机器翻译词对齐的 Python 实现。以 'python .py > <alignment>' 运行选项：-n num_lines 从输入文件中获取更少的行 -d <data> 获取非默认文件，例如：sample ibm1.py：实施 IBM 模型 1 ibm2.py：实施 IBM 模型 2 hmm.py：实施 HMM 模型进行字对齐 fastAlign.py：实施快速对齐方法，但使用固定的 lambda 参数 alignIntersect.py：使用基于交集的对齐方式Dice 的系数 modelAgreement.py：为 IBM Model2 实现基于交集的对齐带有 .a 扩展名的相应名称的文件是从这些模型中获得的前 1000 个句子的对齐，这些模型在英语和法语的完整 hansards 数据上进行训练。它们可以与分数对齐一起运行以进行 AER 评估。 t_

增量训练（持续学习）

午夜的行人

12-23

1535

增量训练（Incremental Training），也称为持续学习（Continual Learning）或在线学习（Online Learning），是一种机器学习方法，模型在接收到新的数据时，能够在不丢失之前学习到的知识的情况下进行更新。这种方法特别适用于数据不断到来或数据集非常大而不能一次性加载到内存中的场景。

在word 中怎么光标对齐_如何在Microsoft Word中水平对齐表

09-17

910

在word 中怎么光标对齐If you have a table that doesn’t take up the full width of your Word document, you can change its horizontal alignment on the page and even fine-tune how far it’s indented if you’ve got i...

CAPE17 A Survey on Incremental Learning

一亩高粱

08-14

3869

就是翻译，看目录就行

LAMM: Label Alignment for Multi-Modal Prompt Learning

buyaotutou的博客

08-14

1523

文章链接LAMM：多模态提示学习的标签对齐With the success of pre-trained visual-language (VL) models such as CLIP in visual representation tasks, transferring pre-trained models to downstream tasks has become a crucial paradigm. Recently, the prompt tuning paradigm, which dra

【论文阅读】Semantic Prompt for Few-Shot Image Recognition（已复现）

cainiaomyf的博客

09-30

2659

小样本学习是一个具有挑战性的问题，因为只提供了少量样本来识别新的类别。最近的一些研究利用了额外的语义信息，例如类别名称的文本嵌入，通过将语义原型与视觉原型相结合来解决稀缺样本的问题。然而，这些方法仍然受到从稀缺支持样本中学习到的虚假视觉特征的影响，导致收益有限。在本文中，我们提出了一种用于小样本学习的新颖语义提示（Semantic Prompt，SP）方法。我们并非简单地利用语义信息来修正分类器，而是探索将语义信息作为提示来自适应地调整视觉特征提取网络。

Domain Adaptive Object Detection for Autonomous Driving under FoggyWeather（翻）

悠悠小船长的博客

03-11

1107

不同天气下自动驾驶的目标检测

【CVPR2022】论文列表与下载——PartThree

TomRen

06-12

5119

【CVPR2022】完整论文列表

机器翻译重要过程(2)---词语对齐

iteye_2022的博客

08-24

1516

在上一步预处理完成之后，平行句对中的中文部分都被切分成了相应的短语，而英文的大小写、格式、相应的空格也都加上了，在这之后就可以完成词语对齐的过程了。词语对齐的目标是得到中英文词或短语的对齐信息，便于翻译系统做解码时寻找相应的phrase。词语对齐这一步一般都采用开源工具完成，比如现在用的最多的GIZA++，但是在平行语料数据量大的情况下，可能其完成整个词语对齐的过程耗时较长。现在也...

大语言模型(LLMs)综述调研

qq_44579371的博客

08-24

1194

架构选择使用LM目标进行预训练时，casual decoder架构可以实现出色的零样本和少样本泛化能力，并表现出优于其他架构的零样本性能。此外，指令调整和对齐调整已经被证明可以进一步增强大型casual decoder模型的能力。根据scaling law，选择更大模型与更大的数据集能获得更好的表现能力LLMs支持长文本上下文建模，主要原因可归结于以下两点: LLM编码较长文本的能力。一些位置嵌入方法（如RoPE、T5 bias）已经被验证具有一定的Extrapolation capability。

对齐工具的使用

weixin_33686714的博客

05-31

270

主流的对齐工具有：giza++和伯克利的The Berkeley Aligner（没找到相关的资料）目前下载了两个版本，不知道怎么用。。。心塞。。。 giza++的使用可以参考一下这个链接：http://www.leexiang.com/gizapp-report 用此文的步骤跑了一遍工具实验结果跑出来了就是没看懂心塞 ( ⊙ o ⊙ ).... 实验结果现在看懂...

词对齐任务：依附于机器翻译

Yonggie的博客

06-24

1297

词对齐任务分为三大实现方式，详情见之前博客说道机翻显然就想到transformer，其encoder-decoder结构其实即便是在使用了lstm等模型上也是这样的，依附在NMT的word alignment任务就可以直接使用seq2seq的输出对输入的词attention（动图https://www.bilibili.com/video/BV1J441137V6，36:00）来表征word alignment。这个是很intuitive的方法，我不使用任何模型，直接用概率统计的方法，算出两词间的互信息值，

nlp中的alignment

Eric_LH的博客专栏

08-21

3551

IBM 1模型引入了一个很重要的东西：Alignments，也就是词汇之间是如何关联的。 word Alignments 中文翻译：词对齐。例如： John bought books. John purchase books. 这里bought和purchase在语法和词义上都是等价的，这便是一种对齐。

斯坦福大学-自然语言处理与深度学习（CS224n）笔记第十课神经机器翻译（neural machine translation）与attention模型

苏三慎的博客

11-15

1222

一、机器翻译（MT）机器翻译是一个十分经典的语言理解的测试，涉及语言分析（language analysis）与语言生成（language generation）。机器翻译是一个巨大的商业市场，每年的市场规模达到400亿美元，在欧洲和亚洲都有市场。神经机器翻译（NMT）：神经机器翻译是利用一个巨大的神经网络来为整体机器翻译过程建模。 1、神经机器翻译的历史回顾最早开始于1987年，All...

机器翻译-词对齐

orangefly0214的博客

10-27

3730

时间序列预测（十三）——增量训练（Incremental Learning）

qq_47885795的博客

10-28

2212

首先，需要定义一个适合时间序列预测的模型，如 LSTM，和训练函数。# 定义简单的LSTM时间序列模型# 通用的训练函数# 保存模型该函数第一次训练模型，保存权重，并且初始只能调用一次。# 初次训练函数# 数据准备# 定义损失和优化器# 初次训练该函数加载预训练的模型权重（如果可用），并从最后保存的状态继续训练，非常适合使用新数据更新模型或继续训练。# 增量训练函数# 尝试加载已有模型try:# 数据准备# 定义损失和优化器# 增量训练。

深度学习与人类语言处理李宏毅2020课程精华提要（4）模型对齐（Alignment）

weixin_42217661的博客

06-17

1354

视频主页：http://speech.ee.ntu.edu.tw/~tlkagk/courses_DLHLP20.html B站观看（对应P7）：https://www.bilibili.com/video/BV1RE411g7rQ 资料汇总：度盘密码: 4v5i （以上资料来源于网络）以下内容只是对上述资料进行提炼，建议观看原视频，感谢李宏毅老师和其团队的辛苦付出！前言语音识别模型有两个基本问题：Decoding问题和Training问题，Decoding问题是解码问题，给定模型参数和输入的情

--incremental=/backup/pg_basebackup/backup_manifest是什么意思