论文阅读：Bi-encoder Transformer Network for Mandarin-English Code-switching Speech Recognition using Mix

最新推荐文章于 2024-04-22 13:13:44 发布
最新推荐文章于 2024-04-22 13:13:44 发布
阅读量710 收藏 3
点赞数
分类专栏： 语音识别 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_23126625/article/details/115164970
版权

语音识别阅读笔记-Bi-encoder Transformer Network for Mandarin-English Code-switching
Speech Recognition using Mixture of Experts

(interspeech 2020)

下载链接：

http://www.interspeech2020.org/index.php?m=content&c=index&a=show&catid=413&id=1277

主要思想：

这篇文章主要目的是完成中英文混合语音的识别工作。主要是通过MoE（混合专家系统）分别对中文和英文语料进行encoder网络的预训练。分别得到中文的encoder模型和英文的encoder模型。

1:分别对中文和英文语料进行encoder网络的预训练

h^{cn} = MandarinEncoder(x)

h^{en} = EnglishEncoder(x)

2:通过MoE（混合专家系统）结合两个encoder的输入ÿ

最低0.47元/天 解锁文章
傲娇的程序猿
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Lyrics-Generation-using-BERT：使用BERT生成English Rock歌词
02-04
BERT歌词生成使用预训练的BERT模型生成English Rock歌词（Devlin，J. et al。，2018）。 数据是从Kaggle 380,000+歌词数据集中获得的。 使用langdetect Python库来过滤除英语以外的其他语言的歌曲。 用于发音的...
语音方向论文阅读
暮木的博客
10-08 563
1.Bi-encoder Transformer Network for Mandarin-English Code-switching Speech Recognition using Mixture of Experts 摘要 面对中英文混合数据稀疏性问题，提出Bi-Encoder Transformer network以及加入gating network进行语种判定 模型结构 实验结果 ...
集成学习笔记：MoE, bagging, boosting, stacking
qq_38642635的博客
09-11 875
集成学习（ensemb learning）希望可以结合多个模型获得更好的结果。学习混合专家系统mixture of expert（MoE）的时候，发现它只是集成学习中的一类。还有其他三类很有效的方法是bagging，boosting和stacking。 Bagging Bagging即套袋法，其算法过程如下： 从原始样本集中抽取训练集。每轮从原始样本集中使用Bootstraping的方法抽取n个训练样本（在训练集中，有些样本可能被多次抽取到，而有些样本可能一次都没有被抽中）。共进行k轮抽取，得到k
Meta提出全新文档级嵌入框架，利用LLM来增强信息检索能力
最新发布
Paper weekly
04-22 905
近年来，基于嵌入式检索（embedding-based search）或密集检索（dense retrieval）相比传统的稀疏检索（sparse retrieval）或基于词袋（bag of words）的方法，已经展示出了更先进的结果。于此同时，Meta 的研究团队（Mingrui Wu 和 Sheng Cao）近日发表了一个通过大型语言模型（LLM）实现检索增强的的文档级嵌入框架，使得可以显...
【NAACL 2021】AugSBERT：用于改进成对句子评分任务的 Bi-encoder 数据增强方法
06-21 985
论文地址：https://arxiv.org/abs/2010.08240目前，最先进的 NLP 架构模型通常重用在 Wikipedia 和 Toronto Books Corpus 等大型文本语料库上预训练的 BERT 模型作为基线。通过对深度预训练的 BERT 进行微调，发明了许多替代架构，例如 DeBERT、RetriBERT、RoBERTa ……它们对各种语言理解任务的基准进行了实质性改进。在 NLP 中的常见任务中，成对句子评分在信息检索、问答、重复问题检测或聚类等方面有广泛的应用。
论文笔记之《Pre-trained Language Model for Web-scale Retrieval in Baidu Search》
Transfer
08-02 981
预训练语言模型在百度搜索中的应用
NLP Bi-Encoder和Re-ranker(引流：Cross Encoder 交叉编码器 ReRanker)
duoyasong5907的博客
10-19 1667
如何将BI和Cross Encoder配合使用？可以先用BI-Encoder选出top 100个候选项，再用Cross-Encoder挑选最佳选项。
KY-040-Encoder-Library --- Arduino：KY-040编码器的Arduino库
01-30
Arduino库是简化编程的重要工具，KY-040-Encoder-Library便是为配合KY-040编码器设计的。该库提供了一系列函数，使得编码器的读取和处理变得更加简单。通常，你需要先在Arduino IDE中安装这个库，然后在代码中包含...
JS-Encoder：JS-Encoder是在线WEB编译器（前端在线编译器）
02-01
JS-Encoder：JS-Encoder是在线WEB编译器（前端在线编译器）
file-encoder:file-encoder是将文件转换为指定编码的脚本
05-07
npm install file-encoder -g file-encoder -h 用例：将文件的编码转换为utf8 file-encoder -f ${filename} 用例：将文件的内容转换为utf8并写入另一个文件 file-encoder -f ${filename} -t ${targetFilename} ...
logstash-logback-encoder：Logback JSON编码器和附加器
02-03
!! 本文档适用于正在开发的下一版本。 有关请参见。 Logstash Logback编码器 提供编码器，布局和附加程序，以JSON和登录。 支持常规LoggingEvents （通过Logger ）和AccessEvents （通过记录）。...
（四）基于文本的QA问答系统——biencoder方法
Simonsdu的博客
04-09 1217
biencoder方法 加载预训练模型 我们使用Muennighoff/SGPT-125M-weightedmean-msmarco-specb-bitfit预训练模型。 tokenizer = AutoTokenizer.from_pretrained("Muennighoff/SGPT-125M-weightedmean-msmarco-specb-bitfit",cache_dir = './SGPT-125M-weightedmean-msmarco-specb-bitfit') model = A
2022年几款前沿的文本语义检索/Sentence Embedding方法：Gradient Cache, SGPT,ART,DPTDR,RocketQAv2, ERNIE-Search等
Learning from the mistakes
10-23 2145
上面的一些工作都是最近调研的比较有代表性的工作，其中包含了百度的一些工作，因为百度在搜索领域有着得天独厚的优势，我也使用了一些RocketQA等系列的模型，在学术和工业落地场景上都有着不错的效果，除了这些工作外还有SimLM，ColBERTv2等工作。更多关于语义检索方向的内容讲解，请参考本栏目后续的文章，如果有不懂的内容，请留言，我随即为大家安排上哈。
《Supervised Multimodal Bitransformers for Classifying Images and Text》阅读笔记
sinat_39589569的博客
07-16 1177
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
【CVPR 2023】BiFormer: 具有双层路由注意力的ViT
m0_63642362的博客
06-26 2735
BiFormer: Vision Transformer with Bi-Level Routing Attention论文浅析
实体链指（2）EL：Disambiguation-Only
小白的专栏
09-04 689
本篇主要了介绍了Disambiguation-Only实体链指任务的具有代表性的2篇论文：《Neural Cross-Lingual Entity Linking》和《Scalable Zero-shot Entity Linking with Dense Entity Retrieval》
Transformer 中 Decoder 结构解读_by 弘毅
chumingqian的博客
04-08 7826
Transformer 中 Decoder 结构解读 DECODER D 的输出 一个 一个 产生的， decoder 中看到当前输入是 ， decoder 在前一个时间点的输出； decoder 会将自己的输出 当做接下来的 输入； 此时， 先暂时忽略 Decoder 中 来自 encoder 的输入； 训练的时候 误差 采用 minize cross entropy; 测试的时候 的 误差 BLUe score Masked self attention : 只考虑输入向量本身， 以及输入向量的
【自然语言处理】【向量表示】AugSBERT：改善用于成对句子评分任务的Bi-Encoders的数据增强方法
bqw的博客
07-24 1009
​句子对评分任务在NLP\text{NLP}NLP中被广泛使用。其可以被用于信息检索、问答、重复问题检测和聚类。对于许多包含句子对评分任务达到sota的方法是使用BERTBERT。两个句子被传递至网络中，并且注意力机制被应用在所有的输入tokens中。这种两个句子被同时传递至网络中的方法称为。​的一个缺点是对于许多任务来说计算量太大。例如，对10000个句子进行聚类，需要n2n^2n2的复杂度，使用BERTBERT的话需要65个小时。端到端的信息检索也不太可能使用这样的的质量。​。......

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值