【论文笔记】ContextNet: Improving Convolutional Neural Networks for ASR with Global Context

最新推荐文章于 2023-10-10 20:54:51 发布
最新推荐文章于 2023-10-10 20:54:51 发布
阅读量1.8k 收藏 2
点赞数 1
分类专栏： 端到端语音识别 论文笔记 文章标签： 语音识别 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zycodecsdn/article/details/109232275
版权
ContextNet是一种改进的卷积神经网络，用于提高自动语音识别（ASR）的性能，通过引入全局上下文。文章指出，传统CNN受限于卷积核大小，难以捕获长距离依赖，而ContextNet通过SE结构解决了这一问题。SE结构通过全局池化和权重注入增强特征向量，增加对长距离上下文的感知。此外，文章提出了一种负采样方案，减小模型参数并保持高识别准确率。实验结果显示ContextNet在ASR任务上的优越性。
摘要由CSDN通过智能技术生成

题目

ContextNet: Improving Convolutional Neural Networks for Automatic Speech
Recognition with Global Context

链接

https://arxiv.org/pdf/2005.03191.pdf

代码实现：
https://github.com/iankur/ContextNet

标签

Speech Recognition, CNN

Contributions

  • 使用了基于global context的CNN作为ASR的模型
  • 持续的负采样和模型缩放来减小模型的参数的同时保证WER维持较小值

亮点与启发

文章指出：

  • 一般CNN由于卷积核大小的限制无法获取到长距离的依赖，导致表现不如RNN-based模型
  • 文中使用的SE结构，将一个序列的特征向量“挤压”（squeeze）到一个global context vector，然后将这个上下文向量作用与每个原始的特征向量（两者通过相乘结合）
  • 提出负采样方案：8次不间断减小输入序列的长度，减小计算耗时的同时保证识别的准确率

文章

最低0.47元/天 解锁文章
TrainerNN
关注
专栏目录
Graph Convolutional Neural Networks for Web-Scale Recommender Systems（用于Web级推荐系统的图形卷积神经网络）
weixin_41697507的博客
07-07 4135
Graph Convolutional Neural Networks for Web-Scale Recommender Systems 用于Web级推荐系统的图形卷积神经网络 ABSTRACT Recent advancements in deep neural networks for graph-structured data have led to state-of-the-art pe...
卷积神经网络（CNN）简介：Convolutional Neural Networks (CNNs) Intro
程序员光剑
08-07 795
作者：禅与计算机程序设计艺术Convolutional Neural Networks (CNNs) have become one of the most popular deep learning models for image classification tasks. In recent years, they have revolutionized computer vision and are widely used in applications such as object recogni
《ContextNet：Context-Aware Image Matting for Simultaneous Foreground and Alpha Estimation》论文笔记
m_buddy的博客
10-10 1372
参考代码（训练部分未公开）：ContextNet 现有的一些基于CNN网络的matting网络都是使用三色图与原始图像作为输入，之后输出这张图对应的alpha图。而这篇文章则同时输出前景图和alpha图，对此文章提出了两个编码器：matting编码器（matting encoder，ME）和context编码器（context encoder，CE），分别用于获取表征范围在局部和较大范围的信息，之后将编码之后的两个特征进行concat，经过也是两个解码器得到需要的alpha图和前景图。对此文章还引入了两个损
ContextNet：基于上下文信息优化特征Embedding的CTR模型
hong__fang的专栏
03-06 3196
逐层动态优化(dynamically refine)特征embedding向量，也是非常重要的。本文提出通过上下文信息动态优化特征embedding的CTR预估框架ContextNet
「论文阅读」ShapeContextNet(SCN)：Attentional ShapeContextNet for Point Cloud Recognition
小麋鹿跑了的博客
03-17 4231
摘要 我们在网络设计中采用形状上下文的概念作为构建块，开发了一种新的表示方法。由此产生的模型称为ShapeContextNet，它由一个层次结构组成，其中的模块不依赖于固定的网格，同时仍具有类似于卷积神经网络的特性——能够捕获和传播对象部分信息。 此外，从基于自我注意的模型中得到启发，将自注意力应用到点云。 Shape Context Net是一种端到端模型，可应用于一般的点云分类和分割问题。 图1：三维中的形状上下文内核来捕捉空间信息 引言 我们的论文将重点放在开发一种用于点云分类的深度学
.net context(上下文)
dsadasjdka的博客
03-28 1888
以前看到context只知道是一个上下文，具体的作用：当时的大概理解就是表面意思，就是一种关联关系，再具体点就说不清楚了 今天详细的看了下，话不多说上图： 进程（Process）、线程（Thread）、应用程序域（AppDomain）、上下文（Context）的关系如图，一个进程内可以包括多个应用程序域，也有包括多个线程，线程也可以穿梭于多个应用程序域当中。但在同一个时刻，线程只会处于...
Transformers with convolutional context for ASR
pitaojun的博客
08-23 467
Transformers with convolutional context for ASR (1)论文思路 将原来sinusoidal 的位置编码用卷积学到的输入表征所代替，相对于原来的绝对位置表征，这种相对位置的编码效果更有利于后面的transformer 去发现长距离的依赖关系。具体效果：在LIbrispeech 无LM模型条件下WER达到4.7%（clean)和12.9%(other). (2）模型结构 左边的结构为transformer 一个layer的组成： 右边的结构为加入context后
SCNet论文详解：Improving Convolutional Networks with Self-calibrated Convolutions
baidu_32335419的博客
06-23 2210
《Improving Convolutional Networks with Self-calibrated Convolutions》是2020年CVPR的论文，作者来自于南开大学程明明团队。最近各种卷积注意力组合的模块工作层出不穷，性能涨点明显，包括之前的Res2Net、李沐团队的ResNeSt，应该是近期的热点方向。 论文地址:http://mftp.mmcheng.net/Papers/20cvprSCNet.pdf 代码地址:https://github.com/MCG-NKU/SCNet 一、.
N-fold Superposition: Improving Neural Networks by Reducing the Noise in Feature Maps
02-08
Considering the use of Fully Connected (FC) layer limits the performance of Convolutional Neural Networks (CNNs), this paper develops a method to improve the coupling between the convolution layer and...
CTR特征建模：ContextNet & MaskNet(Twitter在用的排序模型)
最新发布
sgyuanshi的博客
10-10 574
微博在CTR特征(Embedding)重要性建模方面的一些实践方向，今天再来学习下这个方面的两个相关研究：致力于特征和特征交互精炼(refine)的ContextNet和MaskNet，其中MaskNet也是Twitter(推特)使用的精排模型底座。
Convolutional Neural Networks for Speech Recognition///2014
qq_42193412的博客
07-22 1005
论文地址：https://www.microsoft.com/en-us/research/publication/convolutional-neural-networks-for-speech-recognition-2/ 提取Audio特征用 (在每个卷积层，数据都是以三维形式存在的。你可以把它看成许多个二维图片叠在一起，其中每一个称为一个feature map。在输入层，如果是灰度图片...
Convolutional Neural Networks for Speech
极度视界
12-26 8437
Convolutional Neural Networks for Speech
Transformer论文详解，论文完整翻译（九）
ws_nlp_的博客
06-22 504
Transformer论文详解，论文完整翻译（九） 第五章 训练 这一章描述了我们模型的训练过程。 （个人总结，请勿转载）
ConvLWS(local/limited weight sharing):Convolutional Neural Networks for Speech Recognition 论文笔记&理解
qq_27292549的博客
04-12 2434
直接解释我理解的ConvLWS(local/limited weight sharing，局部/限制性参数共享)，不讲论文性能和其他相关东西，性能当然是杠杠的。 本论文只考虑conv1d，即只对frequency进行conv操作，所以time维度没有卷积操作，但实际上，time维度因为有一个上下文context信息（一般取11帧），所以也是相当于做了time上面的conv的操作的。 对于一句话的输入特征设为T*F,delta和delta-delta都加上得到T*(F*3),context取11进行拼帧得
推荐系统遇上深度学习(一二零)-[微博]使用上下文信息来优化特征嵌入的CTR预估框架...
abcdefg90876的博客
08-01 691
今天给大家分享一篇来自微博的点击率预估论文，借鉴NLP领域的ELMO和Bert的思想，提出了一种使用上下文信息来优化特征嵌入的CTR预估框架，一起来看一下。1、背景特征交互的学习对于CTR...
深度学习论文阅读：Convolutional Neural Networks for Sentence Classification （TextCNN）
guangyacyb的博客
03-07 1719
这是一篇将CNN运用于句子分类的论文 摘要 We report on a series of experiments with convolutional neural networks (CNN) trained on top of pre-trained word vectors for sentence-level classification tasks. We show that ...
.NET MVC5专题（请求上下文HttpContext详解）
热门推荐
一点一滴
01-14 2万+
/// 所谓6大对象，其实就是HttpContext的属性 /// Request：url参数 form参数 url地址 urlreferer content-encoding，就是http请求提供的各种信息,后台里面都是可以拿到的context.Request.Headers[“User-Agent”]；包括自定义的–BasicAuth; 请求信息的解读是asp.net_isapi按照http...
Context都没弄明白，还怎么做Android开发？
菜鸟叔
05-17 4313
Activity mActivity =new Activity() 作为Android开发者，不知道你有没有思考过这个问题，Activity可以new吗？Android的应用程序开发采用JAVA语言，Activity本质上也是一个对象，那上面的写法有什么问题呢？估计很多人说不清道不明。Android程序不像Java程序一样，随便创建一个类，写个main()方法就能运行，Android应用模型是
improving convolutional networks with self-calibrated convolutions
03-16
自校准卷积是一种改进卷积神经网络的方法。它通过在卷积层中引入自适应的权重调整机制，使得网络能够更好地适应不同的输入数据。这种方法可以提高网络的准确性和鲁棒性，特别是在处理复杂的图像数据时效果更为显著。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值