NLP-SR-LAS模型笔记

已于 2023-01-17 18:42:25 修改
阅读量230 收藏 1
点赞数
分类专栏： NLP李宏毅 speech recognition 文章标签： 自然语言处理 人工智能 Powered by 金山文档
于 2023-01-17 18:27:35 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zzyzxt/article/details/128718346
版权
本文介绍了NLP中的LAS模型，包括Listen、Attention和Spell三个部分。Listen阶段通过CNN+RNN组合进行信号处理；Attention层引入注意力机制，强调重要信息；Spell则利用上下文向量进行序列生成。训练中采用Teacher Forcing策略，并通过Beam Search优化解码过程。然而，LAS模型不适用于实时在线识别。
摘要由CSDN通过智能技术生成

1、LAS：Listen，Attend，and Spell

2、①seq2seq：一种重要的RNN模型，也称为Encoder-Decoder模型，可理解为一种N×M的模型。模型包含两部分：Encoder用于编码序列的信息，将任意长度的序列信息编码到一个向量c里，将一个可变长度的信号序列变成固定长度的向量表达。而Decoder是解码器，解码器得到上下文信息向量C之后可以将信息解码，并输出为序列，将这个固定长度的向量变成可变长度的目标信号序列。seq2seq模型结构有很多种，结构差异主要存在与decoder部分。通常encoder和decoder均采用RNN结构如LSTM或GRU等。可用于机器翻译、文本生成、语言模型、语音识别等领域。

②基于注意力的seq2seq：相较于普通的seq2seq模型多了个注意力层。简单来说不再由encoder直接将数据传给decoder，而是经过一个注意力层对encoder的输出进行加权，区分出对当前预测重要的数据，再根据这些重要的数据进行预测。

一、Listen

1.目标：杂讯去掉，只留下与语音辨识相关的信息

2.x1x2-b1

x1x2x3-b2

x2x3x4-b3

所以b1、b2、b3相当于已经包含了完整的神经系统

3.CNN+RNN组合搭配很常用。一般前几层用CNN，后几层用RNN

最低0.47元/天 解锁文章
JenoJisung
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Las点云通过FME建模
10-17
利用CAD轮廓，及Las点云高度建立简单3d模型，输出为pdf3d文件，不回复任何消息，自己看吧
LAS模型
weixin_44429447的博客
08-08 4287
1.论文出处 W. Chan, N. Jaitly, Q. Le and O. Vinyals, “Listen, attend and spell: A neural network for large vocabulary conversational speech recognition,” 2016 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Shanghai, 2016, pp
Speech Recognition模型：Listen, Attend and Spell (LAS)
u014765410的博客
08-23 914
LAS 模型有 encoder , decoder 两部分组成，encoder 部分主要用来听，decoder部分 输出听到的东西。
端到端语音识别模型LAS（listen-attention-spell）
weixin_47276710的博客
10-08 1558
端到端语音识别模型LAS概述和代码实现（pytorch）
语音识别之Listen, Attend and Spell（LAS）模型详解——语音信号处理学习（三）
m0_56942491的博客
10-23 980
在一开始，LAS 在一些小数据集上面训练出来的结果其实并不是很好，它和常规的深度学习结果还有一定的差距。但随着训练的数据集越来越大，LAS也开始起飞了，最终在12500hour+的数据集上反超了常规深度学习的算法，并且LAS在模型大小上（0.4 GB）还远胜于传统深度学习算法（7.2 GB）
自然语言处理-bert-base-chinese模型
最新发布
06-01
BERT（Bidirectional Encoder Representations from Transformers）是一种预训练语言表示模型，旨在为自然语言处理任务提供高质量的特征表示。bert-base-chinese 是 BERT 模型的一种变体，它在中文语料库上进行预...
自然语言处理-基于预训练模型的方法-笔记
09-01
《自然语言处理-基于预训练模型的方法》是一本深入探讨NLP领域中预训练模型的著作，由车万翔、郭江、崔一鸣合著。该书详细介绍了预训练模型在自然语言处理中的重要性和广泛应用，涵盖了从基础知识到前沿技术的多个...
自然语言处理-基于预训练模型的方法 笔记
12-30
自然语言处理（Natural Language Processing, NLP）是计算机科学领域的一个关键分支，专注于研究如何让计算机理解、生成和处理人类的自然语言。近年来，预训练模型在NLP领域取得了重大突破，极大地推动了自然语言...
自然语言处理-大模型-LLMs-面试题
02-29
### 自然语言处理-大模型-LLMs-面试题解析 #### 一、自然语言处理基础知识 1. **什么是自然语言处理(NLP)?** - 自然语言处理是一门计算机科学领域与人工智能领域的分支学科，它研究如何处理及运用自然语言；自然...
深度学习自然语言处理-Transformer模型.zip
08-29
Transformer模型是深度学习领域中自然语言处理（NLP）的一次重大突破，由Google的研究团队在2017年提出并发表在《Attention is All You Need》论文中。该模型摒弃了传统的循环神经网络（RNN）和卷积神经网络（CNN）...
语音识别-LAS模型
xmuci的博客
10-22 615
前提：将波形图转换成频率相关的频谱图，一般用一个长度为25ms的窗口从头开始，截取25ms的语音信息，称为第一帧，然后向后滑动10ms，再截取第二帧，依次类推，1秒的语音就被截成100帧，接下来对每一帧的波形信号进行变成频谱图，x轴为频率，y轴为强度，用不同颜色表示强度，全部叠加到一起可以得到对应的语谱图，颜色表示这些频率信号的强度。根据人类发声和听觉的特性，还要对原始的频谱进行三角滤波、取对数，再经过DCT变换（该过程被称为MFCC特征提取），结果得到一个39维的特征向量。
DLNLP学习笔记03（Speech Recognition: LAS模型）
GaLileo_C的博客
07-28 621
Listen, Attend, and Spell (LAS) [Chorowski. et al., NIPS’15] 论文地址：https://arxiv.org/pdf/1508.01211.pdf 1 模型简介： 2 Listen：其中Encoder可以为RNN，CNN或者RNN+CNN。 Listen-down sampling：（RNN） （CNN和Self-attention）【Dilated CNN（膨胀卷积），Truncated Self-attention（截断自注意
李宏毅NLP学习笔记，NLP模型LAS。
weixin_45799973的博客
09-29 1048
转自：http://t.zoukankan.com/yanqiang-p-13257228.html。
LAS模型及相关论文进展
weixin_43612049的博客
09-30 1984
LAS模型—Listen Attend and Spell 总： Listener部分 Speller部分 优点缺点 改进方法 相关论文及进展 个人制作，不喜勿喷，谢谢！ 实现代码，推荐：https://github.com/WindQAQ/listen-attend-and-spell...
postgresql点云las_点云模型_点云模型_模型_时空数据库_PolarDB PostgreSQL 云原生数据库 - 阿里云...
weixin_39667801的博客
12-21 128
INSERT INTO pointcloud_formats (pcid, srid, schema) VALUES (1, 4326,'xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">14X coordinate as a long integer. You must use thescale and offset informa...
一张图总结LAS,CTC,RNA,RNN-T,Neural Transducer, MoCha模型
折腾
05-07 1467
NLP-LSTM文本分类模型实战
qq_65838372的博客
09-09 206
【代码】NLP-LSTM文本分类模型实战。
分享本周所学——人工智能语音识别模型CTC、RNN-T、LAS详解
weixin_48978134的博客
06-26 9481
本人是一名人工智能初学者，最近一周学了一下AI语音识别的原理和三种比较早期的语音识别的人工智能模型，就想把自己学到的这些东西都分享给大家，一方面想用浅显易懂的语言让大家对这几个模型有所了解，另一方面也想让大家能够避免我所遇到的一些问题。然后因为我也只是一名小白，所以有错误的地方还希望大佬们多多指正。目录一、咋识别啊？二、CTC是啥玩意啊？1. 网络结构2. CTC Loss三、RNN-T又是个啥东西啊？1. 网络结构2. 坎坷的调试过程三、LAS又是怎么回事1. 网络结构 2. 没有那么坎坷的调试过程
语音辨识的模型
博学 笃志 切问 近思
08-11 1352
LAS模型介绍
GPT-3：重塑自然语言处理的巨无霸模型
"本文深入介绍了GPT-3，一个由OpenAI开发的具有1750亿参数的大型预训练自然语言处理模型。GPT-3通过无监督学习掌握了语言结构，无需特定任务微调就能执行多种语言任务，如文本生成、摘要、对话和翻译。该模型在内容...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值