- 博客(18)
- 收藏
- 关注
RSS订阅原创 李宏毅《深度学习人类语言处理》-6笔记
P6-Alignment of HMM，CTC and RNN-T对于端对端的语音识别系统，比如说LAS：直接计算P(Y|X)对于序列中的第一个c0，它通过RNN计算P(a|c0)的概率生成出a之后，它又计算P(b|a,c0,c1)的概率……把每步计算的概率连乘起来就可以得到P(Y|X)训练的时候，是找一个最优的模型参数，来让P(Y^hat|X)越大越好。测试解码的时候，则是用Beam Search来遍历所有可能的Y，来让P(Y|X)越大越好。对于CTC和RNN-T，需要对齐操作。
2020-05-18 23:57:24
598
1
原创 软件构造5-2笔记
5.2 面向可维护性的设计模式笔记：summary本节主要讲了五种面向可维护性的设计模式：Creation patterns工厂方法模式抽象工厂模式Structural patterns代理模式Behavior patterns观察者模式访问者模式...
2020-05-03 20:09:14
91
原创 李宏毅《深度学习人类语言处理》-2 笔记
P2 Speech Recognition(Part 1)语音识别：语音是一个序列向量，长度为T，维度为d文字是一个序列token，长度为N，内容id为它在词表中的序号通常T是要远远大于N的。关于输出把文字想成是一个个的token。这个token可以是发音的基本单位Phoneme：例如WAHN PAHNCH MAEN，这其中每一个符号对应到一种声音。所以需要一个词表L...
2020-05-03 19:49:12
406
原创 软件构造5-1笔记
5.1可维护性的度量与构造原则笔记：summary本节主要讲解了以下内容：软件维护与演化可维护性的度量模块化设计与原则oo 设计原则：SOLIDoo 设计原则：GRASP...
2020-04-24 09:51:00
80
原创 软件构造4-3笔记
4.3 面向复用的设计模式笔记：summary本节主要讲解了以下内容：结构型模式适配器模式装饰器模式外观模式行为类模式策略模式模板模式迭代器模式...
2020-04-22 12:10:14
108
原创 软件构造4-2笔记
4.2 面向复用的软件构造技术笔记：summary本节主要讲解了以下内容：设计可复用类继承和重写重载参数多态性和泛型编程行为子类型与Liskov替换原则组合与委托设计可复用库与框架APL 和库框架Java集合框架...
2020-04-22 12:06:10
69
原创 软件构造4-1笔记
4.1 可复用性的度量 ，形态与外部表现笔记：summary：本节主要讲述：什么是软件复用？如何度量“可复用性”可复用部件的层次划分源代码层面、模块层面类库层面结构层面从外部观察者角度看可复用性需要满足类型可变（泛型）功能分组实现可变表示独立共性抽取...
2020-04-20 16:01:53
89
原创 软件构造3-5笔记
3.5 ADT和OOP中的“等价性”笔记：Summary等价性是实现抽象数据类型的一部分等价关系：自反、对称、传递等价性和hashcode必须彼此一致，这样在使用哈希表（如HashSet和HashMap）的数据结构才能正常工作抽象函数是不可变数据类型等价性的基础引用等价是可变数据类型等价性的基础，这是确保随时间变化的一致性和避免破坏哈希表的rep不变量的唯一办法Safe...
2020-04-03 10:19:12
77
原创 软件构造3-3笔记
3.3 抽象数据类型（ADT）笔记：summary抽象数据类型的特征是它们的操作操作可以分为构造器（Creator）、生产器（Producer）、观察器（Observer）、变值器（Matutor）ADT的规范是它的一组操作和它们的规约一个好的ADT是简单的、连贯的、适当的、独立的表示ADT的测试方法是为了每个操作生成测试，但是在相同的测试中使用构造器，生产器，观察器，变...
2020-03-27 19:14:03
128
原创 软件构造3-2笔记
3.2 设计规约笔记：summary规约就相当于开发者和用户之间的防火墙。使单独的开发成为可能：客户端可以自由的编写使用过程的代码，而不需要查看它的源代码：开发者可以自由的编写实现过程的代码，而不需要知道它如何被使用。Safe from bugs好的规约清楚地记录了客户端和开发者所依赖的相互假设。bug通常来自于接口上的分歧，规约的存在有利于减少bug。在规范中使...
2020-03-26 17:37:32
98
原创 软件构造3-1笔记
3.1 数据类型与类型检验笔记summary1.静态类型检查：提高安全。有助于在运行前捕获类型错误或其他bug，从而提高安全性。容易理解。有助于理解，因为类型是在代码中显式声明的。易于更改。静态检查通过标识需要更改的其他位置，使更改代码变得更加容易。例如，当你更改变量的名称或类型时，编译器会立即在使用该变量的所有地方显示错误，并提醒你已更新他们。2.可变性对于性能和便利性非常...
2020-03-26 16:59:19
77
原创 软件构造6-5笔记
6.5 软件测试与测试优先编程Summary测试优先的编程：在编写代码之前编写测试。选择测试用例的划分和边界，系统的白盒测试和填写测试套件的语句覆盖率。对每个模块进行单元测试，尽可能隔离。自动回归测试：以防止错误再次出现。测试就是在代码中发现bug，而测试优先编程就是在你引入bug之后尽快发现他们。...
2020-03-26 16:33:19
63
原创 CS224N(Lecture 10) -2019 斯坦福
Lecture 10(2019 斯坦福）Question Answering问答系统（简称QA）,是近几年比较火的NLP应用之一，常见的应用有：问答机器人、智能客服等。本节内容将主要讲解了斯坦福所提出的Stanford Attentive Reader模型，和简要分析一下其他相关模型。一、 是什么推动了问答系统？大量的文本文档集在手机上它的工作原理会更加有效，或者是数字助理设备（Al...
2020-03-26 16:17:59
123
原创 CS224N（Lecture 6）-2019 斯坦福
Lecture 6Language Models and RNNs一、传统的语言模型1.什么是语言模型？语言模型是做预测下一个单词会是什么这样的任务的系统。更正式一点，给定x(1)到x(t)的单词序列，语言模型就是计算下一个单词的概率分布（P（x( t +1)））。也可以将语言模型想成一个将概率分配给一段文本的一个系统。实际上你每天都在使用语言模型。如何学习语言模型？ ...
2020-03-16 17:42:13
155
原创 CS224N（Lecture2）
Lecture 2Word Vectors and Word Senses本节的主要内容包括：word2vec的优化word2vec的一些表示方法如何评价词向量word2vec的优化1. Review: Main ideal of word2vec遍历整个语料库中的每个单词每个单词用分别用中心词和上下文词两个向量表示更新参数以使目标函数最小化首先，有两个向量矩阵，分别...
2020-03-16 14:42:32
224
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人