- 博客(21)
- 资源 (6)
- 收藏
- 关注
RSS订阅原创 [DeeplearningAI笔记]序列模型3.3-3.5集束搜索
5.3序列模型与注意力机制觉得有用的话,欢迎一起讨论相互学习~Follow Me3.3 集束搜索Beam Search对于机器翻译来说，给定输入的句子，会返回一个随机的英语翻译结果，但是你想要一个最好的英语翻译结果。对于语音识别也是一样，给定一个输入的语音片段，你不会想要一个随机的文本翻译结果，你想要一个最接近愿意的翻译结果。Jane visite l’Afrique en...
2018-08-31 15:21:47
637
原创 [DeeplearningAI笔记]序列模型3.2有条件的语言模型与贪心搜索的不可行性
5.3序列模型与注意力机制觉得有用的话,欢迎一起讨论相互学习~Follow Me3.2选择最可能的句子 Picking the most likely sentencecondition language model 有条件的语言模型 * 对于 语言模型 ，能够估计出这些单词是一个句子的可能性，也可以用其生成一个新的句子。 * 对于 机器翻译模型 使用绿色表示 编码...
2018-08-30 20:25:14
357
原创 [DeeplearningAI笔记]序列模型3.1基本的 Seq2Seq /image to Seq
5.3序列模型与注意力机制觉得有用的话,欢迎一起讨论相互学习~Follow Me3.1基础模型 [1] Sutskever I, Vinyals O, Le Q V. Sequence to Sequence Learning with Neural Networks[J]. 2014, 4:3104-3112. [2] Cho K, Van Merrienboer ...
2018-08-30 15:40:13
1077
原创 [DeeplearningAI笔记]序列模型2.10词嵌入除偏
5.2自然语言处理觉得有用的话,欢迎一起讨论相互学习~Follow Me2.10词嵌入除偏 Debiasing word embeddings Bolukbasi T, Chang K W, Zou J, et al. Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddi...
2018-08-30 10:59:53
623
原创 [DeeplearningAI笔记]序列模型2.9情感分类
5.2自然语言处理觉得有用的话,欢迎一起讨论相互学习~Follow Me2.9 Sentiment classification 情感分类情感分类任务简单来说是看一段文本，然后分辨这个人是否喜欢或不喜欢他们正在谈论的这段文本。情感分类 一个最大的挑战是可能标记的训练集没有那么多，但是有了词嵌入，即使只有中等大小标记的训练集也能构建一个不错的情感分类器。问题引入...
2018-08-30 09:37:39
417
原创 [DeeplearningAI笔记]序列模型2.8 GloVe词向量
5.2自然语言处理觉得有用的话,欢迎一起讨论相互学习~Follow Me2.8 GloVe word vectors GloVe词向量 Pennington J, Socher R, Manning C. Glove: Global Vectors for Word Representation[C]// Conference on Empirical Methods in...
2018-08-29 21:26:23
374
原创 [DeeplearningAI笔记]序列模型2.7负采样Negative sampling
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me2.7 负采样 Negative sampling Mikolov T, Sutskever I, Chen K, et al. Distributed representations of words and phrases and their compositionality[C]// Intern...
2018-08-29 18:54:15
2366
5
原创 [DeeplearningAI笔记]序列模型2.6Word2Vec/Skip-grams/hierarchical softmax classifier 分级softmax 分类器
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me2.6 Word2VecWord2Vec相对于原先介绍的词嵌入的方法来说更加的简单快速。 Mikolov T, Chen K, Corrado G, et al. Efficient Estimation of Word Representations in Vector Space[J]. C...
2018-08-29 14:16:27
996
原创 [DeeplearningAI笔记]序列模型2.3-2.5余弦相似度/嵌入矩阵/学习词嵌入
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me2.3词嵌入的特性 properties of word embedding Mikolov T, Yih W T, Zweig G. Linguistic regularities in continuous space word representations[J]. In HLT-NAACL, 2...
2018-08-28 20:04:38
1748
原创 [DeeplearningAI笔记]序列模型2.1-2.2词嵌入word embedding
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me2.1词汇表征 Word representation原先都是使用词汇表来表示词汇，并且使用1-hot编码的方式来表示词汇表中的词汇。 这种表示方法最大的缺点是 它把每个词孤立起来，这样使得算法对相关词的泛化能力不强例如：对于已知句子“I want a glass of orange _ ” 很可...
2018-08-28 11:15:45
417
原创 [DeeplearningAI笔记]序列模型1.10-1.12LSTM/BRNN/DeepRNN
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me1.10长短期记忆网络(Long short term memory)LSTM Hochreiter S, Schmidhuber J. Long Short-Term Memory[J]. Neural Computation, 1997, 9(8):1735-1780.门控循环神经网络单元...
2018-08-27 20:15:51
1205
原创 [DeeplearningAI笔记]序列模型1.7-1.9RNN对新序列采样/GRU门控循环神经网络
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me1.7对新序列采样基于词汇进行采样模型在训练完一个模型之后你想要知道模型学到了什么，一种非正式的方法就是进行一次新序列采样。 一个序列模型模拟了任意特定单词序列的概率，对新序列采样即是对概率分布进行采样来生成一个新的单词序列。假设你的RNN训练模型为: 对于新序列进行采样第一步即是对想要模...
2018-08-21 22:21:16
1692
原创 [DeeplearningAI笔记]序列模型1.5-1.6不同类型的循环神经网络/语言模型与序列生成
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me1.5不同类型的循环神经网络上节中介绍的是 具有相同长度输入序列和输出序列的循环神经网络，但是对于很多应用Tx和TyTx和TyT_{x}和T_{y}并不一定相等。 在此节会介绍不同的能够处理不同问题的循环神经网络。多对多循环神经网络对于命名实体识别的问题中，RNN的输出和输入序列长度一致...
2018-08-21 11:14:29
977
原创 [DeeplearningAI笔记]序列模型1.3-1.4循环神经网络原理与反向传播公式
5.1循环序列模型觉得有用的话,欢迎一起讨论相互学习~Follow Me1.3循环神经网络模型为什么不使用标准的神经网络假如将九个单词组成的序列作为输入，通过普通的神经网网络输出输出序列， 在不同的例子中输入数据和输出数据具有不同的长度，即每个数据不会有一样的长度 也许每个语句都有最大长度，能够通过Padding 的方式填充数据，但总体来说不是一个好的表达方式。...
2018-08-20 17:00:13
346
原创 [DeeplearningAI笔记]序列模型1.1-1.2序列模型及其数学符号定义
4.4特殊应用:人脸识别和神经网络风格转换觉得有用的话,欢迎一起讨论相互学习~Follow Me5.1什么是序列模型在进行语音识别时，给定了一个输入音频片段X，并要求输出片段对应的文字记录Y，这个例子中的输入和输出都输序列数据。因为X是一个按时序播放的序列音频而输出Y是一系列单词。音乐生成使用的也是序列数据，在这个例子中只有输出数据Y是序列，而输入数据可以是空集也可以是个单...
2018-08-19 13:37:14
887
原创 [DeeplearningAI笔记]卷积神经网络4.11一维和三维卷积
4.4特殊应用:人脸识别和神经网络风格转换觉得有用的话,欢迎一起讨论相互学习~Follow Me4.11一维和三维卷积二维和一维卷积 * 对于2D卷积来说，假设原始图像为14∗14∗314∗14∗314*14*3的三通道图像，使用32个5∗5∗35∗5∗35*5*3的卷积核(其中3表示通道数，一般只关注感受野的大小，而卷积核的深度大小与输入的通道数相同)进行卷积，则得...
2018-08-18 21:37:19
2510
原创 [DeeplearningAI笔记]卷积神经网络4.6-4.10神经网络风格迁移
4.4特殊应用:人脸识别和神经网络风格转换觉得有用的话,欢迎一起讨论相互学习~Follow Me4.6什么是神经网络风格转换neural style transfer将原图片作为内容图片Content，风格图片Style，生成的图片用Generated image 表示。 4.7深度卷积神经网络在学什么What are deep ConvNets lear...
2018-08-18 20:51:42
678
原创 [DeeplearningAI笔记]卷积神经网络4.1-4.5 人脸识别/one-shot learning/Siamase网络/Triplet损失/将面部识别转化为二分类问题
4.4特殊应用:人脸识别和神经网络风格转换觉得有用的话,欢迎一起讨论相互学习~Follow Me4.1什么是人脸识别Face verification人脸验证 VS face recognition人脸识别Face verification人脸验证人脸验证 输入是一张图片，以及人的姓名或者ID作为标签输出是这张输入的图片是否是这个确定的人这时候也被称为1...
2018-08-16 21:47:33
723
1
原创 [DeeplearningAI笔记]卷积神经网络3.10候选区域region proposals与R-CNN
4.3目标检测觉得有用的话,欢迎一起讨论相互学习~Follow Me3.10 region proposals候选区域与R-CNN基于滑动窗口的目标检测算法将原始图片分割成小的样本图片，并传入分类器进行检测。基于卷积神经网络的滑动窗口目标检测方法把原始图像分割成小的网格，并分别在网格中检测是否有目标对象。有人提出在基于普通滑动的目标检测方法中有很多小的样本图片中是空的是没...
2018-08-14 17:25:29
1206
原创 [DeeplearningAI笔记]卷积神经网络3.6-3.9交并比/非极大值抑制/Anchor boxes/YOLO算法
4.3目标检测觉得有用的话,欢迎一起讨论相互学习~Follow Me3.6交并比intersection over union交并比函数(loU)可以用来评价对象检测算法，可以被用来进一步改善对象检测算法的性能。如何评价一个算法的好坏，即如图中假设红色框线表示 真实的对象所在边界框，紫色框线表示 模型预测的对象所在边界框.通过计算两个边界框交集和并集的比用于评价对象检测算法...
2018-08-14 15:50:02
3072
1
原创 [DeeplearningAI笔记]卷积神经网络3.1-3.5目标定位/特征点检测/目标检测/滑动窗口的卷积神经网络实现/YOLO算法
4.3目标检测觉得有用的话,欢迎一起讨论相互学习~Follow Me3.1目标定位对象定位localization和目标检测detection判断图像中的对象是不是汽车–Image classification 图像分类不仅要判断图片中的物体还要在图片中标记出它的位置–Classification with localization定位分类当图片中有 多个 对象时...
2018-08-13 21:14:40
9503
1
multi objective optimization in computational intelligence theory and practice
2019-02-03
Book.Ant Colony Optimization.M.Dorigo 蚁群优化算法经典书籍
2018-10-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人