![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
20%橙小鱼
希望成为一个内外兼修的五好小可爱。
所以每天都要努力鸭~
展开
-
【CS224n】笔记2&3 word2vec&高级词向量
一、word2vec回顾:skip-gramsskip-grams和CBOW都属于word2vec的方法,word2vec主要讲了skip-grams,其主要步骤是遍历整个语料库,利用每个窗口的中心词来预测上下文的单词,然后对每个这样的窗口利用SGD来进行参数的更新。第2课 word2vec小总结输入层是一个代表单词的onehot编码。所以和每句话的长度无关,输入层的节点是和语料库大小...原创 2019-01-04 17:14:29 · 384 阅读 · 0 评论 -
【CS224n】笔记4&5 Word Window分类与神经网络和反向传播
这节课介绍了根据上下文预测单词分类的问题,与常见神经网络课程套路不同,以间隔最大化为目标函数,推导了对权值矩阵和词向量的梯度;初步展示了与传统机器学习方法不一样的风格。课程概要1、分类问题背景2、窗口分类与交叉熵导数建议3、后馈(Backpropagation)训练一、分类问题背景1、分类的一些主要符号说到分类任务,我们一般会有一个数据集包含样本:xi:是一个 d-维向量,表示输入...原创 2019-01-08 22:25:48 · 266 阅读 · 0 评论 -
【CS224n】笔记7 TensorFlow入门
1 TF是什么?2. 主要过程2.1 参数variables和占位符placeholder的区别3 训练3.1 我们如何定义一个loss?3.2 loss定义完后,我们就要开始计算梯度(gradients)3.3 最后一步,我们需要创建一个迭代的学习模型4 总结5 用TensorFlow实现线性模型6 用TensorFlow实现word2vec的skipgram1 TF是什么...原创 2019-01-16 17:10:11 · 223 阅读 · 0 评论 -
【CS224n】笔记8 RNN和语言模型
1 语言模型语言模型就是计算一个单词序列(句子)的概率(P(w1,…,wm))的模型。例如在机器翻译的问题中:在翻译"猫很小"时,单词的语序问题中我们会使概率 P(the cat is small) > P(small the is cat);在翻译"放学后走回家"时,单词的选择问原创 2019-01-22 19:57:29 · 453 阅读 · 0 评论 -
深度学习算法和相关知识博客记录
梯度下降(1)mini-batch SGD 小批量随机梯度下降(例子写的很清楚,感觉好理解)原创 2019-03-29 16:12:43 · 157 阅读 · 0 评论 -
声纹识别相关&安装VMware-ubuntu&linux操作
一、声纹识别:你的声音是这样被“破译”的!得到了特征向量(均值超矢量),我们接下来就是计算输入语音与系统中注册的说话人模型之间的相似性,也就是进行打分。在说话人确认中采用的一种方法就是计算似然比得分。已知H0表示测试语音X来自说话人S,已知H1表示测试语音X不是来自说话人S,那么似然比得分可以表示为 当得分Score(X)大于阈值时,表示测试语音属于说话人S,小于阈值则不属于该说话人。De...转载 2019-05-22 15:05:47 · 413 阅读 · 0 评论