![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
不忘初心,坚持前行
这个作者很懒,什么都没留下…
展开
-
论文学习笔记 - BIRNN - 1
单向RNN(forward和backward)只利用了序列数据其中一个方向的信息(left-to-right或者right-to-left),信息量不够,在很多任务中往往达不到性能要求。要想提高模型性能就要尽可能多的利用数据信息,该如何利用序列两个方向上的信息?至少有2种方式可以利用序列数据两个方向上的信息,一是merge两个不同方向的RNN,二是BiRNN。 Merge Merge是...原创 2019-04-14 11:11:29 · 1160 阅读 · 0 评论 -
论文学习笔记-Batch Normalization-1
Batch normalization对数据进行标准化,标准化之后数据的均值为0,方差为1。Batch normalization是解决神经网络中的内部单元的internal covariate shift问题。 Internal covariate shift,由于网络参数变化,输入变化等原因,造成网络内部状态发生偏移,导致激活函数的输入在饱和区域,或者激活函数关于其输入的导数接近于0...原创 2019-04-27 15:15:02 · 157 阅读 · 0 评论 -
论文学习笔记-t-SNE-1
在机器学习任务中,通常情况下,数据具有很高的维度,直接展示数据的分布情况很困难,可通过统计分析数据的分布情况来了解数据。统计分析概率分布固然好,也仅仅是个抽象的表示,始终不能对数据有个直观的认识。数据可视化通过降维,在低维空间直观展示数据,大大促进对数据的认识。 t-SNE(t-Distribution Stochastic Neighbor Embedding)是在SNE(Stochastic...原创 2019-06-02 17:06:55 · 1756 阅读 · 0 评论