![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 87
&刘仔很忙
这个作者很懒,什么都没留下…
展开
-
深度聚类部分简述
摘要传统的K-means聚类算法,对于维度高、数量级大的数据集不能很好地执行聚类,甚至无法得到有效的聚类效果,在实际场景中难以应用。针对上述问题,2016年Deep Embedding Clustering (DEC)深度聚类算法被提出,从而引领了深度聚类算法研究的热潮。近两年的研究采用了自监督的学习策略,本文主要记录自己最近阅读的三篇有关深度聚类的文章。(PICA)Deep Semantic Clustering by Partition Confidence Maximisation..原创 2021-08-11 17:01:17 · 2964 阅读 · 0 评论 -
RNN的反向传播及RNN的梯度消失与梯度爆炸
这篇文章讲一下RNN的反向传播算法BPTT,及RNN梯度消失和梯度爆炸的原因。BPTTRNN的反向传播,也称为基于时间的反向传播算法BPTT(back propagation through time)。对所有参数求损失函数的偏导,并不断调整这些参数使得损失函数变得尽可能小。先贴出RNN的结构图以供观赏,下面讲的都是图中的单层单向RNN:...原创 2021-01-25 19:33:32 · 3226 阅读 · 0 评论 -
RNN与LSTM
RNN,或者说最常⽤的LSTM,⼀般⽤于记住之前的状态,以供后续神经⽹络的判断,它由input gate、forget gate、output gate和cell memory组成,每个LSTM本质上就是⼀个neuron,特殊 之处在于有4个输⼊: 和三⻔控制信号 、 和 每个时间点的输⼊都是由当前输⼊值+上⼀个 时间点的输出值+上⼀个时间点cell值来组成。介绍在智能客服、智能订票系统中,往往会需要slot filling技术,它会分析⽤⼾说出的语句,将时间、地址 等有效的关键词填原创 2021-01-25 12:33:42 · 1731 阅读 · 1 评论