深度学习
lgy54321
这个作者很懒,什么都没留下…
展开
-
卷积神经网络
文章目录卷积神经网络卷积层卷积参数共享原则池化层卷积神经网络的组成卷积神经网络卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。 它包括卷积层(convolutional layer)和池化层(pooling layer)。对比:卷积神经网络、全连接神经网络左图...原创 2019-07-23 08:05:25 · 330 阅读 · 0 评论 -
DNN
文章目录前向传播从感知机到神经网络DNN的基本结构DNN前向传播算法数学原理DNN前向传播算法反向传播算法(BP)DNN反向传播算法要解决的问题DNN反向传播算法的基本思路DNN反向传播算法过程损失函数和激活函数的选择均方差损失函数+Sigmoid激活函数的问题使用交叉熵损失函数+Sigmoid激活函数改进DNN算法收敛速度使用对数似然损失函数和softmax激活函数进行DNN分类输出前向传播...原创 2019-08-19 16:55:11 · 3668 阅读 · 2 评论 -
RNN(循环神经网络)
文章目录RNN概述RNN模型RNN前向传播算法RNN反向传播算法推导RNN小结DNN的特例CNN的模型和前向反向传播算法,这些算法都是前向反馈的,模型的输出和模型本身没有关联关系。今天我们就讨论另一类输出和模型间有反馈的神经网络:循环神经网络(Recurrent Neural Networks ,以下简称RNN),它广泛的用于自然语言处理中的语音识别,手写书别以及机器翻译等领域。RNN概述在...原创 2019-08-20 15:00:39 · 812 阅读 · 0 评论 -
LSTM与BI-LSTM
文章目录从RNN到LSTMLSTM模型结构剖析LSTM之遗忘门LSTM之输入门LSTM之细胞状态更新LSTM之输出门LSTM前向传播算法LSTM反向传播算法推导关键点从RNN到LSTM在RNN模型里,我们讲到了RNN具有如下的结构,每个序列索引位置t都有一个隐藏状态h(t)。 如果我们略去每层都有的o(t),L(t),y(t)o^{(t)}, L^{(t)}, y^{(t)}o(t),...原创 2019-08-21 10:16:58 · 24116 阅读 · 2 评论