深度学习
对各个神经网络学习的记录
AI-CTY
这个作者很懒,什么都没留下…
展开
-
长短时期记忆(LSTM)及门控循环单元(GRU)网络结构
一、背景1、RNN自身可以通过不停的将信息循环操作,保证信息持续存在,从而可以利用前面得事件信息来对后面得事件进行分类操作。2、RNN处理这类任务时不一定就可以完全得理解之前的记忆,因为在语句过长得情况下,之前的文本内容在传到后期时已经不再具有那么的信息。(1)在‘the clouds are in the sky’中,如果最后进行预测,则我们可以大概率的将sky进行预测出来。(2)若在一...原创 2020-03-22 13:51:12 · 4413 阅读 · 0 评论 -
循环神经网络(RNN)之网络结构解析
一、RNN的前向传播结构t时刻输入: XtX_{t}Xt 、St−1S_{t-1}St−1t时刻输出: hth_{t}htt时刻中间状态: StS_{t}St上图是一个RNN神经网络的时序展开模型,中间t时刻的网络模型揭示了RNN的结构。可以看到,原始的RNN网络的内部结构非常简单。神经元A在t时刻的状态仅仅是(t-1)时刻神经元状态St−1S_{t-1}St−1,与(t...原创 2020-03-22 13:50:48 · 1831 阅读 · 0 评论 -
循环神经网络(RNN)之入门篇
的萨芬原创 2020-03-22 13:51:52 · 532 阅读 · 0 评论 -
BP(Back Propagation)神经网络
一、导数1、导数的公式及几何意义(1)(2)几何意义为当函数定义域和取值都在实数域中的时候,导数还可以表示函数曲线上的切线斜率。同时还表示在该点的变化率。(3)在一元函数中只有一个自变量的变动,表示只存在一个方向的变化率,此时一元函数没有偏导数2、偏导数(1)若为偏导数则必须涉及两个或者以上的向量,此文以两个自变量为例,z = f(x,y),此时则不再曲线,而表示的是曲面。曲线中我...原创 2020-03-22 13:53:57 · 293 阅读 · 0 评论 -
卷积神经网络(CNN)之网络结构解析
CNN的层级结构一、数据的输入层二、卷积计算层-1、原创 2020-03-22 13:52:17 · 943 阅读 · 0 评论 -
卷积神经网络(CNN)之入门篇
一、简介原创 2020-03-22 13:53:01 · 499 阅读 · 0 评论