循环神经网络
文章平均质量分 65
skywuuuu
这个作者很懒,什么都没留下…
展开
-
LSTM基础
由来 Vanilla RNN无法记忆之前的信息,比如:“我来自中国……我能流利地说中文 ”,“中文”二字来自很长的语句之前,所以这个填空就很不好填。LSTM可以较好的解决这个问题。 结构 σ\sigmaσ代表sigmoid函数,黄色的框框代表可被训练的layer,红色的圈圈代表直接的运算 核心 门的理念:让被允许通过的信息通过,阻止不被允许通过的信息通过。sigmoid的值域为[0,1],再加上乘法,就可以决定让百分之多少的信息通过。从极值来看,sigmoid的output为0代表所有信息都无法通过,1原创 2021-02-26 14:29:05 · 126 阅读 · 0 评论 -
RNN初探(vanilla RNN)
RNN初探 前言 实习工作需要,不得不入个新坑。 为什么需要Recurrent Neuron Network (RNN) 全连接神经网络(FCN)和卷积神经网络(CNN)所针对的输入对象相互之间可以没有关系,不分先后顺序,比如如果要对猫和狗的图像进行分类,猫和狗的输入顺序是无所谓的。不过,如果要识别视频中狗的动作,那么就需要一个新的网络(当然这里就是RNN啦)来分析这种序列数据。 举例 序列数据其实在生活中无处不在: 机器翻译 异常检测(图像) 股票分析预测 天气与蚊虫繁殖的关系… 只要有序列数据,原创 2020-12-30 16:43:58 · 2308 阅读 · 1 评论