CS231n李飞飞计算机视觉 循环神经网络

本文介绍了循环神经网络(RNN)及其变体LSTM在计算机视觉中的应用,如图像标注。RNN能处理序列数据,而LSTM通过其特殊的门控机制避免了梯度消失问题,提升了模型性能。LSTM包含输入、遗忘和输出门,以更精细的方式控制信息流动。总结中提到,RNN简单但可能存在梯度问题,而LSTM通过加法操作改善了这一状况。
摘要由CSDN通过智能技术生成

循环神经网络

循环神经网络:Recurrent Nerual Network,简称RNN。

 RNN可以有很多种结构,包括一对一的Vanilla网络,一对多的图像字幕,多对一的情感分类(处理一定数量的按顺序排列的词,然后试着把句子里的词,按正面和负面情感分类),多对多的机器翻译(将一个序列翻译成另一个序列)、视频分类。

RNN例子

RN有其自己内部的状态,但是在每个时间点接收内容,然后结合函数来修改自己的状态,也就是说影响RNN状态的因素不止有自己的状态还有接受内容。

可以将RNN的状态表达成这样一个函数:

其中h_{t}表示RNN在t时刻的状态,

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值