- 博客(6)
- 资源 (2)
- 收藏
- 关注
原创 基于Visual attention的图片主题生成
引言Attention model 在序列end to end问题上广泛应用,结合RNN、LSTM、GRU等常用递归神经网络可以取得很好的效果;在计算机视觉领域也有非常广泛的利用,因为序列因素的存在,所以通常在图文转换或者视频描述等应用中出现。Visual attention model的意义在引入Attention(注意力)之前,图像识别或语言翻译都是直接把完整的图像或语句直接塞到一个输入,然后
2016-11-07 19:47:26 7357 3
原创 极限学习机(ELM)
1. 引言极限学习机(extreme learning machine)ELM是一种简单易用、有效的单隐层前馈神经网络SLFNs学习算法。2004年由南洋理工大学黄广斌副教授提出。传统的神经网络学习算法(如BP算法)需要人为设置大量的网络训练参数,并且很容易产生局部最优解。极限学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值以及隐元的偏置,并且产生唯一的最优解,因此具有学
2016-11-10 20:21:41 8214 1
原创 一种机器翻译的评价准则——Bleu
1. 引言在牵涉到语句生成尤其是机器翻译的应用领域,如何衡量生成语句与参考语句之间的相似性是一个很重要的问题,而在2002年Kishore Papineni et al.就提出了一个经典的衡量标准Bleu,如今这篇文献已经引用量过万,因此是NLP领域必读文章之一。2. 论文中使用的例子论文中给出了四个例子来辅助解释算法,每个例子都有待评价(Candidate)语句和标准参考(Reference)语句
2016-11-10 14:41:38 15554 2
原创 Ubuntu14.04 & CUDA8.0 & Theano & Tensorflow & TensorLayer & Cudnn安装血泪史
1、安装Ubuntu系统这个只要用优盘做一个启动盘就好,然后安装就好了,为了之后cuda安装顺利,这里特别提示/tmp挂载点尽量大一点,我也不知道具体需要多大,反正我给了100G。2、卸载和安装显卡驱动为了之后安装NVIDIA显卡驱动,需要把Ubuntu系统自带的两个驱动给卸载掉(1)屏蔽集显nouveau,编辑黑名单文件sudo gedit /etc/modprobe.d/blacklist.co
2016-11-08 20:28:01 1303
原创 Attention model
引言Attention model(AM)最先在计算机视觉中被应用于图片识别的问题,之后在自然语言处理(NLP)和计算机视觉(CV)中经常结合递归神经网络结构RNN、GRU、LSTM等深度学习算法,被称之为Recurrent Attention Model(RAM),其核心就是一个Encoder-Decoder的过程。传统的Encoder-Decoder模型例如RNN在做文本翻译是把一个输入语句(x
2016-11-08 16:14:59 15884 1
原创 基于attention的video描述
引言这片博文内容主要基于2015年Y Li的论文Video Description Generation Incorporating Spatio-Temporal Features and a Soft-Attention Mechanism,本文将soft-attention机制引入到视频描述中。视频特征提取采用一个用动作识别视频集训练的3-D CNN网络,之后利用soft-attention机
2016-11-07 19:26:24 5476 1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人