论文阅读：ReNet: A Recurrent Neural Network Based Alternative to Convolutional Networks

1 摘要

本文提出一个叫ReNet的深度神经网络结构用于目标识别，该网络使用RNN代替了大部分的卷积+池化操作部分，通过使用RNN单元对图像块进行横向扫描、垂直扫描得到两个特征图再进行拼接。该网络在MNIST、CIFAR-10、SVHN数据集均有较好的表现。

2 亮点

2.1 使用RNN处理图像

作者认为使用池化层+卷积层会使得图像的信息丢失严重。因此作者使用RNN来避免池化操作。RNN一般是用于处理序列数据，如：语音识别、机器翻译等，RNN的结构图如下：

可以看到左边的RNN可以展开成右边，每个时刻的RNN都与当前和之前的有关。有关RNN更详细的资料可以参考：

RNN—从入门到放弃

而如果是处理图像，一般使用的是多维RNN，就是RNN有很多层。这样会使得计算量变得很大。而作者提出的RNN处理方式，不同于一般处理图片的RNN是使用多维RNN处理的。所以作者打算每次只处理图像的一行或者一列，使用BRNN处理（BRNN详细资料戳这！），BRNN就是双向的RNN。将图片划分成IxJ块，每块大小为$w_p$ × $h_p$