深度学习｜SNN-ResNet搭建

深度学习｜SNN-ResNet搭建

ResNet基本结构

已有的文章已经说的很详细了，这里就不再赘述，直接引用之
ResNet详解

SNN基本知识

SNN可以用如下方程综述

其中x是加权输入，w是权重，o是上一层的输入，u是当前节点电位，g是脉冲激活函数，f是衰减遗忘函数函数。在SNN构成的网络中训练如下图：

图片来自Spatio-Temporal Backpropagation for Training High-Performance Spiking Neural Networks

Wu Y , Deng L , Li G , et al. Spatio-Temporal Backpropagation for Training High-performance Spiking Neural Networks[J]. 2017.

SNN-ResBlock

第一种是维度发生变化的，两次及已更新分别发生在下图所示位置。其中的数据输入都是3D的

维度不发生变化的比较简单，但是shortcut依然经过一次batchnorm，这是因为上一层的输入经过memupdate和激活，可能导致分布出现偏差

ResNet具体结构

训练结果

ResNet18训练Imagenet 当前进度如下：

训练资源消耗

因为只是初步训练，不打算跑完整个实验，目前正在训练ResNet34。其他具体参暂不公开。