本文主要讲解Christian Szegedy、Wei Liu等人的Going deeper with convolutions,该文对 1×1 1 × 1 卷积核有一定应用(附注是笔者理解内容)。
Abstract
主要说了本文的贡献是提升模型的算力利用率,这个没什么好说的,主要是下面这句话:
To optimize quality, the architectural decisions were based on the Hebbian principle and the intuition of multi-scale processing.
本文方法基于多尺度处理和赫布定则,前者比较多见,后者笔者之前几乎没听说过,查阅过资料才知道它是指突触前神经元向突触后神经元的持续重复的刺激可以导致突触传递效能的增加。
看完后笔者惊呆了,以前知道 NN 可以说是仿生,但不知道真的能应用生物理论。
(未完待续)