神经网络历史

研究神经细胞

1873年，意大利组织学家Camillo Golgi（高尔基）发明了一种叫做银染色法的新染色方法，相对于之前的染色法，该方法呈现了神经细胞的一些细节。

创立神经元理论

西班牙组织学家Roman y Cajal改进了银染色法，在做了大量的关于神经系统的研究后，创建了神经系统的神经元理论，认为神经系统不是像一张大饼一样连续一块，而是由一个个微小神经细胞组成，这样的微小细胞叫做神经元。

1906年，这两人获得诺贝尔医学和生理学奖

功能性的假想模型

生理学家在研究神经细胞的三个重要组成部分（胞体、树突、轴突）时，发现总能记录到一个完整的脉冲波，所以称为“全或无原则（0或1）”。1943年McCulloch和Pitts运用数理逻辑方法（也就是0、1逻辑运算）对神经元的“全或无原则”功能进行建模，发表了《A Logical Calculus of the Ideas Immanent in Nervous Activity》一文，作为神经科学领域的第一个模型，影响深远，在明尼苏达大学认知科学中心于1999年举办了一次《千年项目》评选中，该文位列14，仅次于图灵的《论可计算数》[link]。作为开创性的模型有理论意义，但已经不常用了。

神经方程

意大利理论物理学家Caianiello在1961年提出神经方程（NE）和记忆方程，NE运用代数方法描述了更多的神经元特性：时空加权和、阀值性质、不应期和非线性性质。NE实际上是一个“决策”元件，根据多个输入做出（0、1）判断。

总结：生理学家的发现和理论物理家的模型是共生共涨的，他们时而分开、时而汇聚，分开后团聚必将引起新的质变，接着就是大牛Hopfield登场了。。。。。。