赫布理论 —— 机器学习思想的萌芽

今天读到一篇文章中有一句话提到：“从1642年Pascal发明的手摇式计算机再到1949 Donald Hebb提出的赫布理论——解释学习过程中大脑神经元所发生的的变化蕴含着机器学习思想的萌芽。” 所以特意上网查找了资料做以摘录。

赫布理论（英语：Hebbian theory）

是一个神经科学理论，解释了在学习的过程中脑中的神经元所发生的变化。赫布理论描述了突触可塑性的基本原理，即突触前神经元向突触后神经元的持续重复的刺激，可以导致突触传递效能的增加。

赫布理论解释了神经元如何组成联接，从而形成记忆印痕。赫布理论阐明了细胞集群（Cell Assemblies）的形态和功能：“两个神经元或者神经元系统，如果总是同时被激发，就会形成一种‘组合’，其中一个神经元的激发会促进另一个的激发。”赫布同时写道：“如果一个神经元持续激活另一个神经元，前者的轴突将会生长出突触小体（如果已有，则会继续长大）和后者的胞体相连接。”

在人工神经网络中，突触间传递作用的变化被当作是（被映射成）神经元网络图中相应权重的变化。如果两个神经元同步激发，则它们之间的权重增加；如果单独激发，则权重减少。赫布学习规则是最古老的也是最简单的神经元学习规则。