从神经网络到深度学习（一 ）

神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。
                                                                                                                                 ——T.Koholen

神经网络的起源

神经网络最早起源于人们对于大脑的研究，当时科学家发现，人的大脑是一个非常神奇的东西，人的听、说、读、写，以及很多智能、复杂的行为都与大脑有关，人类大脑是一个可以产生意识、思想和情感的器官，不仅如此，大脑还具有非常强大的学习能力，它能够去学习和处理各种各样的信息，对于不同的外界信号，它都能够产生相应的反应，真的是一个非常强大的学习体。但是当时人们对于大脑的了解太少了，人们并不知道它内部的结构、底层的原理到底是什么，大脑对于人们来说，就像一个黑盒子，但是这并不能阻碍人们研究的脚步。

随着生物学的发展，人们慢慢了解到，人的大脑实际上是由神经元、神经胶质细胞等组成，其中，神经元也叫神经细胞， 是携带和传输信息的细胞，是人脑神经系统中最基本的单元。人的大脑包含了近860 亿个神经元，每个神经元又有上千个突触和其它神经元相连接。这些神经元和它们之间的连接形成巨大的复杂网络，其中的神经连接总长度可达数千公里。科学家们将这样一个复杂的网络称为生物神经网络。

人们认为，正是因为这样一个复杂的网络结构，就成为了人脑之所以这么强大的重要原因，因此，为了对它进行研究，科学家们仿造生物神经网络构造了一个模仿人脑神经系统的数学模型，称为人工神经网络，简称神经网络。

想要真正深入的了解神经网络，还是要从它最基本的结构开始。

神经元

神经元是一个神经网络中最基本的单元，在人脑中，