在上一篇文章神经网络的数学原理(一):简单的预测机与分类器模型中,我们通过两个简单的例子对训练与迭代、学习率与适度改进有了一个大致的了解。之后的内容就正式进入这个系列的中心——神经网络的数学原理部分了。
1. 神经元——大自然创造的计算机
人类大脑大约具有1000亿个神经元,一只果蝇大约具有10万个神经元,而一只线虫仅仅具有302个神经元。
302个神经元,这与今天的计算机所具有的资源相比简直微乎其微。但是,一只线虫可以完成一些相当有用的任务,传统的计算机程序面对这些任务却无能为力。
计算机拥有大量的电子计算元件、巨大的存储空间,运行频率比生物大脑快的多,但为什么生物大脑的能力要远大于电子计算机?我们可以从二者架构的不同之处入手:传统的计算机按照严格的串行顺序准确处理数据,但生物大脑对信号的处理方式却似乎是并行的,节奏慢得多,并且具有模糊的特征。
虽然大脑的一些功能至今仍然不甚明确,但我们可以从一些简单的部分入手更深入的了解大脑,比如说,我们来看看神经元是如何工作的。
就像我们曾经介绍过的机器