第1.1章 神经网络初识（神经网络的历史、发展、生物神经网络和人工神经网络的类比、一题道出神经网络本质）

摘要：这篇文章主要讲神经网络的基础知识，包括神经网络的历史、发展及其原理，还包括了生物神经网络和人工神经网络的类比和一题道出神经网络本质。希望能帮大家更好的理解神经网络。

一、神经网络历史

神经网络最早来源于某神经生理学家和某数学家联合发表的一篇论文，他们对人类神经运行规律的提出了一个猜想，并尝试给出一个建模来模拟人类神经元的运行规律。

二、神经网络发展

一开始由于神经网络求解问题的不稳定，以及范围有限被抛弃。后面又在各个大神的努力下，对遇到的问题一个个解决，加上因为游戏的产生计算能力的提升获得了爆发式的增长，神经网络又重新出现在人们眼前。

三、从生物神经网络到人工神经网络

1、生物神经网络

我们把大脑的神经元分成三部分：
树突（输入机制）—— 通过树突（一个或多个，当然人体中不存在只有一个树突的神经元），接收来自其他神经元的信息，作为本神经元要处理的信息（即输入信息）。
细胞体（计算机制）—— 细胞体收集树突的输入，并基于这些信号决定是否传向下一个神经元（激活输出）。（简单来讲就是每个神经元受到一定条件的刺激后，才会对其他神经元起作用，而不是受到刺激就会作出反应）。
轴突（输出机制）—— 一旦胞体决定是否激活输出信号（也就是激活细胞），轴突负责传输信号，通过末端的树状结构将信号以脉冲连接传递给下一层神经元的树突。

2、人工神经网络

类似地，人工神经网络(ANN)中也有等价的结构。
以下图红色部分为例：
输入连接 ——图中的每个圆圈代表一个神经元。每个神经元接受0个或多个输入，要么来自初始输入（输入层Input的输入是初始输入，相当于人体最表层的感知神经元），要么来自网络中的前一层。
线性计算和激活函数 —— 图中的每一条线表明两个神经元间的信息传递，这些“累加”输入共同作用，影响着是否激活当前这个神经元。
输出连接—— 传递激活信号至网络中下一层的神经元。

由上图，我们把每个神经元按位置分为输入层、隐藏层、输出层三层。
• 输入层：输入变量，有时称为可见层。
• 隐藏层：输入和输出层之间的节点层。
• 输出层：生成输出变量的节点层

总结以上类比，一个神经网络中需要的参数有：输入值、每个连接的权值、激活函数和输出值

四、神经网络的简单计算方法

每个神经元将一个初始输入值乘以一定的权重，与进入同一神经元的其他值相加，并基于神经元的偏置调整所得结果，接着使用激活函数归一化输出。

参考例题：https://www.jianshu.com/p/daf5b4f0238c
有关例题的讲解见：https://blog.csdn.net/dear_jing/article/details/102614200