【跟马少平老师学AI】-【神经网络是怎么实现的】（二）神经元与神经网络

一句话归纳：输入与权重参数的运算结果，加上偏置，经过激活函数运算，将运算结果映射到确定的区间，比如[-1,1]，即为神经元。常用的激活函数有四种。每相邻两层的神经元都有连接的神经网络为全连接神经网络。

1）神经元定义：

2）几中激活函数：

符号函数：

sigmoid函数：

双曲正切函数：

线性整流函数：

3）全连接神经网络：

相邻层的神经元都有连接。