神经网络(Neural Networks)是受到人类大脑对于外界事物认知方式的启发建立的机器学习算法,也叫人工神经网络(ArtificialNeural Networks)。
我们先来认识构成神经网络的基本单元:神经元。
神经元有三个基础的构成
(1)一组连接(类比于生物神经元的树突),更准确的讲是一组输入。而每一个输入都会有一个权重进行作用。第k个神经元的第j个树突接收到的一个输入xj,那么这个输入将被权重wkj作用,其中下标表示第k个神经元的第j个树突的权重。
(2)一个调整项bk,所有的输入完成求和操作后再加上一个常数调整项
(3)激活函数φ,这个函数用来将求和之后的结果映射到一个合适的范围。
上图所示的神经元K可以用如下的两个数学公式表示: