权重: 神经元之间的连接强度由权重表示,权重的大小表示可能性的大小
偏置: 偏置的设置是为了正确分类样本,是模型中一个重要的参数,相当于加入一个常数。
激活函数: 起非线性映射的作用,其可将神经元的输出幅度限制在一定范围内,一般限制在(-1~1) 或 (0~1) 之间。最常用的激活函数是Sigmoid函数,其可将 (-∞,+∞) 的数映射到(0~1) 的范围内。
包含偏置b的公式:
不包含偏置b的公式:
神经网络主要是以矩阵的乘积来运算,即内积;主要的函数为np.dot(x,w)+b。其中x为上一层神经元的值,w为下一层神经元的权重,b为下一层神经元的偏置。
神经网络的主要流程为:输入层-->与第一隐藏层的权重和偏置进行运算(np.dot(x,w1)+b1)-->过激活函数生成第一隐藏层输出的值-->与下一层隐藏层的权重和偏置进行运算(有多少层隐藏层就进行多少次运算)-->过输出函数-->输出输出层的值。