感知器与多层感知机

感知器 (perceptron)

神经网络中一种模拟神经元(neuron)的结构，有输入(input)、输出(output)、权重(weight)、前馈运算(feed forward)、激活函数(activation function)等部分。单层感知器能模拟逻辑与、逻辑或、逻辑非和逻辑与非等操作，但不能实现逻辑异或！

 

激活函数可以表示为:

其中 x 作为输入, w 是对应输入 x 的权重向量，b 为偏置；通常把偏置作为 w 中一个值，增加一个对应的模拟输入 x ，使 x 恒等于1来模拟该表达式，方便矩阵运算。

括号中的数值加和称作感知器的前馈运算，即还没有进过激活函数的结果，写作logit或者logits。