感知器 (perceptron)
神经网络中一种模拟神经元(neuron)的结构,有输入(input)、输出(output)、权重(weight)、前馈运算(feed forward)、激活函数(activation function)等部分。单层感知器能模拟逻辑与、逻辑或、逻辑非和逻辑与非等操作,但不能实现逻辑异或!
激活函数可以表示为:
其中 x 作为输入, w 是对应输入 x 的权重向量,b 为偏置;通常把偏置作为 w 中一个值,增加一个对应的模拟输入 x ,使 x 恒等于1来模拟该表达式,方便矩阵运算。
括号中的数值加和称作感知器的前馈运算,即还没有进过激活函数的结果,写作logit或者logits。