感知器学习笔记

感知器（神经元）

先来看一个经典的神经网络。这是一个包含三个层次的神经网络。红色的是输入层，绿色的是输出层，紫色的是中间层（也叫隐藏层）。输入层有3个输入单元，隐藏层有4个单元，输出层有2个单元。


可以看到一个感知器的组成：

• 输入权值
  
• 激活函数
  • 感知器的激活函数可以有很多选择，比如我们可以选择下面这个阶跃函数f来作为激活函数：
    
• 输出
  • 感知器的输出由下面这个公式来计算y = f(W×X+B)

感知器的训练

将权重项和偏置项初始化为0，然后，利用下面的感知器规则迭代的修改wi和b，直到训练完成。


其中，t为实际label，y为预测label，n为学习率，xi为输入。