深度学习入门——感知机

感知机

感知机是什么

感知机接收多个输入信号，输出一个信号

神经元会计算传送过来的信号的总和，只有当这个总和超过了某个界限值时，才会输出1。这也称为“神经元被激活” 。这里将这个界限值称为阈值，用符号θ 表示。

感知机的实现

b 称为偏置，w1 和w2 称为权重

θ称为阈值，θ=-b

w1 和w2 是控制输入信号的重要性的参数，而偏置是调整神经元被激活的容易程度（输出信号为1 的程度）的参数

但是根据上下文，有时也会将b、w1、w2 这些参数统称为权重

与门、与非门、或门是具有相同构造的感知机，区别只在于权重参数的值。

感知机的局限性

异或门

实际上，用前面介绍的感知机是无法实现这个异或门的

线性和非线性

感知机的局限性就在于它只能表示由一条直线分割的空间

曲线分割而成的空间称为非线性空间，由直线分割而成的空间称为线性空间

线性非线性这两个术语在机器学习领域很常见

多层感知机

叠加了多层的感知机也称为多层感知机（multi-layered perceptron）

感知机的绝妙之处在于它可以“叠加层”（通过叠加层来表示异或门是本节的要点）

通过叠加层（加深层），感知机能进行更加灵活的表示

从与非门到计算机

使用感知机也可以表示计算机

小结

• 感知机是具有输入和输出的算法。给定一个输入后，将输出一个既定的值。
• 感知机将权重和偏置设定为参数。
• 使用感知机可以表示与门和或门等逻辑电路。
• 异或门无法通过单层感知机来表示。
• 使用2层感知机可以表示异或门。
• 单层感知机只能表示线性空间，而多层感知机可以表示非线性空间。
  过单层感知机来表示。
• 使用2层感知机可以表示异或门。
• 单层感知机只能表示线性空间，而多层感知机可以表示非线性空间。
• 多层感知机（在理论上）可以表示计算机。