Deep Learning鱼书感知机（perceptron）学习笔记

 1.感知机是什么

笼统来说，感知机就是接收多个输入信号，输出一个信号，输入信号可以表示为x1,x2，输出信号用y来表示，运行原理为：y=0(w1x1+w2x2+b<=0)或y=1(w1x1+w2x2+b>0)，输出1时表示神经元被激活，其中w1和w2表示权重，它代表了输入信号的重要性，即权重越大，输入信号的重要性就越高。b是偏置，它调整了神经元被激活的难易程度，如何理解呢？比如b=-0.1，那么只需要输入信号的加权总和超过0.1就可以将神经元激活，但如果b=-20，那么输入信号的加权总和必须超过20方可激活神经元。

2.用感知机实现简单的逻辑电路

由于感知机的权重是由人工确定的，且满足条件的参数选择方法有无数多个，所以在此不再赘述如何确定w1,w2,b的值，而是在具有对NumPy数组熟练使用的情况下，笔者直接使用代码来实现：

2.1与门（w1=0.5,w2=0.5,b=-0.7）

# 实现与门
def AND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.7
    tmp = np.sum(w*x)+b
    if tmp > 0:
        return 1
    else:
        return 0

2.2与非门（w1=-0.5,w2=-0.5,b=0.7）

# 实现与非门
def NAND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([-0.5, -0.5])
    b = 0.7
    tmp = np.sum(x*w) + b
    if tmp > 0:
        return 1
    else:
        return 0

2.3或门（w1=0.5,w2=0.5,b=-0.2）

# 实现或门
def OR(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.2
    tmp = np.sum(x*w) + b
    if tmp > 0:
        return 1
    else:
        return 0

3.感知机的局限性

我们思考一个问题，为什么我们可以使用单层感知机来轻松表示与门、与非门和或门，是因为w1x1+w2x2+b这一加权和作为一条直线将解空间一分为二，一边输出0、一边输出1，但是我们是否可以同样使用单层感知机来表示异或门呢？答案是否定的，如下图：

 我们根据上图四个点可以发现，我们无法通过一条直线来实现异或门解空间的划分，我们可以通过一条曲线来划分异或门的解空间，而感知机的局限性就在于只能用一条直线来分割解空间。

4.多层感知机（以使用多层感知机实现异或门为例）

单层感知机无法表示异或门，但是感知机的绝妙之处在于它可以通过层数的叠加来实现异或门，异或门可以通过已有门电路的组合来实现：

# 实现异或门(多层感知机)
def XOR(x1, x2):
    s1 = NAND(x1, x2)
    s2 = OR(x1, x2)
    return AND(s1, s2)

（感知机是神经网络的基础，因此一定要掌握好！！）