深度学习入门---01-认识感知机

• 1、什么是感知机？
• 感知机接收多个输入信号，输出一个信号。如两输入的单层感知机，输入x1, x2再分别乘上相应的权重w1,w2，进行求和，大于一个临界值则输出1，否则输出0。
• 2、感知机由逻辑门电路表示
• 以与门为例，根据与门的真值表，可以设定权重为（0.5，0.5），临界值设置为0.7，此时无论输入任何的输入信号x1,x2对能满足与门的真值表。输入信号全为1时才输出1。
• 代码实现：

import numpy as np

def AND(x1, x2):
    w1, w2, theta = 0.5, 0.5, 0.7
    tmp = x1 * w1 + x2 * w2
    if tmp <= theta:
        return 0
    elif temp >= theta:
        return 1

res = AND(0.7, 0.3)
print(res)

• 3 、权重与偏置概念的导入
• 权重是控制输入信号的重要参数，而偏置是调整神经元被激活容易程度的重要参数，也就是前面所说的临界值。最后的输出信后便取决与输入信号与权重的乘积是否大于偏置的值。
• 代码简单实现（基于与门）：

import numpy as np

def AND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.7
    tmp = np.sum(w*x) + b
    if tmp <= 0:
        return 0
    else:
        return 1

res = AND(0.7, 0.3)
print(res)

• 4、单层感知机的局限性：
• 上面的例子都是基于与门真值表实现，其中或门、与非门都可以实现，但是无法实现异或门，具体可以去推导一下，无法找到单层感知机合适的权重与偏置实现异或门。此时可以引入多层感知机，多层显而易见指的就是叠加，可以从物理层面可以考虑，异或门可以由与门、与非门、或门进行配置而构成，那么在感知机里面，我们也可以用相对应的单层感知机叠加而成。
• 代码实现

import numpy as np

def AND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.7
    tmp = np.sum(w*x) + b
    if tmp <= 0:
        return 0
    else:
        return 1

def NAND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([-0.5, -0.5])
    b = 0.7
    tmp = np.sum(w*x) + b
    if tmp <= 0:
        return 0
    else:
        return 1

def OR(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.2
    tmp = np.sum(w*x) + b
    if tmp <= 0:
        return 0
    else:
        return 1

def XOR(x1, x2):
    s1 = NAND(x1, x2)
    s2 = OR(x1, x2)
    y = AND(s1, s2)
    return y

res = XOR(1, 0)
print(res)

• 5、实际问题中怎们去确定参数？
• 在上述的感知机的例子中，所用的参数是我们人来确定的，但是在实际问题中不可能永远人来确定这些参数，否则还谈什么人工智能。在机器学习中，就是将这个决定参数的工作交给计算机自动进行，学习就是确定合适参数的过程，而人要做的就是思考感知机的构造，并把训练数据交给计算机。神经网络的出现可以解决如何让计算机自动地从数据中学习到合适的权重参数，神经网络的内容下一篇做笔记。