深度学习-感知机学习笔记

一.感知机概念

感知机模拟生物神经元的工作流程，通过设置各个神经元的某种连接权重，将神经元接收到的所有输入值按照权重叠加起来，再与当前神经元的阈值进行比较（我理解的阈值是一个临界值，代表了可以上下波动的幅度），最终通过激活函数向外表达输出

二.感知机运行原理

  感知机接收多个输入信号，输出一个信号。这里所说的“信号”可以想

象成电流或河流那样具备“流动性”的东西。像电流流过导线，向前方输送

电子一样，感知机的信号也会形成流，向前方输送信息。但是，和实际的电

流不同的是，感知机的信号只有“流/不流”1/0）两种取值。

输入信号被送往神经元时，会被分别乘以固定的权重， 神经元会计算传送过来的信号的总和，只有当这个总和超过 了某个界限值时，才会输出 1 。这也称为“神经元被激活” 。这里将这个界 限值称为 阈值 ，用符号 θ 表示。    

把上述内容用数学式来表示：

 

三.简单逻辑电路

1.与门：在两个输入均为1时输出1，其他时候则输出0

2.与非门：仅当两个输入同时为1时输出0，其他时候则输出1。

3.或门：只要有一个输入信号是1，输 出就为1

4.异或门：仅当两个输入的一方为 1时，才会输出1

感知机的局限性就在于它只能表示由一条直线分割的空间。而异或门只能通过 弯

曲的曲线分割空间，所以无法用感知机表示。

因此可以采取多层感知机进行实现。（ 叠加了多层的感知机也称为多层感知机 ）

四.用感知机实现简单逻辑电路

import numpy as np
def AND(x1,x2): #与门
    w1, w2, theta = 0.5, 0.5, 0.7
    tmp = x1*w1 + x2*w2
    if tmp <= theta:
        return 0
    elif tmp > theta:
        return 1

def NAND(x1,x2): #与非门
    x = np.array([x1,x2])
    w = np.array([-0.5,-0.5])
    b = 0.7
    tmp = np.sum(w*x) + b
    if tmp <=0:
        return 0
    else:
        return 0

def OR(x1,x2):  #或门
    x = np.array([x1,x2])
    w = np.array([0.5,0.5])
    b = -0.2
    tmp = np.sum(w*x) + b
    if tmp <=0:
        return 0
    else:
        return 0

def XOR(x1,x2): #异或门
    s1 = NAND(x1,x2)
    s2 = OR(x1,x2)
    y = AND(s1,s2)
    return y

1.非线性空间：曲线分割而成的空间称为 非线性空间

2.线性空间：由直线分割而成的空间称为线性空间