感知机学习笔记

感知机学习笔记

---

2.1感知机是什么

  感知机接收多个输入信号，输出一个信号。本书中，0对应“不传递信号”，1对应“传递信号”。

  cf.简单逻辑电路(与门&与非门)

2.3 感知机的实现

2.3.1与门的实现

def AND(x1,x2):#与门的简单实现
    w1,w2,theta=0.5,0.5,0.7#多组数据都可以满足
    tmp=x1*w1+x2*w2
    if tmp<=theta:
        return 0
    elif tmp>theta:
        return 1

print(AND(0,0),AND(0,1),AND(1,0),AND(1,1))

2.3.2与非门的实现

def NAND(x1,x2):
    w1,w2,theta=-0.5,-0.5,-0.7
    tmp=x1*w1+x2*w2
    if tmp<=theta:
        return 0
    elif tmp>theta:
        return 1

print(NAND(0,0),NAND(0,1),NAND(1,0),NAND(1,1))

2.3.3导入权重和偏置

#与门
import numpy as np
def AND(x1,x2):
    x=np.array([x1,x2])
    w=np.array([0.5,0.5])
    b=-0.7
    tmp=np.sum(w*x)+b
    if tmp<=0:
        return 0
    elif tmp>0:
        return 1
print(AND(0,1))

#与非门
def NAND(x1,x2):
    x=np.array([x1,x2])
    w=np.array([-0.5,-0.5])
    b=0.7
    tmp=np.sum(x*w)+b
    if tmp<=0:
        return 0
    else:
        return 1
print(NAND(0,1))

#或门
def OR(x1,x2):
    x=np.array([x1,x2])
    w=np.array([0.5,0.5])
    b=-0.2
    tmp=np.sum(x*w)+b
    if tmp<=0:
        return 0
    else:
        return 1
print(OR(0,1))

2.4感知机的局限性

  无法用感知机实现异或门。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

  如上图所示，无法用一条二维直线对坐标上四点进行分类。

  若是一条曲线就可以对上四点分类。则这样的曲线分割 而成的空间称为非线性空间，由直线分割而成的空间称为线性空间。
  感知机的局限性，严格来讲，是“感知机无法表示异或门”或“单层感知机无法分离非线性空间”。

2.5多层感知机

  可以用组合与门、与非门、或门的方式实现异或门。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

#NAND函数、OR函数、AND函数上文已经定义
def XOR(x1,x2):
    s1=NAND(x1,x2)
    s2=OR(x1,x2)
    y=AND(s1,s2)
    return y
print(XOR(1,1),XOR(1,0),XOR(0,1),XOR(0,0))

  该感知机有两层，属于多层感知机。

2.6从与非门到计算机

  感知机通过叠加层能够进行非线性的表示，理论上还可以表示计算机进行的处理。