目录
0.基础知识
下面图来自鱼书第二章 ,x1 x2 只能获得 1和0 的值 表示通和不通 类比电流
w = weight b = bias x = input
x输入(向量) 类比输入的电流
w权重(向量) 类比电阻的倒数
b偏置 反应神经元容易被激活的程度 类比外界激励
输入的电信号,经过电阻,加上外界激励 ,能否激发神经元y,大于0则激发 小于0则不激发
不同的 w 和 b值 决定了 “或与非” 门
1.单层感知机 (实现或与非门)
ANDgate “和”门 numpy的实现
import numpy as np
x = np.array([1,0]) # 输入 向量
w = np.array([0.5,0.5]) #权重 向量
b = -0.7 #偏置 反应神经元容易被激活的程度
print(x*w == np.multiply(x,w)) # 向量*乘 与 multiply命令等同
print(np.sum(x*w)+b) #与0比大小 看是否激活神经元
#下面用函数来实现ANDgate
def ANDgate(x1,x2):
x = np.array([x1,x2])
w = np.array([0.5,0.5])
b = -0.7
tmp = np.sum(x*w)+b
if tmp <=0:
return 0
elif tmp >0 :
return 1
NotANDgate 非门 实现
import numpy as np
def NotANDgate(x1,x2):
x = np.array([x1,x2])
w = np.array([-0.5,-0.5]) #非门的符号与 和门 w和b符号 相反
b = 0.7
tmp = np.sum(x*w) + b
if tmp <= 0 :
return 0
else :
return 1
print(NotANDgate(0,0)) #结果为1
print(NotANDgate(0,1)) #结果为1
print(NotANDgate(1,1)) #结果为0
ORgate 或门 实现
def ORgate(x1,x2):
x = np.array([x1, x2])
w = np.array([0.5, 0.5])
b = -0.4 # 0到-0.5之间的数就可以
tmp = np.sum(x * w) + b
if tmp <= 0:
return 0
else:
return 1
print(ORgate(1,0))#结果为1
print(ORgate(0,0))#结果为0
2.多层感知机
单一感知机实现不了 XOR门 (异或门)如图
但通过组合上面 或与非门 可以实现
def XORgate(x1,x2):
s1 = NotANDgate(x1,x2)
s2 = ORgate(x1,x2)
return ANDgate(s1,s2)
for i in range(2): #输出结果 0 1 1 0
for j in range(2):
print(XORgate(i,j))
可见,通过增加层(感知层),感知机有种越来越智能化的感觉,能表示之前不能表示的东西,有点神经网络的雏形的感觉了
用原文的话就是 感知机通过叠加层可以进行非线性表示,