3 神经网络基础（阶跃、sigmoid、relu激活函数的代码实现）

目录

1、 输入权重计算

2、与门的实现

3、非门的实现

4、或门的实现

5、感知机可以实现与、或、非门的逻辑    

6、阶跃函数的实现

7、sigmoid 函数的实现

8、阶跃函数和sigmoid函数相比较

9、ReLU函数

---

1、 输入权重计算

import numpy as np

x=np.array([0,1])  # s输入
w=np.array([0.5,0.5]) # 权重
b=-0.7 # 偏置 阈值

w*x
np.sum(w*x)
np.sum(w*x)+b # 大约为-0.2（由浮点小数造成的运算误差）

2、与门的实现

def AND(X1,X2):
    x=np.array([X1,X2])
    w=np.array([0.5,0.5])
    b=-0.7
    tmp=np.sum(w*x)+b
    if tmp <=0:
        return 0
    else:
        return 1
AND(1.0,0.0)
 

      
3、非门的实现

def NAND(x1,X2):
    x = np.array([x1, X2])
    w = np.array([-0.5, -0.5]) # 仅权重和偏置与AND不同！
    b = 0.7
    tmp = np