ReLu 激活函数的python实现

import numpy as np


x = np.random.randint(-3, 3, (3, 3))

'''计算函数 y = max(x,0)的方法,ReLu导数也可类似得出'''
# 法1
np.maximum(x, 0)

# 法2
(x + np.abs(x)) / 2.0

# 法3
x[x <= 0] = 0
x[x > 0] = x

# 法4
np.where(x > 0, x, 0)

# 例子：
def ReLuFunc(x):
    # ReLu 函数
    x = (np.abs(x) + x) / 2.0

    return x


def ReLuPrime(x):
    # ReLu 导数
    x[x <= 0] = 0
    x[x > 0] = 1

    return x