众所周知relu函数的表达式与形状如下所示:
可用numpy中的maximum实现。
def relu(inX):
return np.maximum(0,inX)
其中inX为一输入numpy矩阵。
np.maximum(X, Y):是将X 与 Y 逐位比较取其大者。
区别于np.max
np.max(a, axis=None, keepdims=False):求序列的最值,axis:默认为列向(也即 axis=0),axis = 1 时为行方向的最值。
keepdims参数的真假控制输出的是一个numpy矩阵还是一个秩为一的数组(双括号还是单括号)