Elu激励函数的数学表达式如下:
代码如下:
#code:utf-8
import numpy as np
import matplotlib.pyplot as plt
def elu(x,a):
y = x.copy()
for i in range(y.shape[0]):
if y[i] <0:
y[i]=a*(np.exp(y[i])-1)
return y
x = np.linspace(-50,50)
p1=plt.subplot(111)
a=0.5
y = elu(x,a)
p1.plot(x,y)
p1.set_title('elu')
p1.axhline(ls='--', color='r')
p1.axvline(ls='--', color='r')
结果如下:
无意义的调节参数,仅仅是为了更直观的看出结果!