PyTorch激活函数

1.什么是激活函数
作用就是：增加模型非线性，使之更好的进行分类与回归问题

在所有的隐层和输出层加一个激活函数，这里激活函数我们就用Sigmoid函数，如图6所示。这样y输出的就是一个非线性函数了，y的输出更复杂，有了这样的非线性激活函数以后，神经网络的表达能力更加强大了。

总结：激活函数是用来加入非线性因素的，提高神经网络对模型的表达能力，解决线性模型所不能解决的问题。要知道大部分问题是非线性问题，因此激活函数是必不可少的。
2.常见的激活函数
2.1 sigmoid激活函数


代码：

def sigmoid():
    x = np.arange(-10, 10, 0.1)
    y =