激活函数的作用
激活函数
激活函数(Activation Function)负责对上层神经元的输出进行处理,将结果传递到下层神经元。激活函数在神经网络里起着至关重要的作用,具体如下。
我们先看这个不使用激活函数的例子:
这是两层网络,有俩神经元。
(一个体重90多公斤,一个体重80多公斤,塔门说,你这激活函数不讲武德。)
它们的权重矩阵和偏置参数分别是W1,b1W_{1},b_{1}W1,b1和W2,b2W_{2},b_{2}W2,b2,设输入向量为x\boldsymbol{x}x,输出为y^\hat{y}
原创
2020-12-04 22:36:24 ·
8670 阅读 ·
3 评论