为什么神经网络有偏置? 神经网络中的偏置(bias)究竟有这么用

转载地址

https://www.zhihu.com/question/305340182/answer/721739423

首先从线性方程的角度来看,假设简单的线性方程y= wx,当权重w= 1,2,3时,图形如下:

不管权重怎么变换该方程所能拟合的场景都受制于原点(0,0)。当给这个方程加上截距后变成y= x + 1.方程的灵活性大大增加,拟合能力增强,所以提升了精度。

在这里插入图片描述
在神经网络中,以sigmoid函数为例,加入偏置后也是增加了函数的灵活性,提高了神经元的拟合能力。

在这里插入图片描述
在神经元中,output = sum (weights * inputs) + bias。偏置实际上是对神经元激活状态的控制。比如在上图中,当偏置为20时,x较小时y的值就可以很大,就可以较快的将该神经元激活。

  • 3
    点赞
  • 24
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值