神经网络中偏置的作用

偏置值允许将激活函数向左或向右移位,这可能是成功学习的关键。
下面用示例讲解:
假设一个只有一个输入,一个输出的神经元(对,没有偏置),
只有一个输入,没有偏置的输出
神经元的输出就是sigmoid(w0*x),下图是w0取不同值时的结果图,
这里写图片描述
改变w0的值就是改变sigmoid函数的陡峭程度,如果想让x=2时,输出值为0,只改变wo的不同取值是无济于事的,你需要把曲线往右移动。我们加入偏置,如下图:
这里写图片描述
此时神经元的输出值即为sig(w0*x + w1*1.0)。
不同的wo对应的图像如图所示:
这里写图片描述
可以看出,当wo等于-5时,x=2时,输出值大致为0.
所以,偏置的存在是为了更好的拟合数据。

参考链接:神经网络中偏置的作用

  • 29
    点赞
  • 95
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值