一、什么是 bias?
偏置单元(bias unit),在有些资料里也称为偏置项(bias term)或者截距项(intercept term),它其实就是函数的截距,与线性方程 y=wx+b
中的 b 的意义是一致的。
在 y=wx+b
中,b表示函数在y轴上的截距,控制着函数偏离原点的距离,其实在神经网络中的偏置单元也是类似的作用。
因此,神经网络的参数也可以表示为:(W, b)
,其中 W 表示参数矩阵,b 表示偏置项或截距项。
二、bias 的作用
偏置的存在是为了更好地拟合数据
举个例子:
有点(2,3) 属于 A 类 点(3,4)属于 B 类,请问是否能从