1.1 神经网络的基本工作原理简介
神经元细胞的数学模型
输入 input
(x1,x2,x3)(x1,x2,x3) 是外界输入信号,一般是一个训练数据样本的多个属性,比如,我们要预测一套房子的价格,那么在房屋价格数据样本中,x1 可能代表了面积,x2 可能代表地理位置,x3 可能代表朝向。另外一个例子是,(x1,x2,x3)(x1,x2,x3) 分别代表了(红,绿,蓝)三种颜色,而此神经元用于识别输入的信号是暖色还是冷色。
权重 weights
(w1,w2,w3)(w1,w2,w3) 是每个输入信号的权重值,以上面的 (x1,x2,x3)(x1,x2,x3) 的例子来说,x1 的权重可能是 0.920.92,2x2 的权重可能是 0.20.2,3x3 的权重可能是 0.030.03。当然权重值相加之后可以不是 11。
偏移bias
y=wx+by=wx+b,bb 是偏移值,使得直线能够沿 YY 轴上下移动。这是用结果来解释原因,并非 bb 存在的真实原因。从生物学上解释,在脑神经细胞中,一定是输入信号的电平/电流大于某个临界值时,神经元细胞才会处于兴奋状态,这个 bb 实际就是那个临界值。亦即当:
时,该神经元细胞才会兴奋。我们把t挪到等式左侧来,变成(-t)(−t),然后把它写成 bb,变成了:
于是 bb 诞生了!
求和计算 sum
在上面的例子中 m=3m=3。我们把wi⋅xi变成矩阵运算的话,就变成了: