1、神经网络的术语
- θ 参数矩阵称之为权重(weight)
- 神经元,一个计算单元
- 输入的偏度单元,指的是一默认输入 x0=1
- 神经网络,多个神经元输入输出相连构成的网络
- 神经网络输入层,输入了特征项
- 神经网络输出层,输出结果
- 神经网络隐藏层,除了输入输出层
- 神经元的激励,神经元接收输入后获得的输出函数
- a(j)i 表示第j层的第i个神经元的激励
- Θ(j) 表示从第j层到第j+1层控制函数映射的矩阵化权重
- 如果一个神经网络在J层的神经元数为Sj,那么 Θ(j) 的维度为 sj+1×(sj+1)
- hΘ(x) 表示整个神经网络
⎡⎣⎢⎢⎢x0x1x2x3⎤⎦⎥⎥⎥→⎡⎣⎢⎢⎢a(2)1a(2)2a(2)3⎤⎦⎥⎥⎥→hθ(x)
每个神经元激励如下
a(2)1=g(Θ(1)10x0+Θ(1)11x1+Θ(1)12x2+Θ(1)13x3)a(2)2=g(Θ(1)20x0+Θ(1)21x1+Θ(1)22x2+Θ(1)23x3)a(2)3=g(Θ(1)30x0+Θ(1)31x1+Θ(1)32