神经网络可以将输入的特征向量经过层层推导得到最后的输出,并通过这些输出解决分类或者回归问题。
为了介绍神经网络的前向传播算法 , 需要先了解神经元的结构。而不同输入的权重就是神经元的参数
神经网络的优化过程就是优化神经元中参数取值的过程。
称之为全连接神经网络是因为相邻两层之间任意两个节点之间都有连接。
计算神经网络的前向传播结果需要三部分信息
1、第一个部分是神经网络的输入,这个输入就是从实体中提取的特征向量;
2、第二个部分为神经网络的连接结构。神经网络是由神经元构成的 ,神经网络的结构给出不同神经元之间输入输出的连接关系。神经网络中的神经元也可以称之为节点;
3、最后 一个部分是每个神经元中的参数。
a = tf .matmul (x, wl)
y = tf .matmul (a, w2)
其中 tf.matmul 实现了矩阵乘法的功能