浅谈对全连接层的理解

先上百度百科：

         全连接层的每一个结点都与上一层的所有结点相连，用来把前边提取到的特征综合起来。由于其全相连的特性，一般全连接层的参数也是最多的。例如在VGG16中，第一个全连接层FC1有4096个节点，上一层POOL2是7*7*512 = 25088个节点，则该传输需要4096*25088个权值。

再上图：

                                                                               

                                                                    

全连接层的输出是可以设计的，比如全连接层需要输出10个结点，输入层若有7*7*512=25088个结点，则输出层10个结点每个结点都必须有25088个对应于输入层每个值的权重，那么输出值计算公式为out=input1*W1+....+input25088*W25088+误差值.总计算量为10*25088=250880次。