全连接神经网络学习笔记

全连接神经网络概述

  全连接神经网络的构架准则很简单，是：除输入层之外的每个节点都和上一层的所有节点连接。

  神经网络的第一层为输入层，最后一层为输出层，中间的所有层都为隐藏层，在计算神经网络层数的时候，一般不计算输入层，所以如图所示的这个全神经网络的层数为2，其中输入层有4个神经元，隐藏层有5个神经元，输出层有2个神经元。

多分类问题

  假设有这样一个神经元：f(z) = 1/(1+e^-z),其中z = a1x1+a2x2+b

          图1单神经元
按[x1 =[1 ,[a1 =[1 ,b = 1将此神经元实例化，
 x2]  2] a2]  -2]

         图2单神经元实例化
将图1所示的神经元的两个操作合并在一起

     图3合并后的单神经元
多个如图3所示的神经元组合成的多层神经网络如图4

         图4多层神经元网络
将图4所示的多层神经元网络实例化

         图5多层神经元网络实例化
经计算得出的结果为[y1 = 0.62
         y2 = 0.83]

Softmax函数与交叉熵

  Softmax函数又称归一化指数函数，它是二分类函数Sigmoid在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。
  Softmax函数能把输入映射为0~1之间的值，并且保证归一化和为1，而多分类问题