全连接神经网络学习笔记

全连接神经网络概述

  全连接神经网络的构架准则很简单,是:除输入层之外的每个节点都和上一层的所有节点连接。
在这里插入图片描述

  神经网络的第一层为输入层,最后一层为输出层,中间的所有层都为隐藏层,在计算神经网络层数的时候,一般不计算输入层,所以如图所示的这个全神经网络的层数为2,其中输入层有4个神经元,隐藏层有5个神经元,输出层有2个神经元。

多分类问题

  假设有这样一个神经元:f(z) = 1/(1+e^-z),其中z = a1x1+a2x2+b
在这里插入图片描述
          图1单神经元
按[x1 =[1 ,[a1 =[1 ,b = 1将此神经元实例化,
 x2]  2] a2]  -2]
在这里插入图片描述
         图2单神经元实例化
将图1所示的神经元的两个操作合并在一起
在这里插入图片描述
     图3合并后的单神经元
多个如图3所示的神经元组合成的多层神经网络如图4
在这里插入图片描述
         图4多层神经元网络
将图4所示的多层神经元网络实例化
在这里插入图片描述

         图5多层神经元网络实例化
经计算得出的结果为[y1 = 0.62
         y2 = 0.83]

Softmax函数与交叉熵

  Softmax函数又称归一化指数函数,它是二分类函数Sigmoid在多分类上的推广,目的是将多分类的结果以概率的形式展现出来。
  Softmax函数能把输入映射为0~1之间的值,并且保证归一化和为1,而多分类问题

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值