讲人话的计算机视觉和深度学习(二)全连接神经网络

前言

有了上一章线性分类器的基础,下面开始学习全连接神经网络,这是线性分类器的进阶版,本节介绍的多种方法在以后的工作中也会经常使用,是CNN的基础。

本章导图:
在这里插入图片描述

一、图像表示

在这里插入图片描述

二、分类模型

在这里插入图片描述

1.全连接网络的权值

在这里插入图片描述

2.全连接网络与线性不可分

在这里插入图片描述

3.全连接神经网络绘制与命名

在这里插入图片描述

4.激活函数

在这里插入图片描述

三、损失函数

1.Softmax

在这里插入图片描述

2.交叉熵

在这里插入图片描述

3.与多类支持向量机的对比

在这里插入图片描述

四、优化算法

1.计算图与反向传播

在这里插入图片描述

2.再看激活函数

在这里插入图片描述

3.动量法与自适应梯度

在这里插入图片描述

五、训练过程

1.权值初始化

在这里插入图片描述

2.批归一化(BN)

在这里插入图片描述

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值