神经网络和深度学习(四)- 深层神经网络

本次学习笔记主要记录学习深度学习时的各种记录,包括吴恩达老师视频学习、花书。作者能力有限,如有错误等,望联系修改,非常感谢!


第一版       2022-05-15        初稿

一、深层神经网络(Deep L-layer neural network)

在这里插入图片描述
1.逻辑回归是一个浅层模型
2.双层神经网络
在这里插入图片描述
3个隐藏层,其单元数目分别为5、5、3。

二、深层网络中的前向传播(Forward propagation in a Deep Network)

在这里插入图片描述
第一个隐藏层如图蓝色,第二个隐藏层如图紫色。
绿色为输出层。
向量化则用竖线右侧A。

三、前向传播和反向传播(Forward and backward propagation)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
先写出一模型,第一层Relu函数,第二层Relu,第三层sigmoid函数(做二分类的话),计算yhat,然后就可以向后迭代进行反向传播求导。
如图是 逻辑回归做二分分类时da,若想要向量化实现过程,就要用到dA。

四、核对矩阵的维数(Getting your matrix dimensions right)

在这里插入图片描述
n[i]代表第i层的单元数目。
z是第一个隐藏层激活函数向量,z[i]维度(n[i],1)。
x的维度为(n[0],1),w[1]维度:(n[1],n[0])
在这里插入图片描述

五、为什么使用深层表示(Why deep representations?)

在这里插入图片描述
输入图片,大概有20个隐藏单元的深度神经网络,或输入声频。
在这里插入图片描述
电路知识相关,与或非门。

六、搭建神经网络块(Building blocks of deep neural networks)

在这里插入图片描述
在这里插入图片描述
如上图方式计算后向传播的方式。

七、参数vs超参数(Parameters vs Hyperparameters)

在这里插入图片描述
w,b都是参数
超参数:学习率α等
在这里插入图片描述

八、深度学习和大脑的关联性(What does this have to do with the brain)

在这里插入图片描述
神经元似的。

1


  1. 深度学习-吴恩达 ↩︎

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值