多层神经网络识别猫图片

最新推荐文章于 2024-06-11 22:18:55 发布

lovelife110

最新推荐文章于 2024-06-11 22:18:55 发布

阅读量1.8k

点赞数 29

分类专栏： AI

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_33873431/article/details/101944534

版权

AI 专栏收录该内容

16 篇文章 2 订阅

订阅专栏

例子是之前博客"通过简单神经网络识别猫图片"的例子，现在改为多层神经网络结构

之前博客地址：https://blog.csdn.net/qq_33873431/article/details/101672423

代码位置：https://github.com/lilihongjava/deep_learning/tree/master/%E5%A4%9A%E5%B1%82%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E8%AF%86%E5%88%AB%E7%8C%AB

参数维度

W - 权重矩阵，维度为(n[L]，n[L−1])
b - 偏向量，维度为(n[L]，1)
A - 激活值的维度为(n[L]，m)

前向传播函数

一共L层，带有RELU的linear_activation_forward）L-1次，然后用一个层为SIGMOID做二分类

公式为：

$Z^{[l]} = W^{[l]}A^{[l-1]} +b^{[l]}\tag{3}$

激活函数公式：

Sigmoid： $\sigma(Z) = \sigma(W A + b) = \frac{1}{ 1 + e^{-(W A + b)}}$

ReLU：

计算成本函数

$-\frac{1}{m} \sum\limits_{i = 1}^{m} (y^{(i)}\log\left(a^{[L] (i)}\right) + (1-y^{(i)})\log\left(1- a^{[L](i)}\right))$

反向传播

使用 $dZ^{[l]}$ 来计算三个输出 $(dW^{[l]}, db^{[l]}, dA^{[l]})$ ，公式：

$dW^{[l]} = \frac{\partial \mathcal{L} }{\partial W^{[l]}} = \frac{1}{m} dZ^{[l]} A^{[l-1] T}$

$db^{[l]} = \frac{\partial \mathcal{L} }{\partial b^{[l]}} = \frac{1}{m} \sum_{i = 1}^{m} dZ^{[l](i)}$

$dA^{[l-1]} = \frac{\partial \mathcal{L} }{\partial A^{[l-1]}} = W^{[l] T} dZ^{[l]}$

对于激活函数，求导公式：

$dZ^{[l]} = dA^{[l]} * g'(Z^{[l]}) \tag{8}$

最后一层为Sigmoid，成本函数L先对a求导：

$da=\frac{\partial L}{\partial a}=-\frac ya+\frac{1-y}{1-a}$

# python代码
dAL = - (np.divide(Y, AL) - np.divide(1 - Y, 1 - AL))

关注

29
点赞
踩
9

收藏

觉得还不错? 一键收藏
打赏
0
评论
多层神经网络识别猫图片

例子是之前博客"通过简单神经网络识别猫图片"的例子，现在改为多层神经网络结构之前博客地址：https://blog.csdn.net/qq_33873431/article/details/101672423代码位置：https://github.com/lilihongjava/deep_learning/tree/master/%E5%A4%9A%E5%B1%82%E7%A5%9E%E...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

打赏作者

lovelife110 你的鼓励是我创作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。