googlenet提出的Inception结构优势、softmax的BP推导/交叉熵损失的BP推导

最新推荐文章于 2023-07-10 13:52:36 发布
最新推荐文章于 2023-07-10 13:52:36 发布
阅读量1.8k 收藏
点赞数
分类专栏： 人工智能 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zimiao552147572/article/details/105373547
版权

日萌社

人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）

googlenet提出的Inception结构优势有？

答案：AD

A、保证每一层的感受野不变，网络深度加深，使得网络的精度更高

B、使得每一层的感受野增大，学习小特征的能力变大

C、有效提取高层语义信息，且对高层语义进行加工，有效提高网络准确度

D、利用该结构有效减轻网络的权重

softmax的BP推导/交叉熵损失的BP推导

（1）Softmax 函数

（2）Softmax函数的导数：

因为输入多个x，输出多个y，那么对于任意y_i对x_j求导，i,j都属于K类别大小集合

（3）交叉熵损失的梯度计算如下：

Softmax函数的导数

交叉熵损失的梯度

あずにゃん
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
GoogLeNet-Inception：用于图像分类的GoogLeNet和Inception的TensorFlow实现
02-06
GoogLeNet用于图像分类TensorFlow的实现一起（CVPR'15）。 该存储库包含使用预训练模型进行自然图像分类的示例，以及从头开始在数据集上训练Inception网络（测试集的准确度为93.64％）。 可以从 下载CIFAR-10上的预...
Googlenet inception v1网络结构详解
12-27
总结了很多牛人的知识，解释了自己的很多疑点。
[39题] 牛客深度学习专项题
Le0v1n 的博客
07-20 7511
牛客深度学习专项题，共39道
简单易懂的inception讲解！！！
最新发布
qq_51206550的博客
07-10 1409
在网络的最后几层，通常称为全连接层，在它之后是一个softmax层（编号1）来做出预测，这些分支（编号2）所做的就是通过隐藏层（编号3）来做出预测，所以这其实是一个softmax输出（编号2），编号1也是。下面是一张取自Szegety et al的论文中关于Inception网络的图片，你会发现图中有许多重复的模块，可能整张图看上去很复杂，但如果你只截取其中一个环节（如编号1），就会发现这就是上面讲的Inception模块。它在Inception网络中，起到一种调整的效果，并且能防止网络发生过拟合。
深度学习 计算机视觉 面试题合集
qq_33287871的博客
06-10 1484
深度学习 计算机视觉 面试题合集 1.什么是反卷积？ 反卷积也称为转置卷积，如果用矩阵乘法实现卷积操作，将卷积核平铺为矩阵，则转置卷积在正向计算时左乘这个矩阵的转置WT，在反向传播时左乘W，与卷积操作刚好相反，需要注意的是，反卷积不是卷积的逆运算。 一般的卷积运算可以看成是一个其中非零元素为权重的稀疏矩阵C与输入的图像进行矩阵相乘，反向传播时的运算实质为C的转置与loss对输出y的导数矩阵的矩阵相乘逆卷积的运算过程与卷积正好相反，是正向传播时做成C的转置，反向传播时左乘C 2.反卷积有哪些用途？ 实现上采样
InceptionV3网络结构讲解（Tensorflow-2.6.0实现网络结构）
Keep_Trying_Go的博客
04-24 7002
文章目录1.论文下载地址2.结构表3.改进的三种inception（1）改进inception模块1：（1）改进inception模块2：（1）改进inception模块3：4.特征图缩放和通道数增加的方式5.四条原则（1）原则一：（2）原则二：（3）原则三：（4）原则四：6.总结7.网络结构实现 1.论文下载地址 https://arxiv.org/abs/1512.00567 2.结构表 3.改进的三种inception 原始的InceptionV1模块： 关于以下模块的数量和计算的计算量可以参考
Googlenet 的 Inception结构理解笔记
jiachen0212的博客
11-05 6993
先上图： 1x1的卷机核在我看来主要是可以升降卷积前后的feature map 的 depth（在保证原图平面结构的同时，整合／线性叠加 输入的maps在不同depth上的信息，然后可自由改变输出的depth大小） 另外，其实关于左边的图，连接了不同尺寸的卷积核，增加了网络对不同尺度的适应性，特征表达能力增强（卷积核更多，网络更宽，提取到的信息更丰富多样），让网络自由的选择更好的特征。
GoogLeNet-TensorFlow:GoogLeNet的TensorFlow实现
05-19
接下来，我将继续提高代码的可读性，并且该项目的结构还将提高GoogLeNet网络培训的准确性。 去做 该存储库将尽可能使用面向对象的编程，以使机器学习代码结构更清晰。 到目前为止，我已经实现了数据加载器和处理...
自己训练的googlenet inception v1 v3模型
08-17
这是鄙人博客googlenet inception v1 v3模型训练的模型，博客地址：https://blog.csdn.net/guyuealian/article/details/81560537
GoogleNet V4-Inception
04-25
CNN GoogleNet 2015 (v4) Inception-v4 Inception-ResNet and the Impact of Residual Connections on Learning.pdf
GoogLeNet介绍
Coding
09-25 1239
inception 从v1-v4的变化 googlenet提出的Inception结构优势： 保证每一层的感受野不变，网络深度加深，使得网络的精度更高，利用该结构有效减轻网络的权重。使用1n和n1卷积核代替n*n卷积核，在保持感受野范围的情况下又降低了参数量。 随机梯度下降 参考文章: 深度学习—GoogLeNet GoogLeNet论文学习笔记 GoogLeNet 神经网络结构 ...
googlenet中inception层的理解
张洁的笔记
05-20 2432
之前比较googlenet和VGG的时候，提到过googlenet比起VGG来说要更加轻量，googlenet之所以模型小参数少主要就是inception的功劳。直白地讲，inception本质上就是说两个小卷积的叠加可以用很少的参数得到跟大卷积相同的效果。举例说明，5*5的卷积可以用两个3*3的叠加卷积替代，而参数由5*5*depth减少为了2*3*3*depth，从某种意义上，这也可以解释，V...
什么是GoogleNet？什么是Inception？GoogleNet结构详解（2014年）
忽逢桃林的博客
02-02 1万+
googleNet是2014年的ILSVRC的冠军模型，GoogleNet做了更大胆的网络上的尝试，而不是像vgg继承了lenet以及alexnet的一切框架。GoogleNet虽然有22层，但是参数量只有AlexNet的1/12 GoogleNet论文指出获得高质量模型最保险的做法就是增加模型的深度，或者是它的宽度，但是一般情况下，更深和更宽的网络会出现以下问题： 参数太多，容易过拟合，如果训...
「模型解读」GoogLeNet中的inception结构，你看懂了吗
喜欢打酱油的老鸟
06-30 580
https://www.toutiao.com/a6706860769624982020/ 1 Inception V1【1】 GoogLeNet首次出现在2014年ILSVRC 比赛中获得冠军。这次的版本通常称其为Inception V1。Inception V1有22层深，参数量为5M。同一时期的VGGNet性能和Inception V1差不多，但是参数量也是远大于Inception...
【干货】Inception经典架构对比
Jinlong_Xu的博客
12-23 1360
Inception 结构是卷积神经网络的经典架构之一，通过采用不同尺度的卷积核（1x1, 3x3, 5x5等），增强特征的多样性，从而提升网络性能。Inception包含Googlenet、Inception v2、Inception v3、Xception 等多个版本。本文一文带你了解个中究竟，横向对比Inception经典网络架构，文末附独家视频讲解，20分钟带你重温经典，你值得拥有~
深度学习之图像分类模型inception v2、inception v3解读
热门推荐
孙佰贵的专栏
03-05 7万+
inception v2与inception v3两种模型配置。 Inception v3单模型达到了21.2%的top1错误率，多模型达到了17.3%的top1错误率
经典卷积神经网络的学习（三）—— Inception Net
weixin_30819085的博客
03-13 264
Google Inception Net 首次出现在 ILSVRC 2014 的比赛中（和 VGGNet 同年），就以较大优势拔得头筹。那届比赛中的 Inception Net 一般被称为 Inception V1（version 1），其最大的优势在于控制 了参数量（也就控制了计算量）的同时，仍然能够获得非常好的分类性能 —— top-5 错误率 6.67%。 ...
深度学习:Inception网络
默语之声的博客
04-08 594
构建CNN时，你要决定卷积核的大小，是1x3合适，还是3x3合适，还是5x5合适？要不要添加pooling层？做这些决定（很可能是通过grid search）很麻烦，对吧？ Inception网络的优点，就是能代替你做决定。 Inception层的基本思想 Inception层是Inception网络中的基本结构。Inception层的基本原理如下图： Inception层中，有多个卷积层结构（...
人工智能详细笔记（第二节课）：CNN AlexNet NIN VGG GoogleNet ResNet DenseNet（初学者友好版本）
hanmo22357的博客
03-07 817
最近人工智能课上学习了这四种改进型的卷积神经网络，但是发现网上很多一部分的教程都花费大量时间来介绍这些网络的详细结构和参数等部分，这就对我这样数学和推理比较差的新手不太友好，因此我便用尽量通俗易懂的方式定性地总结了这四种网络的特点，对于初学者应该是足够用了。：NIN的优点在于使用1×1卷积来增加网络的非线性表达能力，同时可以减少模型参数的数量。：VGG网络结构相对于之前的卷积神经网络模型，其最大的改进是将网络的深度增加到了16~19层，并且采用了更小的卷积核，使得模型的参数量不会因为深度的增加而变得过大。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

あずにゃん

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值