传统BP vs CNN

最新推荐文章于 2024-06-26 19:42:33 发布
最新推荐文章于 2024-06-26 19:42:33 发布
阅读量3.6k 收藏 11
点赞数 3
分类专栏： Deep Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hduxiejun/article/details/53427682
版权

传统BP vs CNN

存在2个问题

传统BP网络存在的问题：
1.权值太多，计算量太大
2.权值太多，需要大量样本进行训练

这里写图片描述

传统的BP来处理图像问题的话因为计算权值太多太大。

网络的建立要根据数据的大小来建立。
求解权值得过程类似于求解方程组的过程，有1亿个权值要多少个数据量要多少样本？
最好是权值得5-30倍。 一般说来数据量越大越好。

CNN的崛起

感受野

CNN的牛逼之处在于通过感受野和权值共享减小了神经网络需要训练的参数个数。
这里写图片描述

权值共享

这里写图片描述

权值是共享的：区域大小都是一样的，权值都是一样的

这里写图片描述

存在问题-解决方案

存在的问题：
1.边缘过度不平滑（重采样的方法来解决这个问题）
2.滤波器太单一（采集图片的一些特征，不同的滤波器采集不同的特征）

CrazyVertigo
关注
  • 3
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
DeepLearnToolbox-master_dbn_深度学习_CNN_CAE_BP_
10-03
BP算法在许多传统的前馈神经网络中广泛使用，例如多层感知机（MLP），用于解决回归和分类问题。 卷积神经网络（CNN）是一种专门处理图像、声音和其他具有空间结构数据的网络。CNN的特点在于其卷积层，它能检测局部...
bp神经网络和cnn神经网络,bp神经网络和神经网络
aifans_bert的博客
10-17 2084
一、计算方法不同1、前馈神经网络：一种最简单的神经网络，各神经元分层排列。每个神经元只与前一层的神经元相连。接收前一层的输出，并输出给下一层．各层间没有反馈。2、BP神经网络：是一种按照误差逆向传播算法训练的多层前馈神经网络。3、卷积神经网络：包含卷积计算且具有深度结构的前馈神经网络。二、用途不同1、前馈神经网络：主要应用包括感知器网络、BP网络和RBF网络。2、BP神经网络：（1）函数逼近：用输入向量和相应的输出向量训练一个网络逼近一个函数；（2）模式识别：用一个待定的输出向量将它与输入向量联系起来；（3
BP神经网络与卷积神经网络（CNN）
热门推荐
s6977880的专栏
10-04 3万+
神经网络 卷积神经网络 CNN 反向传播 BP
一文读懂循环神经网络(RNN)
最新发布
lbr15660656263的博客
06-26 1279
循环神经网络（Recurrent Netural Network,Rnn)是一类具有短期记忆能力的神经网络。在RNN中，神经元不但可以接受其他神经元的信息，也可以接受自身的信息，形成具有环路的网络结构，RNN由此得名。循环神经网络已经被广泛应用在语音识别、语言翻译以及图片描述等任务上。为了处理时序数据并利用其历史信息，我们需要让网络具有短期记忆能力。而前馈网络是一种静态网络，不具备这种记忆能力。RNN基本结构如下：
BP与CNN的联系总结
LLearx的博客
10-27 8401
传统全连接BP网络与CNN的一些总结与联系   本文的目的是： 1、 对刚学知识的温故知新； 2、 作为一个笔记作用； 3、 恳请对错误点或者不恰当点的指正。   下面开始扯皮。   网络前向传播略。 BP网络反馈过程： 证明过程略，主要是链式法则，网上一大堆证明。下面给出结论，各个符号的意义体会到其中道理即可。 （粗体是向量or矩阵，正常体是标量） 一个重要
对比分析BPNN、CNN、TL-CNN、DK-ELM（深度核极限学习机）几种模型的优劣势？
weixin_42613360的博客
02-16 357
BPNN是一种简单的神经网络模型，主要优势是建模简单，计算量小，容易实现；CNN是一种卷积神经网络，它能够捕捉局部空间特征，适用于图像处理；TL-CNN是一种时间和空间的卷积神经网络，它能够融合时间序列特征，适用于语音识别；DK-ELM(深度核极限学习机)是一种计算复杂度较低的模型，它能够有效的提取特征，适用于多种应用场景。 ...
CNN_tutorial
12-07
CNN中的BP过程是对传统BP算法的推广，考虑到了卷积层、激活层和池化层的特殊性。 为了提升训练效果，CNN在训练过程中还会涉及到正则化方法，如权重衰减（L2正则化）和dropout技术，用以防止过拟合并提高模型泛化...
BP.rar_BP_BP网络模型
09-24
此外，深度学习的崛起，如卷积神经网络（CNN）和循环神经网络（RNN），在某些领域已超越了传统的BP网络。 总结来说，BP神经网络模型是一种基于反向传播的机器学习算法，通过MATLAB实现能有效处理非线性问题。提供的...
BP神经网络，极限学习机，卷积神经网络CNN，粒子群优化BP神经网络等10个时间序列预测程序
02-09
本资源包包含了多种算法的实现，包括经典的反向传播（BP）神经网络、极限学习机（ELM）、卷积神经网络（CNN）以及基于粒子群优化的BP神经网络，这些都是针对时间序列预测的有效工具。 首先，BP神经网络...
BPNN和CNN的关系
weixin_44943389的博客
05-31 397
CNN是一种特殊类型的神经网络，主要用于处理和分析具有网格结构数据的任务，例如图像和视频。CNN引入了卷积层和池化层的概念，以有效地捕捉图像中的局部特征，并减少网络参数的数量。CNN可以看作是BPNN的一种特殊形式，其中卷积层和池化层的引入使得网络能够更好地处理图像和其他网格结构数据。反向传播算法仍然用于训练CNN，但由于CNN的特殊结构，它在图像处理和计算机视觉任务中表现出色。因此，可以说CNN是BPNN的一种变体，专门针对处理图像和类似数据的任务进行了优化。
深度学习——神经网络之CNN卷积神经网络
sinat_42247418的博客
03-03 1558
深度学习——神经网络之CNN卷积神经网络
机器学习——深度神经网络实践（FCN、CNN、BP）
转载请标明出处，完整项目/代码详见github：https://github.com/yiru1225
06-15 5254
本篇博客主要介绍深度神经网络（FNC、CNN、BP等）算法的概念与原理以及相关分析推导，比较了FCN与CNN的异同，推导了神经网络前向后向传播算法的优化迭代公式。并将将深度神经网络算法运用于解决实际问题（以人脸识别、手写体识别、图像分类为例）。另外，针对经典神经网络的不足，设计了全新深度神经网络算法，从多方面、多角度进行了优化（内附数据集与python代码）。...............
机器学习：MLP，BP，CNN，GAN
燕双嘤
12-15 5358
1，基础知识 1.1，概述 机器学习：概念_燕双嘤-CSDN博客1，机器学习概述1.1，机器学习概念机器学习即Machine Learning，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。目的是让计算机模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断完善自身的性能。简单来讲，机器学习就是人们通过提供大量的相关数据来训练机器。DataAnalysis：基本概念，环境介绍，环境搭建，大数据问题_燕双嘤-CSDN博客1，概述1.1，数据的性质所谓数据就是描述事
BP/CNN神经网络总结整理
Jerry0131的专栏
08-17 511
准备工作 常用的激励函数一般有两种，一种是sigmoid函数，它的值域为(0,1)(0,1)(0,1)，因此这个函数能很好地解释概率方面的意义。另一个函数是tanh函数，它的值域为(−1,1)(-1,1)(−1,1)。两个函数的形态都差不多，都是S型。 sigmoid函数的形式被定义为： f(z)=11+exp⁡(−z)f(z)=\frac{1}{1+\exp(-z)}f(z)=1+exp(−z)1​ 其导数为 f′(z)=f(z)(1−f(z))f'(z)=f(z)(1-f(z))f′(z)=f(z)(
神经网络学说的主要观点,对神经网络的简单理解
shirley67269的博客
08-10 1330
生物神经网络主要是指人脑的神经网络，它是人工神经网络的技术原型。人脑是人类思维的物质基础，思维的功能定位在大脑皮层，后者含有大约1011个神经元，每个神经元又通过神经突触与大约103个其它神经元相连，形成一个高度复杂高度灵活的动态网络。作为一门学科，生物神经网络主要研究人脑神经网络的结构、功能及其工作机制，意在探索人脑思维和智能活动的规律。...
BP算法（CNN卷积神经网络）猫狗识别检测Python-博文
m0_65146002的博客
05-19 907
BP算法，全称为反向传播算法（Backpropagation），是训练人工神经网络，尤其是多层感知机（MLP）的一种高效方法。在卷积神经网络（Convolutional Neural Network, CNN）中，BP算法同样发挥着核心作用，用于优化网络权重，从而提高模型在特定任务上的表现，例如图像分类任务，如猫狗识别项目。猫狗识别项目是一个典型的计算机视觉任务，旨在通过分析图像数据，自动区分图片中的动物是猫还是狗。
BP神经网络与CNN结合的心肌梗死自动检测
本文提出的解决方案是利用机器学习技术，特别是结合了两种不同的神经网络模型：BP神经网络和卷积神经网络(CNN)。BP神经网络是一种监督学习模型，擅长处理结构化的输入数据，如典型的ECG特征。在处理典型心肌梗死时，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值