DL-2: Variants of Neural Network

最新推荐文章于 2020-11-12 20:16:39 发布
最新推荐文章于 2020-11-12 20:16:39 发布
阅读量1.2k 收藏
点赞数
分类专栏： Algorithm 文章标签： deep-learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tianzhaixing2013/article/details/64922396
版权

本文主要参考台湾大学李宏毅(Hung-yi Lee)的深度学习教程PPT文档。

  • CNN(Convolutional Neural Network) widely used in image processing.
  • RNN(Recurrent Neural Network) Neural Network with Memory.

CNN

A neuron does not have to see the whole image to discover the pattern.
Connecting to small region with less parameters.

  • The same patterns appear in different regions.
  • Subsampling the pixels will not change the object.

    Less parameters for the network to process the image.


cnn0

Convolution

cnn1

cnn2

cnn3

cnn4

Max Pooling

maxpooling0

maxpooling1

The whole CNN

TWCnn0

TWCnn1

TWCnn2

  • Less parameters
  • Even less parameters
  • Shared weights

TWCnn3

参考

Digital2Slave
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 4
    评论
专栏目录
EXPERIMENTALLY DEFINED CONVOLUTIONAL NEURAL NETWORK ARCHITECTURE VARIANTS FOR NON-TEMPORAL REAL-TIME
weixin_40745291的博客
12-24 808
这是一篇October 7-10, 2018.发表于IEEE International Conference on Image Processing (ICIP)的一篇文章，作者提供了一种基于CNN的实时视频火焰检测。文章获取地址为：https://github.com/lixiaokai666/CVpaper 摘要： 论文成果：实时了视频实时火灾监测，且速度大大提升，准确率高达93%，...
机器学习 李宏毅 L21-Convolutional Neural Network
okgagaga的博客
01-30 367
CNN设计的初衷 CNN最初用于影像分类等。 1. Fully connected NN的效率较低。对于特殊的部分检测，可以只使用图片的某些小部分就可以实现，这样可以简化参数； 2. 针对图像不同位置的相同特征，可以去除一部分冗余的神经元，降低参数； 3. 图像进行降采样，不会影响图像的形状。因此我们可以对图像进行降采样，降低参数。 CNN的基本架构如下图所示，包括一次或多次的convo
Convolutional Neural Network Hung-yi Lee 卷积神经网络 李宏毅
LIWEI940638093的博客
11-07 603
Convolutional Neural Network
Convolutional Neural Network(CNN)- Hung-yi Lee
chitoseyono的博客
03-15 1641
CNN过程 CNN（Convolutional Neural Network）有三个特征。 Convolution 用Convolution实现Property1和Property2:设计多个Filter对全图进行过滤寻找pattern（如下图，每次从原图选3*3与filter内积，能够寻找如filter1那样对角线的pattern，数值越大特征越好，且因为用的是同一个filter，即使特征出现...
type-variants-nf：使用ncov2019-artic-nf管道的输出来检测SARS-CoV-2变体
02-13
该管道用于运行connor-lab / ncov2019-artic-nf的“ typing”部分，以检测SARS-CoV-2“相关变量”。 用法 nextflow run main.nf \ --variants_dir </path> \ --ref </path> \ --gff </path> \ --yaml </path> \ ...
educational-python-variants:探索不同的python实现
04-19
蛇的蓝图-教育性Python变体探索不同的python实现回购导航“降价页面包含我在研究该主题时记下的便笺的清理版本在仓库中有一些目录，用于一些更流行的python实现（cPython除外）。 他们可能并非全部都有代码示例，但...
tailwindcss-theme-variants:Tailwind CSS的基于媒体查询或JavaScript的主题变体，具有后备功能
05-15
:last_quarter_moon: Tailwind CSS主题变体这个Tailwind CSS插件可以注册各种变体，而不仅仅是明暗模式，而无需自定义属性。 它支持通过控制主题媒体查询，例如 ， print或您想要的任何内容CSS选择器，例如类和数据...
related-variants:相关变体 Opencart 2 扩展
06-22
什么是相关变量？ 在获取 提供具有不同变体的产品是电子商务中非常常见的情况。 例如，以销售 T001 型 T 恤的时装店为例。 T001 型号有不同的颜色（红色、绿色、白色）和尺寸（S、M、L）。 在 OpenCart 中，您...
nifty-variants:Ruby 中的变体
07-09
安装将此行添加到应用程序的 Gemfile 中： gem 'nifty-variants' 然后执行： $ bundle install -j2用法nifty-variants使用了 Ruby 2.1 中引入的 Refinements。 为了在您的类或模块中使用它，只需使用它。 class ...
【学习笔记】Deep Learning Tutorial (by Hung-yi Lee)
q449560173的专栏
11-30 1502
1、深度学习介绍 1.1、深度学习的三个步骤: 定义函数集合：f1f2...f1 f2 ... 使用神经网络模型 确定函数目标 准备训练数据，在监督学习中，每一份训练数据包括输入值和目标值两部分 代价（Loss）定义为输出与目标之间的差距，一个好的函数应尽可能地缩小其所有训练数据的总代价LL 一个函数由参数（parameter）或者权重（weight）完全定义，因此学习的目标是从函数集合
初学CNN from Hung-yi Lee 's ML
heheSakura的博客
11-27 990
久违的学习笔记，在周围大佬们的陪（压）伴（力）下，不得不给自己学习的压力啊！ 周五就要做报告了，得赶快写点笔记、总结。前面几课笔记周五补上，给自己挖个坑，记得填。 废话不说，拿出朕的小本本开写。 CNN（Convolutional Neural Network）卷积神经网络 听名字就觉得很吓人，卷积什么的！1. What’s CNN?1.1 CNN定义定义1. 一种专门用来处理类似网格结构的数据的
卷积神经网络(CNN)及其theano实现
galina博客
12-24 6267
卷积神经网络(CNN)及其theano实现 1 卷积神经网络 Convolutional Neural Networks (CNN) are biologically-inspired variants of MLPs(多层感知机). From Hubel and Wiesel’s early work on the cat’s visual cortex(猫的视觉皮层), we
非常全的CNN卷积神经网络整理
Liu Feng's Blog
11-12 3534
文章目录一、人的视觉原理二、卷积神经网络CNN简介：1. 简介2. 发展历史3. 应用4. 推荐文章（待更新）二、全连接神经网络的缺点及CNN解决的问题1. 全连接神经网络处理大尺寸图像明显的缺点2. CNN将复杂问题简化——将大量的参数降维成少量参数进行处理3. CNN保留图像特征4. CNN的三维体积神经元（3D volumes of neurons）三、卷积神经网络的层次结构1. 典型的CNN：2. 更为常见的CNN网络分层3.输入层（Input Layer）4. 卷积层1）数学上的卷积和机器学习中的
李宏毅老师课程：Convolutional Neural Network
APythonC的博客
07-30 467
卷积神经网络Why CNN for Image？Three Property for CNN Theory BaseThe Whole CNN StructureCNN – ConvolutionProperty 1Property 2Feature MapColorful imageConvolution V.s. Fully ConnectedCNN – Max PoolingOperation of max poolingConvolution + Max PoolingFlatten Why CNN
Netrual Network
怪咖的博客
07-09 798
神经网络 一、神经网络基础 感知机 在n个输入数据，通过权重与各数据之间的计算和，比较激活函数结果，得出输出 应用：很容易解决与、或问题 与或问题：于：所有的输入为1，输出为1.或：只要有一个为1，输出就为1.异或：相同为0，不同为1. 感知机解决分类问题，下图为简单的感知机模型 单个感知机解决不了的问题，可以增加 Rosenblatt在1957年，于Cornell...
【深度学习基础】《深度学习》李宏毅
twostarxx的博客
11-21 9281
目录 Lecture I: Introduction of Deep Learning 1. 深度学习的步骤 2. 全连接前馈神经网络（Fully Connect Feedforward Network） 2.1 神经元 2.2. 激励函数 2.3 Softmax layer 2.4 网络结构 2.5 应用举例（数字识别） 3. 对函数进行优化(goodness of funct...
Convolutional Neural Network (CNN or ConvNet) 卷积核的大小一般都是奇数*奇数
既然选择了远方 便只顾风雨兼程 - 永强
08-24 1633
Convolutional Neural Network (CNN or ConvNet) 卷积核的大小一般都是奇数*奇数 在 Convolutional Neural Network (CNN or ConvNet) 中，卷积核的大小几乎都是奇数*奇数 (5∗55*55∗5，3∗33*33∗3，1∗11*11∗1)。 The LeNet-5 architecture consists of two sets of convolutional and average pooling layers, fol
The consumer was configured to find a runtime of a component compatible with Java 11, packaged as a jar, and its dependencies declared externally. However we cannot choose between the following variants of org.jetbrains.kotlin:kotlin-gradle-plugin:1.7.0:
最新发布
06-10
This error message indicates that there is a conflict between different variants of the `org.jetbrains.kotlin:kotlin-gradle-plugin:1.7.0` dependency that your project is trying to use. The consumer ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Digital2Slave

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值