「Deep Learning」Note on Capsule Projection Network

最新推荐文章于 2022-01-10 18:23:10 发布
最新推荐文章于 2022-01-10 18:23:10 发布
阅读量237 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dgyuanshaofeng/article/details/87737942
版权

QQ Group: 428014259
Tencent E-mail：403568338@qq.com
http://blog.csdn.net/dgyuanshaofeng/article/details/87737942

capsule nets相对于convolution nets，也就是capsule vector对于neuron activation。
作者发现胶囊投影，可被视作胶囊子空间的权重归一化；并且传统权重归一化是胶囊投影的1D特殊情况。
在相同计算和内存成本下，CapProNet超越残差网络和密集网络。
capsule nets开始抬头了。

[1] CapProNet Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces NIPS 2018 [paper] [PyTorch code]
[2] CapProNet: 从胶囊投影网络的突破到Weight Normalization的高维推广 [link]

小锋子Shawn
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
DNN(Deep-Learning Neural Network)
qq_50974223的博客
04-15 332
DNN(Deep-Learning Neural Network) 接下来介绍比较常见的全连接层网络（fully-connected feedfoward nerural network） 名词解释 首先介绍一下神经网络的基本架构，以一个神经元为例 输入是一个向量，权重（weights）也是一个矩阵 把两个矩阵进行相乘，最后加上偏差（bias），即w1 * x1 + w2 * x2 + b 神经元里面会有一个激活函数（activation），比如sigmoid,Relu等等，然后将这个结果当作未知量输入
Python Deep Learning: Exploring deep learning techniques, neural network
02-07
• A strong foundation on neural networks and deep learning with Python libraries. • Explore advanced deep learning techniques and their applications across computer vision and NLP. • Learn how a ...
neural network and deep learning笔记（1）
dp_BUPT的博客
03-27 3252
neural network and deep learning 这本书看了陆陆续续看了好几遍了，但每次都会有不一样的收获。DL领域的paper日新月异，每天都会有很多新的idea出来，我想，深入阅读经典书籍和paper，一定可以从中发现remian open的问题，从而有不一样的视角。
Deep Learning Neural Network
ygp12345的博客
10-02 257
the history of Deep Learning 下图描述了深度学习的应用率 下图是深度学习的历史 how to do deep learning 如何去深度学习，分为以下三步： Neural Network step1 第一步就是神经网络，下图红框处就可以代表一个神经元，神经网络的参数为θ，也就是所有的w和b的集合。因为神经网络就是由若干逻辑回归构成。 下面我们来看看其中一种神经网络，完全连接前馈神经网络：就是把每根线都连上，除了初始值之外，剩下的神经元的输入就是上一次的输出，就这样一层一层的
Deep Learning Networks: CNN-, RNN-
Tang_Zhe的博客
01-10 733
CNN-: LetNet5,AlexNet,R-CNN,SPPNet,NIN,VGG,Fast R-CNN,ResNet,FCN,Faster R-CNN,FPN,Mask R-CNN RNN-: JordanNet,ElmanNet,LSTM,BRNN,GRU else: SN, GAN, Attention, Self-Attention
deep learning 之 深度网络（一）
chenconghui的专栏
12-24 728
最近开始学习深度学习，希望记录下学习的过程 经过对稀疏自编码器的方法，可以得到一组原始数据的特征值，但是这种特征属于比较浅的特征，由于它只使用了一层隐藏层计算得到的。 对于更为复杂的特征，需要引入深度学习，即含有多个隐藏层的神经网络。这种网络的两层之间存在非线性关系，因此可以用来表示更为复杂的函数关系。 注意，每一层的激活函数必须是非线性的，因为多层的线性函数组合起来本质上只能表达线性函数。
Hands-On Transfer Learning with Python
10-18
firstly, we focus on detailed coverage of deep learning (DL) and transfer learning, comparing and contrasting the two with easy-to-follow concepts and examples. The second area of focus is real-world...
Hands-On-Deep-Learning-Algorithms-with-Python:Packt的Python动手深度学习算法
05-27
使用Python的动手深度学习算法 这是Packt发布的《 的代码库。 通过使用TensorFlow实施深度学习算法和广泛的数学知识这本书是关于什么的？ 深度学习是AI领域最受欢迎的领域之一，可让您开发各种复杂程度不同的多层...
Deep Learning for Medical Decision Support Systems.pdf
08-25
通过分析患者的运动数据，如步态分析，以及可能的面部表情变化，胶囊网络（Capsule Network）可以识别帕金森病的早期迹象。胶囊网络擅长处理图像中的层次结构，对于捕捉复杂的肌肉运动模式特别有效。 心脏病的诊断...
Novel-Deep-Learning-Model-for-Traffic-Sign-Detection-Using-Capsule-Networks:胶囊网络在德国交通标志数据集上表现出色
05-02
使用胶囊网络进行交通标志检测的新型深度学习模型 胶囊网络在德国交通标志数据集上表现出色 论文链接 抽象的 迄今为止，卷积神经网络是交通信号分类中使用最广泛的深度学习算法，但由于最大池化层的固有缺陷，它们...
EPSON EasyMP Network Projection for Windows 应用软件
04-26
EPSON的无线投影软件，只需支持EPSON无线投影的投影机都可以使用，脱离有线烦恼。
（Deep Learning）network in network 学习笔记
shouke22的博客
10-29 446
摘要 提出一种新的深层网络“NIN”模型在感受野的辨别力。通过建立微型神经网络，在感受野中获得更复杂的抽象结构。 对所有的feature map使用global average pooling（全局均值池化）代替传统CNN中的全连接层。有助于描述输出类的特征和降低过拟合。 提出问题 1. 传统的卷积神经网络一般来说是由：线性卷积层、池化层、全连接层堆叠起来的网络。卷积层通过线性滤波器进行线性卷积
"CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces"阅读笔记
Fire_Light_的博客
01-11 1234
"CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces" 阅读笔记capsule简介capsule subspace正交投影网络损失函数实验结果可视化实验 原文链接：https://arxiv.org/abs/1805.07621v2 这篇论文利用了之前hinton大佬提出的capsul...
深度学习/Deep Learning==神经网络/Neural Network：综述
u013250861的博客
12-16 813
一、人工智能、机器学习、深度学习关系 人工智能和机器学习，深度学习的关系 机器学习是人工智能的一个实现途径 深度学习是机器学习的一个方法发展而来
CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces 论文笔记
qq_36379719的博客
02-25 255
1、 本文提出了一种关于胶囊网络的新思想，首先将输入的特征向量X通过正交投影到一组胶囊子空间上，然后得到相应的胶囊。
【Segment】Semantic Projection Network for Zero- and Few-Label Semantic Segmentation
Rlin_by的博客
11-04 506
Abstract 这篇论文出发点是想减轻现在语义分割任务中需要expensive annotation的问题，提出了few-shot（training过程中有少量某一测试类的label）以及zero-shot（training过程中无任何标注），并且不采用pixel-level而采用轻量标注（image level label和box annotation）的方法。名为semantic projection network (SPNet) Introduction 作者认为虽...
强化学习-李宏毅-算法02：DQN（Deep Q-Learning Network）【Deep Learning Network + Q-Learning 】
u013250861的博客
01-06 7528
DQN（Deep Q-Learning Network）可谓是深度强化学习（Deep Reinforcement Learning，DRL）的开山之作，是将深度学习与强化学习结合起来从而实现从感知（Perception）到动作（ Action ）的端对端（End-to-end）学习的一种全新的算法。由DeepMind在NIPS 2013上发表1，后又在Nature 2015上提出改进版本2。 - DQN（Deep Q-Learning Network）创新点： 1. 基于Q-Learning构造Loss
论文阅读笔记：ProjectionNet: Learning Efficient On-Device Deep Networks Using Neural Projections
BoCong-Deng的博客
11-16 903
论文中介绍了一种叫ProjectionNet的联合框架，可以为不同机器学习模型架构训练轻量的设备端模型。其使用复杂的前馈/循环架构（就像 LSTM）作为训练模型，联合一个简单的投影（projection）架构——其中包含动态投影操作以及一些窄带全连接层。整个架构使用反向传播在 TensorFlow 上进行端到端训练，在训练完成后，我们就可以直接使用紧凑的 ProjectionNet 进行推理了。通过这种方法，我们可以训练尺寸很小的 ProjectionNet 模型，兼顾小尺寸（比常规模型小几个数量级）与高性
【面向代码】学习 Deep Learning（一）Neural Network
热门推荐
DarkScope从这里开始
07-23 10万+
========================================================================================== 最近一直在看Deep Learning，各类博客、论文看得不少 但是说实话，这样做有些疏于实现，一来呢自己的电脑也不是很好，二来呢我目前也没能力自己去写一个toolbox 只是跟着Andrew Ng的UFLDL
sar image change detection based on multiscale capsule network
最新发布
01-01
基于多尺度胶囊网络的SAR图像变化检测是一种基于深度学习的图像处理技术。合成孔径雷达（SAR）图像是一种主要用于地理信息获取的重要遥感数据，而图像变化检测则是对同一区域在不同时间拍摄的SAR图像进行比较，以识别出区域内发生的变化。多尺度胶囊网络是一种能够有效处理图像多尺度信息的深度学习网络模型，它通过建立多层次的胶囊来提取图像的特征，能够更好地捕捉到图像中不同尺度的变化情况。 在SAR图像变化检测的过程中，多尺度胶囊网络可以对图像进行分层处理，从而识别出不同尺度下的变化情况。同时，它还可以通过学习图像中的特征来进行自适应的特征提取，从而提高了对变化区域的识别准确度。另外，多尺度胶囊网络还可以通过反向传播算法来不断优化模型，进而提高其变化检测的性能。 总的来说，基于多尺度胶囊网络的SAR图像变化检测技术能够有效地利用深度学习的优势，对SAR图像进行更加精准和高效的变化检测，为地理信息获取和遥感监测领域提供了重要的技术支持。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值