[论文理解]深层等变卷积神经网络Rotation Equivariance of Deep Convolutional Neural Network

最新推荐文章于 2024-08-09 12:48:56 发布
最新推荐文章于 2024-08-09 12:48:56 发布
阅读量2.2k 收藏 7
点赞数 2
分类专栏： 论文阅读 旋转等变性
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/bxdzyhx/article/details/109891549
版权
本文探讨了一种新型卷积神经网络，旨在确保全局旋转等变性，能够处理四个旋转方向的特征提取。相较于TI-POOLING，论文提出的网络在多层结构中实现了旋转不变性。然而，其局限性在于仅支持四个旋转方向，因为矩阵限制在p4群上。论文详细介绍了旋转操作、循环卷积层、循环置换变换、对角置换变换和保序卷积层的数学原理，以及如何构建保持旋转等变性的网络架构。
摘要由CSDN通过智能技术生成

在这里插入图片描述

1.几个问题

1.1 做了什么

提出一种能保证全局旋转等变性的卷积神经网络。
能对四个旋转方向提取特征。

1.2 效果

略

1.3 局限性 & 创新性

相比于TI-POOLING，这篇论文实现了多层协变网络。
但是它只能实现四个方向的旋转，因为矩阵是方形的，最多作用在p4群上。

2.数学部分

2.1 旋转操作

图像函数为 f : Z 2 → R f:{Z^2} \to R f:Z2→R。定义旋转变换 R R R（这里的R不是实数域的意思）, R ( f ( x ) ) , x ∈ Z 2 R\left( {f\left( x \right)} \right),x \in {Z^2} R(f(x)),x∈Z2相当于将图像顺时针喜欢转90°。

以下定理证明都可以用画图法直观验证，不再进行详细数学描述。

定理1：四次旋转相当于恒等变换

R 4 = I {R^4} = I R4=I

定理2：加法分配律

R ( f 1 + f 2 ) = R ( f 1 ) + R ( f 2 ) R\left( { {f_1} + {f_2}} \right) = R\left( { {f_1}} \right) + R\left( { {f_2}} \right) R(f1​+f2​)=R(f1​)+R(f2​)

定理3：卷积核交换律

假设有一个定义在 Z 2 Z^2 Z2上的卷积核和图像 F = f ( x ) F=f(x) F=f(x)，则

R ( I ∗ ψ ) = R ( I ) ∗ R ( ψ ) R\left( {I*\psi } \right){\rm{ = }}R\left( I \right){\rm{*}}R\left( \psi \right) R(I∗

最低0.47元/天 解锁文章
不想待在银河系
关注
专栏目录
卷积神经网络（CNN）简介：Convolutional Neural Networks (CNNs) Intro
AI天才研究院
08-07 806
作者：禅与计算机程序设计艺术Convolutional Neural Networks (CNNs) have become one of the most popular deep learning models for image classification tasks. In recent years, they have revolutionized computer vision and are widely used in applications such as object recogni
深度卷积神经网络——Deep Convolutional Neural Networks
lhaof的博客
02-26 6145
本文是对深度学习大牛Hinton于2012年发表在NIPS上面的论文《ImageNet Classification with Deep Convolutional Neural Networks》进行学习的笔记。 1.关于对数据集ImageNet的处理： 研究者将图片down-sample到固定像素256*256。对于一个矩形图片，先放缩图片使短边长度为256，才取此时图片中间的256*25
【面向代码】学习 Deep Learning（三）Convolution Neural Network(CNN)
DarkScope从这里开始
07-26 7万+
========================================================================================== 最近一直在看Deep Learning，各类博客、论文看得不少 但是说实话，这样做有些疏于实现，一来呢自己的电脑也不是很好，二来呢我目前也没能力自己去写一个toolbox 只是跟着Andrew Ng的
规范等变卷积网络和二十面体CNN
最新发布
YannicKilcher的博客
08-09 256
你是否想过在克莱因瓶上进行卷积？本文定义了流形上的CNN，使其独立于你选择的坐标系。令人惊讶的是，这导致了一种高效的实际方法，在多个任务中取得了最先进的成果！https://arxiv.org/abs/1902.04615摘要：对称变换的等变原理为神经网络架构设计提供了一种理论基础。等变网络在表现出对称性的视觉和医学影像问题上表现出优异的性能和数据效率。在这里，我们展示了如何将该原理扩展到超越全局...
Deep Learning（深度学习）学习笔记整理系列之（七）
热门推荐
zouxy09的专栏
04-10 67万+
Deep Learning（深度学习）学习笔记整理系列 zouxy09@qq.com http://blog.csdn.net/zouxy09 作者：Zouxy version 1.0 2013-04-08 声明： 1）该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。 2）本文仅供学
GrouPy:群等变卷积神经网络
05-02
注意：如果您正在寻找PyTorch实现，请查看Jorn Peters和Adam Bielski（ ）的拉取请求。 格鲁比 GrouPy是一个Python库，可在Chainer和TensorFlow中实现组等变卷积神经网络 ，并支持涉及变换组的其他数值计算。 GrouPy由以下模块组成： garray：转换变量数组（“组元素”） gfunc：一组转换上的函数数组 gconv：在组等变卷积网络中使用的组卷积 garray和gfunc模块用于快速预计算阶段，并在CPU上运行，而gconv用于训练和测试神经网络，并在GPU上运行。 我们主要使用Chainer实现（请参阅），但是可以使用经过单元测试的tensorflow实现，并且编写了代码，因此相对容易地移植到theano，torch或其他框架。 代码的大多数复杂性都在预计算步骤中，该步骤会生成用于转换过滤器的索引，并且每个深度学习框架都
Deep Convolutional Neural Networks for Sentiment Analysis of Short Texts
qq_27009517的博客
08-09 2614
代码：https://github.com/asahi417/DocumentClassification https://github.com/asahi417/DocumentClassification/blob/master/sequence_modeling/model/cnn_char.py abstract 短文本的情感分析 挑战：有限的文本信息 本文提出DCNN（deep...
Graph Convolutional Neural Network - Spatial Convolution 图卷积神经网络 — 空域卷积详解
Jay_Tang的博客
08-20 5518
Convolutional graph neural networks (ConvGNNs) Convolutional graph neural networks (ConvGNNs) generalize the operation of convolution from grid data to graph data. The main idea is to generate a node vvv’s representation by aggregating its own features xv\
笔记：PoseCNN:A Convolutional Neural Network for 6D Object Pose Estimation in Cluttered Scenes
kadima_WEI的博客
12-23 935
一种新的用于6D物体姿态估计的卷积神经网络PoseCNN
基于深度卷积神经网络的三维模型识别.pdf
09-25
DCNN 是一种基于卷积神经网络（Convolutional Neural Network，CNN）的深度学习模型，能够自动提取图像特征，而不需要人工设计特征提取器。 在点云数据处理方面，该方法使用占用网格规范化计算将点云数据转换为二值...
总结Deep Convolutional Neural Network for Image Deconvolution
伯兰的博客
04-02 3140
一、该论文主要工作 设计了一个深度卷积神经网络来捕获degradation image的特点 该卷积神经网络以一种新奇的方法结合了传统基于优化的方案和神经网络结构 引入可分离的卷积结构 该卷积神经网络分为两个模块，这两个模块都使用监督方式来训练 二、Degradation image的形成 Degradation image就包括图像模糊、图像压缩等等一系列的操作 ...
A Hierarchical Deep Convolutional Neural Network for Fast Artistic Style Transfer论文理解
04-10 1231
A Hierarchical Deep Convolutional Neural Network for Fast Artistic Style Transfer论文理解 现有的网络有两个主要问题： 1.用于训练前向网络的style图片的分辨率都是固定的，这样会导致不同的分辨率出来的艺术效果差别比较大，容易匹配错误尺寸的风格图。 2.当前的网络捕获不到小的
论文阅读笔记（一）——Deep Convolutional Neural Network with Independent
u012991166的博客
07-26 2022
此博客为Deep Convolutional Neural Network with Independent学习笔记。 这篇文章主要是解决 MS-Celeb-1M 的挑战，这一挑战的目的是解决同时识别100K 位明星。为了解决这个问题，提出了一个独立的softmax模型来将单个分类器分成几个小分类器。同时，训练数据分为几个分区。并且介绍了两个模型合并的方法。
Deep Convolutional Neural Networks for Image Classification: A Comprehensive Review(论文解读)
Enjoy_endless
02-26 3655
这是一篇关于图像处理(分类方向)的卷积神经网络发展的一个综述，聚焦于CNN在图像分类方向的应用，文章分析了：（1）他们早期的成功，（2）他们在深度学习复兴中的角色，（3）选择了象征性的工作成果，以及（4）通过回顾300多种出版物的贡献和挑战所带来的改进。 我们还介绍了他们目前的一些趋势和仍存在的挑战。 本综述面向那些想要了解CNN技术和体系结构发展的人，从他们的前辈到现代最先进的深度学习系统，特别...
深度学习入门——深度卷积神经网络模型（Deep Convolution Neural Network,DCNN）概述
qq_44918501的博客
04-20 8801
机器学习是实现人工智能的方法和手段，其专门研究计算机如何模拟或实现人类的学习行为，以获取新的知识和技能，重新组织已有的知识结构使之不断改善自身性能的方法。计算机视觉技术作为人工智能的一个研究方向，其随着机器学习的发展而进步，尤其近10年来，以深度学习为代表的机器学习技术掀起了一场计算机视觉革命。本文将针对典型的深度学习技术——深度卷积神经网络进行介绍，主要介绍深度卷积神经网络的基础知识。
论文解析《Deep Convolutional Neural Network Features and the Original Image》
朗云星空
06-11 1114
这一篇论文详细分析了人脸识别中CNN网络提取到的features有一些什么样的性质，一般人脸识别中CNN出来后面接一个线性层用交叉熵来分类，这里的features值得就是cnn出来的512或者128维的浮点数组。文章首先用这个features作为输入，使用LDA来分类，预测头部姿态Yaw,Pitch，和图像媒介，得到下面的结果，可以看到，embeding features还是包含反映面部姿态和原始...
【论文笔记】Group Equivariant Capsule Networks
qq_42532658的博客
03-30 639
Group Equivatiant Capsule Networks 仿照了这个博主的方法，读每一篇文献的时候都要问自己 一、四个问题 1、要解决什么问题？ 对胶囊网络进行扩展，为胶囊网络引入“不变性、等变性”的属性。 2、用了什么方法解决？ 提出一个通用的动态路由协议算法。 3、效果如何？ 4、还存在什么问题？ 二、论文概述 2.1简介 等变性： 当改变一个因素来转换输入样例时，我们希望“表示”等变，而在其他方面“不变”。 CNN： 卷积神经网络仅实现了“平移”下的等变性。 卷
卷积神经网络中的平移等变性分析
计算机视觉工坊
04-05 754
在机器学习中，我们通常关注模型的灵活性。我们希望知道选择的模型实际上能够完成我们想要的任务。例如，神经网络的通用逼近定理使我们相信神经网络可以近似任何所需精度的广泛类别的函数。但完全的灵活性也有缺点。虽然我们知道我们可以学习目标函数，但也存在许多错误的函数，它们在我们的训练数据上看起来完全一样。如果我们是完全灵活的，我们的模型可能会学习其中任何一个函数，一旦我们移开了训练数据，我们可能无法进行泛化。因此，需要对网络的灵活性加以限制。卷积神经网络是减少灵活性的一个著名成功案例。
E（n）等变图神经网络
stranger_Ss的博客
04-22 4804
E(n) Equivariant Graph Neural Networks (EGNNs) 一种新模型学习图神经网络，其对旋转、平移、反射、置换等变，不需要在中间层中计算昂贵的高阶表示。尽管现有方法仅限于三维空间上的等变，但我们的模型很容易扩展到高维空间。我们的方法在动态系统建模、图形自动编码器中的表示学习和预测分子性质方面的有效性。 深度学习许多进步在很大程度上依赖于深度神经网络中的诱导/归纳偏差（inductive biases）.将神经网络限制为相关函数的一种有效方法是利用问题的对称性，通过对来
卷积神经网络（Convolutional Neural Network，CNN）的概念
06-09
卷积神经网络（Convolutional Neural Network，CNN）是一种专门用于处理具有类似网格结构的数据的神经网络，常用于图像、语音和自然语言处理等领域。 CNN 的核心思想是通过卷积操作来提取输入数据中的特征，卷积...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值