记录blurpool

最新推荐文章于 2023-03-23 20:33:50 发布
最新推荐文章于 2023-03-23 20:33:50 发布
阅读量826 收藏
点赞数 1
分类专栏： 深度学习 代码啊代码
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/iris_he/article/details/97971072
版权
这篇博客介绍了Richard Zhang在ICML 2019年发表的论文，旨在解决CNN中最大池化或平均池化无法保持时间平移不变性的难题。BlurPool提出了一种方法，通过在池化操作前应用模糊滤波器来恢复这种不变性。代码实现中，BlurPool使用了1到9的奇数滤波器，且不需额外硬件电路，但下采样过程可能需要优化。 BlurPool可通过分解为多种池化操作加上1D卷积来实现。
摘要由CSDN通过智能技术生成

论文

Richard Zhang. 
In ICML, 2019. Making Convolutional Networks Shift-Invariant Again 

来源：

https://github.com/adobe/antialiased-cnns

 

目的：

解决CNN网络下maxpool或者avgpool中timeshift不变性不能保持的问题

从代码上看M取值从1到9（奇数）

从代码上看，硬件不需要增加特殊电路，但downsample的优化（引入filter）需考虑，实现上这类pooling需要分解为多种pool加filter（1Dconv）。

处理办法

Baseline Anti-aliased replacement
[nn.MaxPool2d(kernel_size=2, stride=2),] [nn.MaxPool2d(kernel_size=2, stride=1), 
Downsample(channels=C, filt_size=M, stride=2)]
[nn.Co
最低0.47元/天 解锁文章
iris_he
关注
专栏目录
深度学习论文: Making Convolutional Networks Shift-Invariant Again及其PyTorch实现
mingo_敏
08-09 322
深度学习论文: Making Convolutional Networks Shift-Invariant Again及其PyTorch实现 Making Convolutional Networks Shift-Invariant Again PDF: https://arxiv.org/pdf/1904.11486.pdf PyTorch代码: https://github.com/shanglianlm0525/CvPytorch PyTorch代码: https://github.com/shang
shift-invariant论文翻译
YueYuenum的博客
01-30 778
使卷积网络再次移位不变（Making Convolutional Networks Shift-Invariant Again） 摘要 现代的卷积网络并不是位移不变的，因为小的输入位移或平移会导致输出的急剧变化。 常用的下采样方法（例如最大池化，跨步卷积和平均池化）会忽略采样定理。 众所周知的信号处理解决方案是在下采样之前通过低通滤波进行抗混叠。 但是，简单地将此模块插入深层网络会导致性能下降。 结果，今天很少使用它。 我们证明了正确集成后，它与现有的体系结构组件（例如最大池）兼容。 该技术是通用技术
ShiftInvariant平移不变性-BlurPool
01-20
论文: ICML, 2019. Making Convolutional Networks Shift-Invariant Again GitHub地址: Github 1.现有网络存在的问题 很多时候都认为max pool或者avg pool可以引入一定的平移不变性，使网络对于平移鲁棒，但是实际是当输入的图像有较小的平移时可以很大程度上影响网络的输出（横轴是图像的偏移量，如果不进行处理，网络的输出震荡很大） 实验的结果中可以看出maxpool并没有表现出很好的平移不变性。为了保持平移不变性，可以在下采样（maxpool/strided conv）之前进行低通滤波，但是插入低通滤波器的位置很
CNN实用插件（一）
qq_52302919的博客
03-15 1805
一、BlurPool 论文地址：https://arxiv.org/abs/1904.11486 论文：BlurPool：Making Convolutional Networks Shift-Invariant Again 论文中给出的原因，是因为stride=2的时候卷积和pool等下采样操作时，违反了采样定理，会导致信号走样，其实这个问题在很久之前就有所说明，就比如我们在构建高斯、拉布普斯金字塔的时候，下采样之前都需要先使用高斯模糊对图像进行处理，就是为了防止下采样出现走样的情况，也就是anti-al
BlurPool：Making Convolutional Networks Shift-Invariant Again【附Pytorch实现】
AI数据工厂
05-14 2971
带有步长的操作，如Conv、MaxPooling、AvgPooling，都会带来平移不变性的丢失。作者通过引入信号处理领域通过低通滤波器抗混叠的原理，提出了BlurPool，将其融合现有方法中，有效缓解了平移不变性的丢失。
深度学习 卷积神经网络即插即用的小插件
Fantastic
12-14 6650
卷积神经网络即插即用的小插件前言小插件STNASPPNon-localSECBAMDCN v1&v2BlurPoolRFBASFF代码实现STNASPPNon-localSECBAMDCNBlurPoolRFBASFF 前言 本篇博客主要介绍卷积神经网络中的即插即用的模块。“即插即用的插件“意味着该插件能够快速复现，并且能够随时应用到神经网络中，容易植入，容易落地，真正做到“plug-and-play”。在之前的项目当中，使用yolov4已经涉及到一些模块，如channel attention、CB
【AI达人特训营】SoftPool：即插即用的池化操作
m0_63642362的博客
07-09 1966
SoftPool可以在不引入额外的可学习参数的情况下在减少的激活映射中保留更多的信息，涨点明显
（2021，CLIP）基于自然语言监督学习可迁移视觉模型
最新发布
qq_44681809的博客
03-23 974
CLIP 模型学习在预训练期间执行各种各样的任务，然后通过自然语言提示来利用这些任务学习，从而实现向许多现有数据集的 zero-shot 迁移。在足够大的规模下，这种方法的性能可与监督模型相媲美，但仍有很大的改进空间。
Making Convolutional Networks Shift-Invariant Again
qq_20481015的博客
08-20 567
Making Convolutional Networks Shift-Invariant Again 摘要 现代卷积网络并不是位移不变（shift-invariant）的，因为小的输入移位会导致输出的剧烈变化。常用的降采样方法，如最大池化（max-pooling）、跨步卷积（strided-convolution）和平均池（average-pooling），忽略了采样定理（he...
CNN为什么丢失了平移不变性？怎么保持？
weixin_30449453的博客
08-24 870
卷积神经网络CNN极大提高了计算机视觉的性能，带来了计算机视觉的革命，但众所周知，只要输入图片稍微改一个像素、平移一个像素，CNN的输出就会发生巨大的变化，所以很容易招到对抗攻击。今天分享一篇致力于解决CNN平移不变性对抗性攻击的ICML2019的一篇论文，《Making Convolutional Networks Shift-Invariant Again》。平移不变性丢失原因根本原因就在于下...
[水文]论文极简记录
PeaceInMind的博客
05-18 1667
分割 Pyramid vision transformer: A versatile backbone for dense prediction without convolutions conditional positional encodings for vision transformers [2021-CVPR]Rethinking semantic segmentation from a sequence-to-sequence perspective with transformers. CV
论文阅读：Making Convolutional Networks Shift-Invariant Again
liyu0611的博客
10-22 1936
Abstract 目的，利用经典信号采样理论，消除下采样（max-pooling, strided-convolution, and averagepooling）引起的信号混叠（锯齿）效应。方法抗锯齿（anti-aliasing)，达到平移不变形。 1. Introduction 早期的网络确实采用了模糊下采样的形式–平均池，但经验说明最大池表现更好，但2018有人发现因为maxpool没有抗锯...
真正的即插即用！盘点11种CNN网络设计中精巧通用的“小”插件
3D视觉工坊
01-13 2176
点击上方“3D视觉工坊”，选择“星标”干货第一时间送达作者丨皮特潘编辑丨极市平台导读所谓“插件”，就是要能锦上添花，又容易植入、落地，即真正的即插即用。本文盘点的“插件”能够提升CNN...
缓冲池(buffer pool)
feng_201的博客
06-21 2179
应用系统分层架构，为了加速数据访问，会把最常访问的数据，放在缓存(cache)里，避免每次都去访问数据库。 操作系统，会有缓冲池(buffer pool)机制，避免每次访问磁盘，以加速数据的访问。 MySQL作为一个存储系统，同样具有缓冲池(buffer pool)机制，以避免每次查询数据都进行磁盘IO。 今天，和大家聊一聊InnoDB的缓冲池。 InnoDB的...
rj45带滤波器20/05的数字是什么意思_CNN为什么丢失了平移不变性？怎么保持？
weixin_39607240的博客
11-06 109
欢迎关注我的个人微信公众号：小纸屑，致力于分享优秀AI论文如果不喜欢看文章的，可以观看视频讲解：官方视频讲解 免费视频讲解卷积神经网络CNN极大提高了计算机视觉的性能，带来了计算机视觉的革命，但众所周知，只要输入图片稍微改一个像素、平移一个像素，CNN的输出就会发生巨大的变化，所以很容易招到对抗攻击。今天分享一篇致力于解决CNN平移不变性对抗性攻击的ICML2019的一篇论文，《Making Co...
【深度学习】详解 CLIP
闻韶
12-01 9754
【深度学习】详解 CLIP - Learning Transferable Visual Models From Natural Language Supervision
了解CV和RoboMaster视觉组（五）CNN没有不变性？
HNU跃鹿战队的博客
05-22 1189
卷积神经网络CNN是否能提取到具有旋转/平移/颜色/亮度/对比度/尺度不变的特征？本文为你揭开答案的冰山一角。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值