HS-ResNet: Hierarchical-Split Block on Convolutional Neural Network

最新推荐文章于 2024-07-14 17:34:26 发布
最新推荐文章于 2024-07-14 17:34:26 发布
阅读量3k 收藏 3
点赞数 3
分类专栏： 论文推荐 文章标签： 深度学习 1024程序员节
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nijiayan123/article/details/109205384
版权

最近在研究一些模型网络简化的问题，因此我看到了一篇挺有意思的论文。HS-ResNet: Hierarchical-Split Block on Convolutional Neural Network。这篇文章时对传统的卷积模块进行修改，去掉了冗余块特征信息。简化网络结构。但是并没有降低网络准确度。

从这个准确度图中我们可以看到整个模型相比于各种 ResNet50的变体，准确度都时有提升。整篇文章的思路就是下面这幅图可以准确概括出来的。

 

上图给出了本文所设计的HSB的网络结构示意图，经过1\times1卷积后，特征被Split成s组x_{i}，每组具有同等的通道通道数。每组特征x_{i}将被送入到3\times3卷积F_{i}()，输出特征表示为y_{i}。该文创造性的将y_{i}继续拆分并将y_{i,2}与下一组的x_{i+1}一起送入F_{i+1}()。最终的输出特征中小感受野可以聚焦于细节部分，这对于小目标识别很重要，而大感受野特征有助于捕获大目标。​ 在该文中，作者通过控制组数与通道数约束参数量和计算量。更大的组数意味着更强的多尺度提取性能，其他具体实现细节。我在这里就不细说了。其中这篇文章整体的思路跟华为的ghostnet 很相似。ghostnet 做了一次分解，这里进行了多次分解。整个效果还是有提升的。

skyfengye
关注
专栏目录
CNN骨干网络新选择HS-ResNet
Oner.wv的专栏
11-16 1073
【GiantPandaCV导语】这是最近百度的一篇网络结构设计文章，该网络结构是手工设计得来，主要改进在对特征图多级划分卷积，拼接，提升了网络的精度，同时也降低了推理时间。个人感觉是re...
HS-Resnet
码农ZZK的博客
11-07 1775
太长不看版 这是最近百度的一篇网络结构设计文章，该网络结构是手工设计得来，主要改进在对特征图多级划分卷积，拼接，提升了网络的精度，同时也降低了推理时间。个人感觉是res2net，ghostnet的结合，并且训练阶段没引入过多的trick，最后的实验结果很惊艳，或许是炼丹的一个好选择。 前言 在该工作内，我们发现多层级的特征对视觉任务效果提升明显，因此设计了一个即插即用的多级分离模块（Hierarchical-Split Block）。HS-Block包含了多个层级特征图的分离和拼接，我们将其替换到Resn
HS-ResNet: Hierarchical-Split Block on Convolutional Neural Network 卷积神经网络的层次分割块
Wincher's blog
09-18 803
摘要 本文提出了一种称为Hierarchical-Split块的表征块，它可以作为一种即插即用的块对现有卷积神经网络进行升级，显著提高了网络中的模型性能。层次分割块包含许多层次分割和连接连接在一个单一的残留块。我们发现多尺度特征对于众多的视觉任务是非常重要的。 如图1所示，是准确率和延时之间的比较。圆的大小表示参数量。橙色表示不同的提升策略，绿色表示用不同的注意力机制。红色是我们设计的，蓝色是大的ResNet。 引言 如何去改进网络结构从而提高CNN的表征能力？ 一张特征图被分为S组，每一组有W通道。如图
精度超越现有SOTA，百度视觉团队基于飞桨推出工业级骨干网络「HS-ResNet」
百度大脑
10-22 1156
点击左上方蓝字关注我们图像分类、目标检测、图像分割等各类视觉技术都离不开骨干网络（backbone），一个强有力的骨干网络可以为模型带来更高的效率及精度，所以它的设计一直都是业界研究者关...
Hierarchical Convolutional Neural Networks for EEG-Based Emotion Recognition
02-11
Hierarchical Convolutional Neural Networks for EEG-Based Emotion Recognition
A Hierarchical Convolutional Neural Network for Malware Classification论文理解
博客
05-01 233
摘要 将可执行文件视为字节序列或者汇编语言指令没有考虑程序的结构层次（空间关联性），因为函数调用会跳到指令中不同的位置，那么如果按照二进制文件处理，指令的执行仍然是不连续的，也就是说，并不是按照二进制文件流顺序进行的。那么提出一个HCNN网络，有两个层次的卷积块应用在助记符水平和功能水平，使我们能够从这两个层次提取n-gram样特征时，构建恶意软件表示。 说明 我们的主要贡献是一个新的神经架构，称为层次卷积网络，旨在捕捉有关恶意软件结构在记忆水平和功能水平的见解。考虑到可移植可执行文件（PE）具有层次结构，
Total recall understanding traffic signs using deep hierarchical convolutional neural network
liguandong
03-17 246
Total recall understanding traffic signs using deep hierarchical convolutional neural network German sign recognition benchmark (GTSRB) 99.33% Belgian traffic sign classification benchmark 99.1...
Convolutional Neural Network
既然选择了远方 便只顾风雨兼程 - 永强
01-16 2894
Convolutional Neural Network 1. Convolutional Neural Network 中的各个 layer 提取什么样的特征？ Visualizing and Understanding Convolutional Networks: The projections from each layer show the hierarchical nature of ...
CV系列经典论文(1) -- ResNet: Deep Residual Learning for Image Recognition
Levi_Ackerman__的博客
12-27 2515
Abstract Deeper neural networks are more difficult to train. We present a residual learning framework to ease the training of networks that are substantially deeper than those used previously. We explicitly reformulate the layers as learning residual
【IC-RS】论文16 HCNet: Hierarchical Feature Aggregation and Cross-Modal Feature Alignment for Remote Sen
最新发布
安静到无声
07-14 556
遥感图像字幕(RSIC)是一项自然语言处理与计算机视觉相结合的综合性任务，因其在图像检索[2]、场景理解[3]、变化检测[4]等领域的广泛应用而引起了人们的广泛关注。与图像超分辨率[5]、[6]、目标检测[7]、语义分割[8]等任务相比，图像字幕不仅可以识别图像中的目标，还可以捕获目标之间的关系。RSIC面临着几个特殊的挑战。1)尺度变化:遥感影像中同一类别的物体可能会出现较大的尺度变化，例如一个机场可能包含不同大小的飞机。
Sparse R-CNN: End-to-End Object Detection with Learnable Proposals论文翻译
Q1u1NG的博客
12-04 1173
Sparse R-CNN: End-to-End Object Detection with Learnable Proposals论文翻译摘要 论文地址：Sparse R-CNN: End-to-End Object Detection with Learnable Proposals 代码地址：https://github.com/PeizeSun/SparseR-CNN 摘要 我们提出了Sparse R-CNN，一种纯稀疏的方法用于图像中的目标检测。现有的目标检测工作很大程度上依赖于密集候选目标，如在
聚类算法-Hierarchical(MIN)-C++
k76853的专栏
12-31 6205
程序流程图： Hierarchical(MIN)核心功能函数，采用vector >::dTable存储两点之间的距离。计算每两个point间的距离并保存到distance table中；判断是否达到需要聚类的cluster数量，若是，将point信息写入clustering文件，程序结束。否则，合并两个具有最小距离的point，将两个point中的所有node全部加入到一个point
HS-ResNet，模型涨点的新方案
qq_43534932的博客
12-11 996
前言 近几年的模型结构的改进，越来越偏向于宽度的改进，如SKnet以及ResNeSt，都获得了不错的结果，本文讨论的是百度所提出的HS-ResNet，通过对网络的复现以及论文的阅读，感觉本片paper是把Res2Net思想和ResNeSt结合到一起了。 模型介绍 网络模型如图所示，先像ResNeSt一样，在channel这个层级上把结构split为5分，每一份都和前面的一份concat（类似Res2Net）操作，后进行卷积，最后再把得到的特征进行concat。 代码实现 import tensorflow
杭电2010 水仙花数
skyfengye的博客
10-08 319
这一题也是简单的题目，容易出错的点事 m=n的这种情况很少考虑到。#include<iostream> #include <vector> using namespace std; int main() { int m, n; int a, b, c; int flag; vector<int> sz; while (cin >> m >> n) {
一步一步分析讲解深度神经网络基础-Convolutional Neural Network
热门推荐
凡难事必作于细的博客
12-25 2万+
Convolutional Neural Network 参考http://cs231n.github.io/convolutional-networks/history Convolutional Neural Networks (CNNs / ConvNets)Convolutional Neural Networks are very similar to ordinary Neural
深度学习论文: ECA-Net: Efficient Channel Attention for Deep Convolutional Neural Networks及其PyTorch实现
mingo_敏
10-13 2475
CBNet: ECA-Net: Efficient Channel Attention for Deep Convolutional Neural Networks PDF:https://arxiv.org/pdf/1910.03151.pdf PyTorch: https://github.com/shanglianlm0525/PyTorch-Networks 1 概述 作者通过比对试验分别比较了降维和通道信息交流对SE Block的影响，分别得出两个结论，不降维的SE具有更好性能，通道信息交流有助于
EPSANet: An Efficient Pyramid Split Attention Block on Convolutional Neural Network 论文解读
sc1434404661的博客
06-30 3735
简介 Pyramid Split Attention Block用于增强特征提取 即插即用，可将Pyramid Split Attention Block取代ResNet的3×3卷积，提出基准网络ESPANet 目标分类与目标检测任务达到state-of-the-art效果 代码开源：https://github.com/murufeng/EPSANet 算法 Pyramid Split Attention (PSA)在SENet的基础上提出多尺度特征图提取策略，整体结构图如下所示。具体可分为如下
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值