_牛先生_-CSDN博客

原创结合代码聊聊重参数化ACNet与DBBNet

讲在前面的话：这篇文章的目的是两点，首先还是一样的介绍下ACNet与DBBNet的涨点原理，另外现在的网上的教程在代码方面，如何与自己的工程如何集成讲的比较少，需要读者自己去抠，对于初学者不太友好。这里不仅讲原理，还把代码抠出来，讲一讲，然后开箱即用。首先来看ACNet的原理如下图所示：模型首先在训练阶段将3x3的卷积核增加为3x3 , 1x3 和 3x1的并行三个卷积核，同时1x3和 3x1 是以原有3x3卷积核的中心展开，这样的好处是首先整个模型的参数量变大了，能够从直观上拟合更多的信息

2021-11-08 22:13:54 1259 9

原创用pytorch代码聊聊卷积正则化dropBlock及原理

正则化，老生常谈了，从最开始的dropout， weight decay ,还有early stop 等等，都是为了让网络不至于过度学习【过拟合】。但是后面大家惊奇的发现，dropout对于卷积层没啥用，基本只能用在全连接层。对此，一种用于卷积层的正则化方法就应运而生了。他叫dropBlock.卷积正则化方法 dropBlock首先看看为什么普通dropout对于卷积没有用。看上图，卷积网络提取的是有空间语义的信息，每个独立的特征单元单独具备的意义不是那么大，而各个特征单元之间的连接规律，相

2021-11-03 23:14:37 820

原创从pytorch代码讲讲通道注意力SENet和ECANet

在卷积网络中通道注意力经常用到SENet模块，来增强网络模型在通道权重的选择能力，进而提点。今天来说说典型的SENet以及ECANet。都分别说说原理和代码。真正使用的使用，就直接拿ECANet代码去用吧，后文有写好的pytorch模块代码：SENet模块【Squeeze and Excitation】原理很简单，如下两图所示：通过一个global avg pool加两个全连接层以及全连接层对应激活【relu和sigmoid】学习一个通道的注意力出来，用于决定哪些通道应该重点提取特征，哪些部分放

2021-11-01 21:07:54 3073 1

原创神经网络编译器TVM,autoTVM自动代码优化及c++部署cuda实践

内容简介：　　本文介绍了一种能够让你的神经网络跑的飞起的技术方法，截止目前已经有一定知名度，把这个方法学会，应该能有一定的收获．特别是在模型提速层面有不小的提速，同时，值得注意的时，这种autotvm是一种神经网络推理代码的搜索，其本质是自动生成了推理的代码，并且帮助你编译成对应的平台，更加需要提一嘴的事情是，autotvm没有改变数学层面的推理部分表达，该是wx+b 亦或者是激活函数部分是没有变化的，不会像比如量化的那种优化方法会造成一定的精度损失．所以这个方法值得尝试！下面是本个教程的所有代码仓库，

2021-10-19 21:25:01 1557

原创手撕代码insightFace中的arcface_torch

背景介绍　　搞人脸识别的同学基本都听过insightFace 的大名，在开源工程里面可以帮助大伙快速的建立自己的baseline , 代码玩儿的溜的同学说不一定一两天就玩儿通了．原始的insightface是mxnet实现的，但是现在工业界和学术的有非常多的人使用pytorch作为自己的开发平台，这就带来了一定的局部不适．终于最近insightFace基于pytorch实现了相关的算法，并公布了性能还不错的开源预训练模型，pytorch建议到1.6.0版本以上．感谢相关的开源作者做出的贡献．　　那么

2021-10-15 21:51:18 1695 1

原创结合代码看Vision Transformer【ViT】

参考仓库： jeonsworld/ViT-pytorch lucidrains/vit-pytorch 论文：An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale有相关问题搜索知识星球号：1453755 【CV老司机】加入星球提问。扫码也可加入：也可以搜索关注微信公众号: CV老司机相关代码和详细资源或者相关问题，可联系牛先生小猪wx号: jishudashou..

2021-10-14 21:20:50 1113

原创 Eyeriss v1v2: A Flexible Accelerator for Emerging Deep Neural Networks on Mobile Devices

首先贴一个比较完整各个系列论文的汇总刊物：Architecture design for highly flexible and energy-efficient deep neural network acceleratorsArchitecture design for highly flexible and energy-efficient deep neural network acceleratorsdspace.mit.edueyerissv1, eyerissv2 是MIT提出的

2021-10-12 21:21:28 797

原创 ScrFD人脸检测总结,2021轻量级的人脸检测

论文：Sample and Computation Redistribution for Efficient Face Detectionhttps://link.zhihu.com/?target=https%3A//arxiv.org/abs/2105.04714论文：Sample and Computation Redistribution for Efficient Face Detectionarxiv.org/abs/2105.04714代码位置：deepinsight/insig

2021-10-10 20:32:30 1552

原创 TensorRT工作手册

前段时间写了tvm的转换编译部署相关的文章，牛先生：神经网络编译器TVM,autoTVM自动代码优化及c++部署cuda实践20 赞同 · 0 评论文章正在上传…重新上传取消以及tensorrt偏向讲原理的文章：牛先生：tensorRT量化实践手册3 赞同 · 0 评论文章后来发现现在用tensorrt的还更多一些。今天也总结下，tensorrt的对应python接口模型转换，模型推理，模型量化相关的内容。作者做tensorrt在ubuntu桌面和jetson都做了相关的实践。总的..

2021-10-10 16:27:04 519

m0_62789066的博客