yuanCruise

已经有cuda8下，安装cuda9，安装cudnn，安装conda并构建对应版本的python虚拟环境参考链接https://blog.csdn.net/weixin_32820767/article/details/80421913https://blog.csdn.net/qq_42683011/article/details/114242445【cuda版本和对应驱动版本】https://blog.csdn.net/swordinhand/article/details/84340331 【

论文：Soft Filter Pruning for Accelerating Deep Convolutional Neural Networks论文：Asymptotic Soft Filter Pruning for Deep Convolutional Neural Networks论文链接：https://arxiv.org/pdf/1808.06866.pdf论文链接：https://arxiv.org/pdf/1808.07471.pdf代码链接：https://github.com/

1.centerloss原理centerloss中心损失它仅仅用来减少类内的差异，而不能有效增大类间的差异性。下图中，图（a)表示softmax loss学习到的特征描述 。图（b)表示softmax loss + center loss 学习到的特征描述，他能把同一类的样本之间的距离拉近一些，使其相似性变大，尽量的往样本中心靠拢，但可以看出他没有把不同类样本之间的样本距离拉大。centerloss的主要思路为：让每一类特征尽可能的在输出特征空间内聚集在一起。更直白的描述就是每一类的特征在特征空间中尽

https://arxiv.org/pdf/2002.11098.pdf1.优化shortcut现有的很多优秀的人体姿态估计网络都用到了类似Hourglass框架，该架构由多个如下图所示的编码器+解码器组合而成，且该框架内部有一个约定是下图中的跳跃连接能够有效提升网络性能。而本文对这种跳跃连接进行了深入分析，并利用软门控信号的方式优化该连接，实现了精度的提升。2.软门控信号如上图所示，所谓的软门控信号就是在每个跳跃连接的过程中，加入一个和输入通道维度相同的向量组，该向量组中的每一个标量值代表了当

1.什么是知识蒸馏最近利用知识蒸馏的方法，对业务中的性能有了可观的提升，因此在这里总结一波。本文主要从宏观的角度分析一下各个蒸馏算法的蒸馏方式，具体细节可以根据兴趣阅读论文~ 知识蒸馏是一种模型压缩常见方法，用于模型压缩指的是在teacher-student框架中，将复杂、学习能力强的网络学到的特征表示“知识蒸馏”出来，传递给参数量小、学习能力弱的网络。从而我们会得到一个速度快，能力强的网络，...

ICLR2017 | Paying More Attention to Attentionhttps://github.com/szagoruyko/attention-transfer1.注意力机制注意力在人类视觉体验中起着至关重要的作用。如下图所示，以图像分类为例，注意力地图展示了学习完成后的网络模型更关注于图像的哪个区域，是网络模型学习成果的体现。本文通过迫使学生模型模仿强大的教师模型...

CVPR 2019 | Variational Information Distillation for Knowledge Transferhttps://github.com/qiu931110/RepDistiller1.互信息在这篇论文中，作者提出了一种新的知识蒸馏形式，该方法将知识蒸馏的最优性能定义为最大化教师和学生网络之间的互信息。那么为什么通过最大化互信息可以使得蒸馏学习变得有...

CVPR 2019 | Similarity-Preserving Knowledge Distillation1.保持相似性知识蒸馏（SPKD）在这篇论文中，作者提出了一种新的知识蒸馏形式，该方法是作者观察到相似语义的输入往往会使得神经网络输出相似的激活模式这一现象启发得到的。该知识蒸馏方法被称为保持相似性知识蒸馏（SPKD），该方法使得教师网络中相似（不同）激活的输入样本对，能够在学生网络...

ECCV2018 | Learning Deep Representations with Probabilistic Knowledge Transferhttps://github.com/passalis/probabilistic_kt1.传统知识蒸馏最早的知识蒸馏方法专门针对分类任务进行设计，它们不能有效地用于其他特征学习的任务。 在本文中，作者提出了一种通过匹配数据在特征空间中的...

CVPR 2019 | Relational Knowledge Distillationhttps://github.com/HobbitLong/RepDistiller1.蒸馏学习由于大模型的拟合能力强，但计算效率低耗时大，而小模型的拟合能力弱，计算效率高。基于该特征，蒸馏学习的目的是让小模型学习大模型的拟合能力，在不改变计算效率的前提下提升小模型的拟合能力。如下图所示，传统的蒸馏学习...

1.BatchNorm在训练深度网络模型时，BN（Batch Normalization）层能够加速网络收敛，并且能够控制过拟合，一般放在卷积层之后。如下示意图所示，BatchNorm是以通道为单位，对当前通道中所有的N、H、W做归一化。BN 层将特征归一化后，能够有效解决由于特征分布不均匀而导致的梯度消失与梯度爆炸问题。并通过可学习参数保证特征的有效性。虽然 BN 层在训练时起到了积极作用...

CVPR 2020 | Filter Grafting for Deep Neural Networkshttps://github.com/fxmeng/filter-grafting1.滤波器嫁接动机本文提出了一种全新的学习范式：滤波器嫁接，用于提高神经网络的特征表达能力。构建滤波器嫁接技术的动机是通常在训练完的网络中存在一些无效的滤波器，很多网络模型剪枝的文献中就会把这些无效的滤波器剪...

CVPR 2018 | Cascaded Pyramid Network for Multi-Person Pose Estimationhttps://github.com/chenyilun95/tf-cpn1.文章概述本文提出了一种级联金字塔网络CPN，该网络由全局金字塔网络（GlobalNet）和利用在线难例挖掘机制的精馏网络（RefineNet）组成。GlobalNet是一个特征金...

CVPR2017 Google | Towards accurate multi-person pose estimation in the wildOfficial Code: pytorch1.文章概述正如文章中提到的in the wild，本文的目的是利用top-down类姿态估计算法，尝试解决现实生活中各种实际存在的复杂情况下的人体姿态估计问题。其中最常见的是在人与人彼此靠近时，人体...

CVPR 2019 | Rethinking on Multi-Stage Networks for Human Pose EstimationOfficial Code: pytorch1.重新划分人体姿态估计网络类别bottom-up and top-down：现有的人体姿态估计网络综述中，通常将其分为bottom-up和top-down两大类。其中bottom-up类网络直接提取全图...

Adversarial PoseNet: A Structure-aware Convolutional Network for Human Pose EstimationOfficial Code: pytorch1.背景分析关键点遮挡和人体重叠会导致人体姿态估计的难度增大，在这种情况下，可能会产生生物学上难以置信的姿势预测。相反，人类视觉能够通过利用联合互连的人体关节间的几何约束来预测姿...

Self Adversarial Training for Human Pose EstimationOfficial Code: pytorch1.出发点由于人体的遮挡和拥挤等现象，现有的人体姿态估计网络很难解决此类情况下的准确估计，且此类现象会导致网络估计的关键点不符合正常的人体姿态，失去了人体固有的形态。比如下图中第二行图片所示，相较于第一行，很显然有部分关节是违背事实的。作者希望即使...

DirectPose: Direct End-to-End Multi-Person Pose Estimation论文地址：https://arxiv.org/pdf/1911.07451.pdf1.出发点最近，anchor-free的思想在CV的各个方向都大放异彩，尤其是目标检测领域。多数anchor-free的目标检测算法利用对图像中特征点的定位，实现目标检测。很容易看出，一个人体实例...

The Devil is in the Details: Delving into Unbiased Data Processingfor Human Pose Estimationgithub地址1.使用连续度量标准数据转换是指在不同的坐标系之间对关键点位置进行裁剪、旋转、调整大小、翻转等操作的转换。现有的姿态估计方法都是在离散空间中利用像素来测量图像的大小。而利用离散的像素点作为度量，...

bottom up系列算法（直接获取全图人体关键点）:1.Openpose（coco2016关键点冠军，利用paf进行group）2.Lightweight OpenPose（轻量级Openpose）3.Associative Embedding （关键点分组编码思想）4.Pose Proposal Networks（利用YOLO思想采用网格级别姿态估计）5.GPN（生成分区网络用以实...

1.笔记1(1) pytorch相关类的学习pytorch中的参数类——torch.nn.parameterpytorch中的顺序容器——torch.nn.Sequentialpytorch中的神经网络模块基础类——torch.nn.Modulepytorch中的神经网络子模块(线性模块)——torch.nn.Linear(2) python函数部分操作图解动手学习深度学习 | 部分...

0.文本处理整体概况step1：对原始数据进行分词step2：对分词后的数据进行去重编号，得到[词语to序号]的列表，和[序号to词语]的字典。将这两部分用作后续训练循环神经网络的数据集。step3：通过一些采样方法对构建的数据集进行采样，得到训练的批次。常见的采样方法有随机采样和相邻采样。step4：利用语言模型对上述的数据集进行训练，得到一个nlp模型。语言模型有n元语法模型，RNN模...

(1):维度dim，保持原有维度keepdim下面通过图像的形式直观的展示了这两个参数的作用。X = torch.tensor([[1, 2, 3], [4, 5, 6]])print(X.sum(dim=0, keepdim=True))print(X.sum(dim=1, keepdim=True))print(X.sum(dim=0, keepdim=False))print(X...

1.torch.nn.parameter概要pytorch官网对torch.nn.parameter的描述如下。torch.nn.parameter是一个被用作神经网络模块参数的tensor。这是一种tensor的子类。parameters是张量的子类，当与模块s一起使用时，它们有一个非常特殊的属性——当它们被重新分配为模块属性时，它们会自动地添加到它的参数列表中，并且会出现在Parame...

pytorch中的线性模块的实现如下，在init函数中定义weight值和bias值。class Linear(Module): __constants__ = ['bias', 'in_features', 'out_features'] def __init__(self, in_features, out_features, bias=True): sup...

1.torch.nn.Module概要pytorch官网对torch.nn.Module的描述如下。torch.nn.Module是所有的神经网络模块的基类，且所有的神经网络模块都可以包含其他的子神经网络模块，这些子神经网络模块可以作为类的属性赋值。2.torch.nn.Module.parameterspytorch官网对torch.nn.Module.parameters的描述如下：...

1.torch.nn.Sequential概要pytorch官网对torch.nn.Sequential的描述如下。使用方式：# 写法一net = nn.Sequential( nn.Linear(num_inputs, 1) # 此处还可以传入其他层 )# 写法二net = nn.Sequential()net.add_module('linear', ...

1.DeepPose（谷歌大佬首次提出人体关键点解决方案）CVPR2014 Google | DeepPose: Human Pose Estimation via Deep Neural Networks3rdParty Code:pytorch3rdParty Code:chainer3rdParty Code:tensorflow3rdParty Code:caffeGoogle...

你真的了解对比度吗？对比度是数字图像中非常基本的概念，一幅图像中明暗区域最亮的白和最暗的黑之间不同亮度层级的测量，即指一幅图像灰度反差的大小。直白的说就是：对比度大整体的色彩更鲜艳，对比度小色彩感更平淡。接下来我们用像素直方图的例子来形象的展示对比度大小在图像上的差异。1.整体实现代码from PIL import Imagefrom PIL import ImageEnhanceimpo...

https://github.com/MVIG-SJTU/AlphaPose/tree/pytorchhttps://arxiv.org/pdf/1812.00324.pdf1.传统单人姿态估计loss传统的单人姿态估计模型的loss（以MSE均方误差为例），对于每个关键点而言，传统的计算loss方式如下：上图中，一个目标框中只对有效人体的关键点进行回归。不考虑背景中出现的其他人体关...

1.自动求导机制每一个tensor都有一个required_grad字段，该字段能够从梯度计算中以最小计算为单位对计算图进行操作，更加灵活效率更高。某个tensor的来源中，只要有一个tensor的required_grad字段为True，则当前tensor的required_grad为True。...

// 用cjson.c和cjson.h读取json文件，保存json文件#include "cJson.h"/*// 示例json，名称为1.json[ { "ImgName":"abc.jpg" "ImgInfo": { "ImgSize": [ 1...

DIoU要比GIou更加符合目标框回归的机制，将目标与anchor之间的距离，重叠率以及尺度都考虑进去，使得目标框回归变得更加稳定，不会像IoU和GIoU一样出现训练过程中发散等问题。https://arxiv.org/pdf/1911.08287.pdfhttps://github.com/Zzh-tju/DIoU-darknet1：IoU & GIoU存在的问题分析论文作者...

本文提出了一种基于样本预测困难度动态调整交叉熵的损失函数，它根据预测的相对困难程度来自动调节损失的大小。在本文中，我们将介绍anchor loss，并解释图像分类中anchor loss。首先，我们定义了预测的困难，并给出了相关的例子。然后给出了锚失量函数的广义形式。并通过数值的形式介绍了anchor loss。最后，通过与其他损失函数在公式上的比较，加深anchor loss 提出的改变。论...

本文提出的GIou损失函数，是一种目标检测领域用于回归目标框损失函数。该Trick适用于任何目标检测算法。本文以YOLOv3为例进行阐述。https://giou.stanford.edu/GIoU.pdfhttps://github.com/qiu931110/g-darknet1.MSE回归策略在原始的YOLOv3中利用MSE作为损失函数来进行目标框的回归，如下图所示，不同质量的预测结...

在目标检测的落地项目中，实时性和精确性的trade-off至关重要，而YOLOv3是目前为止在这方面做得最好的算法。本文通过高斯分布的特性，改进YOLOv3使得网络能够输出每个检测框的不确定性，从而提升了网络的精度。1.YOLOv3简介如下图a所示，为YOLOv3的网络架构。YOLOv3使用了skip shotcut的操作方式网络过深而引起的梯度消散。YOLOv3使用了up-sample操...

https://arxiv.org/pdf/1910.06278.pdf关键点标签编码（encoding）训练人体姿态估计网络时，考虑到训练代价，通常会将将输入图片做降采样，在降采样后的分辨率上进行训练。为了网络能够以热度图为标签进行训练，需要将基于原图分辨率的关键点坐标，转换为降采样后分辨率下的关键点坐标。并利用高斯模糊进行转换成热度图。我们称这个过程称为坐标编码，从坐标点到热图。关...

注意力机制在卷积网络的优化中，以及被广泛的使用。下面介绍几种非常著名的，应用于特征提取网络的注意力机制。SEnet(https://arxiv.org/abs/1709.01507 )SEnet（Squeeze-and-Excitation Network）考虑了特征通道之间的关系，在特征通道上加入了注意力机制。SEnet通过学习的方式自动获取每个特征通道的重要程度，并且利用得到的重要程...

现有的人体姿态估计网络，想要到达较好的效果，需要对网络进行堆叠，不论是Hourglass，CPN，HRnet等优秀的网络都有这个特性。但在实际应用时，效率是一个不可避免的问题。因此，本文提出了一种新的快速姿态蒸馏(FPD)模型学习策略。具体来说，FPD训练了一个轻量级的姿态识别神经网络架构，能够以较低的计算成本快速执行。这是通过有效地转移一个强大的教师网络的模型知识来实现的。实验证明了本文的FPD...

#define OK 1int RetArr(ivs_sint32_t *a){ a[0] = 2; a[1] = 3; return OK;}int main(){ int out_a[2] = { 0 }; RetArr(out_a); for (int i = 0; i< 2; i++) { printf("%d
",out_a[i]); } ...

https://mp.csdn.net/mdeditor/100601750本文重新思考了这种多阶段策略，首先文章分析了一下，single-stage策略，典型的mutil-stage网络，hourglass，为什么叫他

多人姿态估计是一个具有挑战的问题，现有的方法大多是基于two-stage的，而two-stage主要有两种：自上而下的策略，第一阶段先检测人体框，第二阶段对每个人体框进行单人姿态估计，从而实现多人姿态估计。自底而上的策略，第一阶段先对全图作所有人体的关键点检测，第二阶段将所有的关键点分配到对应的人体上，实现多人姿态估计。正如目标检测领域由two-stage，发展到后来的one-stage。...

为了能够在小计算量的情况下更好的使用多尺度特征，本文提出了multi-scale aggregation R-CNN (MSA R-CNN)。MSA R-CNN网络由两个模块组成：RoIAlign block (MS-RoIAlign) 和 multi-scale keypoint head network (MS-KpsNet)。本文将人体检测和关键点检测整合到一个网络中，从而减低整体的计算复杂...

1.概述现有的基于姿态估计的方式，是通过逐像素分类实现的，这种方式是考虑不到大范围的空间信息的。举例来说：在左图中，由于肘关节的外观与膝关节非常相似，对于一个感受野仅能覆盖肘关节本身的小特征提取器，很难将两者区分开来。但如果感受野能同时看到附近的手腕或肩膀，那么将其归类为肘部就容易得多。同样，在中间的图像中，要确定身体的某个部位是左还是右，人的头部和手的方向是重要的信息。在涉及单人姿态估计的方法...

1.散点图（scatter）功能：散点图多用于表征两个变量之间的相关性。语句：matplotlib.pyplot.scatter(x,y,c,s,marker,alpha)参数介绍颜色：c点大小：s点形状：marker透明度：alpha...

常规的视频操作主要有：缩小视频分辨率，分辨率不变缩小视频保存空间，加快视频播放速度等功能。不得不说，利用Python及其相应的第三方库，能使得很多功能变的实现变得更加便捷。利用Python的第三方库opencv，实现上述的常规视频操作的代码如下所示。后面将对代码段中各语句块功能进行详细描述。import cv2from cv2 import VideoWriter,VideoWriter...

1.注册微信小程序点击立即注册，选择微信小程序，按照要求填写信息2.登录小程序并完善信息填写小程序信息，完善信息。3.下载小程序开发工具完善信息后点击文档，工具，下载，选择稳定版的对应平台的安装包下载，下载完后点击安装即可4.建立小程序项目扫码登录，选择小程序，并点击加号，填写相关信息，APPID位置于下方截图所示。5.小程序代码结构介绍如下图所示...

在上一篇文章学习深度学习框架源码有感 | 反正我不会C语言中，介绍了数组和多维数组名所代表的含义，及其和数组指针间的联系。本文将把多维数组剩余的内容介绍一下，并且讲一下文章指针篇 | 教你把多级指针玩弄于鼓掌中讲过的二级指针模型中的第一种模型指针数组的应用。之所以讲指针数组一方面是它容易和我们在文章学习深度学习框架源码有感 | 反正我不会C语言中提到过的数组指针搞混，另一方面，指针数组有着其强大的...

在上一篇文章中，有人留言问：数组指针这种结构存在的意义？其实刚开始我也是这么问的，这玩意有什么用？到后来我才知道，原来他居然就是多维数组。本文将展开讨论为什么数组指针可用作多维数组。PS.我已经不敢说我会C语言了。1.数组名中包含的小细节在这之前，我们先来介绍下C语言中的数组名所代表的含义。本文主要介绍数组名和数组名取地址，这两者的区别与联系。如下图所示，数组名代表了指向数组首元素的（指针）地...

记得刚开始接触caffe，yolo的darkent等框架时，学习框架源码的过程中，最大的感触就是明明我学过C，C++，为什么这种纯靠C，C++写的框架中用到的好多语法我都没见过？慢慢接触下来发现，C语言中还是有很多有意思的语法，比如template（模板），数组指针等等。这些知识点并没有在谭浩强老师的书里出现过。本文主要给大家介绍下数组指针。1.数组基础概念如下代码段，展示了几种初始化数组的方...

整体源码如下，该源码是利用yolo训练检测网络时，对输入数据作前处理的源代码，该代码段中包含了从外部传入的超参数（jitter），也有内部写死的超参数（scale）。下面将对该代码做详细的解析。data load_data_detection(int n, char **paths, int m, int w, int h, int boxes, int classes, float jitte...

二级指针算是一种相对高级的用法，很多人会因为其复杂，难以理解而尽可能的规避它。但在大型项目开发中，通常无法会避免使用二级指针，而且学习二级指针，能够帮助我们巩固指针存在的意义，学会了二级指针，你才真正意义上的掌握了c语言。指针存在的意义就是用来作函数参数的，二级指针也不例外。作为函数参数，我们把主函数比作功能齐全的系统，把子函数比作拥有特定功能的模块，那么对于大部分任务都会有如下两种需求：1....

在detector.c中增加如下所示代码段，即可进行批量图像测试void test_batch_detector(char *datacfg, char *cfgfile, char *weightfile, char *filename, float thresh, float hier_thresh, char *outfile, int fullscreen){ list *optio...

经常会看到各路大牛在给深度学习小白铺路的时候会把高等数学，线性代数列为入门级必看读物，当然这个观点褒贬不一，我对这个观点最开始持中立的态度，毕竟很多时候掉包就能应付百分之70的工作。但这次，我站边：学深度学习一定要会点高数。1.抛出问题本文从如下知乎问题（也是我这次遇到的问题）展开。问题描述如下：该问题描述到：如下图所示，在训练的过程中整体loss在下降，但总在几个固定的batch，l...

本文的题目其实有点蹭Python热度的意思，指针确实很灵活，当然易用程度和Python还是没得比，想要灵活使用指针，仍然要花大工夫。但一旦你感受到了指针的真谛，你也就自然能够感受到指针的灵活了！本文通过字符串这一载体，为指针打个call。1.数组和指针为什么先要介绍下数组和指针，因为在C语言中，并没有字符串类型，字符串往往是搭载在字符数组，和指针中的。因此在开篇对数组和指针的异同做个简单的...

想要构建一个算法工程，尤其是落地到设备端，C语言显然是不二之选，而内存是我们学习C语言永远绕不过的一道坎。但事实上，内存并没有我们想象中的那么可怕。本文中，我们姑且把内存分为四个区域：代码区，常量区，堆区，栈区。简单介绍下内存四区：1.代码区：该内存用于存放代码段。2.常量区：该内存用于存放各类常量，如字符串常量等。3.堆区：该内存用于存放用户自己开辟的空间，用户不手动释放，该内存就一直...

经常会总结指针的用法和注意点，由于工作中基于学习到的深度学习网络模型构建功能时会遇到各种指针的使用，在实践中终于明白了指针的第一大重点是作为函数参数。接下来介绍下，一级指针，二级指针作为函数参数时实现的功能和注意事项。所谓输出功能：将main函数中定义的指针的地址传入子函数，在子函数中分配内存空间（“堆” or “常量”，因为只有这两个地方的内存空间不会在子函数结束后被释放掉），并对内存空间赋值...

1.线性模型如上述所示，我们称之为广义线性模型。之所以称之为线性模型，因为其参数w和特征x是线性的。之所以称为广义，因为映射g可以是各种类型的映射：线性，非线性，回归，分类。本文主要介绍两种映射模型的求解：线性回归，对数几率回归（非线性分类）。2.模型参数估计对模型进行参数估计有两种方式：最小化损失函数（需要认为构建损失函数，然后对于每个样本通过参数计算得到的输出和其真实类别或标记之间...

目标检测领域最近有个较新的方向：基于关键点进行目标物体检测。该策略的代表算法为：CornerNet和CenterNet。由于本人工作特性，对网络的实时性要求比较高，因此多用YoLov3及其变体。而就在今天下午得知，基于CornerNet改进的CornerNet-Squeeze网络居然在实时性和精度上都超越了YoLov3，我还是蛮激动的，故趁此机会学习下该类检测算法的原理。cornerNer论...

首先想要将代码上传到github，我们需要git工具，我们可以借助Cygwn来安装，> 首先想要使用make对c语言的源代码进行编译，需要使用gcc编译器，g++依赖等等，我们可以借助Cygwn来安装，而不用自己去网上找，这一点就已经很使用友好了。1.安装git安装过程和Cygwn功能一：使用make，对yolov3的框架源码darknet进行编译中的步骤一致，只是在搜索的时候选择g...

首先想要使用make对c语言的源代码进行编译，需要使用gcc编译器，g++依赖等等，我们可以借助Cygwn来安装，而不用自己去网上找，这一点就已经很使用友好了。1.安装make指令所需要的各种依赖项不知道我使用的方式是否正确，反正能用就是王道，所以我来讲讲我是怎么安装的吧。。。首先还是再此点击Cygwn的安装包，并把上一篇介绍如何安装Cygwn的过程再走一遍。直到出现如下所示的界面：在...

若你只有windows系统，也不想安装虚拟机，但又想使用Linux发行版的某些功能，Gygwn这个工具你值得拥有（一个大量GNU和开源工具的集合）。1.安装CygwnCygwn官方网站：http://www.cygwin.com/从官方网站下载，安装包，直接点击安装即可。选择install from internet，可直接下载相关安装包，若之前由从别的地方下载过（比如第二项，仅下载...

论文地址：https://arxiv.org/pdf/1904.01355.pdf本文提出了一种全卷积one-stage目标检测算法（FCOS），以逐像素预测的方式解决目标检测问题，类似于语义分割。目前最流行的不论是one-stage目标检测算法，如RetinaNet，SSD，YOLOv3，还是two-stage目标检测算法，如Faster R-CNN。这两类算法大都依赖于预定义的锚框（anch...

商汤提出的一种特征交织机制，用来提升目标检测网络对小目标的学习能力，感觉大佬的思想好有创造力啊！！！论文地址：https://arxiv.org/pdf/1903.11851.pdf论文源码：https://github.com/hli2020/feature_intertwiner本文主要介绍下特征交织技术的核心思想，反正我看完论文感觉真的很有创造力！作者认为我们在进行目标检测任务时...

下面来介绍两种const限定符最常用的用法：#####1.const用于限定指针所指向的内存空间。该种方式想要达到的目的如下：想要如下图二所示，能够使用如下传入参数s1结构体的值，但是想要如下图一所示，不想让opStudent这个函数内部改变该结构体的值。这种使用在开发大型或小型项目中，是最基本的需求。2.const用于限定指针的指向。该中方式没有上述第一种那么常见，但这边也来解释下，...

旷视科技：据我们所知，ThunderNet实现了ARM平台上的第一个实时检测器和最快的单线程速度。论文地址代码即将开源一：网络整体介绍ThunderNet的整体架构如下图所示。 ThunderNet使用320×320像素作为网络的输入分辨率。整体的网络结构分为两部分：Backbone部分和Detection部分。网络的骨干部分为SNet，SNet是基于ShuffleNetV2进行修改得...

C语言中是不存在命名空间的概念的，因为整个C语言工程就是一个大型的命名空间。当工程规模小时，不会产生大问题；但是一旦工程的规模大，会用到大量的动态库，尤其是第三方开发的动态库时往往就会遇到命名冲突的问题。因为不同的厂家开发的动态库中全局变量的命名很可能重复，为了避免这个问题，C++中新增了命名空间这一概念，使得通过命名空间的限定从而使用相同名称的全局变量。命名空间的用法：方法一：using n...

在上一篇文章《那么CUDA是如何进行并行编程的？》中，为了让GPU的并行计算更加高效，本篇文章从高效的内存策略和屏障和同步机制下的编程规则这两个角度来建议CUDA编程者更加高效的利用GPU。高效的内存策略所谓的高效的内存策略，其实就是两个原则：第一保证每个线程的计算量大，第二每个线程计算时对内存的读取速度快。本篇文章主要展开讨论下如何使得线程计算时对内存的读取速度快。直白来说就是如下两种策...

在上一篇文章《你了解CUDA，了解GPU吗？》中，我们介绍了什么是CUDA，什么是GPU。那么接下来我们就要来讲解下GPU到底是如何实现并行计算的，以及CUDA是如何通过编程调用GPU的并行计算力的。1.GPU是如何实现并行计算从软件层面来说，GPU在进行并行计算时，是以核（kernel）为单位进行的。如下图所示，每个核相当于一个功能函数。每个核由若干线程块（thread block）负责运算...

前段时间有同学问我CUDA到底是什么东西，Caffe源码中的.cu文件又是什么东西？我发现我没办法很有系统的回答这个问题，当时就觉得在想：哇，搞深度学习这么久了，居然没办法很好的回答这个问题，所以在充满愧疚感之下，抽空恶补了一下~CUDA的产生就是英伟达公司为拥有并行计算需求的从业者能够使用GPU而提供的工具，因此我们先来讲讲什么是GPU，它和CPU之间的有什么异同。首先要明确一点，CPU和...

1.构建YOLOv3网络的cfg文件该文件表示的是你的检测网络的结构，类似caffe的prototxt文件。YOLOv3的cfg文件上篇介绍YOLOv3网络中提到的去掉上采样操作的YOLOv3cfg文件2.准备hs.data文件如下文件中规定了当前目标检测网络中的类别数量为4。训练数据的路径train.txt的位置，hs.names的路径的位置，以及最终训练得到的网络模型保存的位置。c...

0.前言在解决一个分类问题时，遇到样本不平衡问题。查找CSDN后，以及知乎后，发现网上有很多类似于欠采样 ，重复采样，换模型等等宏观的概念，并没有太多可实际应用（代码）的策略。经过一番查找和调试和修改，最终找到3个相对靠谱的策略，故总结此文给有需要同志，策略均来自网络，本人只是进行了部分代码修改和可用性测试。以下将简单介绍各个策略的机制以及对应代码（亲测能跑通）。NOTE：下述代码均是基于c...

1.简介通过文章目标检测 | 让YOLOv1算法告诉你回归网络的能力和目标检测 | 让YOLOv2告诉你Trick的力量讲述了YOLO算法的原理和部分改进策略。YOLO系列算法在刚被提出时其目的在于提升检测网络的速度，因此其算法的召回率和检测率相对于Faster RCNN系列算法会要低一些。作者为了提升YOLO算法的实用性，提出了YOLOv2，在不损失速度的情况下提升了网络精度。但从下图的左图中...

1.创建Windows控制台应用程序2.将DLL库和引导文件Lib以及头文件拷贝到调用目录下将创建好的动态库，动态库的引导Lib文件，以及头文件拷贝到工程目录下。3.插入动态库头文件动态库的头文件作为接口，是一个API。4.把动态库导引文件链接上右击项目，点击属性点击链接器，输入，附加依赖项，编辑把导引文件写入5.调用动态库成功如下图所示，上...

1.新建动态库点击文件——&gt;新建——&gt;项目点击Windows桌面——&gt;选择静态库——&gt;选择保存位置与静态库不同的是，创建完动态库会有一个如下图所示的dllmain.cpp函数。那么动态库为什么会多出这个文件呢？我们都知道动态库不同于静态库，动态库是可以独立运行的文件，和可执行文件相当类似，所以当其他文件（exe或者其他动态库）调用当前动态库时，就...

1.创建Windows控制台应用程序2.将Lib库和头文件拷贝到调用目录下将创建好的静态库，拷贝到工程目录下。3.插入静态库头文件静态库的头文件作为接口，是一个API。4.链接Lib库右击项目，点击属性点击链接器，输入，附加依赖项，编辑把静态库添加进去5.调用静态库成功如下图所示，上述准备工作完成后，就可以使用静态库中的函数了，至此静态库调用...

1.新建静态库点击文件——&gt;新建——&gt;项目点击Windows桌面——&gt;选择静态库——&gt;选择保存位置2.为静态库添加类右击项目名称——&gt;选择添加——&gt;类——&gt;添加TestLIb类3.实现静态库函数编写静态库的头文件和源文件（实现类函数）编写静态库的头文件和源文件（也可以实现外部函数）4.编译生成静态库编译成...

1.什么是过拟合首先用我自己的语言来解释下什么是过拟合：由于模型过于复杂，学习能力过强，而用于训练的数据相对于复杂模型来说比较简单，所有模型会去学习数据中隐含的噪声，导致模型学不到真正数据集的分布，如下图所示，红色线就是由于模型过分的拟合了训练数据集，导致泛化能力过差。而蓝色线才是真正的数据集的分布。2.抑制过拟合的策略简单浏览了下网络上的各种总结抑制过拟合的策略，大概有如下几点：数据...

1.原理介绍知识蒸馏论文地址Hinton的文章"Distilling the Knowledge in a Neural Network"首次提出了知识蒸馏的概念，通过引入教师网络用以诱导学生网络的训练，实现知识迁移。所以其本质上和迁移学习有点像，但实现方式是不一样的。用“蒸馏”这个词来形容这个过程是相当形象的。用下图来解释这个过程。教师网络：大规模，参数量大的复杂网络模型。难以应用到设...

1.mixup原理介绍mixup 论文地址mixup是一种非常规的数据增强方法，一个和数据无关的简单数据增强原则，其以线性插值的方式来构建新的训练样本和标签。最终对标签的处理如下公式所示，这很简单但对于增强策略来说又很不一般。(xi,yi)\left ( x_{i},y_{i} \right )(xi​,yi​)，(xj,yj)\left ( x_{j},y_{j} \right )(xj...

http://latex.codecogs.com/eqneditor/editor.php

0.简介在前一篇文章目标检测 | 让YOLOv1算法告诉你回归网络的能力中我们见证了回归网络的能力，本文就利用YOLOv2的整体实现，来告诉大家一些在目标检测领域中的Trick的力量。YOLOv2论文中其实讲到了两个算法：YOLOv2和YOLO9000。本文因为主要介绍的是检测领域的Trick，因此着重介绍YOLOv2算法原理，及其在YOLOv1基础下的各个改进点。本文先介绍YOLOv2的各种改...

0.简介这段时间YOLO系列算法很火，尤其是YOLOv3，很多大牛都复现了其在各种平台下的实现（tensorflow，pytorch，caffe…）。主要还是因为YOLOv3算法结合了很多有用的trick，兼顾了速度和精度。但究其本质仍然是回归算法，所以我们在这里先详细介绍下YOLOv1的实现细节，好了解回归算法的特性。网上有很多教程，但质量参差不齐，而且本人阅读起来很多细节比较难理解。因此还是...

1.背景介绍：在多分类训练任务中，输入图片经过神级网络的计算，会得到当前输入图片对应于各个类别的置信度分数，这些分数会被softmax进行归一化处理，最终得到当前输入图片属于每个类别的概率。之后在使用交叉熵函数来计算损失值：最终在训练网络时，最小化预测概率和标签真实概率的交叉熵，从而得到最优的预测概率分布。在此过程中，为了达到最好的拟合效果，最优的预测概率分布为：也就是说，网络...

1.简介ShuffleNet V1是Face++于2017年提出的轻量级深层神经网络。作者在2018年又提出了基于V1版本改进的ShuffleNet V2版本。ShuffleNet V1中的核心思想为group结合shuffle操作来改进传统的ResNet的block。而ShuffleNet V2则根据相同的FLOPs（float-point operations，乘积数量）情况下模型速度差别仍...

SqueezeNext网络于2018粘月公开于arxiv，它号称是基于SqueezeNet进行改进的又一轻量级网络，但它之所以不叫SqueezeNet V2，个人认为究其原因还是因为SqueezeNext其实本质上和SqueezeNet关系不是很大。。。SqueezeNext文章中比较有特色的是论文从硬件角度来分析提升速度，当然本文中对这一部分不做分析。本文主要介绍SqueezeNext的网络设计...

SqueezeNet的作者来自Berkeley和Stanford，论文的题目毫无学术气息，且有一股浓烈的网络爆文感。SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and &lt;0.5MB model size. 论文的题目直接的表达了论文的结果，实现了与AlexNet相同精度，但只用了1/50的参数量。且模型的参数量最少...

Mobilenets是Google针对手机的智能型嵌入式设备提出的一种轻量级深度卷积神经网络，该网络的核心为深度可分离卷积，该卷积可以分解为深层卷积（depthwise conv）和点对点卷积（Point conv）。Mobilenets一共有两个版本：MobilenetsV1，MobilenetV2。论文地址和论文代码如下：MobileNetsV1论文地址: https://arxiv.org...

1、public：public表明该数据成员、成员函数是对所有用户开放的，所有用户都可以直接进行调用2、private：private表示私有，私有的意思就是除了class自己之外，任何人都不可以直接使用。3、protected：protected对于子女、朋友来说，就是public的，可以自由使用，没有任何限制，而对于其他的外部class，protected就变成private。扩展资料：...

0.简介对于二叉树的遍历，有四种方式：层序输出，前序输出，中序输出，后序输出。但不论利用何种输出方式对二叉树进行遍历，其前提为必须提前已知一颗树。那么什么叫做已知一颗树呢？所谓已知一棵树的意思即为：已经用数据结构定义好的树，通过该树可以知道哪个节点是根；哪个节点是左儿子,右儿子；哪个节点是左儿子的左右儿子等等这样的信息。在本文中，我们把得到这个已知树的过程称之为创建一颗树。1.四种遍历方式示...

0.简介不稳定的四个排序算法选择排序： 0(n2)希尔排序： 0(n1.3)快速排序：0(nlog2n)堆排序：0(nlog2n)稳定的三个排序算法插入排序： 0(n2冒泡排序：0(n2)归并排序： 0(nlog_2n)所谓稳定和不稳定：稳定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面。不稳定：如果a原本在b的前面，而a=b，排序之后 a 可能会出现在 b 的...

0.前言在解决一个分类问题时，遇到样本不平衡问题。CSDN后，发现网上有很多类似于欠采样 ，重复采样，换模型等等宏观的概念，并没有太多可实际应用（代码）的策略。经过一番查找和调试，最终找到3个相对靠谱的策略，故总结此文给有需要同志，策略均来自网络，本人只是进行了可用性测试并总结于此。以下将简单介绍各个策略的机制以及对应代码（亲测能跑通）。NOTE：下述代码均是基于caffe的，而且实现策略都...

0.多标签问题在很多深度学习任务中会用到多标签学习，比如做目标检测任务，如下图所示，图片1中物体类别为1，剩余的四个为其位置坐标。图片2中物体类别为2，剩余的四个为其位置坐标。所以即使一张图片中只有一个目标但其仍然是多标签学习问题。0000001.jpg 1 72 79 232 2730000002.jpg 2 67 59 155 161还有一种多标签问题是利用人脸的某些特性来辅助人脸特...

1.自定义字段最近在老版本的caffe上跑resnext网络的时候出现如下所示的bug，正如我们上一篇文章Caffe | 核心积木Layer层类详解中说到的，在caffe.proto文件的PoolingParameter中没有ceil_mode这个field字段。因此只有在源码中添加这个参数以及相关实现代码，并重新编译caffe。Message type “caffe.PoolingParam...

0.简介Layer层类是Caffe中搭建网络的基本单元，当然也是使用Caffe训练的核心部件单元，因此我们将其称之为Caffe的核心积木。Layer基类派生出了各种不同功能的层类，Layer类派生出来的层类通过实现两个虚函数Forward()和Backward()，产生了各式各样功能的层类。Forward是从根据bottom计算top的过程进行前向计算，Backward则相反根据top计算bot...

0.简介要读懂caffe，首先要熟悉Blob,Layer,Net,Solver这几个大类。这四个大类紧密相连，贯穿了整个caffe的结构，下面先分别简单地介绍一下这四个类的主要作用。Blob：作为数据传输的媒介，无论是网络权重参数，还是输入数据，都是转化为Blob数据结构来存储Layer：作为网络的基础单元，神经网络中层与层间的数据节点、前后传递都在该数据结构中被实现，层类种类丰富，比如常...

1.生成lmdblmdb是caffe训练网络用的数据格式，因此我们需要将原始的图片数据转换成lmdb（当然caffe中也可以直接用jpg进行训练）。利用上文Caffe | 你的第一个分类网络之数据准备中得到的train.txt和test.txt结合GitHub上caffe自带的批处理文件create_imagenet.sh就可以生成lmdb文件,该批处理文件存在如下所示的路径中。基于trai...

0.准备数据集将每个类别的图片存放到对应的文件夹中，如下图所示。需要注意的是每个图片的名称不要有空格和括号，否则会导致生成lmdb文件的时候路径读入错误。1.生成train.txt和test.txttrain.txt：存的是训练集数据路径和类别test.txt：存的是测试集数据路径和类别（1）生成绝对路径利用如下的LoadAbsoluteName.py得到指定格式的（当前实例中的...

#####1.利用at&amp;lt;&amp;gt;()成员函数访问数组元素最基础的直接访问手段是通过模板成员函数at&amp;lt;&amp;gt;()，对数组元素进行访问。因为是模板函数，所以该函数可以接受各种类型和维度的参数。使用该函数访问数组元素的例子如下：#include &quot;opencv2/opencv.hpp&quot;#include &amp;lt;iostream&amp;gt;using name

转载自：https://www.codercto.com/a/42773.html交流讨论：qq群：901373769 本期我们迎来了编辑团队的新成员，来自复旦大学计算机的在读博士老田和电闪雷鸣。哈哈，邀请不到大牛，把大牛的学生挖过来也不错。本期他们将为我们介绍人群计数的相关技术和进展，欢迎感兴趣的朋友阅读 前言 ...