zhuiqiuk的专栏

直方图均衡化（HE）是一种很常用的直方图类方法，基本思想是通过图像的灰度分布直方图确定一条映射曲线，用来对图像进行灰度变换，以达到提高图像对比度的目的。该映射曲线其实就是图像的累计分布直方图（CDF）（严格来说是呈正比例关系）。然而HE是对图像全局进行调整的方法，不能有效地提高局部对比度，而且某些场合效果会非常差。如：上述原图和HE结果图的直方图分别为：因为从原图的直方图中求取的映射函数（CDF）形状为：将它作用于原图像会导致直方图被整体右移，没有充分利用整个灰度动态范围。为了提高图像的局部

https://blog.51cto.com/tchuairen/1840596目录一、Logstash 介绍二、安装logstash三、使用命令行运行一个简单的logstash程序四、配置语法讲解五、filebeat基本讲解六、实战运用架构一：nginx日志->filebeat->logstash->redis->logstash->...

在卷积网络中，经常会需要用到卷积核滑动窗口的操作，如下图所示。这个操作在大多数的深度学习框架中，都被封装的很好，以至于我们并不需要显式地调用便可以实现卷积网络的这个操作。但是，大部分深度学习框架也是提供了显式地进行滑动窗口操作的API的，在pytorch中就是unfold和fold。接下来我们来探讨下这两个函数的使用。在pytorch中，和unfold有关的有:torch.nn.Unf...

从网站上下载latex模板https://journals.ieeeauthorcenter.ieee.org/create-your-ieee-journal-article/authoring-tools-and-templates/ieee-article-templates/templates-for-ieee-access/点击下载LaTex template，下载后补充替换模板内容...

最近要开始写一篇Journal paper, 于是下载了IEEE上的模板，但是模板上的参考文献与正文是在一个界面上的， 像这样：\begin{thebibliography}{1} \bibitem{IEEEhowto:kopka} H.~Kopka and P.~W. Daly, \emph{A Guide to \LaTeX}, 3rd~ed.\hskip 1em plus...

本文介绍的深度学习模型来自Di Jin和Peter Szolovits的paper《PICO Element Detection in Medical Text via Long Short-Term Memory Neural Networks》。在该模型中涉及到的知识点主要有词嵌入（word embedding）,双向LSTM网络，Attention机制（Hierarchical Attent...

https://zhuanlan.zhihu.com/p/20885568Deep Reinforcement Learning深度增强学习可以说发源于2013年DeepMind的Playing Atari with Deep Reinforcement Learning 一文，之后2015年DeepMind 在Nature上发表了Human Level Control through ...

这是一篇使用增强学习来进行模型搜索的论文。结构如下图：overview由于不知道网络的长度和结构，作者使用了一个RNN作为控制器，使用该控制器来产生一串信息，用于构建网络。之后训练该网络，并用网络的accuracy作为reward返回给控制器来更新控制器的参数，达到更优的策略。其中控制器（RNN）的设计借鉴了sequence to sequence的思想，不同的是它优化的是一...

前言最近跑的模型都比较大，尤其是Bert， 这真的是难为我 1080ti 了， 在Bert的Example中，官方提供了一些 Trick 来帮助我们加速训练，很良心， 但感觉还不够，于是花费一些时间整理出一个 Trick 集合，来帮助我们在显存不足的时候来嘿嘿嘿。本文分为两大部分，第一部分引入一个主题：如何估计模型所需显存， 第二个主题：GPU显存不足时的各种 Trick 。监控 GP...

AI 科技评论按：百度关于网络压缩和加速的论文《 Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration》被 CCF A 类学术会议 CVPR 2019 收录为 Oral 论文，这篇论文提出了新的基于滤波器的几何中心（geometric median）的剪枝算法，来对神经网络进行...

在构建loss时pytorch常用的包中有最常见的MSE、cross entropy（logsoftmax+NLLLoss）、KL散度Loss、BCE、HingeLoss等等，详见：https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-nn/#loss-functions这里主要讲解一种考虑类间距离的Cente...

https://blog.csdn.net/Lucifer_zzq/article/details/81271260一、Triplet结构：triplet loss是一种比较好理解的loss，triplet是指的是三元组：Anchor、Positive、Negative：整个训练过程是： 首先从训练集中随机选一个样本，称为Anchor(记为x_a)。 然后再随机选取...

https://zhuanlan.zhihu.com/p/51870052刚刚看了Bag of Tricks for Image Classification with Convolutional Neural Networks，一篇干货满满的文章，同时也可以认为是GluonCV 0.3: 超越经典的说明书，通过这个说明书，我们也拥有了超越经典的工具箱。我们都知道trick在CNNs中的重...

https://zhuanlan.zhihu.com/p/65631409https://zhuanlan.zhihu.com/p/61831669分享最近读到的一篇论文Bag of Tricks and A Strong Baseline for Deep Person Re-identification，这篇文章对person reid问题中的训练技巧进行了一个很好的总结，并提出了一个...

作者：Simon Kornblith、Mohammad Norouzi、Honglak Lee、Geoffrey Hinton参与：可可、路近期很多研究试图通过对比神经网络表示来理解神经网络的行为。谷歌大脑 Simon Kornblith、Geoffrey Hinton 等人的一项新研究引入了 centered kernel alignment (CKA) 作为相似性指数，并分析 CKA...

tensorflow卷积神经网络中的padding参数最详细解释！当使用tensorflow创建卷积神经网络时，肯定要用到卷积层和池化层，tendorflow关于建立卷积层和池化层的API都有padding这个参数，如下所示：- tf.nn.conv2d(input,filter,strides,padding)- tf.nn.max_pool(input,ksize,strides,...

作为一个科研工作者，了解期刊论文的一些基本常识是大有裨益的。这对于我们深入了解所从事领域的研究、和论文的写作与发表等都会有很大的帮助。比如对于期刊分区的问题，从事科研的人都听过，但是也许你并没有深入了解其概念和意义。尤其对于刚刚步入科研领域和外行的人来说，可能仅仅凭借分区和影响因子来评价期刊的优劣。如果这样的话，难免被内行人笑话。这篇文章着重讨论一下论文分区的问题并科普一些有关的基本常识。...

(1) 公开发表的论文分为六个级别（类）  第一级－T类：特种刊物论文，指在《SCIENCE》和《NATURE》两本期刊上发表的论文第二级 - A类:权威核心刊物论文，指被国际通用的SCIE、EI、ISTP、SSCI以及A&HCI检索系统所收录的论文（以中国科技信息研究所检索为准），或同一学科在国内具有权威影响的中文核心刊物上发表的论文，论文不含报道性综述、摘要、消息等。第三...

单图像求高斯金字塔和拉普拉斯金字塔高斯金字塔设高斯金字塔第l层图像Gl所做操作：即当前层是上一层的高尺度图像先高斯滤波，再降采样。下采样过程这里，N为层数。Rl为l层行数。w(m,n)是5*5二维可分离高斯滤波器。拉普拉斯金字塔分解目的是将源图像分别分解到不同的空间频带上，相当带通滤波构造过程：第l层为高斯金字塔l层与l+1层图像经过内插放大后图像的差。上采样...

图像金字塔（Python实现）1 简介在图像处理中常常会调整图像大小,最长的就是放大(zoom in)和缩小(zoom out),尽管集合变换也可以实现图像放大或者缩小一个图像金字塔式一系列的图像组成,最底下一张式图像尺寸最大,最上方的图像尺寸最小,从空间上从上向下看,就可以看成埃及金字塔.高斯金字塔–用来对 图像进行降采样拉普拉斯金字塔–用来重建一张图片根据他的上层降采样图片2 高斯...

CAM方法获取显著图：基于pytorch的实现1、下载代码 2、具体代码 （1）导入需要的模块 （2）具体代码详解 （3）生成结果 转：CAM实践：基于pytorch的使用方法原文地址：https://cloud.tencent.com/developer/article/1370937非原创，直接copy的网上的，懒得打字，不喜勿喷1、下载代码git clone...

saliency mapsaliency map即特征图，可以告诉我们图像中的像素点对图像分类结果的影响。计算它的时候首先要计算与图像像素对应的正确分类中的标准化分数的梯度(这是一个标量)。如果图像的形状是(3, H, W)，这个梯度的形状也是(3, H, W)；对于图像中的每个像素点，这个梯度告诉我们当像素点发生轻微改变时，正确分类分数变化的幅度。计算saliency map的时候，需...

这里简单介绍下什么是迁移学习，就是基于前已经学习到的知识应用到当前具体的任务需求上，而他们两者的领域并不是相同的，严谨说是不是直接相关的，比如任务是不同类型（如之前的分类猫和狗，而当前的可能是分类狮子和大象），或者数据集是不同类型的（如先前的数据是拍摄的自然真实动物的图像数据，而当前的数据是卡通，漫画的图像数据）。典型的可分为两大类情形：1是different domain, similiar t...

2018-2019 Paper:Multi-task settings:Class-incremental Learning via Deep Model Consolidation https://arxiv.org/abs/1903.07864v1End-to-end Incremental Learninghttps://github.com/fmcp/EndToEndI...

（1）参数学习率，需要调小。（2）观察loss，是否下降，或者上升，跳动特别明显。如果上升或者跳动特别明显说明 learn rate较大。原因：之前训练模型总的训练样本数量 t1与现在fine tune的 t2不一样。如果 t1 > t2, 不改变learn rate, 通过poly 策略算下来，fine tune时的初始learn rate < 上一个模型训练结束时的 学习率。 ...

参考网站：https://www.jb51.net/article/134956.htm 较好背景在复杂的问题中，网络往往都是很复杂的。为了方便调试参数以及调整网络结构，我们需要将计算图可视化出来，以便能够更好的进行下一步的决策。Tensorflow提供了一个TensorBoard工具，可以满足上面的需求。介绍TensorBoard是一个可视化工具，能够有效地展示Tensorf...

1. 视频结构一个视频由压缩格式(container, eg. avi, mkv...)和封装格式(codec, eg. H264, DIVX)组成.详细解释:源自[1]For start, you should have an idea of just how a video file looks. Every video file in itself is a container. ...

原文链接：https://mp.weixin.qq.com/s/iN2LDAQ2ee-rQnlD3N1yawCNN从2012年的AlexNet发展至今，科学家们发明出各种各样的CNN模型，一个比一个深，一个比一个准确，一个比一个轻量。我下面会对近几年一些具有变革性的工作进行简单盘点，从这些充满革新性的工作中探讨日后的CNN变革方向。注：水平所限，下面的见解或许有偏差，望大牛指正。另外只介...

https://yq.aliyun.com/articles/161333?utm_content=m_27815出自：阿里云/云栖社区/阿里技术/博客摘要：近期，谷歌工程师为何疯狂迷上阿里郎的鞋？一文引发关注，以“拍立淘”为代表的计算机图像技术让业内人士称赞不已。以图搜图，是通过搜索图像内容或者视觉特征，为用户提供互联网上相关图像资料检索服务的专业搜索引擎，是搜索引擎的一种细分。...

在笔者的上一篇博客中，解析caffe的卷积层时，在conv_layer.cpp中有一个卷积核膨胀操作，在conv_layer.cpp的第17行有如下代码const int kernel_extent = dilation_data[i] * (kernel_shape_data[i] - 1) + 1;上面的代码描述了卷积核的膨胀操作，我们不妨来做个假设，卷积核为3*3的，膨胀系数为...

2018年08月11日 17:36:14yuanCruise阅读数：793更多所属专栏：Caffe源码学习版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/qiu931110/article/details/81588956Layer type: Reshape 头文件位置：./include/caffe/layers/r...

Selective Kernel Networks启发自皮质神经元根据不同的刺激可动态调节其自身的receptive field，是结合了SE operator，Merge-and-Run Mappings，以及 attention on inception block 思想的产物。从设计理念上来讲也比较simple，即对所有的 > 1 的卷积kernel进行 Selective Kern...

导语shortcut(或shortpath，中文“直连”或“捷径”)是CNN模型发展中出现的一种非常有效的结构，本文将从Highway networks到ResNet再到DenseNet概述shortcut的发展。前言 自2012年Alex Krizhevsky利用深度卷积神经网络（CNN）（AlexNet [1]）取得ImageNet比赛冠军起，CNN在计算...

摘要最近要发论文了，被知乎里人推荐使用论文编译软件（CTex、LaTex和Overleaf之类），瞬间感觉自己用Word简直Out了（书读少）。学校里也听说过LaTex，不过因为当时没怎么写过论文，所以对这么麻烦的软件（什么文字还可以编译！写文章就像编程一样！）要一直谨谢不敏，但是最近使用Word进行格式编辑时，实在是烦晕了，特别是表格设置，还有什么分栏跨栏之类，整得头都大了，于是便决定尝...

LaTeX概览摘自维基百科：LaTeX， 是一种基于TEX的排版系统，由美国电脑学家莱斯利·兰伯特在20世纪80年代初期开发，利用这种格式，即使用户没有排版和程序设计的知识也可以充分发挥由TEX所提供的强大功能，能在几天，甚至几小时内生成很多具有书籍质量的印刷品。对于生成复杂表格和数学公式，这一点表现得尤为突出。因此它非常适用于生成高印刷质量的科技和数学类文档。这个系统同样适用于生成从简单的...

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/hao5335156/article/details/806077321、softmax函数 Softmax(x) 也是一个 non-linearity, 但它的特殊之处在于它通常是网络中一次操作. 这是因为它接受了一个实数向量并返回一个概率分布.其定义如下. 定义 x 是一个实数的向...

https://zhuanlan.zhihu.com/p/59148865多目标跟踪，即Multiple Object Tracking(MOT)，主要任务中是给定一个图像序列，找到图像序列中运动的物体，并将不同帧的运动物体进行识别，也就是给定一个确定准确的id，当然这些物体可以是任意的，如行人、车辆、各种动物等等，而最多的研究是行人跟踪，由于人是一个非刚体的目标，且实际应用中行人检测跟踪更具...

最近看起来特征点这一块，复习了一下经典论文Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks，文中的主要思想是使用了级联网络，其实就是一种从粗到细的处理方法，同时利用人脸检测任务和人脸分类任务来辅助人脸关键点检测。以及online hard sample mining的思想来提升表现...

对于深度卷积神经网络而言，准确度和计算成本往往难以得兼，研究界也一直在探索通过模型压缩或设计新型高效架构来解决这一问题。印度理工学院坎普尔分校的一篇 CVPR 论文则给出了一个新的思路——使用异构的卷积过滤器；实验表明这种方法能在保证准确度的同时显著降低计算成本。选自arXiv，作者：Pravedra Singh等，机器之心编译，参与：熊猫。论文：https://arxiv.org/a...

Focal Loss for Dense Object Detection首先,需要了解交叉熵是怎么工作的: https://blog.csdn.net/tsyccnh/article/details/79163834本文的核心公式如下:借用上面博客中的概率表:* 猫 青蛙 老鼠Label 0 1 0Pred 0.3 ...

(1)pytorch中的L2和L1正则化，自定义优化器设置等操作https://ptorch.com/docs/1/optim在pytorch中进行L2正则化，最直接的方式可以直接用优化器自带的weight_decay选项指定权值衰减率，相当于L2正则化中的λ \lambdaλ，也就是：中的λ \lambdaλ。但是有一个问题就是，这个指定的权值衰减是会对网络中的所有参数，包括权值w...

https://mp.weixin.qq.com/s/NmSVXezxsQOZzK8pne3pCw参加完华为的软件挑战赛之后，五一也没啥事，于是就想着写点东西吧！在总结完了分类网络和检测网络得结构之后，是时候对深度学习当中的优化和正则化方法做一个总结了，本文总结顺序是我上的深度学习课程，包括车老师的第二讲和吴恩达的深度学习课程，李沐的一起动手学深度学习，花书《深度学习》还有魏秀参博士的《解析卷...

Python中3种方式定义类方法, 常规方式, @classmethod修饰方式, @staticmethod修饰方式.class A(object): def foo(self, x): print("executing foo(%s,%s)" % (self, x)) print('self:', self) @classmethod ...

背景知识，某次使用HTMLTestRunner的时候，发现一直都无法导出报告，后来查询资料发现了一些坑，现在整理一下来龙去脉。一：pycharm默认的是pytest框架去执行unittest框架的测试用例二：python运行脚本的三种模式三：如何修改脚本运行的模式呢？方法一：修改pycharm默认的测试框架方法二:设置运动脚本时候的默认框架四：main（）函数有啥作用，难道就没点价值...

SVDNet for Pedestrian Retrieval：CNN到底认为哪个投影方向是重要的？文章链接：arXiv:1703.05693代码链接：syfafterzy/SVDNet-for-Pedestrian-Retrieval1.背景简介近年来，行人再识别问题（Person-reID）研究热度逐渐上升。与人脸识别相比，它在采集图像时不需要行人主动配合，在安防等领域具...

这是Du Tran在Learning Spatiotemporal Features with 3D Convolutional Networks之后发表的续篇，相当于C3D的第二个版本，C3D-resnet.我个人觉得这篇文章除了主要探讨C3D-resnet以外，更重要的是对CNN卷积结构在时空特征表现上的一个深入探讨。大部分工作还是基于UCF-101，而且从头训练，很利于在硬件条件有限的情况下...

论文名称：Learning Spatiotemporal Features with 3D ConvolutionalNetworks论文作者：Du Tran, Lubomir Bourdev, Rob Fergus, Lorenzo Torresani, Manohar Paluri论文链接：https://arxiv.org/abs/1412.0767Learning Spatio...

这篇文章是ICCV 2017的一篇文章，作者主要是以C3D网络为基础。借鉴了Faster RCNN的思路，对于任意的输入视频L，先进行proposal，然后3D-pooling,最后后进行分类和回归操作。文章主要贡献点有3个：可以针对任意长度视频、任意长度行为进行端到端的检测速度很快(是目前网络的5倍)，通过共享Progposal generation 和Classification网络的...

Temporal Action Detection with Structured Segment Networks本文只是对原文的简单翻译，不对实验过程分析，如有不准确的地方，欢迎指教~SSN：结构化分段网络的时序动作检测摘要：SSN：structured segment networks，通过结构化时序金字塔对每一个动作实例的时序结构建模。在金字塔的顶端，引入一个判别模型，包...

摘要本文旨在设计有效的卷积网络体系结构用于视频中的动作识别，并在有限的训练样本下进行模型学习。TSN基于two-stream方法构建。论文主要贡献：提出了TSN（Temporal Segment Networks），基于长范围时间结构（long-range temporal structure）建模，结合了稀疏时间采样策略（sparse temporal sampling strateg...

参考论文Convolutional-De-Convolutional Networks for Precise Temporal Action Localization in Untrimmed Videos，CVPR 2017内容介绍Abstract许多最先进的系统使用片段级分类器来选择和排列预先确定的边界的提议片段。然而，一个理想的模型应该超越片段级，并在适当的粒度上进行密集的...

原文地址：一只鸟的天空，http://blog.csdn.net/heyongluoyao8/article/details/49429629防止过拟合的处理方法过拟合  我们都知道，在进行数据挖掘或者机器学习模型建立的时候，因为在统计学习中，假设数据满足独立同分布（i.i.d，independently and identically distributed），即当前已产生的数据可以对未...

CNN的权值正交性和特征正交性，在一定程度上是和特征表达的差异性存在一定联系的。　　下面两篇论文，一篇是在训练中对权值添加正交正则提高训练稳定性，一篇是对特征添加正交性的损失抑制过拟合。第一篇：Orthonormality RegularizationXie D, Xiong J, Pu S. All You Need is Beyond a Good Init: Exploring ...

作者 |Hongyi Zhang等编辑 |路、思源来源 |机器之心原文 |https://arxiv.org/pdf/1901.09321v1.pdf批归一化（BN）基本是训练深度网络的必备品，但这篇研究论文提出了一种不使用归一化也能训练超深残差网络的新型初始化方法 Fixup。文中介绍了论文《Fixup Initialization: Residual...

作者 |autocyz来源 |https://zhuanlan.zhihu.com/p/54425450原文 |http://bbs.cvmart.net/articles/301从MobileNet中的深度可分卷积（Depthwise Separable Convolution）讲起看过MobileNet的都知道，MobileNet最主要的加速就是因为深度可分卷积（D...

本篇文章转自mingo_敏，作者文章地址：http://blog.csdn.net/shanglianlm/article/details/46755239本博文主要讨论 基本矩阵（Basic MF），非负矩阵（Non-negative MF）和正交非负矩阵（Orthogonal non-negative MF）三种常见的矩阵分解方法。并分别推导了它们的更新规则，收敛性，以及它们的应用。...

一、code前向代码https://github.com/CMU-Perceptual-Computing-Lab/openposeTraining code included in theoriginal CVPR 2017 GitHub repository.https://github.com/ZheC/Realtime_Multi-Person_Pose_Estimatio...

参考网站:知乎，计算机视觉论文速递 https://zhuanlan.zhihu.com/c_1725076741. 《CBAM: Convolutional Block Attention Module》ECCV 2018CBAM integrated with a ResBlock in ResNetAbstract：我们提出了卷积块注意力模块（CB...

CVPR2019年的一篇文章RePr: Improved Training of Convolutional Filters这篇文章初看abstract和introduction，差点以为是model pruning，看到后面发现是针对卷积神经网络的训练方法，而且这个方法比较简单，但文章通过大量的分析和实验，验证了提出的训练方法非常有效，在cifar、ImageNet、VQA、object ...

首先目标检测的入门文档：知乎-目标检测https://zhuanlan.zhihu.com/p/34142321voc版本数据集制作：voc格式数据集https://blog.csdn.net/ch_liu23/article/details/53558549yolo主页：yolo homehttps://pjreddie.com/darknet/yolo/yolo AB代...

激活函数：很多层里面有 activation 这一项，这是激活函数，我看到的配置文件里面最常用的就3个：LINEAR：啥都不干RELU ：值 &gt; 0时保持不变，小于0时置0LEAKY ：值 &gt; 0时保持不变，小于0时值 * 0.1 （类似于caffe的prelu层）卷积层：[convolutional]filters=96 # 输出blob通...

原标题： YOLOv3: An Incremental Improvement原作者： Joseph Redmon Ali Farhadi翻译者： AmusiYOLO官网：YOLO: Real-Time Object Detection论文链接：https://pjreddie.com/media/files/papers/YOLOv3.pdfYoutube：https://www....

使用darknet（windows GPU 版本） yolov3 训练自己的第一个检测模型（皮卡丘检测）蹦蹦蹦蹦蹦成一个根音侠巴扎嘿关注0.32018.10.09 16:55*字数 1879阅读 2760评论 7喜欢 6赞赏 1一。 windows GPU 版本的 darknet 环境环境：（基本都是按照github上的要求的来的，之前试过没按照上面的版本来，失败了，不...

用Pycharm的都知道，它有个跳转的功能，可以让我们在想深入了解某个函数/库的时候，可以快速跳转到具体的定义去，方法就是:按住command, 再用鼠标左击函数名/库名；当我们跳转过去，看到想要看到具体实现后，问题来了，怎样跳回来？方法如下：菜单：View->Toolbar...

在计算机视觉领域，每年都会有很多顶级会议召开，如比较著名的CVPR，ICCV等，在会议上会有CV各个领域的新思想、新方法被提出来，推动着这个领域的发展，以下为2019年各个会议的时间地点，还有会议相关链接。1.IEEE Conference on Computer Vision and Pattern Recognition (CVPR 2019)Location ：Long Beach...

https://blog.csdn.net/jinlong_xu/article/details/763753341.Batch_Size(批尺寸)该参数主要用于批梯度下降算法(Batch Gradient Descent)中，批梯度下降算法是每次迭代都遍历批中的所有样本，由批中的样本共同决定最优的方向，Batch_Size 正是批中的样本数量。若数据集比较小，可以采用全数据集(F...

作者：AI之路来源：https://blog.csdn.net/u014380165/article/details/80784147CVPR2018上关于目标检测（object detection）的论文比去年要多很多，而且大部分都有亮点。从其中挑了几篇非常有意思的文章，特来分享，每篇文章都有详细的博客笔记，可以点击链接阅读。1、Cascaded RCNN论...

【导读】CVPR 2019 接收论文列表已经出来了，但只是一些索引号，所以并没有完整的论文合集。CVer 最近也在整理收集，今天一文涵盖15篇CVPR 2019论文速递，内容涵盖目标检测、语义分割和姿态估计等方向。特别鸣谢CV_arXiv_Daily公众号提供的素材，本文介绍的论文已经同步至：https://github.com/zhengzhugithub/CV-arXiv...

单目图像估计3-D检测框是目前自动驾驶研发流行的，单纯的2-D检测框无法在3-D空间去做规划控制，去年百度Apollo发布2.5版本特意提到这方面的解决方案。这里分析一下公开发表的有关论文，特别是近期的深度学习CNN框架，供参考。其实最早看到3-D BBox的工作是Mobileye以前的CEO Shashua教授给的PPT demo（没有paper了）：结果Tesl...

版权声明：本文为博主原创文章，保留著作权，未经博主允许不得转载。如有疑问请联系QQ:973926198 https://blog.csdn.net/LoseInVain/article/details/86476010前言：本文主要介绍在pytorch中的Batch Normalization的使用以及在其中容易出现的各种小问题，本来此文应该归属于[1]中的，但是考虑到此文的篇幅可能会比较大，...

Convolution+BatchNorm+Scale+Relu的组合模块在卷积后进行归一化，然后在放出非线性Relu层，可以加速训练收敛。但在推理时BatchNorm非常耗时，可以将训练时学习到的BatchNorm+Scale的线性变换参数融合到卷积层，替换原来的Convolution层中weight和bias，实现在不影响准确度的前提下加速预测时间。一、Convolution+BatchN...

Slimmable Neural Networks论文地址：https://arxiv.org/abs/1812.08928Github:https://github.com/JiahuiYu/slimmable_networksOpenReviews:https://openreview.net/forum?id=H1gMCsAqY7Motivation移动端的应用对算法运行效...

CNN的发展史 上一篇回顾讲的是2006年Hinton他们的Science Paper，当时提到，2006年虽然Deep Learning的概念被提出来了，但是学术界的大家还是表示不服。当时有流传的段子是Hinton的学生在台上讲paper时，台下的机器学习大牛们不屑一顾，质问你们的东西有理论推导吗？有数学基础吗？搞得过SVM之类吗？回头来看，就算是真的，大牛们也确实不算无理取闹，...

1，先使用fdisk进行磁盘分区，一般直接分成一个区[root@crm_db_m01 ~]# fdisk /dev/sdcDevice contains neither a valid DOS partition table, nor Sun, SGI or OSF disklabelBuilding a new DOS disklabel with disk identifier 0x...

tar 命令[root@linux ~]#tar [-cxtzjvfpPN] 文件与目录 ....Usage: tar [OPTION...] [FILE]...Examples: tar -cf archive.tar foo bar # Create archive.tar from files foo and bar. tar ...

git使用文档https://git-scm.com/book/zh/v2/Git-%E5%88%86%E6%94%AF-%E5%88%86%E6%94%AF%E7%9A%84%E6%96%B0%E5%BB%BA%E4%B8%8E%E5%90%88%E5%B9%B6分支的新建与合并让我们来看一个简单的分支新建与分支合并的例子，实际工作中你可能会用到类似的工作流。 你将经历如下步骤：...

使用一个pytorch写的模型时，训练到45epoch时，报错：RuntimeError:one of the variables needed for gradient computation has been modified by an inplace operationBut this error just appears in some places. Why it occurs?...

(1) Densely Connected CNN with Multi-scale Feature Attention for Text ClassificationAdd attention on the last layer before classification.(2) Attention-Mechanism-Containing Neural Networks for H...

Newell, Alejandro, Kaiyu Yang, and Jia Deng. “Stacked hourglass networks for human pose estimation.” arXiv preprint arXiv:1603.06937 (2016).code github: https://github.com/princeton-vl/pose-hg-train...

Introduction首先作者介绍了在视觉领域中Attention也发挥着很大的作用，Attention不止能使得运算聚焦于特定区域，同时也可以使得该部分区域的特征得到增强，同时'very deep'的网络结构结合残差连接（Residual Network）在图像分类等任务中表现出了极好的性能。基于这两点考量，作者提出了残差注意力网络（Residual Attention Network），...

目录STN的作用 1.1 灵感来源 1.2 什么是STN？STN的基本架构Localisation net是如何实现参数的选取的？ 3.1 实现平移 3.2 实现缩放 3.3 实现旋转 3.4 实现剪切 3.5 小结Grid generator实现像素点坐标的对应关系 4.1 为什么会有坐标的问题？ 4.2 仿射变换关系Sampler实现坐标求解的可微性 5.1 小...

TF code： https://github.com/kevinzakka/spatial-transformer-network一、相关背景如果网络能够对经过平移、旋转、缩放及裁剪等操作的图片得到与未经变换前相同的检测结果，我们就说这个网络具有空间变换不变性（将平移、旋转、缩放及裁剪不变性统称为空间不变性）。具有空间变换不变性的网络能够得到更精确地分类结果。传统CNN网络的池化层具有平...

本文简要总结一下attention机制在图像分类任务中的应用。attention作为一种机制，有其认知神经或者生物学原理: 注意力的认知神经机制是什么？ 如何从生物学的角度来定义注意力？ 在计算机视觉领域，注意力机制有各种不同形式的实现，可以大致分为soft attention和hard attention[1]。Soft attention的典型例子是stn[3]，Residual Att...

Attention Mechanism可以帮助模型对输入的X每个部分赋予不同的权重，抽取出更加关键及重要的信息，使模型做出更加准确的判断，同时不会对模型的计算和存储带来更大的开销，这也是Attention Mechanism应用如此广泛的原因。 之前在做知识库问答和阅读理解问答的研究中都用到了attention机制，效果确实比较显著（虽然减慢训练速度的效果也比较显著…）。在是谷歌发布论文Atte...

不久前，Google基于Attention机制的机器翻译研究“Attention is All You Need”赚足了眼球。它放弃了机器翻译上常用的CNN、RNN架构，仅采用Attention机制就拿到了业界BLEU评分上的最佳成绩，且训练过程仅需3天半就能完成。当然，这是用了8颗P100 GPU的结果。 于是，人们不免好奇，Attention到底是个什么鬼？它相对于传统LSTM的技术...

查找论文及对应源码的神器 Papers With Code 刚刚推出了最新版本，可以用图形界面查找你想要的 SOTA 实现，从应用领域到具体任务再到实现代码一步到位。据网站开发者介绍，里面包含了 966 个机器学习任务、515 个评估排行榜（以及当前最优结果）、8625 篇论文（带源码）、704 个数据集。网站地址：https://paperswithcode.com/sotaPapers...

机器之心卷积神经网络（CNN）近年来已经取得了很大的成功，但研究者仍在进一步推进研究前沿，提出新的思路和方法。在本文中，技术分析师 Joshua Chou 将解读三篇有关卷积神经网络的 AAAI 2019 论文。其中第一篇提出了一种 dropout 改进方法，第二篇和第三篇则是图卷积网络方面的研究。机器之心原创，作者：Joshua Chou，编辑：Haojin Yang。分析师简介：Jo...

 机器之心​选自arXiv，作者：Jens Behrmann、Will Grathwohl、，Ricky T. Q. Chen等，机器之心编译。近日，来自德国不来梅大学和加拿大多伦多大学的研究者提出一种新架构——可逆残差网络，可用于分类、密度估计和生成任务。而在此之前，单个架构无法在判别和生成任务上同时取得优秀性能。值得一提的是，NeurIPS 2018 最佳论文获得者 Dav...

变形卷积核、可分离卷积？卷积神经网络中十大拍案叫绝的操作。 CNN从2012年的AlexNet发展至今，科学家们发明出各种各样的CNN模型，一个比一个深，一个比一个准确，一个比一个轻量。我下面会对近几年一些具有变革性的工作进行简单盘点，从这些充满革新性的工作中探讨日后的CNN变革方向。注：水平所限，下面的见解或许有偏差，望大牛指正。另外只介绍其中具有代表性的模型，一些著名的模型由于原理...

CNN训练分类任务的优化策略(tricks) 最近读了论文Bag of Tricks for Image Classification with Convolutional Neural Networks 。这篇论文主要是描述了使用CNN训练图片分类器时可以用到的一些技巧，从提升训练速度、调整模型结构、训练过程几个方面提供了一些有用的tricks。自己尝试将论文中提到的tricks提炼...

把Pytorch当做Numpy用PyTorch的官方介绍是一个拥有强力GPU加速的张量和动态构建网络的库，其主要构建是张量，所以可以把PyTorch当做Numpy来用，Pytorch的很多操作好比Numpy都是类似的，但是其能够在GPU上运行，所以有着比Numpy快很多倍的速度。import torchimport numpy as np    1    2# 创建一个nump...

使用vlc播放器做rtsp服务器打开vlc 媒体-流 选择文件选项卡，其他选项卡稍微麻烦和很少用，可以自己尝试，都差不多添加一个视频文件，基本vlc可以播放的都能添加 这里要选择rtsp，然后点击 添加 按钮端口需要主要不能冲突，一般默认的8554即可，路径根据需要设置或不设置 可以选择激活转码然后系统会转码后再转发流出去，如果电...

win10下安装Ubuntu16.04双系统最近由于想体验一下Ubuntu系统，由于虚拟机的体验不是很好，所以便在电脑上试下装双系统。自己也是一步步按着网上的帖子来，由于网上的教程都不是最新的而且有的也不是很全面，导致安装过程中踩坑无数，便想着自己写个新一点全面一点的教程。此教程应该可以解决新手安装过程中遇到的一切基本问题，嘿嘿。制作系统U盘下载Ubuntu16.04我们首先去Ub...

本系列文章由 @yhl_leo 出品，转载请注明出处。 文章链接： http://blog.csdn.net/yhl_leo/article/details/66969915  源自： Yhlleo’s Notes大家好，今天我要讲的内容是在深度学习的卷积神经网络中，如何减弱过拟合问题的相关研究，最近刚好在修改论文，就把相关的方法和技术整理出来，对于怎样选择和设计网络模型具有一定的...

1. 问题背景最近做深度学习实验的时候遇到了一个很棘手的问题，那就是大名鼎鼎的“过拟合”，直观地表现在图中是长这个样子的，分析来讲就是说深度网络在拟合训练集的时候是可以很好地实现，Loss很小，Accuracy很大（我这儿能达到99.99%），但是呢，测试集的Loss很大，Accuracy在一个比较低的范围内波动（我这儿是70%-80%），并没有像论文中说的那样，测试集的Loss随着迭代的增加...

　CNN的权值正交性和特征正交性，在一定程度上是和特征表达的差异性存在一定联系的。　　下面两篇论文，一篇是在训练中对权值添加正交正则提高训练稳定性，一篇是对特征添加正交性的损失抑制过拟合。第一篇：Orthonormality RegularizationXie D, Xiong J, Pu S. All You Need is Beyond a Good Init: Exploring...

Human Semantic Parsing for Person Re-identificationKalayeh M M, Basaran E, Gokmen M, et al. Human Semantic Parsing for Person Re-identification[J]. 2018.　　这篇是截止发文时在Market-1501上性能最高的论文。主要思想可以归结到软划分...

1，先使用fdisk进行磁盘分区，一般直接分成一个区[root@crm_db_m01 ~]# fdisk /dev/sdcDevice contains neither a valid DOS partition table, nor Sun, SGI or OSF disklabelBuilding a new DOS disklabel with disk identifier 0x...

https://www.evget.com/article/2014/6/27/21239.html概述：本文整理了13款甘特图的最流行和最有效的甘特图工具和资源，可以更方便、更有效地创建甘特图列表。甘特图通过图形或表格的形式对项目时间、成本和开展的范围进行了有效的约束，使项目的进度一目了然。毫无疑问，Microsoft Excel是创建甘特图的最流行和最有效的方式之一。其实，除此之外，我们还整理...

我从业到现在已经十年多了，这个问题是我从业五到七八年时最苦恼的话题。当时觉得这个世界太不友好了，互联网这个行业全是年轻人，30岁以上就压力非常大，我缓解这种压力的方式就是每个周末必须得去做一些我认为比较 ...很开心今天能够站在这里，做为馒头商学院开学典礼的第一位分享嘉宾。今天这个分享主题想过很久，做为早晨的第一课应该给大家醒醒脑，所以我的题目是《产品经理们，五年后，你会失业吗？》。讲课...