Deep Learning
成为一名合格的炼丹师
Channon_
我是Channon,我喂自己袋盐...
展开
-
知识蒸馏:从神经网络中蒸馏知识 Distilling the Knowledge in a Neural Network
1.原理介绍Hinton的文章《Distilling the Knowledge in a Neural Network》首次提出了知识蒸馏的概念,通过引入教师网络用以诱导学生网络的训练,实现知识迁移。所以其本质上和迁移学习有点像,但实现方式是不一样的。用“蒸馏”这个词来形容这个过程是相当形象的。用下图来解释这个过程。教师网络:大规模,参数量大的复杂网络模型。难以应用到设备端的模型。学生网络:小规模,参数量小的精简网络模型。可应用到设备端的模型,俗称可落地模型。...原创 2020-12-14 18:57:10 · 3703 阅读 · 0 评论 -
分享:YOLO-Darknet 安装
YOLO: 是实现实时物体检测的系统,Darknet是基于YOLO的框架https://www.jianshu.com/p/813342202837https://blog.csdn.net/wanzhen4330/article/details/81699769https://www.jianshu.com/p/1baf9848b7d7原创 2020-10-09 19:04:12 · 159 阅读 · 0 评论 -
神经网络剪枝行不行?-【Network Pruning发展近况】
WHAT IS THE STATE OF NEURAL NETWORK PRUNING? Source:https://arxiv.org/abs/2003.03033一、摘要:缺乏标准化的基准和度量标准,以至于很难比较不同的剪枝技术,提出具体的补救措施,并引入ShrinkBench,一个框架来促进修剪方法的标准化评估。尝试去回答:哪种技术能最好地兼顾精确性和效率?在特定的架构或数据集上,是否有最有效的策略?哪种高级设计选择是最有效的?二、存在的问题通过调研81篇论文原创 2020-09-12 23:12:08 · 962 阅读 · 0 评论 -
独家总结 | 2020基于深度学习的目标检测-Part 6
未来趋势A. ConclusionsB. Trends1)一方面,两级探测器需要密集的尾迹处理才能获得尽可能多的参考箱,这既费时又低效。为了解决这个问题,研究人员需要在保持高精确度的同时消除这么多冗余。另一方面,单级检测器处理速度快,已在实时应用中得到成功应用。虽然速度快,但较低的精度仍然是高精度要求的瓶颈。如何将单级和两级探测器的优点结合起来仍然是一个很大的挑战。Review研究重点是描述和分析基于深度学习的图像目标检测。现有的.原创 2020-08-28 11:52:44 · 167 阅读 · 0 评论 -
独家总结 | 2020基于深度学习的目标检测-Part 5
应用和分支介绍A. Typical application areasB. Object detection branches原创 2020-08-28 11:27:30 · 153 阅读 · 0 评论 -
独家总结 | 2020基于深度学习的目标检测-Part 4
图像目标检测中常用方法分析基于深度神经网络的目标检测管道一般分为图像预处理、特征提取、分类与回归、后处理四个步骤。首先,数据集中的原始图像不能直接输入网络。因此,我们需要将它们调整到任何特殊的大小,并使它们更清晰,例如增强亮度、颜色、对比度等。数据增强也可用于一些要求,如翻转,旋转,缩放,裁剪,平移,添加高斯噪声。此外,GANs(生成对抗网络)可以生成新的图像,因为您希望丰富输入的多样性。有关数据增强的详细信息,请参阅[60]。其次,特征提取是进一步检测的关键步骤。特征质量直接决定了包含分类和回原创 2020-08-28 11:18:03 · 307 阅读 · 0 评论 -
独家总结 | 2020基于深度学习的目标检测-Part 3
数据集和基准检测目标必须声明目标属于指定的类并在图像中对其进行本地化。目标的定位通常由一个包围框表示。使用具有挑战性的数据集作为基准在许多研究领域都具有重要意义,因为它们能够在不同算法之间进行标准比较,并为解决方案设定目标。早期的算法侧重于使用各种特殊数据集的人脸检测。后来,更现实和更具挑战性的人脸检测数据集被创建。另一个流行的挑战是检测已经为其创建了多个数据集的行人。Caltech行人数据集包含35万个带边框的带标记实例。PASCAL VOC、MS COCO、ImageNet-loc等原创 2020-08-28 11:06:13 · 152 阅读 · 0 评论 -
独家总结 | 2020基于深度学习的目标检测-Part 2
Two-stage & One-stage Detectors.1 IntroductionAnchor-freeAutoML 自动机器学习两大重要研究方向。后面将介绍,自动机器学习(AutoML)是将机器学习应用于现实问题的端到端流程自动化的过程。机器学习的应用需要大量的人工干预,这些人工干预表现在:特征提取、模型选择、参数调节等机器学习的各个方面。AutoML视图将这些与特征、模型、优化、评价有关的重要步骤进行自动化地学习,使得机器学习模型无需人工干预即可被..原创 2020-08-28 10:50:22 · 176 阅读 · 0 评论 -
独家总结 | 2020基于深度学习的目标检测-Part 1
这篇文章是关于物体识别领域的一篇综述类文章,首先由于目标检测是在计算机视觉和数字图像处理的热门方向,在诸多领域得到广泛应用。特别地阅读总结下这篇文章;二来,之所以选择这篇文章,是由于它的时间较近较新并且是由IEEE Fellow发表的文章,可见其权威性。除此之外,还有三篇综述论文是和此篇一起找到的发表日期相近,其中有些内容也穿插在里面。文章结构框架,主要内容目标检测是计算机视觉和数字图像处理的一个热门方向,目标检测也就成为了近年来理论和应用的研究热点,直观的从数据上看.下图是作者在谷原创 2020-08-28 09:49:23 · 419 阅读 · 0 评论 -
它来了!它们来了!YOLOv4, v5系列目标检测算法【全面解析】
YOLO系列算法发展-前沿 创始人:你们玩吧,我不干了!(摔-) YOLOv3发布于2018年3月份。时隔快两年,YOLOv3并没有进化到YOLOv4,但不影响大家对YOLOv3的关注度。YOLO之父JosephRedmon在今年年初宣布退出计算机视觉的研究的时候,很多人都以为目标检测神器YOLO系列就此终结。然而在4月23日,继任者YOLOV4却悄无声息地来了。Alexey Bochkovskiy发表了一篇名为YOLOV4:Optimal Speed an...原创 2020-08-24 09:52:12 · 1601 阅读 · 1 评论 -
【实用工具】网络模型可视化软件Netron
Netron 是神经网络、深度学习与机器学习模型的可视化工具。1.在网页端直接使用(适合使用模型结构脚本文件)Step1.输入网址:https://lutzroeder.github.io/netron/网页加载...完成后见到如下界面:Step2.点击 Open Model,上传模型结构脚本文件即可见到清晰的网络结构图,点击可查看详细参数信息。点击左上角菜单,可以输出png图片格式的网络结构图文件。2.下载程序,离线使用适用于加载较大的模型文件,操作与网..原创 2020-07-18 16:44:19 · 1646 阅读 · 0 评论