神经网络
超级无敌小小顺利
计算机视觉
展开
-
机器学习基础——彻底搞懂Precision\Recall\F1\P-R\ROC
一直以为自己理解这些概念,但是其实只是听说过而已。这些概念的释义来自于周志华教授的《机器学习》,都属于对机器学习算法的性能度量。一、错误率与精度还是使用书上的定义写的明确,test set中所有样本预测对和预测错所占的比例就是这两个指标,求和为1。但是其实这里表述并不是很好,这里的“精度”更好的表示是“准确度”(Accuracy),这两个指标只是在“对”与“错”层面进行分析,并未涉及出错原...原创 2020-03-15 20:40:13 · 1534 阅读 · 0 评论 -
神经网络运算量&参数量估计——FLOPS和FLOPs辨析
一、概念明晰首先要明确“运算量”和“参数量”两个概念:参数量:这个比较好理解,例如卷积层中的卷积核c_i*k*k*n_o,其参数量就是相乘的结果。而且,无论输入图像的尺寸怎么变(YOLO实现中的multi scale训练策略),只要模型结构确定,参数量就固定。还需要注意,参数都是FP32(4字节)存放,所以模型大小是参数量*4。运算量:使用FLOPs衡量,代表浮点运算次数,这个可以衡...原创 2020-02-29 15:41:32 · 4647 阅读 · 1 评论 -
argparse模块使用说明
深度学习的工程中,py文件中的main函数一开始总会有大量的参数传入,而通常使用的方法就是使用argparse通过命令行传入,这篇博文旨在记录argparse的常用方法。一、语句简介1.载入argparse模块:import argparse2.创建语法分析器:parser = argparse.ArgumentParser()3.添加选项:parser.add_...原创 2020-01-30 10:50:11 · 294 阅读 · 0 评论 -
Pytorch训练流程
调试了很久YOLO的标准Pytorch实现,将Train代码进行了重新整理,抽出了标准的Pytorch训练框架。现在整理下来,以备后用。整理后的代码分为三个大部分,每个大部分分为三个小部分:1、初始化(Init):训练之前先分别创建Model、Dataset&Dataloader、Optimizer;2、轮次内部(Epoch):分别进行:Dataloader遍历训练、Save模型...原创 2020-02-01 18:22:14 · 1446 阅读 · 0 评论 -
模型量化——基础知识 & LSQ论文阅读
感谢陈老师给的机会,有幸能够参加2020年的DAC比赛。我在其中负责目标检测器的调试和量化。自己第一次接触量化这个任务,很多东西都是一点一点学。一、量化基础对于一个全精度的值vvv,若量化步长为sss(也可理解为量化分辨率),正负量化层级(quantization levels )分别为QPQ_{P}QP和QNQ_{N}QN。则量化过程为:vˉ=Int(clip(v/s,−QN,QP))\...原创 2020-01-28 17:25:11 · 2333 阅读 · 0 评论 -
批量归一化:Batch Normalization层 原理+Pytorch实现
一、BN层概念明晰BN层存在的意义:让较深的神经网络的训练变得更加容易。BN层的工作内容:利用小批量数据样本的均值和标准差,不断调整神经网络中间输出,使整个神经网络在各层的中间输出的数值更加稳定。BN层注意事项:训练模式和预测模式计算结果不同。训练模式下:数据是成批的,可以进行批内求均值、求方差,进而得到归一化结果,最后乘以拉伸参数(scale—)和偏移参数(shift—)得...原创 2020-01-06 20:13:41 · 4003 阅读 · 0 评论 -
转载篇:优秀博文汇总
1.Pytorch中堆网络语法:《nn.moduleList 和Sequential由来、用法和实例 —— 写网络模型》https://blog.csdn.net/e01528/article/details/843971742.CNN中卷积操作十大改进方向(Depth-wise/ Dilated/ Deformable/ Shuffle/ SENet etc)https://blog...原创 2020-01-01 17:04:01 · 228 阅读 · 0 评论 -
深度学习基础——彻底掌握卷积层的计算
机器学习也是刚刚入门,虽然对卷积、池化等过程很熟悉,但是一直不太清楚具体的计算,幸好在博文上看到了讲解过程,看完以后受益匪浅,然后自己又重新写了一遍。有这个表格,再也不用烦恼卷积的计算了。原文地址:https://blog.csdn.net/dcrmg/article/details/79652487一、概念与计算输入矩阵:四个维度:[16,480,640,3] [batch,Heig...原创 2019-01-26 16:11:13 · 3884 阅读 · 1 评论 -
Mask R-CNN 简介与论文笔记
本篇文章是面向Mask R-CNN的初学者,旨在梳理大体思路,认识框架基础概念。由于自己现在大四,也是刚刚入足深度学习领域,所以文章中免不了有错误之处,欢迎各位博友批评指正。本博文所参考的论文和代码分别为:★何恺明大神的:Mask R-CNN ★综述文章:Deep Learning for Generic Object Detection: A Survey ★非配套代码:Mask...原创 2019-02-15 18:04:29 · 2596 阅读 · 1 评论