在与学术圈大佬交流的时候, 是不是常常感觉到迷茫, 张口结舌,哑口无言? 完全不知道大佬在问些什么, 但复盘与大佬的交流过程就会发现, 其实都是自己所知道的东西. 究其原因就是自己并没有把散乱的知识归纳成自己的体系, 而大佬的交流又都是建立在知识点以外的推论与扩展. 所以,将相关的知识收藏,并时常扫一眼是很重要的.
* focal loss: Focal Loss --- 从直觉到实现 - 知乎
cross entropy的公式,修改到focal loss的公式,自己写一个focal loss公式代码.
focal loss公式的图像, gamma越大, 曲线越下凸.
* focal loss有两个系数 alpha管难易分类样本的东西,gamma管正负样本不平衡 *focal loss两个性质(prob=0,1的loss小,中间的loss大; gamma越大上述效果越强.); alpha=0.5时为传统的cross entropy,
* easy / hard example两种情况下,计算loss的差异.
* focal loss主要处理什么问题? 类别不平衡问题,以及在线专注于hard example.
* 目标检测中, 负样本是谁?background背景. 负样本多还是正样本多?负样本多.
* 目标检测中, 类别数量的不均衡靠alpha来调节.
* 还有哪些其他专注难样本的方法?OHEM. *比focal,OHEM缺点是忽略了容易分类样本
* 目标检测中前景背景的确定. 计算anchor和gt的IOU, 有个IOU_small_enough(比如=0.35),小于此数值的anchor则为background, 而IOU大于 IOU_big_enough(比如=0.65)的则作为foreground.
* cross entropy: 公式, 自己写代码.
* CenterNet:
【Anchor Free】CenterNet的详细解析 - 知乎
* head由几部分组成? heatmap, wh, reg; shape是什么
* gt 是用高斯核的函数分布成热力图的. 高斯概率分布的公式, 标准差的选择; 重叠选最大
* heatmap高斯函数半径的确定见 CenterNet原理详解_进击的菜鸟-CSDN博客. 思想的出发点: 避免将iou为0.7以上的框给太大的惩罚,也就是说. 然后分三类情况计算半径,然后取最小的为高斯圆半径
* loss由几部分组成? 每部分的loss公式?
* backbone里有几个hourglass
* CenterNet 的NMS. 与yolo的不同. 以tensor的计算代码实现
* cornerNet 是centerNet之前的.
* softnms
* Soft NMS算法笔记_AI之路-CSDN博客 看一下NMS失败的NMS的case样例 Soft(er)-NMS:非极大值抑制算法的两个改进算法_lcczzu的专栏-CSDN博客_nms优化
* softNMS公式. 以及演进过程, softNMS 与NMS的区别,看上面两个链接.
* softNMS 也带来了问题, 容易误检
* hourglass
* NMS 代码YOLOv3:非极大值抑制抑制(NMS)算法和Soft-NMS算法原理以及实现_Glen_Zou的博客-CSDN博客
* softplus激活函数 【深度学习基础】:概率论(三)_sigmoid、softplus与Relu_bqw的博客-CSDN博客_softplus
* Mish 激活函数 和 swish 激活函数. , sigmoid 公式及曲线, tanh公式及曲线 . 梯度弥散,梯度消失(gradient vanishing), 是否zero-centered, 倒数如何计算, 梯度爆炸,移动端,收敛速度深度学习笔记(三):神经网络之九种激活函数Sigmoid、tanh、ReLU、ReLU6、Leaky Relu、ELU、Swish、Mish、Softmax详解_源的博客-CSDN博客_relu和relu6
* 普通卷积、深度可分离卷积、空间可分离卷积代码 深度学习笔记(十二):普通卷积、深度可分离卷积、空间可分离卷积代码_源的博客-CSDN博客
* 深度学习笔记(十):深度学习评估指标_源的博客-CSDN博客
* 准确率accuracy, 精确度 precision, 灵敏度(召回率) sensitivity,recall, 特异度specificity
* 【深度学习】目标检测回归损失函数合集:SmoothL1/IoU/GIoU/DIoU/CIoU Loss_chen1234520nnn的博客-CSDN博客 * 能否反映尺度,距离,两者不相交时候的值,边界框中心点的距离, 边界框的宽高比,
* 检测模型
one sta ge | Region Propos al / backbone | pooling | head | 栅格 anchor | FPN | |||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
R-CNN | No | Selecti ve Search 2000 | No | SVM 线性回归 | ||||||||||
SPPNet | No | 同上 | global pooling | SVM 线性回归 | ||||||||||
Fast RCNN | No | 同上 | ROI pooling | 全连接层 | ||||||||||
Faster- RCNN | No | RPN | ||||||||||||
R-FCN | ||||||||||||||
Mask R-CNN | No | 同Faster RCNN | ROI Align | 同Faster RCNN | ||||||||||
YOLOv1 | Yes | VGG | - | 5*2 + cls 全连接层 | 7x7 栅格 | 无 | ||||||||
SSD | Yes | - | - | 全卷积层 | ||||||||||
Yolov2 | Yes | 借鉴RPN Darknet19 | - | 全卷积层 | anchor | 无 | ||||||||
Yolov3 | Yes | DarkNet53 | - | 全卷积 | anchor | 3尺度 | ||||||||
Yolov4 | Yes | CSPDark Net53 | - | anchor | ||||||||||
yolov5 | ||||||||||||||
yolox | ||||||||||||||
Retina Net | ||||||||||||||
Corner Net | ||||||||||||||
Center Net | ||||||||||||||
a
yolo不同版本的网络结构:Yolov3、v4、v5、Yolox模型权重及网络结构图资源下载_江南研习社-CSDN博客_yolox模型
yolov3
yolov4
yolov5
yolox-darknet53
yolox-s
a