深度学习的基础知识

目录

一、基础神经网络

1..激活函数、代价函数

2.参数跟新

3.权重初始化

4.batch normalization

5.过拟合、正则化

6.超参数

7.滑动平均模型

8.CNN

二、图像

1.1×1卷积核理解

2.选择性搜索 selective search

3.边框回归 Bounding Box Regression

4.全连接层转化为卷积层

5.图像金字塔 Spatial Pyramid Matching, SPM

6.目标检测性能评价指标

7.Batch Normalization

8.非极大值抑制

9.图像的目标检测

10.反卷积

一、基础神经网络

1..激活函数、代价函数

神经网络常用激活函数及其应用举例 - 牧野的博客 - CSDN博客  https://blog.csdn.net/dcrmg/article/details/76222576

神经网络中常用的几种激活函数的理解 - LLLiuye - 博客园  https://www.cnblogs.com/lliuye/p/9486500.html.

机器学习：神经网络代价函数总结  https://blog.csdn.net/weixin_40170902/article/details/80032669

神经网络四：Softmax以及与Sigmoid的关系 - https://blog.csdn.net/Bixiwen_liu/article/details/52946867

2.参数跟新

神经网络中Epoch、Iteration、Batchsize相关理解和说明  https://blog.csdn.net/program_developer/article/details/78597738

mini-batch梯度下降 - legend_hua的博客 - CSDN博客  https://blog.csdn.net/legend_hua/article/details/80633525

深度学习中的三种梯度下降方式：批量（batch），随机（stochastic），小批量（mini-batch） - xiaotao_1的博客 - CSDN博客  https://blog.csdn.net/xiaotao_1/article/details/81031633

深度学习——优化器算法Optimizer详解（BGD、SGD、MBGD、Momentum、NAG、Adagrad、Adadelta、RMSprop、Adam） - 郭耀华 - 博客园  https://www.cnblogs.com/guoyaohua/p/8542554.html

详解机器学习中的梯度消失、爆炸原因及其解决方法 -   https://blog.csdn.net/qq_25737169/article/details/78847691

3.权重初始化

深度学习中神经网络的几种权重初始化方法 - https://blog.csdn.net/u012328159/article/details/80025785

[深度学习] 权重初始化--Weight Initialization - 曾先森在努力 - 博客园  https://www.cnblogs.com/WayneZeng/p/9290701.html

4.batch normalization

batch normalization 详解 - gbyy42299的博客 - CSDN博客  https://blog.csdn.net/gbyy42299/article/details/80363332

【深度学习】深入理解Batch Normalization批标准化 - 郭耀华 - 博客园  https://www.cnblogs.com/guoyaohua/p/8724433.html

5.过拟合、正则化

如何防止过拟合(overfitting) - 陶将的博客 - CSDN博客  https://blog.csdn.net/weixin_42111770/article/details/82703509

深度学习（二十二）Dropout浅层理解与实现 - hjimce的专栏 - CSDN博客  https://blog.csdn.net/hjimce/article/details/50413257

6.超参数

深度学习中的验证集和超参数简介 -  https://blog.csdn.net/weixin_42137700/article/details/82935492

7.滑动平均模型

滑动平均模型 - 简书  https://www.jianshu.com/p/d7d4ecdd3276

深入解析TensorFlow中滑动平均模型与代码实现 -  https://blog.csdn.net/m0_38106113/article/details/81542863

8.CNN

CNN初探 - FANG_YANG - 博客园  https://www.cnblogs.com/fydeblog/p/7450413.html

二、图像

1.1×1卷积核理解

1×1卷积核理解 - 平静-平静 - 博客园  https://www.cnblogs.com/tianqizhi/p/9665436.html

2.选择性搜索 selective search

用在R-CNN中，和滑动窗口法相对的是另外一类基于区域（region proposal）的方法。

选择性搜索（selective search） - 郭云飞的专栏 - CSDN博客  https://blog.csdn.net/guoyunfei20/article/details/78723646

3.边框回归 Bounding Box Regression

深度学习中IU、IoU(Intersection over Union)的概念理解 https://blog.csdn.net/iamoldpan/article/details/78799857

边框回归(Bounding Box Regression)详解 -https://blog.csdn.net/zijin0802034/article/details/77685438/

4.全连接层转化为卷积层

在overfeat中卷积层上的滑动窗口（将全连接层转化为卷积层）  https://blog.csdn.net/u010548772/article/details/78582250

5.图像金字塔 Spatial Pyramid Matching, SPM

在SPP-Net中空间金字塔方法表示图像 - xiaoming123abc - 博客园  https://www.cnblogs.com/xiaoming123abc/p/5950401.html

尺度空间理论与图像金字塔 - Darlingqiang的博客 - CSDN博客  https://blog.csdn.net/Darlingqiang/article/details/79457848

6.目标检测性能评价指标

深度学习笔记（八）：目标检测性能评价指标（mAP、IOU..） https://blog.csdn.net/qq_29893385/article/details/81213377

mean average precision（MAP） https://blog.csdn.net/a417197457/article/details/80224886

mean average precision（MAP）在计算机视觉中的计算和应用 https://blog.csdn.net/qq_35608277/article/details/79070935yi

7.Batch Normalization

【深度学习】深入理解Batch Normalization批标准化 - 郭耀华 - 博客园  https://www.cnblogs.com/guoyaohua/p/8724433.html

8.非极大值抑制

非极大值抑制（Non-Maximum Suppression，NMS） -  https://www.cnblogs.com/makefile/p/nms.html

9.图像的目标检测

基于深度学习的图像目标检测(上) - 知乎  https://zhuanlan.zhihu.com/p/32564990

基于深度学习的图像目标检测(下) - 知乎  https://zhuanlan.zhihu.com/p/32723845

基本图像分类与目标检测网络要点总结 - lx_xin的博客 - CSDN博客  https://blog.csdn.net/lx_xin/article/details/82834403

10.反卷积

反卷积原理 - 实践求真知 - CSDN博客  https://blog.csdn.net/chengqiuming/article/details/80299432