深度学习知识点总结
小鱼爱吃草灬灬
纸上得来终觉浅,绝知此事要躬行
展开
-
《小目标目标检测的解决方法及方式》
《小目标目标检测的解决方法及方式》最近在做小目标相关的项目,参考了一些博客、论文及书籍,在这里对小目标的方法和方式做了些总结。如果有哪些问题理解错误或补充欢迎讨论。1.什么是小目标检测在物体检测的各种实际应用场景中,为满足需求,我们通常希望检测出不同大小的物体。多尺度也是物体检测与图像分类两个任务的一大区别。分类问题通常针对同一种尺度,如ImageNet中的224*224大小;而物体检测中,模型需要对不同尺度的物体都能检测出来,这要求模型对于尺度要具有鲁棒性。在多尺度的物体中,大尺度的物体由于面积大、原创 2020-11-27 10:07:49 · 13545 阅读 · 1 评论 -
CNN学习-CNN图像尺寸输入限制问题
通过CNN组成(卷积层和全连接层)进行分析。(1)卷积层 卷积层对于图像是没有尺寸限制要求的。输入图像是28*28,卷积仅于自身的卷积核大小,维度有关,输入向量大小对其无影响(如第一层卷积,输入图像的大小和维度)。# 输入图像x = tf.placeholder(tf.float32, [None, 784])y_ = tf.placeholder(tf.float32, [None...转载 2019-05-11 11:42:10 · 5832 阅读 · 0 评论 -
CNN学习-Dropput
1. Dropout简介1.1 Dropout出现的原因在机器学习的模型中,如果模型的参数太多,而训练样本又太少,训练出来的模型很容易产生过拟合的现象。在训练神经网络的时候经常会遇到过拟合的问题,过拟合具体表现在:模型在训练数据上损失函数较小,预测准确率较高;但是在测试数据上损失函数比较大,预测准确率较低。过拟合是很多机器学习的通病。如果模型过拟合,那么得到的模型几乎不能用。为了解决过拟合...转载 2019-05-10 14:54:39 · 2321 阅读 · 0 评论 -
CNN学习-全连接(fc)
全连接层的推导全连接层的每一个结点都与上一层的所有结点相连,用来把前边提取到的特征综合起来。由于其全相连的特性,一般全连接层的参数也是最多的。全连接层的前向计算下图中连线最密集的2个地方就是全连接层,这很明显的可以看出全连接层的参数的确很多。在前向计算过程,也就是一个线性的加权求和的过程,全连接层的每一个输出都可以看成前一层的每一个结点乘以一个权重系数W,最后加上一个偏置值b得到,即 ...转载 2019-05-09 15:51:40 · 5791 阅读 · 1 评论 -
神经网络中的几种权重初始化方法
神经网络中的几种权重初始化方法在深度学习中,对神经网络的权重进行初始化(weight initialization)对模型的收敛速度和性能的提升有着重要的影响。在神经网络在计算过程中需要对权重参数w不断的迭代更新,已达到较好的性能效果。但在训练的过程中,会遇到梯度消失和梯度爆炸等现象。因此,一个好的初始化权重能够对这两个问题有很好的帮助,并且,初始化权重能够有利于模型性能的提升,以及增快收...原创 2019-06-14 13:29:28 · 6140 阅读 · 0 评论 -
百度深度学习工程师认证(已通过)
考试时间:2019.8.24本人图像处理与模式识别专业,有一定的基础。10多天之后参加百度深度学习工程师认证,记录中考试参考资源:https://ai.baidu.com/paddlepaddle/openCourses(个人感觉讲的不是很好,有点无趣(背书),最好是结合博客及相关文献进行了解)第一天:机器学习入门第1章监督学习与非监督学习简介第2章...原创 2019-08-10 18:50:23 · 8595 阅读 · 12 评论