学习笔记
ML_amateur
这个作者很懒,什么都没留下…
展开
-
ResNet
残差网络是2015年由著名的Researcher Kaiming He(何凯明)提出的深度卷积网络,一经出世,便在ImageNet中斩获图像分类、检测、定位三项的冠军。 残差网络更容易优化,并且能够通过增加相当的深度来提高准确率。核心是解决了增加深度带来的副作用(退化问题),这样能够通过单纯地增加网络深度,来提高网络性能。ResNet = Residual Network1.ResNet意义...原创 2019-05-19 15:29:31 · 641 阅读 · 0 评论 -
机器学习中的一些名词解释
细粒度(fine-grained)首先看两组图通过这两组图像,粗略观察会发现差别不是很大,所以我们仔细的去看,就能发现一些细节性的差别。两类不同的鸟,但是差别很小,主要应该就在眼部。由此,引出了细粒度类别检测。平时,我们在做目标检测的过程中,也可以通过引入该思想,让我们对目标只提取高判别性的特征,提高目标特征的表达,提升检测结果的精度。...原创 2019-05-15 09:47:05 · 1169 阅读 · 0 评论 -
熵
熵的概念最早起源于物理学,用于度量一个热力学系统的无序程度。在信息论里面,熵是对不确定性的测量。1 信息量假设我们听到了两件事,分别如下:事件A:巴西队进入了2018世界杯决赛圈。事件B:中国队进入了2018世界杯决赛圈。事件B的信息量比事件A的信息量要大。因为事件A发生的概率很大,事件B发生的概率很小。所以当越不可能的事件发生了,我们获取到的信息量就越大。...原创 2019-05-20 22:42:48 · 866 阅读 · 0 评论 -
ReLU函数
1.非线性激励函数引入非线性函数作为激励函数,这样深层神经网络就有意义了,不再是输入的线性组合,可以逼近任意函数.2.选择ReLU作为激活函数Relu函数的定义是:Relu函数图像如下图所示:relu函数的作用就是增加了神经网络各层之间的非线性关系...原创 2019-05-21 11:03:37 · 13596 阅读 · 0 评论 -
规范化、标准化、归一化、正则化
1.规范化针对数据库规范化把关系满足的规范要求分为几级,满足要求最低的是第一范式(1NF),范数的等级越高,满足的约束集条件越严格。针对数据数据的规范化包括归一化标准化正则化,是一个统称(也有人把标准化作为统称)。2.标准化(Standardization)数据的标准化是将数据按比例缩放,使之落入一个小的特定区间。主要方法:z-score标准化方法特点:对不同特征维...原创 2019-05-21 11:46:41 · 2696 阅读 · 0 评论