深度学习
介绍一些研究学习中和深度学习相关的知识和感悟
rope_
一个渴望大厂offer的准程序猿
展开
-
深度学习每日一问:为什么要对数据归一化(数据预处理)
首先,我们要知道在机器学习某些算法中,是不需要数据归一化的,比如树型model;而当数据的多个特征属性,其量纲不一,但是其需要使用GD迭代更新构建模型,此时加入归一化就可以一定程度上增加模型学习能力。归一化的好处:一定程度提高模型精度在机器学习或者深度学习中,大多模型的loss计算,需要假定数据的所有特征都是零均值并且具有同一阶方差的。这样在计算loss时,才能将所有特征属性统一处理。比如,在KNN中,我们需要计算样本之间的欧式距离,如果样本两个属性的量纲差距过大,则大量纲的属性在距离计算中就占据原创 2020-08-05 22:39:56 · 22104 阅读 · 3 评论 -
机器学习的性能评估(一)
在深度学习的实践方法论中,性能度量是第一步需要确立的,在某些方面,其优先级甚至比选择基准模型还重要。经验误差、过拟合、欠拟合在学习性能评估之前,我们需要先了解一下:误差:学习器的实际预测输出与样本的真实输出之间的差异。训练误差:学习器在训练集上的误差。泛化误差:学习器在测试集上的误差。显然,我们希望得到一个泛化误差小的学习器。但是,在训练模型的时候,我们一般不知道测试集的组成分布,因此,我们在训练时,一般都是努力最小化训练误差,而实际上,也很容易得到一个训练误差很小的学习器。但是,根据实验发现原创 2020-08-04 19:08:26 · 2348 阅读 · 0 评论 -
深度学习第一弹
终于把西瓜书啃完了,开始最喜欢的深度学习复习之路了。目前主要是总结一些我在过去一年多里用到的和文章中出现的基本model和实验中的调参日常。主要是自己感悟加上网络上大V博主的分析博客构成,希望有错的地方大家多多见谅,不喜勿喷,共同学习,共同进步。...原创 2020-07-29 14:52:46 · 130 阅读 · 0 评论