datawhale
CuCu011
这个作者很懒,什么都没留下…
展开
-
2021-08-17
2.1 经验误差与过拟合 【误差】把模型的实际预测输出与样本的真实输出之间的差异,称为误差。 【训练误差/经验误差】模型在训练集上的误差称为训练误差/经验误差。 【泛化误差】模型在新样本上的误差称为泛化误差。 【过拟合】当模型把训练器样本学得“太好了”的时候,很可能已经把训练样本自身的一些特点当作了所有潜在样本都会具有的一般性质,这样就会导致泛化性能下降,这种现象在机器学习中成为“过拟合”。 【欠拟合】与过拟合相对,指对训练样本的一般性质尚未学好。 2.2 评估方法 通常,我们可以通过实验测试来对模型的泛化原创 2021-08-17 22:00:51 · 188 阅读 · 0 评论 -
2021-07-18
请用一个具体的案例解释什么是偏差和方差? 偏差:描述的是预测值(估计值)的期望与真实值之间的差距。偏差越大,越偏离真实数据,如下图第二行所示。 方差:描述的是预测值的变化范围,离散程度,也就是离其期望值的距离。方差越大,数据的分布越分散,如下图右列所示。 偏差、方差、误差的关系 泛化误差可分解为偏差、方差和噪声之和。 偏差度量了学习算法的期望预测与真实效果的偏离程度,即刻画了学习算法本身的拟合能力;方差度量了同样大小的训练集的变动所导致的学习性能的变化,即刻画了数据扰动所造成的影响;噪声则表达了当前任.原创 2021-07-18 14:54:17 · 106 阅读 · 0 评论 -
机器学习基础模型回顾
1 导论 1.1 什么是机器学习? 机器学习的一个重要目标就是利用数学模型来理解数据,发现数据中的规律,用作数据分析和预测。 1.1.1 数据? 数据通常由一组向量组成,这组向量中的每一个向量都是一个样本,我们用xix_{i}xi来表示一个样本,其中i=1,2,3...Ni = 1,2,3...Ni=1,2,3...N,共NNN个样本。每个样本xi=(xi1,xi2...xip,yi)x_{i} = \left ( x_{i1},x_{i2}...x_{ip},y_{i} \right )xi原创 2021-07-15 22:18:49 · 216 阅读 · 0 评论 -
2021-07-13
记忆模糊和没有学过的: 梯度向量 梯度的本质:向量 梯度向量表示:某一函数在该点处的方向导数沿着该方向取得最大值。 梯度的方向是函数增长最快的方向,负梯度的方向是函数减小最快的方向。 如何求函数的极值? 二元函数取得极值的充分条件,需要注意除考研需要掌握的方法,新增的严谨的表述,需要牢记! 带等式约束的优化问题:引入拉格朗日函数 基于梯度的优化方法? (1)梯度下降法 梯度下降背后的思想是:开始时我们随机选择一个参数的组合(????0, ????1, . . . . . . , ????????),计算代原创 2021-07-13 23:48:22 · 164 阅读 · 0 评论