- 博客(2)
- 收藏
- 关注
RSS订阅原创 1. 方差、偏差
一、方差和偏差 学习到的模型和真实模型之间存在一定的差距，这份差异来自两个方面：方差和偏差。 方差：相同数量，不同数据的训练集上，多个训练模型的输出结果之间的差异。 度量同样大小，但是数据变化所导致的模型性能的变化，刻画了数据变化带来的影响。 偏差：所有可能训练数据得到的所有模型输出结果的平均值和真实结果之间的差异。 度量算法的期望预测和真实预测值的偏离程度，刻画模型本身的拟合能力。二、方差、偏差和过拟合、...
2020-09-06 11:42:45
246
原创 2. 梯度下降 gradient decent
可参考文章：https://www.cnblogs.com/pinard/p/5970503.html(一) 梯度下降的公式：（二）梯度下降的几个tips：1.learning rate 要适当调整： learning rate 过小，参数更新太慢，loss下降太慢。 learning rate 过大，参数更新过大，loss可能会跳过 global minimum。2.自适应的learning rate 调整： 自适应调整的目标是：模型训练的初始...
2020-09-06 11:41:22
199
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人