![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
基本概念
文章平均质量分 70
围绕一个概念进行介绍
流川是海
这个作者很懒,什么都没留下…
展开
-
正则化
定义 正则化 通过限制模型参数的范数过大,降低模型复杂度,从而防止过拟合。 范数 用于衡量向量和矩阵的大小 l2-norm:∥w∥2=∑iwi2{\Vert \bold{w} \Vert}_2=\sqrt{\sum_{i} {w_i}^2}∥w∥2=∑iwi2 l1-norm:∥w∥1=∑i∣wi∣{\Vert \bold{w} \Vert}_1=\sum_{i} |w_i|∥w∥1=∑i∣wi∣ https://zhuanlan.zhihu.com/p/35356992 ...原创 2021-04-27 01:57:40 · 63 阅读 · 0 评论 -
生成模型与判别模型
【基本概念】生成模型和判别模型原创 2021-04-24 11:55:08 · 52 阅读 · 0 评论 -
偏差与方差
定义 偏差:真实值与预测值的误差大小 方差:预测值的离散程度 特点:模型过拟合时,往往偏差小、方差大;欠拟合时,往往偏差大,方差小 经典示意图:原创 2021-04-20 22:52:29 · 184 阅读 · 0 评论 -
过拟合与欠拟合
定义 过拟合:模型训练误差很小、但测试误差很大,模型过分拟合了训练集的分布特点,当测试集分布与训练集有一定差距时,会在测试集上表现较差。即模型预测训练集偏差小、测试集方差大(?) 欠拟合:模型训练误差很大,即模型预测训练集偏差大、方差小(?) 其他问题 如何避免过拟合 增加数据,使训练集数据分布更接近于真实分布 简化模型,降低模型复杂度 正则化 early stopping 如何避免欠拟合 ...原创 2021-04-20 08:35:04 · 60 阅读 · 0 评论