回归问题
文章平均质量分 93
kikujs
这个作者很懒,什么都没留下…
展开
-
正则化——模型复杂度调整
一、前言 在线性回归中,我们提过,线性回归模型在多项式特征和交互特征的加持下会变得十分灵活且复杂,几乎可以拟合任意函数曲线,但所谓过刚易则,过于复杂的模型会将数据中的一些噪声也学习进去,导致过拟合问题,所以我们常常更希望模型能稍微简单一些,增加其鲁棒性和泛化能力。二、正则化2.1 概念阐述 为了降低模型的复杂度,我们可以对模型的复杂程度施加以一个惩罚项,强制让模型的参数值尽可能的小从而使得模型更简单。以线性回归为例,传统的线性回归模型的损失函数为:,由于是平方项,...原创 2021-09-21 23:23:45 · 1642 阅读 · 1 评论 -
线性回归——拟合逼近
一、前言 y=ax+b,一个极其简单却又贯穿我们学习生涯的函数,今天我们开始对它进行讨论。这种确定的函数关系式表示在实数范围内x与y之间存在且唯一存在一种映射关系,使得对于任意一个x,均有唯一的一个y来与之对应。 然而在实际生活中,两个变量间的关系并不总能以确定的函数关系式来表示,如收入与教育水平的关系,虽然大部分情况下收入随着教育水平的提高而升高,但事实上,收入除了与教育水平有关联,还受到家庭背景,个人能力,个人机遇等诸多因素的影响,因此我们无法找到一个函数y=ax+b...原创 2021-09-17 17:21:34 · 2263 阅读 · 0 评论