- 博客(4)
- 收藏
- 关注
RSS订阅原创 正则化——模型复杂度调整
一、前言 在线性回归中，我们提过，线性回归模型在多项式特征和交互特征的加持下会变得十分灵活且复杂，几乎可以拟合任意函数曲线，但所谓过刚易则，过于复杂的模型会将数据中的一些噪声也学习进去，导致过拟合问题，所以我们常常更希望模型能稍微简单一些，增加其鲁棒性和泛化能力。二、正则化2.1 概念阐述 为了降低模型的复杂度，我们可以对模型的复杂程度施加以一个惩罚项,强制让模型的参数值尽可能的小从而使得模型更简单。以线性回归为例，传统的线性回归模型的损失函数为：，由于是平方项，...
2021-09-21 23:23:45
1632
1
原创 线性回归——拟合逼近
一、前言 y=ax+b，一个极其简单却又贯穿我们学习生涯的函数，今天我们开始对它进行讨论。这种确定的函数关系式表示在实数范围内x与y之间存在且唯一存在一种映射关系，使得对于任意一个x，均有唯一的一个y来与之对应。 然而在实际生活中，两个变量间的关系并不总能以确定的函数关系式来表示，如收入与教育水平的关系，虽然大部分情况下收入随着教育水平的提高而升高，但事实上，收入除了与教育水平有关联，还受到家庭背景，个人能力，个人机遇等诸多因素的影响，因此我们无法找到一个函数y=ax+b...
2021-09-17 17:21:34
2170
原创 LDA算法——线性判别
一、前言 之前我们已经介绍过PCA算法，这是一种无监督的降维方法，可以将高维数据转化为低维数据处理。然而，PCA总是能适用吗？ 考虑如下数据点： 由PCA的原理我们可知，这些数据点在经PCA处理后会被映射到x轴上，如下所示： 可以发现，投影后，红色数据点和蓝色数据点并不能很好地区分开。思考其背后的原因，在这个例子中，我们的数据点有了类别标签，而PCA是一种无监督学习算法，它会对所有类别的数据点一视同仁，所以在分类问题中，P...
2021-09-12 14:57:27
9028
8
原创 PCA算法详解——化繁为简
一、pandas是什么？ 二、使用步骤 1.引入库 2.读入数据 总结一、前言 老鹰是一个三维立体实物，而图片是二维的，但我们能一眼识别出上图是一只老鹰而非鹌鹑，可见对于某些高维的数据，我们可以在低维空间下识其概貌，对其有个清晰的认知。然而，当我们沿老鹰翅尖拍摄一张照片，我们可能并不能很容易地看出这是一只老鹰。归其原因，拍摄的角度不同，导致最终的结果不同，在第一种情况下，图片保留...
2021-08-30 20:46:12
10832
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人