梯度下降法之特征缩放（Feature Scaling）

最新推荐文章于 2022-07-15 18:05:49 发布
最新推荐文章于 2022-07-15 18:05:49 发布
阅读量914 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43970882/article/details/104686887
版权

1.为什么要进行特征缩放？

特征缩放的目的是为了让代价函数J(θ)尽快收敛，如果各特征的取值范围相差很大，代价函数的轮廓图会是一个个瘦长的椭圆形，如下图所示：
fs
这样造成的结果很可能就是，代价函数在梯度下降的过程中来回震荡，收敛速度很慢，所以需要进行特征缩放。

2.特征缩放的意义？

各特征之间的大小范围一致，才能使用距离度量等算法
加速梯度下降算法的收敛
在SVM算法中，一致化的特征能加速寻找支持向量的时间
不同的机器学习算法，能接受的输入数值范围不一样

3.如何进行特征缩放？

一般进行特征缩放的方法是，均值归一化。
进行特征缩放的公式为
xi
其中μi为第i个特征的平均值，Si为第i个特征的最大值和最小值之差（max-min）

Metaphor丶
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
为什么梯度下降等算法需要特征缩放？
weixin_50153914的博客
02-26 744
特征缩放（Feature Scaling）是数据预处理中的一个重要步骤，它涉及到调整不同特征值的尺度，使它们处于相同的量级。这样做的目的是帮助优化算法（比如梯度下降）更快、更有效地收敛。在解释为什么特征缩放能够帮助梯度下降算法加快收敛速度之前，我们首先需要理解梯度下降的工作原理以及它是如何受到特征尺度差异影响的。
梯度下降特征缩放
weixin_45949932的博客
09-27 337
如h=ax+by+c，x在0到1之间，y在1000到5000之间。 不进行归一化，代价函数等值线图会非常扁；进行归一化后，代价函数等值线图会向圆趋近。 对于偏圆的而言，对它进行梯度下降的迭代次数比偏扁的那个迭代次数要少很多，这个很好理解，让人困惑的是，缩放前后，代价函数不是变了吗，最后收敛的参数不也变了吗，怎么就正确了？ 其实，我们完全可以将缩放前后的训练集理解成两个训练集。对这两个训练集的梯度下降当然是不同的，但确实是有联系的。 缩放前，输入原始x、原始y、原始正确结果，通过梯度下降，去拟合原始正确结果
机器学习04-多变量梯度下降与特征缩放
耿国锋的博客
03-23 2043
本篇博文是单变量线性回归与梯度下降的拓展，使之能在正式生产中更好地落地 http://blog.csdn.net/xinzhi8/article/details/64919106 代价函数与梯度下降算法（一）（代价函数又称成本函数） http://blog.csdn.net/xinzhi8/article/details/64948465 代价函数与梯度下降算法（二）
梯度下降之特征缩放与学习速率
大脑袋剑客
08-03 1069
Featrue Scaling and Learning Rate of Gradient Descent特征缩放featrue scaling 特征缩放是用来标准化数据特征的范围。 为什么要特征缩放这个是两个参数的代价函数轮廓图，中间的那个点是最低点，是目标点。在多特征的梯度下降中如果其中一个或者和几个特征的取值范围特别大，而有些特征的取值范围特别小，那么这些变化范围大的特征向量的参数就会变化
机器学习笔记（3）-----梯度下降算法中特征缩放
liuhehe123的博客
08-04 539
多变量线性回归     计算代价函数 ，其中： octave求代价函数J(theta)代码：        function J = costFunctionJ(X,y,theta)        m = size(X,1);           prediction = X*theta;        sqrErrors = (prediction-y).^2;   ...
matlab.rar_gray scaling_matlab 图片缩放_matlab图片旋转
09-22
matlab设计的图形图像处理窗口，支持图片读入，另存，旋转，缩放，灰度化，等等
多维缩放(multidimensional scaling ,MDS)(Python)
05-31
多维缩放(multidimensional scaling ,MDS)，是另外一种线性降维方式，与主成分分析法和线性降维分析法都不同的是，多维缩放的目标不是保留数据的最大可分性，而是更加关注与高维数据内部的特征。多维缩放算法集中于...
my-scaler.rar_bmp图像_bmp缩放_image scaling_图像 缩放_图像缩放
07-14
图像缩放源代码，该代码支持输入bmp文件格式，输出bmp格式。
autoscaling:自动缩放
06-09
autoscaling AutoScaling是AWS下面的一个比较强大的服务，借助于它，我们可以方便的实现业务的弹性自动伸缩。 但是，在使用过程中，发现AWS的AutoScaling（下文简称AmazonAS）存在一个问题，就是对于长时间运行的...
ImageScaling:C＃图像缩放示例
03-20
ImageScaling:C＃图像缩放示例
梯度下降实用技巧I之特征缩放 Gradient Descent in practice I - feature scaling
天泽28的专栏
03-31 6345
梯度下降实用技巧I之特征缩放 Gradient Descent in practice I - feature scaling 当多个特征的范围差距过大时，代价函数的轮廓图会非常的偏斜，如下图左所示，这会导致梯度下降函数收敛的非常慢。因此需要特征缩放(feature scaling)来解决这个问题，特征缩放的目的是把特征的范围缩放到接近的范围。当把特征的范围缩放到接近的范围，就会使偏斜的不那么严
5.2 梯度下降算法实用技巧（特征缩放）
simpleGq的专栏
01-16 1798
5.2 梯度下降算法中的实用技巧一（特征缩放）     这里我们将会介绍一个称为特征缩放 (feature scaling) 的方法。如果我们有一个问题，这个问题有许多的特征，如果你能确保不同的特征都处在相近的范围，我的意思是不同特征的取值处在相近的范围内，这样梯度下降算法就能更快的收敛，具体的说，如果你有一个具有两个特征的问题，x1是房子的面积大小，取值范围在0-2000平方英尺，x2是卧室的
深度学习——不同梯度下降法的特点比较
ssunshining的博客
10-25 873
GD、BGD、SGD的比较
特征缩放
cluster1893的博客
06-21 2140
特征缩放 特征缩放 参考资料 目的 方法 1. rescaling 2. mean normalization 3. standardization 4.scaling to unit length 直观感受： 参考资料 维基百科 知乎 数据标准化/归一化normalization 目的 1.提高梯度下降的收敛速度。 - 原始数据的代价函数收敛： -...
梯度下降的特征缩放
qq_43406842的博客
01-13 730
梯度下降的特征缩放 1.特征缩放 确保不同特征的特征值都处在一个相近的范围，这样的梯度下降法就能更快的收敛 假如有两个特征，一个是房子的面积 x1,一个是房间数量 0< x1<2000 feet2,一个特征是房间数量 x2,1<=x2<=5 x1 远远大于 x2，故轮廓图如下 由于 x1和x2的范围相差太大，轮廓图是一个又瘦又高的椭圆型轮廓图 寻找全局最小的路径将...
特征缩放feature scaling（吴恩达版详解）
song_irving的博客
07-15 1569
特征缩放，吴恩达详解！
浅谈机器学习中的特征缩放（feature scaling）
热门推荐
踩风火轮的乌龟
04-21 2万+
引言在运用一些机器学习算法的时候不可避免地要对数据进行特征缩放（feature scaling），比如：在随机梯度下降（stochastic gradient descent）算法中，特征缩放有时能提高算法的收敛速度。下面我会主要介绍一些特征缩放的方法。什么是特征缩放特征缩放是用来标准化数据特征的范围。机器算法为什么要特征缩放特征缩放还可以使机器学习算法工作的更好。比如在K近邻算法中，分类器主要是计
特征缩放(Feature scaling)
lihe的博客
12-27 1489
转载于https://segmentfault.com/a/1190000022155741 特征缩放适用于连续型变量，用来统一不同特征之间的量纲。 注意，机器学习数据中的连续变量特征往往符合正态分布，并且特征缩放往往都符合线性变换，不会改变原始数据的排位顺序。 使用场景： 1、连续特征变量 2、回归模型中，不同特征缩放后，对应的回归系数具有可比性 3、距离计算模型中，不同维度量纲统一，不会出现过度依赖量纲较大的特征。比如KNN，K-Means使用欧式距离 4、梯度优化中，特征间均衡的量纲可以让梯度下降更加
归一化提高梯度下降速度
最新发布
03-27
归一化是一种常用的数据预处理技术，可以将不同特征的取值范围缩放到相同的区间，以提高梯度下降算法的收敛速度和效果。归一化的方法有多种，常见的有以下几种： 1. 最小-最大归一化（Min-Max Scaling）：将原始...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值