机器学习之特征收缩与归一化

最新推荐文章于 2023-01-02 00:03:26 发布
最新推荐文章于 2023-01-02 00:03:26 发布
阅读量329 收藏
点赞数
分类专栏： 机器学习，学习 文章标签： 机器学习 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51422230/article/details/123034463
版权

文章目录

问题的引出

在一次梯度下降中是曲折前进的，但是有一个问题就是特征值的大小是不一定，这会导致要迭代很多遍。这时就要用到特征收缩这一个方法（归一化）
引用我在B站学习的视频里面的图：
在这里插入图片描述

一、特征收缩是什么？

就是将特征值（X）全部整体放大缩小使得全部在一个范围能够更好的找到代价函数的最小值，是的迭代次数变小

引用我在B站学习的视频里面的图：
在这里插入图片描述

二、特征收缩程度

一般放缩到-3到3左右即可，但是不能太小不能小于0.333左右，道理和太大了一样，会让迭代次数变得非常多，使得程序不断运行

引用我在B站学习的视频里面的图：
在这里插入图片描述

三、归一化

引用我在B站学习的视频里面的图：
在这里插入图片描述

指的是，特征值减去该组数据的平均值除以最大值减去最小值

总结

这是一种在梯度下降的注意技巧

醉卧考场君莫笑
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
收缩法求矩阵全部特征值
10-19
计算矩阵全部的特征值，采用收缩法求矩阵全部特征值。
奇异值分解
CatCherry的博客
08-27 1052
奇异值分解是一个有着很明显的物理意义的一种方法，它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示，这些小矩阵描述的是矩阵的重要的特性。就像是描述一个人一样，给别人描述说这个人长得浓眉大眼，方脸，络腮胡，而且带个黑框的眼镜，这样寥寥的几个特征，就让别人脑海里面就有一个较为清楚的认识，实际上，人脸上的特征是有着无数种的，之所以能这么描述，是因为人天生就有着非常好的抽取重要特征的能力，让机...
机器学习40讲-12正则化处理：收缩方法与边际化
bohu83的博客
05-12 1489
一序 本文属于极客时间机器学习40讲学习笔记系列。 12正则化处理：收缩方法与边际化 本质上讲，过拟合就是模型过于复杂，复杂到削弱了它的泛化性能。正则化（regularization）是用于抑制过拟合的方法的统称，它通过动态调整估计参数的取值来降低模型的复杂度，以偏差的增加为代价来换取方差的下降。这是因为当一些参数足够小时，它们对应的属性对输出结果的贡献就会微乎其微，这在实质上去除了非相关属性的影响。 在线性回归里，最常见的正则化方式就是在损失函数（loss functi...
线性回归中关于特征收缩与选择的方法比较（七种常用的线性回归)（python-sklearn实现）
ZHE
05-13 6653
文章目录什么是特征收缩或者特征选择设置和数据加载线性回归偏差方差均衡最佳子集回归 本文讨论了线性回归中七种常用的特征收缩和选择方法的数学属性和实际的Python应用。 什么是特征收缩或者特征选择 在线性回归中，特征收缩或者特征选择意味着从可用特征中选择要包含在模型中的子集特征，从而减少其维数。另一方面，收缩意味着减小系数估计的大小（可将它们缩小到零）。请注意，如果系数缩小到恰好为零，则相应的变量将...
浅谈机器学习中的特征缩放（feature scaling）
热门推荐
踩风火轮的乌龟
04-21 2万+
引言在运用一些机器学习算法的时候不可避免地要对数据进行特征缩放（feature scaling），比如：在随机梯度下降（stochastic gradient descent）算法中，特征缩放有时能提高算法的收敛速度。下面我会主要介绍一些特征缩放的方法。什么是特征缩放特征缩放是用来标准化数据特征的范围。机器算法为什么要特征缩放特征缩放还可以使机器学习算法工作的更好。比如在K近邻算法中，分类器主要是计
特征缩放
justThinker的博客
12-04 9247
一，特征缩放定义 特征缩放是用来标准化数据特征的范围。 二，特征缩放的作用及原理 特征缩放是针对多特征情况的。当有多个特征向量的时候，如果其中一个变化范围比较大，根据上次所说的多特征梯度下降法算法可以知道，该特征向量的参数可能会变化范围很大，从而主导整个梯度下降的过程，使得整个收敛轨迹变得复杂，让收敛的时间更长。就像下图所示： 因此，我们可以将所有特征向量的变化范围维持在一个标准化
基于光电容积脉搏波和机器学习方法的血压预测系统研究.pdf
09-24
我们使用昆士兰大学生命科学开源数据库中的PPG信号，并对其进行去噪、特征提取、特征选择、特征归一化和离群点分析。然后，我们使用机器学习算法对血压进行预测。 本研究的主要贡献在于： 1. 我们提出了一种基于...
自组织特征映射神经网络在汛期分期中的应用.pdf
09-25
2. **随机选取样本**：从q个学习模式中随机选择一个样本Pk，并对样本和权值进行归一化处理。 3. **计算欧氏距离**：计算输入样本Pk与每个竞争层神经元的权值向量Wj之间的欧氏距离dj。 4. **找到最近邻**：找出与...
图像处理课程的一个课程设计，基于深度学习的细胞数目识别与计数.zip
02-18
Python编程语言是实现这一目标的主要工具，因为它是数据科学和机器学习领域的首选语言。 项目源代码位于“unet-image-master”文件夹中，这暗示了项目可能采用了U-Net网络架构。U-Net是一种特别适合图像分割任务的...
基于U-net深度学习语义分割-细胞纹路检测.zip
02-19
在实际操作中，我们通常需要先对细胞图像进行预处理，如归一化、去噪等，以便于模型更好地学习图像特征。 在提供的“tougueNet-master”文件夹中，可能包含了项目的源代码、数据集、训练脚本、模型权重等资源。源...
深度学习项目--基于深度卷积网络的肝脏分割.zip
最新发布
05-08
深度学习，作为机器学习的一个分支，因其在图像识别和分类上的优异表现，近年来被广泛应用于医疗图像处理领域。 首先，我们需要理解深度卷积网络的基本结构。DCNN通常由卷积层、池化层、激活函数、全连接层和损失...
特征缩放(feature scaling)
TTdreamloong的博客
10-19 1250
特征缩放的一些方法 调节比例（Rescaling） 将数据的特征缩放到[0,1]或[-1,1]之间。缩放到什么范围取决于数据的性质。对于这种方法的公式如下： x是最初的特征值， x′是缩放后的值。 标准化(Standardization) 特征标准化使每个特征的值有零均值(zero-mean)和单位方差(unit-variance)。这个方
【机器学习】——数据清理、数据变换、特征工程
lingxw的博客
01-02 1798
看看数据长什么样子，找其他的规则，从数据中提起有弱噪音的标号，也是可以用来训练模型的】没有的话就去收集数据【发掘在哪里找数据；生成自己需要的数据；3、数据预处理：看看数据长什么样子；通常来说数据是有很多噪音的，要对数据清洗；将数据变成我们需要的格式；数据质量：数据的多样性：产品所关心的方方面面都要考虑；因为机器学习的算法比较喜欢定义的比较好的、它能比较好的去处理的、固定长度的输入输出。大数据的管理是一件很难的事情：存储；需要做数据的清理，将错误的信息纠正过来；对数据的特征进行提取。数据的质与量要做权衡；
机器学习训练数据过大该如何处理？
weixin_42299079的博客
08-20 4647
问题背景：在多语种语音识别挑战赛上，训练数据包含6000条左右平均时长3s的语音数据，验证集也有6000条左右平均时长3s左右的语音数据，选取Mel Spectrogram + CNN +DNN 作为 baseline, 需要在CNN前端先生成对应定长的语音梅尔频谱图，按照以往的操作一般先遍历语音数据集将语音数据.wav转化为（M，N）维的语音频谱图，再创建一个(n,M,N)的矩阵来存放语音频谱集，但是这样操作存在一个问题就是这样得到的矩阵太大，例如在本次挑战赛，如果选取频谱图尺寸为（128，93），600
【线性代数笔记】矩阵的特征值和特征向量在哪些变换过程中变化？
qaqwqaqwq的博客
02-17 3889
前置知识： 定理1 设AAA为nnn阶方阵，若∃\exists∃可逆矩阵PPP使得P−1AP=ΛP^{-1}AP=\LambdaP−1AP=Λ（其中Λ\LambdaΛ为对角矩阵），则相似变换矩阵PPP的每一列为AAA的特征向量。 证明：将PPP按列分块得P=[x1,x2,⋯ ,xn]P=[x_1,x_2,\cdots,x_n]P=[x1​,x2​,⋯,xn​]。 P−1AP=Λ⟺AP=PΛ⟺A[x1,x2,…,xn]=[x1,x2,⋯ ,xn][λ1λ2⋱λn]⟺[Ax1,Ax2,⋯ ,Axn]=[λ1x1
特征值分解
rayna00的专栏
06-30 3856
一、特征值与特征向量的几何意义 1.     矩阵乘法 在介绍特征值与特征向量的几何意义之前，先介绍矩阵乘法的几何意义。 矩阵乘法对应了一个变换，是把任意一个向量变成另一个方向或长度的新向量。在这个变化过程中，原向量主要发生旋转、伸缩的变化。如果矩阵对某些向量只发生伸缩变换，不产生旋转效果，那么这些向量就称为这个矩阵的特征向量，伸缩的比例就是特征值。 比如：，它对应的线性变换是下面的形式形
所谓归一化（normalization）处理。
hcf的博客
05-15 1万+
如题，无非就是把多组数据按照一定的格式转化，翻译成标准化应该更恰当，或者说归一化只是标准化的方法其中之一。其中最近，使用把图像像素值收缩[0,1]区间，matlab有现成函数，mapminmax。整个过程无非就是老区间和新区间，数据的区间长度得转化，而数据在区间的位置不变。所以，mapminmax使用的转化就是按照数值的区间位置为基准。matlab函数的公式，这部分就是计算老区间的数据位置，分子是...
机器学习—数据预处理—特征缩放
柳成荫
07-21 1813
一、为什么特征缩放 在面对多维特征问题的时，有时特征数据数据值相差过大，如在运用多变量线性回归预测房价模型中，房屋面积和卧室个数这俩个特征之间数值相差大，而要保证这些特征都具有相近的尺度，就要进行特征缩放，这能帮助梯度下降算法更快地收敛。如图： 二、特征缩放常用的方法 特征缩放思想: 确保这些特征都处在一个相近的范围。 下面介绍俩种常用的特征缩放方法。 1、归一化特征缩放(0-1缩放) 在不涉...
机器学习与神经网络算法概述：特征工程、归一化方法与含义详解
特征归一化的示例说明是将一个数据集中的特征进行归一化处理，比如使用MinMaxScaler将特征的取值范围缩放到0-1之间，或者使用StandardScaler将特征的均值调整为0，方差调整为1。通过这种方式，不同特征之间的尺度...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

醉卧考场君莫笑

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值