特征选择和特征变换

一般情况下,特征是相关的。例如,图像中,我们利用每个像素红、绿、蓝三个通道进行图像分类(例如图像中猫狗的判别)。感知红光的传感器也会捕获一些蓝光和绿光。类似的,蓝光和绿光的传感器也会接收一定程度的红光。结果,像素的R、G、B三通道的值就是统计相关的。这样,简单从特征向量中抛弃R值,便也将其中G和B的信息也一起去掉了。换句话说,在降维之前,应先进行特征空间变换,以获取潜在的独立成分。

简而言之,特征选择就是选择某些特征,抛弃另一些特征;特征变换就是将所有特征经过某种变化,提取隐含信息等。

裁剪于:
使用 PCA 进行特征提取

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
特征变换特征选择特征工程中常用的两种方法,它们的主要区别如下: 1. 定义: - 特征变换(Feature Transformation)是对原始数据进行某种数学或统计操作,生成新的特征表示的过程。它通过改变数据的表达形式来提取更有用的信息或改善数据的分布性质。 - 特征选择(Feature Selection)是从原始特征集中选择最相关或最重要的特征,剔除冗余或噪声特征,以减少特征空间的维度,提高模型的准确性和解释性。 2. 目的: - 特征变换的目的是改变数据的表达形式,使其更适合后续的特征提取、模型建模或数据分析任务。它可以提高数据的表达能力、降低数据的复杂性、提取潜在模式等。 - 特征选择的目的是减少特征空间的维度,保留对目标变量有显著影响的特征,以降低模型复杂度、减少计算成本、避免过拟合、提高模型解释性等。 3. 操作方式: - 特征变换通过数学或统计操作对原始特征进行转换,例如标准化、对数变换、离散化、映射变换等。它通常是对整个特征集进行操作,生成新的特征集。 - 特征选择通过评估特征与目标变量之间的相关性或重要性,选择一部分最相关或最重要的特征。它通常是在原始特征集中进行选择和剔除,得到一个子集。 4. 特征空间: - 特征变换改变了特征空间中的数据表达形式,可以增加或减少特征的数量,并使用新的特征集进行后续的建模和分析。 - 特征选择仅对原始特征空间进行操作,选择出一部分重要特征,将其保留在最终的特征集中。 需要注意的是,特征变换特征选择并不是互斥的,它们可以在特征工程的流程中结合使用。特征变换可以在特征选择之前或之后进行,以提高特征的表达能力;而特征选择可以在特征变换之后对生成的新特征子集进行进一步筛选和优化。两者结合起来可以提高模型的性能和效果。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值