特征处理

最新推荐文章于 2023-12-22 02:55:47 发布
最新推荐文章于 2023-12-22 02:55:47 发布
阅读量205 收藏
点赞数
分类专栏： 机器学习
原文链接：https://www.cnblogs.com/wkslearner/p/8933685.html
版权

好的数据及特征往往是一个性能优异模型的基础

 

特征处理：

数据清洗（缺失值处理，异常值检验，调配样本比例和权重）

数据规范化

特征衍生与规范

 

特征选择：

特征过滤

Wrapper method

Embedded method

 

 

数据清洗（缺失值处理，异常值检验，调配样本比例和权重）

缺失值处理：（以免引入过多人工信息）

方法：删除缺失值和填充缺失值

删除缺失值，当某一样本的多个值缺失时，便可删除这一样本

当某一特征的缺失值，多于样本总数的一半，也就是当一半多的样本都缺失这一特征值时，可以将这一特征删除。

 

异常值检验：

  1. 基于高斯分布，随着一个特征进行变化，看另一特征是否太偏离高斯分布，超过三倍标准差
  2. 聚类方法
  3. One class svm  

Novelty detection ：当训练数据中没有离群点，我们的目标是用训练数据训练出的模型去检验另外发现的新样本

 

 

数据规范化

数据无量纲化

连续变量离散化

离散变量处理

 

数据无量纲化：去除数据的单位限制，将其转换为无量纲的纯数字

  1. 标准化处理：      对每一列进行处理
  2. 极值化处理： 
  3. 均值化：

连续变量离散化：一些情况下离散变量能简化模型计算并提高模型的稳定性。

 

 

特征提取

  1. PCA主成分分析

  去除均值，对每一个特征减去各自的均值

  计算协方差矩阵

   计算协方差矩阵的特征值和特征向量

   将特征向量按照特征值从大到小的顺序，取靠前的k个特征向量

   将数据转换为k个特征向量构建的空间中，即为降维到k维后的数据

 

  1. LDA线性判别分析

计算类内离散度矩阵

计算类间离散度矩阵

计算类内里算的矩阵的逆与类间离散度矩阵的乘积

计算乘积结果的最大特征值及其对应的特征向量，得到投影矩阵

将数据集中每一个样本特征转换为新样本

输出得到新数据集

 

 

wnloverforever
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
特征处理--数值特征处理
DXdaxian的博客
05-21 518
项目工作流程： 离散值处理 LabelEncoder：用的比较多 Map One-hot Encoding Get Dummy：比较好用，用的多 在pandas中 二值特征处理 普通 watched = np.array(popsong_df['listen_count']) watched[watched >= 1] = 1 popsong_df['watched'] = watched popsong_df.head(10) Binarizer from sklearn.preprocess
Spark 2.0 特征处理
11-01
Spark2.1官方文档的翻译：Extracting, transforming and selecting features => Spark特征抽取、特征转换、特征选择
特征处理（Feature Processing）
yuzhi829的专栏
07-08 2350
原文链接：http://breezedeus.github.io/2014/11/15/breezedeus-feature-processing.html 特征工程（Feature Engineering）经常被说为机器学习中的black art，这里面包含了很多不可言说的方面。怎么处理好特征，最重要的当然还是对要解决问题的了解。但是，它其实也有很多科学的地方。这篇文章我之所以命名为特
机器学习概念之特征处理（Feature processing）
weixin_33816611的博客
08-19 222
  　　不多说，直接上干货！   　　肯定也有不少博友，跟我一样，刚开始接触的时候，会对这三个概念混淆。 　　以下是，特征处理、特征提取、特征转换和特征选择的区别！   　　特征处理主要包含三个方面：特征提取、特征转换和特征选择。     　　见我下面的博客 机器学习概念之特征提取（Feature extraction）   机器学习概念之特征转换（Feature conv...
特征工程总结（二）：预处理
qq_36874480的博客
05-04 688
一：单个特征1.数据标准化：                        数据归一化处理是数据挖掘的一项基础工作，不同评价指标往往有不同的量纲和量纲单位，这种情况会影响到数据分析的结果，为了消除指标之间的量纲影响，需要进行数据标准化处理，以解决数据指标之间的可比性.原始数据经过数据标准化后，各指标处于同一数量级下，适合进行综合对比评价。（1）线性归一化：线性函数将原始数据线性化的方法转换到【0，...
XGB.zip_xgboost_特征处理_特征工程
07-14
本压缩包文件"XGB.zip_xgboost_特征处理_特征工程"提供了关于如何使用XGBoost进行特征处理和特征工程的实践案例，包括两个主要的Python脚本：EDA.py（Exploratory Data Analysis，探索性数据分析）和XGB.py（XGBoost...
数据特征处理数据源
04-24
关于特征处理的数据源，针对blog文章 https://blog.csdn.net/yiyongzhifu/article/details/89503664
雷达微多普勒特征处理与应用_雷达微多普勒_Matlab代码_微多普勒_
10-01
《雷达微多普勒特征处理与应用》是Victor C. Chen和David Tahmoush合著的一本专业书籍，其主要关注的是雷达系统中一个关键的技术领域：微多普勒效应及其应用。这本书的配套代码是用Matlab编写的，提供了一种直观且...
数据处理，数据分析，特征处理
01-17
作图分析，数据分析，特征筛选常用方法集合，结合scikit-learn当中的特征处理的方法，有code实例讲解！！！
R读书笔记之特征工程（一）空值处理
Tanya_girl的博客
12-17 4290
在特征处理中，会有空值的删除或者填充。 一：删除     1一般删除是最简单的，用na.omit(data)就搞定，但是太粗暴了。     2若是有的观测量空缺值太多的话，确实需要删除，因为用别的方法填充反而会导致模型偏差。     那么肿么统计观测量的空值的个数捏？可以参考函数：apply(dataframe,1,function(x) sum(is.na(x))),其中is.na()返
数据挖掘的核心：特征值与特征向量的解决方案
禅与计算机程序设计艺术
12-22 630
1.背景介绍 数据挖掘是指从大量数据中发现隐藏的模式、规律和知识的过程。它是人工智能、机器学习和数据科学的重要组成部分。在数据挖掘过程中，特征值和特征向量是两个非常重要的概念。特征值通常是指数据集中某个特定属性的取值，而特征向量则是将数据点表示为一个向量的过程。在这篇文章中，我们将深入探讨这两个概念的定义、特点、联系和应用。 2.核心概念与联系 2.1 特征值 特征值是指数据集中某个特定属...
数据0值过多怎么处理
weixin_42589700的博客
02-09 1603
如果数据中有太多的0值，可以考虑以下几种方法处理： 删除：如果0值不重要或者对数据分析没有影响，可以考虑直接删除这些0值。 填充：如果0值对数据分析有影响，可以考虑使用其他值代替0值。常用的方法有：均值、中位数、众数等。 计数：将0值视为一个特殊值，把它当作另一个特征进行计数，这样0值的信息就不会丢失。 把0值当作缺失值：在计算缺失值的情况下，可以把0值当作缺失值。 最后的处理方法取决...
三维重建
杰径通幽
03-15 2095
在计算机视觉和计算机图形学中，三维重建是捕捉真实物体的形状和外观的过程，这个过程可以通过主动或被动的方法来完成。如果允许模型随时间改变形状，这称为非刚性或时空重构。三维重建的研究一直是一个难题。利用三维重建可以确定任意物体的三维轮廓，也可以知道轮廓上任意点的三维坐标。物体的三维重建是一个普遍存在的科学问题，是计算机辅助几何设计(CAGD)、计算机图形学、计算机动画、计算机视觉、医学影像、计算科学、...
机器学习--特征工程0
大魔王
11-11 309
之前面试遇到过好几次特征工程的理解，学习一下特征工程系列知识 参考地址： https://www.cnblogs.com/peizhe123/p/7412364.html https://scikit-learn.org/stable/modules/preprocessing.html https://blog.csdn.net/weishiym/article/details/7962...
数据特征处理之文本型数据特征值化（一）
攻城狮
01-01 1888
数据的存在形式是多样的，除了我们平时常见的数值型数据之外，还有文本类型的数据，本篇讨论的是文本类型数据的处理方法，即对文本类型数据特征值化。 本文仍是借助机器学习语言工具中的sklearn模块来完成。 假设现有一段语言（文章）：You will never know unless you try。我们要完成对这段文字进行特征抽取，我们先来看特征抽取的单词列表 # -*- coding:utf-8 -*- # @Author: 数据与编程之美 # @File: text_deal.py # ..
金融风控04
weixin_44267765的博客
01-13 387
金融风控
[机器学习] 特征选择笔记1-删除低方差的特征
You and Me
07-09 5912
特征选择 本文主要介绍sklearn中进行特征选择的方法。sklearn.feature_selection模块中的类可用于样本集的特征选择/降维，以提高估计量的准确性得分或提高其在超高维数据集上的性能。 文章目录1 删除低方差的特征2 参考 # 多行输出 from IPython.core.interactiveshell import InteractiveShell InteractiveShell.ast_node_interactivity = "all" 1 删除低方差的特征 代码下载
特征工程:特征处理
读万卷书 行万里路
06-23 1616
数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已； 好的特征不仅能够表示出数据的主要特点，还应该符合模型的假设； 特征越好、灵活性越强，构建的模型越简单、性能越出色。   特征工程是从原始数据提取特征的过程，这些特征可以很好地描述数据，并且利用特征建立的模型在未知数据上的性能表现达到最优。特征工程一般包括特征使用、特征获取、特征处理、特征选择和特征监控。 ...
transformer特征处理
最新发布
01-12
Transformer 是一种用于自然语言处理任务的模型，但它也可以应用于图像处理任务。在图像处理中，可以将图像的特征向量看作是单词序列，然后将其输入到 Transformer 模型中进行处理。这样可以得到与输入特征维度相同的输出特征。 下面是一个示例代码，演示了如何使用 Transformer 进行图像特征处理： ```python import torch import torch.nn as nn import torch.nn.functional as F class TransformerFeatureExtractor(nn.Module): def __init__(self, input_dim, output_dim, num_layers, num_heads): super(TransformerFeatureExtractor, self).__init__() self.embedding = nn.Linear(input_dim, output_dim) self.transformer = nn.TransformerEncoder( nn.TransformerEncoderLayer(output_dim, num_heads), num_layers ) def forward(self, x): x = self.embedding(x) x = x.permute(1, 0, 2) # 调整输入形状为 (seq_len, batch_size, input_dim) x = self.transformer(x) x = x.permute(1, 0, 2) # 调整输出形状为 (batch_size, seq_len, output_dim) return x # 创建一个 Transformer 特征提取器 input_dim = 256 # 输入特征维度 output_dim = 512 # 输出特征维度 num_layers = 4 # Transformer 层数 num_heads = 8 # 注意力头数 feature_extractor = TransformerFeatureExtractor(input_dim, output_dim, num_layers, num_heads) # 定义输入特征向量 batch_size = 16 seq_len = 10 input_features = torch.randn(batch_size, seq_len, input_dim) # 使用 Transformer 进行特征处理 output_features = feature_extractor(input_features) print(output_features.shape) # 输出特征的形状 ``` 这段代码定义了一个名为 `TransformerFeatureExtractor` 的模型，它包含一个线性层用于将输入特征向量映射到输出特征维度，并使用多层的 TransformerEncoder 进行特征处理。在示例中，我们使用随机生成的输入特征向量进行演示，并打印输出特征的形状。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值