学习笔记 | 特征工程：归一化、高维特征、组合特征、图像数据不足

最新推荐文章于 2023-03-08 15:27:24 发布
最新推荐文章于 2023-03-08 15:27:24 发布
阅读量1.5k 收藏 10
点赞数 3
分类专栏： # 机器学习 文章标签： 特征工程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34170700/article/details/106255063
版权
这篇博客探讨了特征工程的重要性，包括数值型特征的归一化，如Min-Max Scaling，类别型特征的处理如Ordinal Encoding、One-hot Encoding和Binary Encoding，以及如何处理高维组合特征。此外，还讨论了在图像数据不足时的应对策略。
摘要由CSDN通过智能技术生成

特征工程

在这里插入图片描述

01 特征归一化
问题 为什么需要对数值类型的特征做归一化？

对特征进行归一化处理，使各指标处于同一数值量级，使得不同指标之间具有可比性。将所有的特征都统一到一个大致相同的数值区间内。主要有一下两种。
(1) 线性函数归一化（Min-Max Scaling）。它对原始数据进行线性变换，使结果映射到[0,1]的范围，实现对原始数据的等比缩放。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

02 类别型特征
最低0.47元/天 解锁文章
大虎牙
关注
专栏目录
机器学习笔记 - 模式识别之图像特征提取和特征选择的基本方法总结
学以致用 知行合一
01-02 4127
从模式识别角度来讲，视觉信息的特征获取是机器视觉的一个关键环节。一个机器视觉与模式识别系统的成败，首先取决于其所利用的特征能否较好地反映将要研究的分类问题。如果数据被很好地表达成了特征，通常线性模型就能达到满意的分类效果。因此，对于模式识别系统的创建，特征的选择和提取是需要优先考虑的。仅从图像角度来看，图像特征的提取和选择是图像处理过程中非常重要的环节，对后续的图像分类有重要影响，图像数据具有样本少、维数高的特点。为了从图像中提取有用的信息，有必要对图像特征进行降维处理。
opencv学习笔记二十九：SIFT特征点检测与匹配
qq_24946843的博客
09-11 1万+
SIFT（Scale-invariant feature transform）是一种检测局部特征的算法，该算法通过求一幅图中的特征点（interest points,or corner points）及其有关scale 和 orientation 的描述子得到特征并进行图像特征点匹配，获得了良好效果，详细解析如下：   算法描述   SIFT特征不只具有尺度不变性，即使改变旋转角度，图像亮...
高维组合特征
wwt的博客
03-04 1191
若用户的数量为m,物品的数量为n,那么需要学习的参数的规模为m*n. 将用户和物品分别用k维的低维向量表示(k<<m,k<<n) Y=sigmoid(∑i∑jwij<xi,xj>) Y=sigmoid(\sum _{i}\sum _{j}w_{ij}<x_i,x_j>) Y=sigmoid(i∑​j∑​wij​&lt...
MATLAB对多维数据每一维进行归一化
02-28
小公式对多维数据作归一化处理。很简便的归一化代码，一秒就看懂！
高维视觉特征 两篇文章摘录
William Valentine
06-09 2172
 一．论文《基于高维视觉特征模型的目标图像检测与图像分割技术研究》1.      目标图像检测与图像分割系统设计  (1)    图像预处理图像失真的主要因素：1)      成像系统本身所造成的失真2)      外
什么是高维组合特征？
十三
11-15 2378
为了提高模型对数据复杂关系的拟合能力，在做特征工程时常常对一些特征进行组合，构成高阶特征。 以逻辑回归为例，假设数据特征向量为X=(x1,x2,...,xk)X = (x_1, x_2, ..., x_k)X=(x1​,x2​,...,xk​)，则有 Y=sigmoid(∑i∑jwij<xi,xj>) Y = sigmoid(\sum_{i} \sum_{j} w_{ij} < x_i, x_j >) Y=sigmoid(i∑​j∑​wij​<xi​,xj​>) 其中&l
《百面机器学习》读书笔记（一）-特征工程
scu-liu的博客
02-01 572
全部笔记的汇总贴：《百面机器学习》-读书笔记汇总 特征工程，顾名思义，是对原始数据进行一系列工程处理，将其提炼为特 征，作为输入供算法和模型使用。从本质上来讲，特征工程是一个表示和展现数据的过程。在实际工作中，特征工程旨在去除原始数据中的杂质和冗余，设计更高效的特征以刻画求解的问题与预测模型之间的关系。 结构化数据：数值型、类别型，每一行数据表示一个样本的信息。 非结构化数据：文本、图像、音频、视频数据，包含的信息无法用一个简单的数值表示，也没有清晰的类别定义，并且每条数据的大小各不相同。 一、特征归一
百面机器学习总结笔记（第一章 特征工程）
Avery123123的博客
10-21 413
百面机器学习总结笔记（第一章 特征工程） 第一章 特征工程 第1节 特征归一化 第2节 类别型特征 第3节 高维组合特征的处理 第4节 组合特征 第5节 文本表示模型 第6节 Word2Vec 第6节 图像数据不足时的处理方法
高维数据特征降维技术学习
三木君的博客
04-14 2万+
原文地址：高维数据特征降维技术学习作者：新技术笔记　　特征降维（feature dimension reduction）是一个从初始高维特征集合中选出低维特征集合，以便根据一定的评估准则最优化缩小特征空间的过程，通常是机器学习的预处理步骤。当面临高维数据时，特征降维对于机器学习任务非常必要，通过降维有效地消除无关和冗余特征，提高挖掘任务的效率，改善预测精确性等学习性能，增强学习结果的易理解性。
机器学习-使用gbdt生成高维特征
感性企鹅的专栏
01-09 544
背景 现在比较流行的ctr预估是gbdt+lr的方法： gbdt进行连续特征的离散化，省去了人为分桶的过程，既提高了效率，又提高了准确率 lr，进行最终的特征训练，进行ctr预估 本文将阐述如何使用python的sklearn提取高维特征 实战 import numpy as np from sklearn.preprocessing import OneHotEncoder from skl...
机器学习系列手记（二）：特征工程之特征归一化、类别型特征、高维组合特征的处理、组合特征
yly_3026925713的博客
03-02 1143
特征工程       俗话说，“巧妇难为无米之炊”。在机器学习中，数据和特征就是“米”，模型和算法就是“巧妇”。没有充足的数据、合适的特征，再强大的模型结构也无法得到满意的输出。数据和特征往往决定了一个机器学习问题结果的上限，而模型、算法的选择及优化则是在逐步接近这个上限。      &n...
归一化问题
lwwangfang的博客
09-05 1万+
使用matlab学习svm，发现在对数据进行预处理时，要对数据进行归一化，并且，遇到问题：训练数据和测试数据是一起归一化处理好还是分开归一化处理好？怎么确定归一化的范围多大？是[0,1]还是[-1,4]等，为什么归一化范围不同，对分类精度有影响？ 断断续续的在网上找了几天，和同学讨论了一下，总想找个确凿的答案，但是总结来说为： 1、大多数情况应该对数据进行归一化处理，特别是在特征范围相差较大情况
百题突击1：为什么要对特征做归一化/什么是组合特征/如何处理高维组合特征/欧式距离与曼哈顿距离/为什么一些场景中使用余弦相似度而不是欧式距离
MrCharles在CSDN
04-06 1287
为什么要对特征做归一化 ？ 特征间单位和尺度差异影响计算（涉及或隐含距离计算的算法的时候）：拿Angrew Ng的课程的房屋价格预测举例，房子有很多属性，例如面积x1,多少房间x2，以及多少卫生间x3。 那么如果不归一化，进行距离有关的计算时，单位的不同会导致计算结果的不同，尺度大的特征会起决定性作用（x1），而尺度小的特征其作用可能会被忽略（x2,x3），为了消除特征间单位和尺度差异的影响，以对每维特征同等看待，需要对特征进行归一化。 归一化有利于收敛（梯度下降算法角度）：原始特征下，因尺度差.
特征，特征维度，特征深度
最新发布
weixin_46516242的博客
03-08 5986
关于神经网络中的特征，特征维度，特征深度的一些问题
一种处理高维categorical特征的处理方法-TBS (Target based statistic)
guoyuhaoaaa的博客
05-30 2432
首先要说的是这篇paper主要参考了2001年SIGKDD的论文《A Preprocessing Scheme for High-Cardinality Categorical Attributes in Classification and Prediction Problems》。确实，从时间上来看这篇paper已经属于一篇比较老的paper了，我之所以能翻到这么老的paper是因为在2017...
深度学习入门介绍
jaylinzhou的专栏
01-02 1481
深度学习是一种从训练数据出发，经过一个端到端(end-to-end)的模型，然后直接输出得到最终结果的一种新模式。 一般的机器学习处理流程如下： 传感器获得数据——>预处理——>特征提取——>特征选择——>推理,预测或识别。 预处理——>特征提取——>特征选择，概况起来就是特征表达，良好的特征表达，对最终算法的准确性起了非常关键的作用。
Deep Learning（深度学习）之（七）高维数据的机器学习
热门推荐
qwj的博客
06-20 2万+
高维数据的机器学习      Anima Anandkumar 是加州大学埃尔文分校电子工程与计算机科学系的教职人员。她的研究主要集中于『概率隐变量模型』以及『张量算法』的分析和设计，及其在高维数据学习上的应用。 核心结论      * 现代的机器学习涵盖了大量的数据以及变量，构成了高维数据问题。      *  张量方法在处理这种高维数据的机器
迭代式Lasso特征选择：高效处理高维数据
"本文介绍了一种面向高维数据的迭代式Lasso特征选择方法，旨在解决传统Lasso方法在处理高维数据时面临的计算开销大和过拟合问题。该方法通过将特征集分为多份并进行迭代式特征提取，有效降低了计算复杂度，并提高了...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值