我眼中的分类变量水平压缩（一）

最新推荐文章于 2023-02-16 21:56:27 发布
最新推荐文章于 2023-02-16 21:56:27 发布
阅读量919 收藏 2
点赞数
分类专栏： SAS 文章标签： 分类变量 哑变量 多重共线性 水平压缩 过度拟和
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Er_longlong/article/details/93461947
版权
本文探讨了在建模中处理分类变量时遇到的水平过多问题，提出分类变量水平压缩的重要性，以避免多重共线性和过度拟合。主要介绍了两种方法：哑变量编码法和基于目标变量的WOE转换法。强调了变量压缩的原则，即保留变异性，避免过度拟合。并通过实际案例解释了如何进行变量水平的合并，以优化模型构建。
摘要由CSDN通过智能技术生成

                                                分类变量的水平一定要压缩

       模型中分类变量一般需要处理成0-1形式的哑变量。

       如果变量水平本身较多，那么哑变量的水平个数也会相应变多，这种情况下去构建模型肯定不行，需要将分类变量的水平进行压缩处理。

                                                分类变量水平压缩的方法

       一般情况，分类变量水平压缩有下面两种方法，这一篇先说说我对哑变量编码法的理解：

  • 哑变量编码法；

  • 基于目标变量的WOE转换法；

                                             我眼中的哑变量编码法

       建模时，如果入模变量有N个等级，为了避免

最低0.47元/天 解锁文章
聋聋聋聋呀
关注
专栏目录
科学技术只是暂时的、短暂的存在，还需要人类在不断的进化和完善中才能最终统一、协调、治理。
程序员光剑
08-03 846
2022年，人类的历史迎来了翻天覆地的变革。人类的科技水平飞速增长、产业革命、地球上的资源枯竭，让地球遭遇重大环境变化，人类面临的环境危机越发严峻。同时，也有许多技术专家已经站出来向我们展示科技带来的美好未来。但我们今天所看到的，则是一个异常的世界。这个世界背后隐隐有个人的故事，这些故事汇聚成了一个个的神话、梦想、诅咒和惊悚。它们总是在讲述一个一个神奇的未来、惊心动魄的暴风雨、充满纷争的未来、可怕的失控……这些让人目眩神迷、触目惊心的景象。我们从中感受到了对未来的恐惧、畏惧、害怕、恐慌，甚至恐吓。
【NLP】seq2seq 由浅入深——基于Rnn和Cnn的处理方式
让算法融入生活，改变生活！
10-01 1454
seq2seq seq2seq最初是google2014年在《Sequence to Sequence Learning with Neural Networks》提出的，简单的说就是一种序列到另一种序列的转换。在自然语言处理( Natural Language Processing, NLP)应用领域主要有翻译，摘要，作诗等等。 自从seq2seq提出后，关于seq2seq的变体也有很多，但大多都是基于循环神经网络（Recurrent Neural Network，RNN）进行的处理，随后逐渐引入基于at
分类变量的压缩
T_steve7的博客
01-13 1630
分类变量的压缩
我眼中的变量水平压缩（二）
许卉的博客
06-24 395
WOE是什么 WOE是一种证据权重，全称为weight of evidence，是变量压缩时我会采用的第二种方法。目前WOE变换也是信用评分模型中标准的处理流程、必不可少的步骤之一。 ...
对数据压缩的对象及压缩原因的理解与分类的理解
08-23 681
1，数据压缩的一个基本问题是“我们要压缩什么”，对此你是怎样理解的？ 答：对于数据压缩的问题：“我们要压缩什么”，我的理解是：对在计算机等多媒体中进行传输的视频、音频、文字、图像等所有信息的存储大小进行压缩。 2，数据压缩的另一个基本问题是“为什么进行压缩”，对此你又是怎样理解的？ 答：对于数据压缩的问题：“为什么进行压缩”，我的理解是：网络的快速发展及大数据时代的到来，給我们的生...
机器学习常见问题 - 类别变量处理
huangqihao723的博客
06-12 3240
类别变量类型： Nominal： 红，黄，蓝 Ordinal，高，中，低 连续变量：1.1，2.1，1.3，1.4 类别变量问题的一些挑战 类别数量很多，但是每个类别的样本不多，例如“城市” 一些机器学习模型，例如回归或者SVM 需要输入是数值型的，类别需要先转化成数值才能应用这些算法 对于机器来说，不一定能轻松理解一些人理解的信息，例如 北京，上海，杭州三个城市，人可以知道上海到杭州更近点，但是对于模型来说，仅仅代表三个不同的level，所以需要增加一些额外的信息。 几种处理方法：..
一篇很好的大牛面试经验
weixin_33724659的博客
09-08 1367
引言： 工作刚刚落实，论文也刚完成，终于有时间对自己的求职历程及求职经验进行总结了。应同学要求，最近准备书写系列文章“我的求职历程及经验分享”，请大家关注，谢谢！ （一）：求职历程总结 2007年1月10日，随着在三方协议上郑重签下自己的名字，我的求职历程终于划上了一个圆满的句号。在这三个月漫长而艰辛的过程中，我付出了很多，经历了很多，也收获了很多。这一路走来，要感谢的人太多太多，尤其要感谢...
Android面试题整理（源自鸿洋大神公众号【201803】的一篇BAT面试题推送）
唯爱丶卡卡西的博客
04-13 1724
三月，想必各位程序员GG 此刻想要的，莫过于一篇面试宝典。鄙人不才，也从未系统的刷过面试题，以鸿洋大哥一篇面试题为引，略加整理，希望能帮到各位不知道看什么小伙伴。（大部分知识都是有答案的）. 原文链接: [https://mp.weixin.qq.com/s/p3l9wr4DX976Lr62-dYe8w(只有题)] PS：其实在推送2天后就已经全部 总结出来了，只是新的CSDN 编辑器排版不会...
缩尾处理 stata
热门推荐
weixin_50381726的博客
02-16 2万+
要求：对连续变量上下1%的分位数进行了缩尾处理。
统计模型中各检验分布及判断共线性方法
weixin_41636030的博客
02-22 9695
假设检验： 两类错误：弃真存伪；阿尔法表示犯第一类错误（弃真)概率 P值：如果原假设为真，则这个样本值发生的概率最大为多少 对于匹配样本的检验，可以用匹配样本的差值来进行检验他们的显著水平 匹配样本：同一个样本在不同时间点的状态 F分布：两个分布的方差之比；检验两个分布方差的差异程度 曲线相关：只存在数据挖掘；统计学只研究直线相关 相关系数大于0.8：高度相关 相关系数大于等于0.5,小于0.8...
数据科学 12 连续变量关系探索与变量压缩（概念）
irober的博客
03-04 1464
数据科学 12 连续变量关系探索与变量压缩（概念）12.1 多元统计基础与变量约减的思路7.1.1 XX1、图片2、x7.2 XXX7.2.1 XX1、图片2、规则3、 LaTeX公式 主要内容： 多元统计基础与变量约减的思路 主成分分析 因子分析 稀疏主成分分析 变量聚类 12.1 多元统计基础与变量约减的思路 7.1.1 XX 1、图片 a 2、x 7.2 XXX 7.2.1 X...
【共线性的处理：岭回归&分类变量的数值化：最优尺度回归】
跑龙套的花灵龙
10-11 1167
【共线性的处理：岭回归&分类变量的数值化：最优尺度回归】
python中factor函数_【T】R中的因子（factor）,levels, reorder
weixin_39579468的博客
12-04 2454
该博文已整理到新地址：http://qinqianshan.com/factor、levels、reorder/变量可归结为类别(名义型)，有序型，连续型变量(区间变量)。类别变量和有序类别(有序型)变量在R中称为因子(factor)。区间变量取连续的数值，可以进行求和、平均等运算。名义变量和有序变量取离散值，可以用数值代表也可以是字符型值，其具体数值没有加减乘除的意义，不能用来计算而只能用来分类...
多重共线性+变量选择（钟老师）
kylin_learn的博客
12-12 1498
浅谈共线性的产生以及解决方法(中篇——今生)
李未名的博客
10-15 6403
浅谈共线性的产生以及解决方法(下篇——今生) 上篇我们讲到共线性概念以及共线性问题存在时对模型的影响。那么如何对样本数据中存在的共线性问题进行诊断呢？ 3 多重共线性的诊断方法 3.1 相关系数法 对于一个样本数据集，我们要了解解释变量，相关系数是一个重要的参数。假设样本中有x1x_{1}x1​,x2x_2x2​,x3x_3x3​,…,xpx_pxp​这些变量，两个变量间的相关系数： R=∑i=1n(xi−xˉ)(yi−yˉ)∑i=1n(xi−xˉ)2∑i=1n(yi−yˉ)2R=\frac{\sum_{i
主成分分析实现数据描述与变量压缩(附 Python code 与源数据)
阅读从未停止，输出从未开始
08-23 819
前言 在之前的文章中，我们已经详细介绍了主成分分析的原理，并用 Python 实现主成分分析。 原理+代码｜Python基于主成分分析的客户信贷评级实战（附代码与源数据） ​ 在那篇文章中我们指出的主成分分析常见的三个应用场景中，其中有一个是**「数据描述」**，以描述产品情况为例，比如著名的波士顿矩阵，子公司业务发展状况，区域投资潜力等，需要将多变量压缩到少数几个主成分进行描述，压缩到两个主成分是最理想的，这样便可在一张图内表现出来。 但这类分析一般做主成分分析是不充分的，能够做到因子分析更好。但因子分.
【转】分类变量的encoding处理
Toby的博客
07-22 2231
转自：CDA数据分析研究院。 原文章标题：机器学习中的特征工程——分类变量的处理 作者：CDA数据分析师培训 链接：https://www.jianshu.com/p/d63c0dbe7f3c 来源：简书 介绍关于机器学习中的特征工程关于分类变量的处理。 分类变量 概念 顾名思义，分类变量用于表示类别或标签。 在现实世界中，分类变量的值是无穷多的。这些值可以用数字表示。然而，与数值变量不同，分类变量的值不能相互排序。 例如石油作为一种行业类型，既不高于也不低于旅游业，这被称为非序数。 判断
多元线性模型分类变量方差_第三十一讲 R多元线性回归中的多重共线性和方差膨胀因子...
weixin_32866237的博客
01-31 2033
在前两讲中，我们介绍了多元线性回归的概念以及多元线性回归中的交互作用。今天学习的主要内容是多元线性回归中的多重共线性和方差膨胀因子。1. 共线性的概念1共线性在多元回归中，两个或多个预测变量可能彼此相关，这种情况称为共线性(multicollinearity)。2多重共线性存在一种称为多重共线性的极端情况，其中三个或更多变量之间存在共线性，即使没有一对变量具有特别高的相关性。这意味着预测...
怎么解释分类变量的回归系数
最新发布
06-01
例如，假设一个多元回归模型中有一个分类变量“性别”，其中男性被指定为参照水平，女性为另一个水平。回归系数为0.3，表示女性相对于男性对于因变量的平均值高出0.3标准差，当其他自变量保持不变时。这意味着，在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值