卡方分箱(Chi Merge 算法)

最新推荐文章于 2023-08-20 19:58:15 发布
最新推荐文章于 2023-08-20 19:58:15 发布
阅读量6.5k 收藏 22
点赞数 4
分类专栏： MachineLearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/troysps/article/details/104037176
版权

卡方分箱原理及实现(Chi Merge 算法)

一. 卡方分布

卡方分布的定义:

若k个独立的随机变量Z1,Z2,…,Zk满足标准正态分布N(0, 1), 则这k个随机变量的平方和:
X = ∑ i = 1 k Z i 2 X = \sum_{i=1}^{k}Z_{i}^2 X=i=1∑k​Zi2​

最低0.47元/天 解锁文章
troysps
关注
  • 4
    点赞
  • 踩
  • 22
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【保姆级教程】一文弄懂卡方分箱原理及实现代码
阿黎逸阳的博客
06-01 211
一文弄懂风控建模中的卡方分箱原理及实现代码
python实现卡方分箱Chi-Merge
热门推荐
weixin_42097808的博客
05-29 2万+
卡方分箱是依赖于卡方检验的分箱方法，在统计指标上选择卡方统计量（chi-Square）进行判别，分箱的基本思想是判断相邻的两个区间是否有分布差异，基于卡方统计量的结果进行自下而上的合并，直到满足分箱的限制条件为止。 卡方分箱的实现步骤： 卡方统计量衡量了区间内样本的频数分布与整体样本的频数分布的差异性，在做分箱处理时可以使用两种限制条件： （1）分箱个数：限制最终的分箱个数结果，每次将样...
分箱_卡方分箱
Silenceyezi的博客
05-27 3094
我们都知道：卡方、best-ks、最优分箱等都是比较常用的有监督分箱，那么他们都是如何实现的呢？今天我们就先来学习一下卡方分箱吧，之后会再出其他分箱代码，期待一下吧~图片 1.分箱逻辑：   将变量排序后，计算每一对相邻区间的卡方值，然后将卡方值最小的两个相邻区间进行合并，直至达到箱子上限数、或者卡方阈值 2.核心思想：   如果两个区间合并，那么需要两个区间的样本分布相似，卡方值小，说明两个区间分布相似。（卡方值：用于衡量实际值与理论值的差异程度） 3.实现代码： ####################
python 卡方分箱算法_python实现二分类的卡方分箱示例
weixin_36247891的博客
03-01 920
解决的问题：1、实现了二分类的卡方分箱；2、实现了最大分组限定停止条件，和最小阈值限定停止条件；问题，还不太清楚，后续补充。1、自由度k,如何来确定，卡方阈值的自由度为 分箱数-1，显著性水平可以取10%，5%或1%算法扩展：1、卡方分箱除了用阈值来做约束条件，还可以进一步的加入分箱数约束，以及最小箱占比，坏人率约束等。2、需要实现更多分类的卡方分箱算法；具体代码如下：# -*- coding: ...
python 卡方分箱算法_python 基于卡方值分箱算法的实现示例
weixin_42441072的博客
01-14 476
原理很简单，初始分20箱或更多，先确保每箱中都含有0，1标签，对不包含0，1标签的箱向前合并，计算各箱卡方值，对卡方值最小的箱向后合并，代码如下import pandas as pdimport numpy as npimport scipyfrom scipy import statsdef chi_bin(DF,var,target,binnum=5,maxcut=20):'''DF:data...
卡方分箱(chi-square)
最新发布
toby001111的博客
08-20 6954
卡方分箱(chi-square)
卡方分箱算法
LuLuYao9494的博客
06-15 5188
最近看了很多评分卡文章，很多前辈都讲解了程序，然后讲解了原理，但个人感觉程序部分讲的不够细致，很多时候看觉得难懂，所以，便产生了想要很细致地解释代码的想法，通过手写和思路讲解，加深自己的理解~ 再看这篇文章前，最好先了解卡方分箱算法的原理再来看代码，这样才能有帮助，并且看的时候要从头到尾的看完，不要看一半，有些函数是嵌在其他函数中计算的，明白这点很重要~ 这里主要包括了一些基础函数和主体...
使用卡方分箱进行数据离散化-python实现
fulk6667g78o8的专栏
09-15 2679
在公众号「python风控模型」里回复关键字：学习资料，免费领取。 python风控模型 持牌照金融公司模型专家，教学主页 https://ke.qq.com/teacher/231469242?tuin=dcbf0ba
【卡方分箱】理论 & Python源码解析
weixin_42487713的博客
04-14 1969
一、介绍 分箱就是将特征进行离散化处理的过程，将变量可能取值的范围依据一定的挡板进行分隔。比如年龄这个变量是，可以分箱为0-18，18-30，30-45，45-60，婚姻状况这个变量，可以分为【初婚、复婚】，【未婚、未知】，【离异、丧偶】等。 　分箱的好处主要有这些： 分箱后的特征对异常数据有更强的鲁棒性。比如年龄中有一个异常值为300，分箱之后就可能划到>80这一箱中，而如果直接入模的话会对模型造成很大干扰。 特征离散化之后，每个变量有单独的权重，可以为逻辑回归模型引入了非线性，能够提升模型
python 基于卡方值分箱算法
wyzwyzwyzo的博客
07-15 674
原理很简单，初始分20箱或更多，先确保每箱中都含有0，1标签，对不包含0，1标签的箱向前合并，计算各箱卡方值，对卡方值最小的箱向后合并，代码如下 import pandas as pd import numpy as np import scipy from scipy import stats def chi_bin(DF,var,target,binnum=5,maxcut=20): ''' DF:data var:variable target:target / lab
7-9算法Merge1
08-03
标题中的"7-9算法Merge1"可能是指一种在数据结构和算法领域中常见的排序算法——归并排序（Merge Sort）的一个变体。归并排序是一种分治策略的典型应用，它将大问题分解为小问题来解决。在这个具体场景中，"7-9算法...
用merge算法合并两个已排序的表
08-11
用merge算法合并两个已排序的表，望对大家有帮助，谢谢！
CP Merge (SimString)算法的 原生Julia实现
06-09
CPMerge 算法的原生 Julia 实现，专为近似字符串匹配而设计。这个包对于需要从非常大的语料库（大量文本）中检索字符串/文本的自然语言处理任务特别有用。目前，该包支持基于字符和单词的 N-gram 特征生成，并且计划...
C++泛型算法的一些总结
12-31
泛型算法的一些总结1、每个泛型算法的实现都独立于单独的容器，并且不依赖于容器存储的元素类型。 2、泛型算法从不直接添加或删除元素。 3、与容器的类型无关，只在一点上隐式地依赖元素类型：必须能够对元素做比较...
分治法合并排序算法实现merge
11-03
在本案例中，我们将讨论如何利用分治法实现合并排序（Merge Sort），这是一种效率较高的排序算法，其时间复杂度为O(n log n)。 合并排序的基本思想是将原始数组分为两个相等（或接近相等）的部分，对每一部分分别...
预测算法-线性回归（鲍鱼年龄预测）
troysps的博客
06-09 1万+
预测算法-线性回归 面对可逆矩阵 线性回归(模型，策略，算法) 模型: h(x)=WTx+bh(x)=WTx+bh(x) = W^T x + b 损失函数: J(θ)=∑i=1N(f(xi)−yi)2J(θ)=∑i=1N(f(xi)−yi)2J_{(\theta)} = \sum\limits{i=1}^{N}(f(x_i)-y_i)^2 目标函数为:minJ(θ)=∑i=1N(f(xi...
支持向量机 （SMO算法原理与简化版实现）
troysps的博客
05-29 2455
SMO算法原理及实现 支持向量机的学习问题本质上是求解凸二次规划问题 SMO算法 序列最小最优化算法就是求解该问题的代表性算法 SMO算法 解决的凸二次规划的对偶问题: mina12∑i=1N∑j=1NαiαjyiyjK(xi,xj)−∑i=1Nαimina12∑i=1N∑j=1NαiαjyiyjK(xi,xj)−∑i=1Nαi\min\limits_{a} \frac{1}{2} \su...
线性回归 --梯度下降法与标准方程法
troysps的博客
05-08 2148
线性回归 简单线性回归 机器学习三要素 – 模型 策略 算法 线性回归 输入空间为XXX 输出空间为YYY 模型:假设函数 hypothesis：hθ=θ0+θ1x1hypothesis：hθ=θ0+θ1x1hypothesis： h_{\theta} = \theta_0 + \theta_1x_1 模型参数:θ0,θ1θ0,θ1\theta_0 , \theta_1 思考：...
卡方分箱 python
05-26
卡方分箱是一种离散化方法，目的是将连续变量离散化为若干个分段，使得每个分段内变量的分布差异较小，不同分段之间的分布差异较大。在python中可以使用以下步骤实现： 1. 导入需要的库 ```python import pandas as pd import numpy as np import scipy.stats as ss ``` 2. 读入数据 ```python data = pd.read_csv('data.csv') ``` 3. 确定分箱个数 可以通过经验法则、等频分箱或等距分箱等方法确定分箱个数。 ```python # 等频分箱 data['rank'] = pd.qcut(data['feature'], 10, labels=False) ``` 4. 计算卡方值 卡方值可以衡量变量在不同分箱之间的差异程度。 ```python def chi2(df, total_col, bad_col, overall_rate): df2 = df.copy() df2['expected'] = df[total_col].apply(lambda x: x * overall_rate) combined = zip(df2['expected'], df2[bad_col]) chi = [(i[0]-i[1])**2/i[0] for i in combined] return sum(chi) total = data.groupby('rank').count()['feature'] bad = data.groupby('rank').sum()['target'] overall_rate = np.sum(bad) / np.sum(total) chi2_value = chi2(pd.concat([total, bad], axis=1), 'feature', 'target', overall_rate) ``` 5. 合并分箱 根据卡方值，将相邻的分箱合并，直到满足预设的最小卡方值。 ```python def merge(data, col, target, max_interval, min_chi2): total = data.groupby(col).count()[target] bad = data.groupby(col).sum()[target] overall_rate = np.sum(bad) / np.sum(total) group_intervals = [[i] for i in total.index] while len(group_intervals) > max_interval: chi2_values = [] for i in range(len(group_intervals)-1): new_interval = group_intervals[i] + group_intervals[i+1] df1 = pd.concat([total.loc[new_interval], bad.loc[new_interval]], axis=1) df2 = pd.concat([total.loc[group_intervals[i]], bad.loc[group_intervals[i]]], axis=1) df3 = pd.concat([total.loc[group_intervals[i+1]], bad.loc[group_intervals[i+1]]], axis=1) chi2_values.append(chi2(df1, 'feature', 'target', overall_rate) - chi2(df2, 'feature', 'target', overall_rate) - chi2(df3, 'feature', 'target', overall_rate)) if min(chi2_values) < min_chi2: merge_index = chi2_values.index(min(chi2_values)) group_intervals[merge_index] = group_intervals[merge_index] + group_intervals.pop(merge_index+1) else: break return group_intervals intervals = merge(data, 'rank', 'target', 10, 3.841) ``` 6. 将分箱结果应用到数据中 ```python def apply_intervals(x, intervals): for i in range(len(intervals)): if x in intervals[i]: return i data['rank_new'] = data['rank'].apply(lambda x: apply_intervals(x, intervals)) ``` 以上就是使用python实现卡方分箱的步骤。需要注意的是，卡方分箱并不是一种万能的离散化方法，应根据具体情况选择合适的方法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值