利用python 计算百分位数实现数据分箱

对于百分位数,相信大家都比较熟悉,以下解释源引自百度百科。

百分位数,如果将一组数据从小到大排序,并计算相应的累计百分位,则某一百分位所对应数据的值就称为这一百分位的百分位数。可表示为:一组n个观测值数值大小排列。如,处于p%位置的值称第p百分位数。

因为百分位数是采用等分的方式划分数据,因此也可用此方法进行等频分箱。

import pandas as pd
import numpy as np
import random
t=pd.DataFrame(columns=['l','s'])
#随机生成1000个0到999整数
t['l']=[random.randint(0,999) for _range in range(1000)]
#定义s为1,便于统计
t['s']=1
#通过np.percentile找到分位点
l_bin=[]
for i in range(0,101,10):
    l_bin.append(np.percentile(t['l'],i))
#分位点最后一个数加上一个极小的数,否则切分后数字999会标记为nan
l_bin[-1]+=1/1e10
print('分位点:',np.array(l_bin).round(2))
#对随机数进行切分,right=False时左闭右开
t['box']=pd.cut(t['l'],l_bin,right=False)
tj=t.groupby('box')['s'].agg('sum')
print('分箱统计')
print(tj)
#生成新的标签
label=[]
for i in range(len(l_bin)-1):
    label.append(str(l_bin[i].round(4))+'+')
#原标签和自定义的新标签生成字典    
list_box_td=list(set(t['box']))
list_box_td.sort()
dict_t=dict(zip(list_box_td,label))
#根据字典进行替换
t['new_box']=t['box'].replace(dict_t)
print('新分箱统计')
tj=t.groupby('new_box')['s'].agg('sum')
print(tj)
del t['s']
print(t.head())

输出结果:

分位点: [   0.    90.9  194.6  290.   386.   473.5  589.   688.   783.2  884.2
  997. ]
分箱统计
box
[0.0, 90.9)       100
[90.9, 194.6)     100
[194.6, 290.0)     99
[290.0, 386.0)     99
[386.0, 473.5)    102
[473.5, 589.0)     99
[589.0, 688.0)    100
[688.0, 783.2)    101
[783.2, 884.2)    100
[884.2, 997.0)    100
Name: s, dtype: int64
新分箱统计
new_box
0.0+      100
194.6+     99
290.0+     99
386.0+    102
473.5+     99
589.0+    100
688.0+    101
783.2+    100
884.2+    100
90.9+     100
Name: s, dtype: int64
     l             box new_box
0  253  [194.6, 290.0)  194.6+
1  468  [386.0, 473.5)  386.0+
2  130   [90.9, 194.6)   90.9+
3  476  [473.5, 589.0)  473.5+
4  656  [589.0, 688.0)  589.0+

可以看出每个分箱内,约有100个数字。根据这个方法,可以自定义一些标签。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值