pandas-分组

pandas-分组

一、SAC过程

SAC指的是分组操作中的split-apply-combine过程，其中split指基于某一些规则，将数据拆成若干组，apply是指对每一组独立地使用函数，combine指将每一组的结果组合成某一类数据结构。在apply过程
往往会遇到四类问题：

1. 整合（Aggregation）——即分组计算统计量（如求均值、求每组元素个数）
2. 变换（Transformation）——即分组对每个单元的数据进行操作（如元素标准化）
3. 过滤（Filtration）——即按照某些规则筛选出一些组（如选出组内某一指标小于50的
4. 综合问题——即前面提及的三种问题的混合组）

二、groupby函数

1、分组函数的基本内容

#（a）根据某一列分组
grouped_single = df.groupby('School')#将数据集按照'School'分组，经过groupby后会生成一个groupby对象，该对象本身不会返回任何东西，只有当相应的方法被调用才会起作用
grouped_single.get_group('S_2')#用get_group()提取某一组

#（b）根据某几列分组
grouped_mul = df.groupby(['School','Class'])#多列分组,对象本身不会返回任何东西
grouped_mul.get_group(('S_2','C_4'))#多列分组下的提取

#（c）组容量与组数
grouped_single.size()#显示出分组基本形态size()
grouped_mul.size()
grouped_single.ngroups#显示出总的分组个数ngroups，2个
grouped_mul.ngroups#7个分组组合

#（d）组的遍历
for name,group in grouped_single:
    print(name)
    display(group.head())
#遍历两个分组，显示出各组名称以及分组后的group小组情况
#（e）level参数（用于多级索引）和axis参数
df.set_index(['Gender','School']).groupby(level=1,axis=0).get_group('S_1').head()

2. groupby对象的特点

#（a）查看所有可调用的方法
print([attr for attr in dir(grouped_single) if not attr.startswith('_')])
#由此可见，groupby对象可以使用相当多的函数，灵活程度很高

#b）分组对象的head和first
grouped_single.head(2)
#对分组对象使用head函数，返回的是每个组的前几行，而不是数据集前几行
#first显示的是以分组为索引的每组的第一个分组信息
grouped_single.first()

#c）分组依据
#对于groupby函数而言，分组的依据是非常自由的，只要是与数据框长度相同的列表即可，同时支持函数型分组
df.groupby(np.random.choice(['a','b','c'],df.shape[0])).get_group('a').head()
#相当于将np.random.choice(['a','b','c'],df.shape[0])当做新的一列进行分组，任意产生了一列完整的a,b,c构成的序列，然后提取出是a组
np.random.choice(['a','b','c'],df.shape[0])
#从原理上说，我们可以看到利用函数时，传入的对象就是索引，因此根据这一特性可以做一些复杂的操作
df[:5].groupby(lambda x:print(x)).head(0)
#根据奇偶行分组
df.groupby(lambda x:'奇数行' if not df.index.get_loc(x)%2==1 else '偶数行').groups
#可以用[]选出groupby对象的某个或者某几个列，上面的均分比较可以如下简洁地写出：

#（d）groupby的[]操作
df.groupby(['Gender','School'])['Math'].mean()>=60#判断分组后各组Math是否及格
#用列表可选出多个属性列：
df.groupby(['Gender','School'])[['Math','Height']].mean()#多个属性列

#（e）连续型变量分组
#例如利用cut函数对数学成绩分组：
bins = [0,40,60,80,90,100]
cuts = pd.cut(df['Math'],bins=bins) #可选label添加自定义标签，自行创建分组依据
df.groupby(cuts)['Math'].count()

连续型变量cut函数分组结果显示
Math
(0, 40] 7
(40, 60] 10
(60, 80] 9
(80, 90] 7
(90, 100] 2
Name: Math, dtype: int64

三、聚合、过滤和变换

1. 整合（Aggregation）——即分组计算统计量（如求均值、求每组元素个数）
2. 变换（Transformation）——即分组对每个单元的数据进行操作（如元素标准化）
3. 过滤（Filtration）——即按照某些规则筛选出一些组

1. 聚合（Aggregation）

#（a）常用聚合函数
#所谓聚合就是把一堆数，变成一个标量，因此mean/sum/size/count/std/var/sem/describe/first/last/nth/min/max都是聚合函数
group_m = grouped_single['Math']
group_m.std().values/np.sqrt(group_m.count().values)== group_m.sem().values#用标准误sem函数验证

#（b）同时使用多个聚合函数
group_m.agg(['sum','mean','std'])#显示出每个分组的聚合函数结果
#利用元组进行重命名
group_m.agg([('rename_sum','sum'),('rename_mean','mean')])
#指定哪些函数作用哪些列
grouped_mul.agg({'Math':['mean','max'],'Height':'var'})

#（c）使用自定义函数
grouped_single['Math'].agg(lambda x:print(x.head(),'间隔'))
#可以发现，agg函数的传入是分组逐列进行的，有了这个特性就可以做许多事情
#官方没有提供极差计算的函数，但通过agg可以容易地实现组内极差计算
grouped_single['Math'].agg(lambda x:x.max()-x.min())

#（d）利用NamedAgg函数进行多个聚合
#注意：不支持lambda函数，但是可以使用外置的def函数
def R1(x):
    return x.max()-x.min()
def R2(x):
    return x.max()-x.median()
grouped_single['Math'].agg(min_score1=pd.NamedAgg(column='col1', aggfunc=R1),
                           max_score1=pd.NamedAgg(column='col2', aggfunc='max'),
                           range_score2=pd.NamedAgg(column='col3', aggfunc=R2)).head()
#NamedAgg不支持lambda函数，外置def极差和R2函数，NamedAgg（列，自定义函数）

#（e）带参数的聚合函数
#判断是否组内数学分数至少有一个值在50-52之间：
def f(s,low,high):
    return s.between(low,high).max()
grouped_single['Math'].agg(f,50,52)
如果需要使用多个函数，并且其中至少有一个带参数，则使用wrap技巧：
def f_test(s,low,high):
    return s.between(low,high).max()
def agg_f(f_mul,name,*args,**kwargs):
    def wrapper(x):
        return f_mul(x,*args,**kwargs)
    wrapper.__name__ = name
    return wrapper
new_f = agg_f(f_test,'at_least_one_in_50_52',50,52)
grouped_single['Math'].agg([new_f,'mean']).head()

2. 过滤（Filteration）

filter函数是用来筛选某些组的（务必记住结果是组的全体），因此传入的值应当是布尔标量。这也是之所以索引已经能够选出某些符合条件的子集，还要设计过滤函数的原因解释。

grouped_single[['Math','Physics']].filter(lambda x:(x['Math']>32).all()).head()

3. 变换（Transformation）

变换可以做标准化处理

#（a）传入对象
# transform函数中传入的对象是组内的列，并且返回值需要与列长完全一致
grouped_single[['Math','Height']].transform(lambda x:x-x.min()).head()
如果返回了标量值，那么组内的所有元素会被广播为这个值
grouped_single[['Math','Height']].transform(lambda x:x.mean()).head()

#（b）利用变换方法进行组内标准化
grouped_single[['Math','Height']].transform(lambda x:(x-x.mean())/x.std()).head()

#（c）利用变换方法进行组内缺失值的均值填充
df_nan = df[['Math','School']].copy().reset_index()
df_nan.loc[np.random.randint(0,df.shape[0],25),['Math']]=np.nan
df_nan.groupby('School').transform(lambda x: x.fillna(x.mean())).join(df.reset_index()['School']).head()

填充前后如下图表


此处是使用均值填充，类似填充方法还有fillna的前向/后向填充，即ffill用前一个非缺失值去填充该缺失值，bfill用后一个非缺失值去填充该缺失值。通过
df.fillna(method=‘ffill’）、df.fillna(method=‘ffill’）就可以实现。

四、apply函数

1. apply函数的灵活性

df.groupby('School').apply(lambda x:print(x.head(1)))#每个分组的第一个观测
#apply函数的灵活性很大程度来源于其返回值的多样性：
#① 标量返回值
df[['School','Math','Height']].groupby('School').apply(lambda x:x.max())
#② 列表返回值
df[['School','Math','Height']].groupby('School').apply(lambda x:x-x.min()).head()
#③ 数据框返回值
df[['School','Math','Height']].groupby('School')\
    .apply(lambda x:pd.DataFrame({'col1':x['Math']-x['Math'].max(),
                                  'col2':x['Math']-x['Math'].min(),
                                  'col3':x['Height']-x['Height'].max(),
                                  'col4':x['Height']-x['Height'].min()})).head()

2. 用apply同时统计多个指标

#此处可以借助OrderedDict工具进行快捷的统计：
from collections import OrderedDict
def f(df):
    data = OrderedDict()
    data['M_sum'] = df['Math'].sum()
    data['W_var'] = df['Weight'].var()
    data['H_mean'] = df['Height'].mean()
    return pd.Series(data)
grouped_single.apply(f)

练习

1、如何计算组内0.25分位数与0.75分位数？要求显示在同一张表上。

def P1(x):
    return np.percentile(x,25)
def P2(x):
    return np.percentile(x,75)
grouped_single.agg(percentile_25=pd.NamedAgg(column='Math', aggfunc=P1),
                           percentile_75=pd.NamedAgg(column='Math', aggfunc=P2))

2、【练习一】： 现有一份关于diamonds的数据集，列分别记录了克拉数、颜色、开采深度、价格，请解决下列问题：

df = pd.read_csv('C:/Users/Kingfish/Desktop/joyful-pandas-master/joyful-pandas-master/data/Diamonds.csv')
df.head()

(a) 在所有重量超过1克拉的钻石中，价格的极差是多少？

df1 = df.query('carat>1')['price']
df1.max()-df1.min(）

(b) 若以开采深度的0.2\0.4\0.6\0.8分位数为分组依据，每一组中钻石颜色最多的是哪一种？该种颜色是组内平均而言单位重量最贵的吗？

bins = df['depth'].quantile(np.linspace(0,1,6)).tolist()#0.2\0.4\0.6\0.8分位数为分组依据
cuts = pd.cut(df['depth'],bins=bins) #可选label添加自定义标签
df['cuts'] = cuts
df.head()

grouped_single = df.groupby('cuts')['color'].describe()
grouped_single 

df['均重价格']=df['price']/df['carat']#定义均重价格变量
grouped_single['top'] == [i[1] for i in df.groupby(['cuts'
                                ,'color'])['均重价格'].mean().groupby(['cuts']).idxmax().values]

© 以重量分组(0-0.5,0.5-1,1-1.5,1.5-2,2+)，按递增的深度为索引排序，求每组中连续的严格递增价格序列长度的最大值。

df = df.drop(columns='均重价格')
cuts = pd.cut(df['carat'],bins=[0,0.5,1,1.5,2,np.inf]) #可选label添加自定义标签
df['cuts'] = cuts
df.head()
def f(nums):
    if not nums:        
        return 0
    res = 1                            
    cur_len = 1                        
    for i in range(1, len(nums)):      
        if nums[i-1] < nums[i]:        
            cur_len += 1                
            res = max(cur_len, res)     
        else:                       
            cur_len = 1                 
    return res
for name,group in df.groupby('cuts'):
    group = group.sort_values(by='depth')
    s = group['price']
    print(name,f(s.tolist()))

(d) 请按颜色分组，分别计算价格关于克拉数的回归系数。（单变量的简单线性回归，并只使用Pandas和Numpy完成）

for name,group in df[['carat','price','color']].groupby('color'):
    L1 = np.array([np.ones(group.shape[0]),group['carat']]).reshape(2,group.shape[0])
    L2 = group['price']
    result = (np.linalg.inv(L1.dot(L1.T)).dot(L1)).dot(L2).reshape(2,1)
    print('当颜色为%s时，截距项为：%f，回归系数为：%f'%(name,result[0],result[1]))