导入所需的包
import numpy as np
import pandas as pd
一、长宽表的变形
什么是长表？什么是宽表？这个概念是对于某一个特征而言的。例如：一个表中把性别存储在某一个列中，那么它就是关于性别的长表；如果把性别作为列名，列中的元素是某一其他的相关特征数值，那么这个表是关于性别的宽表。下面的两张表就分别是关于性别的长表和宽表：
显然这两张表从信息上是完全等价的，它们包含相同的身高统计数值，只是这些数值的呈现方式不同，而其呈现方式主要又与性别一列选择的布局模式有关，即到底是以𝑙𝑜𝑛𝑔long的状态存储还是以𝑤𝑖𝑑𝑒wide的状态存储。因此，pandas针对此类长宽表的变形操作设计了一些有关的变形函数。
1. pivot
pivot是一种典型的长表变宽表的函数，首先来看一个例子：下表存储了张三和李四的语文和数学分数，现在想要把语文和数学分数作为列来展示。
对于一个基本的长变宽的操作而言，最重要的有三个要素，分别是变形后的行索引、需要转到列索引的列，以及这些列和行索引对应的数值，它们分别对应了pivot方法中的index, columns, values参数。新生成表的列索引是columns对应列的unique值，而新表的行索引是index对应列的unique值，而values对应了想要展示的数值列。
通过颜色的标记，更容易地能够理解其变形的过程：
利用pivot进行变形操作需要满足唯一性的要求，即由于在新表中的行列索引对应了唯一的value，因此原表中的index和columns对应两个列的行组合必须唯一。例如，现在把原表中第二行张三的数学改为语文就会报错，这是由于Name与Subject的组合中两次出现("San Zhang", "Chinese")，从而最后不能够确定到底变形后应该是填写80分还是75分。
pandas从1.1.0开始，pivot相关的三个参数允许被设置为列表，这也意味着会返回多级索引。这里构造一个相应的例子来说明如何使用：下表中六列分别为班级、姓名、测试类型（期中考试和期末考试）、科目、成绩、排名。
现在想要把测试类型和科目联合组成的四个类别（期中语文、期末语文、期中数学、期末数学）转到列索引，并且同时统计成绩和排名：
根据唯一性原则，新表的行索引等价于对index中的多列使用drop_duplicates，而列索引的长度为values中的元素个数乘以columns的唯一组合数量（与index类似） 。从下面的示意图中能够比较容易地理解相应的操作：
2. pivot_table
pivot的使用依赖于唯一性条件，那如果不满足唯一性条件，那么必须通过聚合操作使得相同行列组合对应的多个值变为一个值。例如，张三和李四都参加了两次语文考试和数学考试，按照学院规定，最后的成绩是两次考试分数的平均值，此时就无法通过pivot函数来完成。
pandas中提供了pivot_table来实现，其中的aggfunc参数就是使用的聚合函数。上述场景可以如下写出：
这里传入aggfunc包含了上一章中介绍的所有合法聚合字符串，此外还可以传入以序列为输入标量为输出的聚合函数来实现自定义操作，上述功能可以等价写出：
传入的序列是每一组的Series(name属性是value传入的列名)
此外，pivot_table具有边际汇总的功能，可以通过设置margins=True来实现，其中边际的聚合方式与aggfunc中给出的聚合方法一致。下面就分别统计了语文均分和数学均分、张三均分和李四均分，以及总体所有分数的均分：
【练一练1】
在上面的边际汇总例子中，行或列的汇总为新表中行元素或者列元素的平均值，而总体的汇总为新表中四个元素的平均值。这种关系一定成立吗？若不成立，请给出一个例子来说明。
【解答】
不成立，而是与 aggfunc 的规则相同。对原表的边际情况用aggfunc。
【END】
3. melt
长宽表只是数据呈现方式的差异，但其包含的信息量是等价的，前面提到了利用pivot把长表转为宽表，那么就可以通过相应的逆操作把宽表转为长表，melt函数就起到了这样的作用。在下面的例子中，Subject以列索引的形式存储，现在想要将其压缩到一个列中。
melt的主要参数和压缩的过程如下图所示：
前面提到了melt和pivot是一组互逆过程，那么就一定可以通过pivot操作把df_melted转回df的形式：
4. wide_to_long
melt方法中，在列索引中被压缩的一组值对应的列元素只能代表同一层次的含义，即values_name。现在如果列中包含了交叉类别，比如期中期末的类别和语文数学的类别，那么想要把values_name对应的Grade扩充为两列分别对应语文分数和数学分数，只把期中期末的信息压缩，这种需求下就要使用wide_to_long函数来完成。
pd.wide_to_long(df,stubnames(提取以指定字符串开头的列),i（用作索引的列）,j（提取开头后剩余的部分会成一列，在此指定列名）,sep（分隔符）,suffix（捕获正则表达式匹配的后缀））
具体的变换过程由下图进行展示，属相同概念的元素使用了一致的颜色标出：
下面给出一个比较复杂的案例，把之前在pivot一节中多列操作的结果（产生了多级索引），利用wide_to_long函数，将其转为原来的形态。其中，使用了第八章的str.split函数，目前暂时只需将其理解为对序列按照某个分隔符进行拆分即可。
res = pivot_multi.copy()
res.columns = res.columns.map(lambda x:'_'.join(x))
res = res.reset_index()
res = pd.wide_to_long(res, stubnames=['Grade', 'rank'],
i = ['Class', 'Name'],
j = 'Subject_Examination',
sep = '_',
suffix = '.+')
res = res.reset_index()
res[['Subject', 'Examination']] = res['Subject_Examination'].str.split('_', expand=True)
res = res[['Class', 'Name', 'Examination', 'Subject', 'Grade', 'rank']].sort_values('Subject')
res = res.reset_index(drop=True)
res
二、索引的变形
1. stack与unstack
在第二章中提到了利用swaplevel或者reorder_levels进行索引内部的层交换，下面就要讨论行列索引之间行列索引之间的交换，由于这种交换带来了DataFrame维度上的变化，因此属于变形操作。在第一节中提到的4种变形函数与其不同之处在于，它们都属于某一列或几列元素元素和列索引列索引之间的转换，而不是索引之间的转换。
unstack函数的作用是把行索引转为列索引，例如下面这个简单的例子：
unstack的主要参数是移动的层号，默认转化最内层，移动到列索引的最内层，同时支持同时转化多个层：
类似于pivot中的唯一性要求，在unstack中必须保证被转为列索引的行索引层和被保留的行索引层构成的组合是唯一的，例如把前两个列索引改成相同的破坏唯一性，那么就会报错：
与unstack相反，stack的作用就是把列索引的层压入行索引，其用法完全类似。
2. 聚合与变形的关系
在上面介绍的所有函数中，除了带有聚合效果的pivot_table以外，所有的函数在变形前后并不会带来values个数的改变，只是这些值在呈现的形式上发生了变化。在上一章讨论的分组聚合操作，由于生成了新的行列索引，因此必然也属于某种特殊的变形操作，但由于聚合之后把原来的多个值变为了一个值，因此values的个数产生了变化，这也是分组聚合与变形函数的最大区别。
三、其他变形函数
1. crosstab
crosstab并不是一个值得推荐使用的函数，因为它能实现的所有功能pivot_table都能完成，并且速度更快。在默认状态下，crosstab可以统计元素组合出现的频数，即count操作。例如统计learn_pandas数据集中学校和转系情况对应的频数：
这等价于如下crosstab的如下写法，这里的aggfunc即聚合参数：
同样，可以利用pivot_table进行等价操作，由于这里统计的是组合的频数，因此values参数无论传入哪一个列都不会影响最后的结果：
从上面可以看出这两个函数的区别在于，crosstab的对应位置传入的是具体的序列，而pivot_table传入的是被调用表对应的名字，若传入序列对应的值则会报错。
除了默认状态下的count统计，所有的聚合字符串和返回标量的自定义函数都是可用的，例如统计对应组合的身高均值：
【练一练2】
前面提到了crosstab的性能劣于pivot_table，请选用多个聚合方法进行验证。
【解答】
尝试了mean max sum这三个聚合方式。可以发现pivot_table均高于cross tab
【END】
2. explode
explode参数能够对某一列的元素进行纵向的展开，被展开的单元格必须存储list, tuple, Series, np.ndarray中的一种类型。
3. get_dummies
get_dummies是用于特征构建的重要函数之一，其作用是把类别特征转为指示变量。例如，对年级一列转为指示变量，属于某一个年级的对应列标记为1，否则为0：
对每一行操作！
四、练习
Ex1：美国非法药物数据集
现有一份关于美国非法药物的数据集，其中SubstanceName, DrugReports分别指药物名称和报告数量：
1.将数据转为如下的形式：
2.将第1问中的结果恢复为原表。
3.按State分别统计每年的报告数量总和，其中State, YYYY分别为列索引和行索引，要求分别使用pivot_table函数与groupby+unstack两种不同的策略实现，并体会它们之间的联系。
# 1.1
df_demo=df.pivot_table(index=['State','COUNTY','SubstanceName'],columns='YYYY',values='DrugReports').reset_index()
df_demo=df_demo.rename_axis(columns={'YYYY':''})
df_demo
# 1.2
df1=df_demo.melt(id_vars=['State','COUNTY','SubstanceName'],value_vars=[2010,2011,2012,2013,2014,2015,2016,2017],var_name='YYYY',value_name='DrugReports')
df.dropna().equals(df)
# 1.3 pivot_table方法
df13_1=df.pivot_table(index='State',columns='YYYY',values='DrugReports',aggfunc='sum')
# 1.3 groupby+unstack方法
df13_2=pd.DataFrame(df.groupby(['State','YYYY'])['DrugReports'].sum()).unstack(1).droplevel(0,axis=1)
df13_1.equals(df13_2)
Ex2：特殊的wide_to_long方法
从功能上看，melt方法应当属于wide_to_long的一种特殊情况，即stubnames只有一类。请使用wide_to_long生成melt一节中的df_melted。（提示：对列名增加适当的前缀）
# 2
pd.wide_to_long(df1,stubnames='Grade',i=['Class','Name'],j='Subject',sep='_',suffix='.+').reset_index()
五、总结
1.长变宽：pivot(唯一性，可多对多)和pivot_table（aggfunc参数和margins参数）类比excel中数据透视表
2.宽变长：
melt(id_vars是转换后的索引，values_vars从列压缩到行，var_name是转换前的列索引，value_name是转换后的数据变量的列索引)
wide_to_long(stubnames(提取以指定字符串开头的列),i（用作索引的列）,j（提取开头后剩余的部分会成一列，在此指定列名）,sep（分隔符）,suffix（捕获正则表达式匹配的后缀）)
2.索引的变形：stack(列索引转行索引)与unstack(行索引转列索引)
3.其他变形函数：
crosstab(和pivot_table类似，但是得传入序列，这就不拘泥于原表)
explode(参数能够对某一列的元素进行纵向的展开)
get_dummies(类别特征转为指示变量)
156
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
