python series去重_数据预处理之去重逆向(python)

之前因为有根据二维数据表的某一列去重后生成新数据表的需求，写了一个简单代码，具体参见数据预处理之一些需要去重的情况处理，具体效果都在那篇文章里了，如果需要逆向呢？就是将数据从合并的列变成包含重复项的列，有些像宽表变长表；比较直接的思路还是逐行遍历，遇到有合并数据的行就拆分。

下面是简要演示步骤：

1，创建一个简单的测试数据

创建一个简单的测试数据

2，进行合并去重

ndf=pd.DataFrame(columns=df.columns) #根据df的列名建一个空表ndf

uids=set(df['uid'])

for u in uids:

one=df.loc[df['uid']==u] #获取所有uid等于u的行，之后只会保存一行

#在这里写if然后只保留一行，然后concat到ndf上，实现只保留一行

olst=list(one['name']) #或者用set

zero=one.iloc[[0]] #iloc[行号]是series iloc[[行号]]是dataframe

#zero['name']=str(olst)

if len(olst)>1: #等于1的就不用改了

zero['name']=str(olst) #or =''.join(olst)

ndf=pd.concat([ndf,zero]) #把选出来的zero加到ndf里

去重后的效果

3，去重逆向

cdf=pd.DataFrame(columns=ndf.columns) #据df的列名建一个空表ndf

for i, r in ndf.iterrows():

if '[' in r['name']: #如果是需要拆分的行

nlst=r['name'].split(',') #拆分

for n in nlst:

k=n.strip("[]'").replace("'",'')

zero=ndf.loc[[i]]

zero['name']=k

cdf=pd.concat([cdf,zero])

else: #不需要拆分就直接加到后面

zero=ndf.loc[[i]]

cdf=pd.concat([cdf,zero])

cdf

逆向后效果

里面比较有意思的点是 在去重的时候用的是one.iloc[[0]]，因为iloc[行号]是series，而iloc[[行号]]是dataframe,在逆向的时候尝试用iloc会遇到索引i的bug，经过探索发现loc[[i]]可以用，于是写zero=ndf.loc[[i]]，iloc和loc配合真的很有趣。