用户数据分析案例学习笔记

第一部分：数据类型处理

import numpy as np
import pandas as pd
from pandas import DataFrame,Series
import matplotlib.pyplot as plt

'''
user_id:用户id
order_dt:购买日期
order_product：购买产品数量
order_amount：购买产品金额
'''

df = pd.read_csv('./data/CDNOW_master.txt',header=None,sep='\s+',names=['user_id','order_dt','order_product','order_amount'])
df

# 将order_dt转换成时间类型
df['order_dt'] = pd.to_datetime(df['order_dt'],format='%Y%m%d')
df.info()

# 查看数据的统计描述(事件类型不参与统计)
df.describe()

# 基于order_dt取出其中的月份
df['order_dt'].astype('datetime64[M]')
# 在源数据中添加一列表示月份
df['month'] = df['order_dt'].astype('datetime64[M]')
df.head()

第二部分：按月数据分析

# 用户每月花费总金额
df.groupby(by='month')['order_amount'].sum()

# 绘图
df.groupby(by='month')['order_amount'].sum().plot()

# 所有用户每月产品购买量
df.groupby(by='month')['order_product'].sum()

# 绘图
df.groupby(by='month')['order_product'].sum().plot()

# 所有用户每月消费总次数（原始数据中一行表示一次消费）
df.groupby(by='month')['user_id'].count()

# 统计每月的消费人数（可能同一天一个用户会消费多次）nunique()表示去重后的个数
df.groupby(by='month')['user_id'].nunique()

第三部分：用户个体消费数据分析

# 用户消费总金额和消费总次数的统计描述
# 每一个用户消费的总金额
df.groupby(by='user_id')['order_amount'].sum() 

# 每一个用户消费的总次数
df.groupby(by='user_id').count()['order_dt']

# 用户消费金额和消费产品数量的散点图
user_amount_sum = df.groupby(by='user_id')['order_amount'].sum()
user_product_sum = df.groupby(by='user_id')['order_product'].sum()
plt.scatter(user_product_sum,user_amount_sum)

# 各个用户消费总金额的分布直方图（消费金额1000以内的分布）
df.groupby(by='user_id').sum().query('order_amount<=1000')['order_amount']
#绘制分布直方图
df.groupby(by='user_id').sum().query('order_amount<=1000')['order_amount'].hist()

# 各个用户消费总数量的分布直方图（消费商品数量100以内的分布）
df.groupby(by='user_id').sum().query('order_product<=100')['order_product']
#绘制分布直方图
df.groupby(by='user_id').sum().query('order_product<=100')['order_product'].hist()

第四部分：用户消费行为分析

# 用户第一次消费的月份分布，和人数统计
# 第一次消费的月份：每个用户消费月份的最小值就是用户第一次消费的月份
df.groupby(by='user_id')['month'].min()

# 第一次消费人数统计
df.groupby(by='user_id')['month'].min().value_counts()
# 绘图
df.groupby(by='user_id')['month'].min().value_counts().plot()

# 用户最后一次消费的月份分布，和人数统计
# 最后一次消费的月份：每个用户消费月份的最大值就是用户最后一次消费的月份
df.groupby(by='user_id')['month'].max()

# 最后一次消费人数统计
df.groupby(by='user_id')['month'].max().value_counts()
# 绘图
df.groupby(by='user_id')['month'].max().value_counts().plot()

# 新老客户的占比
# 消费一次为新用户，消费多次为老用户
# 根据用户消费时间判定新老客户，用户第一次消费时间 == 用户最后一次消费时间为新用户，反之为老用户
new_old_user_df = df.groupby('user_id')['order_dt'].agg(['min','max']) #agg对分组后的结果进行多种指定聚合
new_old_user_df['min'] == new_old_user_df['max'] #True为新用户False为老用户
# 统计True和False的个数
(new_old_user_df['min'] == new_old_user_df['max']).value_counts()

# 用户分层
#分析得出每个用户的总购买量和总消费金额and最后一次消费的时间列表rfm(pivot_table透视表)
rfm = df.pivot_table(index='user_id',aggfunc={'order_product':'sum','order_amount':'sum','order_dt':'max'})
rfm

# R表示客户最近一次消费的时间间隔
# 今天的时间
max_dt = df['order_dt'].max() 
# 最近一次消费的时间
df.groupby(by='user_id')['order_dt'].max()
# 客户最近一次消费的时间间隔
-(df.groupby(by='user_id')['order_dt'].max() - max_dt)
rfm['R'] = -(df.groupby(by='user_id')['order_dt'].max() - max_dt)
# R列去除days
rfm['R'] = -(df.groupby(by='user_id')['order_dt'].max() - max_dt)//np.timedelta64(1,'D')
rfm

# F表示客户购买商品的总数量，F值越大说明客户购买商品越频繁，反之则表示客户购买商品不够活跃
# M表示客户交易的金额，M大则客户价值高，反之客户价值低
# 将R,F,M作用到rfm表中
rfm.drop(labels='order_dt',axis=1,inplace=True)
rfm.columns = ['M','F','R']
rfm

def rfm_f(x):
    #储存的是三个字符串形式的0或者1
    level = x.map(lambda x : '1' if x >= 0 else '0')
    label = level.R + level.F +level.M
    d = {
        '111':'重要价值客户',
        '011':'重要保持客户',
        '101':'重要挽留客户',
        '001':'重要发展客户',
        '110':'一般价值客户',
        '010':'一般保持客户',
        '100':'一般挽留客户',
        '000':'一般发展客户'
    }
    result = d[label]
    return result
# df.apply(func):可以对df中的行或列进行某种（func）形式的运算,默认axis=0对列进行操作。
rfm['label'] = rfm[['R','F','M']].apply(lambda x : x-x.mean()).apply(rfm_f,axis=1)
rfm.head()

第五部分：用户的声明周期

# 统计每个用户每月消费次数
user_month_count_df = df.pivot_table(index='user_id',values='order_dt',aggfunc='count',columns='month').fillna(0)
user_month_count_df

# 统计每个用户每个月是否消费，消费记为1否则记为0
df_purchase = user_month_count_df.applymap(lambda x:1 if x >= 1 else 0)
df_purchase

# unreg观望用户 unactive非活跃用户 new新用户 active活跃用户 return回头客
# 将df_purchase中源数据0和1修改为unreg观望用户 unactive非活跃用户 new新用户 active活跃用户 return回头客。返回新的df_purchase_new
# 固定算法
def active_status(data):
    status = [] #某用户某月活跃度
    for i in range(18):
        #若本月没消费
        if data[i] == 0:
            if len(status) > 0:
                if status[i-1] == 'unreg':
                    status.append('unreg')
                else:
                    status.append('unactive')
            else:
                status.append('unreg')
        #若本月消费
        else:
            if len(status) == 0:
                status.append('new')
            else:
                if status[i-1] == 'unactive':
                    status.append('return')
                elif status[i-1] == 'unreg':
                    status.append('new')
                else:
                    status.append('active')
    return status
pivoted_status = df_purchase.apply(active_status,axis=1)
pivoted_status.head()

df_purchase_new = DataFrame(data=pivoted_status.values.tolist(),index=df_purchase.index,columns=df_purchase.columns)
df_purchase_new

#每月不同活跃用户的计数
purchase_status_ct = df_purchase_new.apply(lambda x : pd.value_counts(x)).fillna(0)
purchase_status_ct

#转置
purchase_status_ct.T