数据读取训练和验证集的划分

本文介绍了如何将数据划分为训练集和验证集,以评估模型参数的效果。通过在训练集中抽取部分用户形成验证集,并确保验证集中用户的点击数据在训练集中存在,以避免用户冷启动问题。同时提供了获取历史点击和最后一次点击的方法。
摘要由CSDN通过智能技术生成

数据读取
训练和验证集的划分
划分训练和验证集的原因是为了在线下验证模型参数的好坏,为了完全模拟测试集,我们这里就在训练集中抽取部分用户的所有信息来作为验证集。提前做训练验证集划分的好处就是可以分解制作排序特征时的压力,一次性做整个数据集的排序特征可能时间会比较长。

1

# all_click_df指的是训练集
2

# sample_user_nums 采样作为验证集的用户数量
3

def trn_val_split(all_click_df, sample_user_nums):
4

    all_click = all_click_df
5

    all_user_ids = all_click.user_id.unique()
6

    
7

    # replace=True表示可以重复抽样,反之不可以
8

    sample_user_ids = np.random.choice(all_user_ids, size=sample_user_nums, replace=False) 
9

    
10

    click_val = all_click[all_click['user_id'].isin(sample_user_ids)]
11

    click_trn = all_click[~all_click['user_id'].isin(sample_user_ids)]
12

    
13

    # 将验证集中的最后一次点击给抽取出来作为答案
14

    click_val = click_val.sort_values(['user_id&

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值