尚硅谷电商推荐系统笔记

本文详细介绍了电商推荐系统各个模块的实现,包括数据导入MongoDB,统计推荐模块(热门商品、优质商品推荐),基于LFM的离线推荐,实时推荐模块,以及基于内容和ItemCF的离线推荐。此外,还涵盖了系统的启动方法,涉及Spark、ALS模型、KafkaStream和TF-IDF等技术。
摘要由CSDN通过智能技术生成

项目提取码:1234

1、数据导入mongodb

DataLoader

product和rating表,通过spark加载进来数据(RDD格式)转化为DataFrame格式存入MongoDB中

2、统计推荐模块

StatisticsRecommender

1、加载Rating表,通过spark sql 做不同的统计
2、历史热门商品,按照评分个数统计,存储到RateMoreProducts表中
3、近期热门商品,通过商品时间戳排序,对最近2个月的商品进行评价数统计,存储到RateMoreRecentlyProducts表中
4、优质商品推荐,计算所有商品的平均评分,进行排序,存储到AverageProducts表中

3、基于LFM(隐语义模型)的离线推荐模块

OfflineRecommender

LFM隐语义模型

1、加载Rating表[userId,productId,score]
2、取出用户数据和商品数据,userId,productId
3、通过ALS训练
4、获得预测评分矩阵,得到用户的推荐列表
5、从预测评分矩阵中提取得到用户推荐列表
6、利用商品的特征向量,计算商品的相似度列表
7、两两配对商品,计算余弦相似度
8、存储两两商品的余弦相似度,存储为ProductRec表

ALS模型评估与参数选择

  • 这里就是写了一个模型主体部分,简简单的模型概念
  • 0
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
如今大数据已经成了各大互联网公司工作的重点方向,而推荐系统可以说就是大数据最好的落地应用之一,已经为企业带来了可观的用户流量和销售额。特别是对于电商,好的推荐系统可以大大提升电商企业的销售业绩。国内外的知名电商,如亚马逊、淘宝、京东等公司,都在推荐系统领域投入了大量研发力量,也在大量招收相关的专业人才。打造的电商推荐系统项目,就是以经过修改的中文亚马逊电商数据集作为依托,并以某电商网站真实的业务架构作为基础来实现的,其中包含了离线推荐与实时推荐体系,综合利用了协同过滤算法以及基于内容的推荐方法来提供混合推荐。具体实现的模块主要有:基于统计的离线推荐、基于隐语义模型的离线推荐、基于自定义模型的实时推荐,以及基于内容的、和基于Item-CF的离线相似推荐。整个项目具有很强的实操性和综合性,对已有的大数据和机器学习相关知识是一个系统性的梳理和整合,通过学习,同学们可以深入了解推荐系统电商企业中的实际应用,可以为有志于增加大数据项目经验的开发人员、特别是对电商业务领域感兴趣的求职人员,提供更好的学习平台。适合人群:1.有一定的 Java、Scala 基础,希望了解大数据应用方向的编程人员2.有 Java、Scala 开发经验,了解大数据相关知识,希望增加项目经验的开发人员3.有电商领域开发经验,希望拓展电商业务场景、丰富经验的开发人员4.有较好的数学基础,希望学br习机器学习和推荐系统相关算法的求职人员

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值