推荐系统相关embedding：SVD、SVD++

继续讲embedding相关的一些东西，之前在公众号的地址：推荐系统相关embedding：SVD、SVD++

欢迎关注我的公众号，微信搜 algorithm_Tian 或者扫下面的二维码~

现在保持每周更新的频率，内容都是机器学习相关内容和读一些论文的笔记，欢迎一起讨论学习~

---

本篇主要想介绍一下基于推荐系统的embedding。为什么推荐系统也可以和embedding相关呢？这里面就涉及到了推荐系统中非常基础且应用非常广泛的SVD相关方法。为了让读者能够理解这其中的关系，我们从协同过滤概念讲起。

于是本篇主要从三个方面来讲：

1、协同过滤基础

1.1 user-based

1.2 item-based

2、特征值特征向量以及奇异值奇异向量

2.1 特征分解

2.2 奇异分解

3.基于SVD的方法及其扩展

3.1 basic SVD

3.2 RSVD

3.3 SVD++

---

1、协同过滤基础

协同过滤算法是推荐算法的一个大分支，基本思想是给用户推荐与用户喜欢的物品相似的物品，或者推荐与用户相似用户喜欢的物品。

CF方法主要可以分为两类：基于邻域和基于隐语义。

协同过滤的主要流程如图：

---

1.1 user-based

基于用户对物品的偏好找到相邻邻居用户，然后将邻居用户喜欢的推荐给当前用户。

---

1.2 item-based

基于用户对物品的偏好找到相似的物品，然后根据用户的历史偏好，推荐相似的物品给他

---

2、特征值特征向量以及奇异值奇异向量

本篇最重要的部分就是SVD了对不对~但是，别着急，要讲协同过滤里基于SVD的方法，那么就要先了解特征分解和奇异值分解。所以插播一下很基础的特征分解和奇异值分解的概念。还记得这些内容的同学可以跳过不看~

---

2.1 特征分解