机器学习-推荐系统

一、问题引出

案例：电影评分

nu表示用户的数量、nm表示电影的数量。
r(i,j)等于1时表示用户j给电影i进行了评价。
y(i,j)表示当评价后会得到的具体的评价星值。

推荐系统就是在给出了r(i,j)和y(i,j)的值后，会去查找那些没有被评级的电影，并试图预测这些电影的评价星级。

二、基于内容的推荐算法

提取出每部影片的特征（X）（如爱情成分、动作成分有多少），根据每个用户已有的电影评价（y）学习参数向量（θ），每一个用户对应一个线性回归的样本，进行回归预测。即有X去学习θ。

问题的正式定义：

优化目标：
针对用户j、针对所有用户：（省去了1/m）

总结：总优化目标和梯度下降

对于上面的案例来说，我们的特征都是提前告诉我们每一部电影爱情、动作成分各有多少。但是，现实当中，我们很难去花费时间、金钱，让每个人都实际的看完每一部电影后，告诉我们各个特征的成分。而且通常我们还要知道除了这两个特征之外的其他特征，那么我们该如何得到这些特征呢？

三、引出协同过滤算法

了解用户的偏好（θ），去学习电影特征（X）。即有θ，去学习X。


重复学习θ和x并进行更新，算法将会收敛到一组合理的电影特征以及一组合理的对不同用户的参数估计，这就是基本的协同过滤算法。

四、协同过滤算法

将两个优化目标综合，定义新的优化目标函数J（可以将θ和x同时计算出来，且删掉x⁰和θ⁰）：

总结协同过滤算法：

1. 首先会把θ和x初始化为小的随机值；
2. 接下来用梯度下降或其他高级优化算法把代价函数最小化；
3. 如果用户还没有对电影进行评分，如果用户具有一些参数θ，电影带有已知的特征x，就可以预测出该用户的评分。

五、矢量化：低秩矩阵分解

协同过滤算法结合向量化，也称低秩矩阵分解。

将评分变为矩阵Y形式：

可以用Xθ^T计算Y：

通过这个矩阵可以得知用户对每部电影的评分，从而推荐评分较高的电影。

如何找到相似的电影？
将两个电影的特征向量进行比较。

六、均值归一化

新用户未对任何电影进行评分，所以学习到的偏好参数也都是0，由此预测的电影评分也都为0，无法进行有意义的电影推荐：

解决办法：均值归一化

1. 由矩阵Y计算出每一行的均值μ
2. Y-μ得到的矩阵用来作为新的Y（数据集），用来学习参数θ和特征X
3. 用户预测评分时：(θ⁽ⁱ⁾)^T(x⁽ⁱ⁾)+μi

此时新用户的θ仍为零向量但得到的预测结果不是无意义的0。

七、编程作业