【AndrewNg机器学习】推荐系统(Recommender Systems)

1 什么是推荐系统

推荐系统可以依靠你过去浏览的信息或者评价的电影来推荐新的信息。因此这会给互联网内容企业带来很大一部分收入，对企业有实质性的影响。
另外，对于机器学习算法来说，数据特征有很大的影响，不同的特征会影响算法的准确性和性能。对于特征的获取，我们可以手动设计数据特征，也可以设计一个算法来学习使用的特征。推荐系统就是后者的一个例子。
假如我们有五部电影和四个用户，每个用户对电影均有0-5的评分，如下图：

这里定义几个变量：

• $n_u$：用户的数量，=4
• $n_m$：电影的数量，=5
• $r(i,j)$：用户j是否给电影i评分，若已评分，则$r(i,j)=1$
• $y^{(i,j)}$：用户j给电影i的评分
• $m_j$：用户j评过分的电影的总数

2 基于内容的推荐系统

在基于内容的推荐系统中，系统所推荐的东西有一些代表特征。在上面所举的例子中，每部电影都有两个特征：$x_1$代表电影的浪漫程度和$x_2$代表电影的动作程度。

基于电影的特征$[x_1，x_2]$来构建推荐系统的算法，针对每一个用户都训练一个线性回归模型。其中，定义${\theta }^{(j)}$为用户j的参数向量，$x^{(i)}$为电影i的特征向量，则预测评分为$({\theta }^{(j)}{)}^T{x}^{(i)}$。其中$x^{(i)}$的长度为3，其中偏置项为1不变。假设想预测用户1对电影3的评价，已知电影3的特征$x^{(3)}$，假如我们得到用户1的参数向量，就可以得到该用户对电影的评价：$$x^{(3)}=\left[\begin{array}{c}1\\ 0.99\\ 0\end{array}\right]{\theta }^{(1)}=\left[\begin{array}{c}0\\ 5\\ 0\end{array}\right]({\theta }^{(j)}{)}^T{x}^{(i)}=5\times 0.99=4.95$$
那么如何求得用户的参数向量？$y^{(i,j)}$是用户j给电影i的真实评分，因此便可以使用线性回归来获得最优的用户参数，将预测误差的平方和作为代价函数为：$$J({\theta }^{(j)})=\frac{1}{2}\sum _{i:r(i,j)=1}{\left({\left({\theta }^{(j)}\right)}^T{x}^i-y^{(i,j)}\right)}^2+\frac{\lambda }{2}{\left({\theta }_k^{(j)}\right)}^2\underset{{\theta }^{(j)}}{\min }J({\theta }^{(j)})$$
其中$i:r(i,j)=1$表示我们仅计算用户评价过的电影的分数，我们要做的就是尽量减少代价函数$J({\theta }^{(j)})$的值。上式只是针对用户j的线性回归，整个系统包含了$n_u$个用户，便得到以下式子：$$\underset{{\theta }^{(1)}，{\theta }^{(2)}，\dots ，{\theta }^{(n_u)}}{\min }\frac{1}{2}\sum _{j=1}^{n_u}\sum _{i:r(i,j)=1}{\left({\left({\theta }^{(j)}\right)}^T{x}^{(i)}-y^{(i,j)}\right)}^2+\frac{\lambda }{2}\sum _{j=1}^{n_u}\sum _{k=1}^n{\left({\theta }_k^{(j)}\right)}^2$$
使用梯度下降来获得最优解，其更新公式为：$${\theta }_k^{(j)}={\theta }_k^{(j)}-\alpha \sum _{i:r(i,j)=1}(({\theta }^{(j)}{)}^T{x}^{(i)}-y^{(i,j)})x_k^{(i)}(k=0)$$$${\theta }_k^{(j)}={\theta }_k^{(j)}-\alpha (\sum _{i:r(i,j)=1}(({\theta }^{(j)}{)}^T{x}^{(i)}-y^{(i,j)})x_k^{(i)}+\lambda {\theta }_k^{(j)})(k̸=0)$$

3 协同过滤

在基于内容的推荐系统中，我们已知电影特征来求得用户的参数特征，同样的如果我们知道用户的参数特征，也可以通过上面的方法来求得电影特征：
$$\underset{x^{(1)}，x^{(2)}，\dots ，x^{(n_m)}}{\min }\frac{1}{2}\sum _{i=1}^{n_m}\sum _{j:r(i,j)=1}{\left({\left({\theta }^{(j)}\right)}^T{x}^{(i)}-y^{(i,j)}\right)}^2+\frac{\lambda }{2}\sum _{i=1}^{n_m}\sum _{k=1}^n{\left(x_k^{(i)}\right)}^2$$
那么，根据电影特征和用户参数，这两者可以互相进行求出。协同过滤的基本思想就是是根据已知的某一参数A，来求得另一参数B，然后根据B再求A。通过这样的迭代过程，会逐渐得到更好的$\theta$和$x$，即算法自行学习到了一组合理的电影特征和用户参数。
但是上述的方法需要不停的重复计算$\theta$和$x$，我们可以重新定义一个可以同时优化$\theta$和$x$的代价函数J来提高算法效率：
$$J(x^{(1)},\dots ,x^{(n_m)},{\theta }^{(1)},\dots ,{\theta }^{(n_u)})=\frac{1}{2}\sum _{(i,j):r(i,j)=1}{\left({\left({\theta }^{(j)}\right)}^T{x}^{(i)}-y^{(i,j)}\right)}^2+\frac{\lambda }{2}\sum _{i=1}^{n_m}\sum _{k=1}^n{\left(x_k^{(i)}\right)}^2+\frac{\lambda }{2}\sum _{j=1}^{n_u}\sum _{k=1}^n{\left({\theta }_k^{(j)}\right)}^2$$$$\underset{x^{(1)},\dots ,x^{(n_m)},{\theta }^{(1)},\dots ,{\theta }^{(n_u)}}{\min }J(x^{(1)},\dots ,x^{(n_m)},{\theta }^{(1)},\dots ,{\theta }^{(n_u)})$$
当我们既不知道用户参数也不知道电影特征时，我们就需要上面的新的代价函数来计算$\theta$和$x$的最优解，这一过程就是协同过滤算法，它的基本步骤如下：

• 首先将$\theta$和$x$初始化为一些随机小值
• 使用梯度下降最小化J，得到$\theta$和$x$的最优解
  $${\theta }_k^{(j)}={\theta }_k^{(j)}-\alpha \left(\sum _{i:r(i,j)=1}\left({\left({\theta }^{(j)}\right)}^T{x}^{(i)}-y^{(i,j)}\right)x_k^{(i)}+\lambda {\theta }_k^{(j)}\right)$$$$x_k^{(i)}=x_k^{(i)}-\alpha \left(\sum _{j:r(i,j)=1}\left({\left({\theta }^{(j)}\right)}^T{x}^{(i)}-y^{(i,j)}\right){\theta }_k^{(j)}+\lambda x_k^{(i)}\right)$$
• 训练完成后，预测$({\theta }^{(j)}{)}^T{x}^{(i)}$为用户j给电影i的评分

4 矢量化：低秩矩阵分解

本节讲的是协同过滤算法的向量化实现，我们将2图中的电影评分写入一个矩阵Y中如下;
$$Y_{(n_m,n_u)}=\left[\begin{array}{cccc}5& 5& 0& 0\\ 5& ?& ?& 0\\ ?& 4& 0& ?\\ 0& 0& 5& 4\\ 0& 0& 5& 0\end{array}\right]$$
其中矩阵中的Y(i,j)就是用户j给电影i的评分，由公式$({\theta }^{(j)}{)}^T{x}^{(i)}$，我们定义$X_{(n_m,n)}$和${\Theta }_{(n_u,n)}$如下：
$$X_{(n_m,n)}=\left[\begin{array}{c}-(x^{(1)}{)}^T-\\ -(x^{(2)}{)}^T-\\ ⋮\\ -(x^{(n_m)}{)}^T-\end{array}\right]{\Theta }_{(n_u,n)}=\left[\begin{array}{c}-({\theta }^{(1)}{)}^T-\\ -({\theta }^{(2)}{)}^T-\\ ⋮\\ -({\theta }^{(n_u)}{)}^T-\end{array}\right]$$
那么很明显就可以得到预测结果$Y_{(n_m,n_u)}=X_{(n_m,n)}\times {\Theta }_{(n_u,n)}^T$，这一过程也叫做低秩矩阵分解，向量化后，协同过滤算法变为：
$$J(X_{(n_m,n)},{\Theta }_{(n_u,n)})=\frac{1}{2}\sum _{r(i,j)=1}(X{\Theta }^T-Y{)}^2+\frac{\lambda }{2}\sum X^2+\frac{\lambda }{2}\sum {\Theta }^2$$$$\Theta =\Theta -\alpha \left((X{\Theta }^T-Y{)}^{T}X+\lambda \Theta \right)$$$$X=X-\alpha \left((X{\Theta }^T-Y)\Theta +\lambda X\right)$$
下面还有一个问题，如何利用已经知道的特征的电影找到与之相关的电影，即如何度量两部电影之间的相似性。比如电影i有一个特征向量$x^{(i)}$，另一部电影j有$x^{(j)}$，如果两者之间的距离很小，即$||x^{(i)}-x^{(j)}||$很小，那么表明这两部电影就很类似。

5 均值规范化

假如我们在数据之中加一个用户，并且该用户没有对任何电影进行评分，则

如果我们采用协同过滤算法的话，则会将下式作为代价函数来求得最优解。但由于用户并未对电影进行评分，所以第一项不影响J的大小，而后两项正则化的最小值为0，也就是最优解为$x^{(i)}=0，{\theta }^{(j)}=0$。所以使用协同过滤算法的预测结果为0，这时我们需要使用归一化法来解决这个问题。
$$J(x^{(1)},\dots ,x^{(n_m)},{\theta }^{(1)},\dots ,{\theta }^{(n_u)})=\frac{1}{2}\sum _{(i,j):r(i,j)=1}{\left({\left({\theta }^{(j)}\right)}^T{x}^{(i)}-y^{(i,j)}\right)}^2+\frac{\lambda }{2}\sum _{i=1}^{n_m}\sum _{k=1}^n{\left(x_k^{(i)}\right)}^2+\frac{\lambda }{2}\sum _{j=1}^{n_u}\sum _{k=1}^n{\left({\theta }_k^{(j)}\right)}^2$$
首先我们计算每个电影所得的分数的平均值，然后用矩阵Y减去$\mu$得到一个新的矩阵
$$Y_{(n_m,n_u)}=\left[\begin{array}{ccccc}5& 5& 0& 0& ?\\ 5& ?& ?& 0& ?\\ ?& 4& 0& ?& ?\\ 0& 0& 5& 4& ?\\ 0& 0& 5& 0& ?\end{array}\right]\mu =\left[\begin{array}{c}2.5\\ 2.5\\ 2\\ 2.25\\ 1.25\end{array}\right]Y_{(n_m,n_u)}—\mu =\left[\begin{array}{ccccc}2.5& 2.5& -2.5& -2.5& ?\\ 2.5& ?& ?& -2.5& ?\\ ?& 2& -2& ?& ?\\ -2.25& -2.25& 2.75& 1.75& ?\\ -1.25& -1.25& 3.75& -1.25& ?\end{array}\right]$$
现在使用协同过滤算法对新的矩阵进行求最优解$x^{(i)}$和${\theta }^{(j)}$，并进行预测。我们使用$x^{(i)}({\theta }^{(j)}{)}^T＋{\mu }_i$来计算对与用户j对电影i的评价。这样对于新的用户来说，它的预测结果就是$\mu$，即新用户给每部电影的评分都是平均分。