16-5 低秩矩阵分解

1. 问题提出

这一节将讨论协同过滤算法的向量化实现，并且讨论这个算法可以实现的一些功能，例如，给定一个产品可以找到与之相关的其他商品，一个用户最近一直在寻找一个商品有没有相关的其他商品。即我们希望通过另一种方法，写出协同过滤算法

Movie	Alice (1)	Bob (2)	Carol (3)	Dave (4)
Love at last	5	5	0	0
Romance forever	5	?	?	0
Cute Puppies of love	?	4	0	?
Nonstop car chases	0	0	5	4
Swords vs. karate	0	0	5	?

2. 协同过滤

以上表格可以表示为 $Y$ ，5行4列的矩阵， $n_m=5,n_u=4$
$$Y=\left[\begin{array}{llll}5& 5& 0& 0\\ 5& ?& ?& 0\\ ?& 4& 0& ?\\ 0& 0& 5& 4\\ 0& 0& 5& 0\end{array}\right]$$
$Y$ 还有另一种表达方式，为预测的评分：
$$\left[\begin{array}{cccc}{\left({\theta }^{(1)}\right)}^T\left(x^{(1)}\right)& {\left({\theta }^{(2)}\right)}^T\left(x^{(1)}\right)& \cdots & {\left({\theta }^{\left(n_u\right)}\right)}^T\left(x^{(1)}\right)\\ {\left({\theta }^{(1)}\right)}^T\left(x^{(2)}\right)& {\left({\theta }^{(2)}\right)}^T\left(x^{(2)}\right)& \cdots & {\left({\theta }^{\left(n_u\right)}\right)}^T\left(x^{(2)}\right)\\ ⋮& ⋮& ⋮& ⋮\\ {\left({\theta }^{(1)}\right)}^T\left(x^{\left(n_m\right)}\right)& {\left({\theta }^{(2)}\right)}^T\left(x^{\left(n_m\right)}\right)& \cdots & {\left({\theta }^{\left(n_u\right)}\right)}^T\left(x^{\left(n_m\right)}\right)\end{array}\right]$$

3. 低秩矩阵分解

有一个比较简单的或者向量化的方法来写出 $x$ 和 $\theta$，$X$ 表示为：
$$X=\left[\begin{array}{c}(x^{(1)}{)}^T\\ (x^{(2)}{)}^T\\ ⋮\\ (x^{(n)}{)}^T\end{array}\right]$$
$\Theta$ 表示为：
$$\Theta =\left[\begin{array}{c}({\theta }^{(1)}{)}^T\\ ({\theta }^{(2)}{)}^T\\ ⋮\\ ({\theta }^{(n)}{)}^T\end{array}\right]$$
那么 $Y$ 可以表示为：$X\cdot \Theta$

这种方式称为低秩矩阵分解。

4. 找到相关的电影

对于每一个电影 $i$ ，学习一个属性向量 $x^{(i)}\in {\mathbb{R}}^n$ .例如：
$$x_1=romance,x_2=action,x_3=comedy,x_4=\dots$$
如何找到和电影 $i$ 相关的电影 $j$ ？

如果电影 $i$ 和电影 $j$ 的属性向量之间的距离很小，那么它们两个就很相关。属性向量之间的距离可以表示为：$||x^{(i)}-x^{(j)}||$ 。

如果想要找到与电影 $i$ 最相似的前5部电影，那么就找到这5个电影 $j$ 与 $i$ 有最小的5个$||x^{(i)}-x^{(j)}||$ 值。