1,问题形式化
假使我们是一个电影供应商,我们有 5 部电影和 4 个用户,我们要求用户为电影打分。
前三部电影是爱情片,后两部则是动作片,我们可以看出 Alice 和 Bob 似乎更倾向与爱 情片,而 Carol 和 Dave 似乎更倾向与动作片。并且没有一个用户给所有的电影都打过分。 我们希望构建一个算法来预测他们每个人可能会给他们没看过的电影打多少分,并以此作为 推荐的依据。
下面引入一些标记:
:代表用户的数量
:代表电影的数量
:如果用户j给电影i评过分则r(i,j) = 1
:代表用户j给电影i的评分。
:代表用户j评过分的电影总数
2,基于内容的推荐系统
在我们的例子中,我们可以假设每部电影都有两个特征,如代表电影的浪漫程度,代表电影的动作程度。
则每部电影都有一个特征向量,如是第一部电影的特征向量为[0.9, 0]。
下面我们要基于这些特征来构建一个推荐系统算法。 假设我们采用线性回归模型,我 们可以针对每一个用户都训练一个线性回归模型,如是第一个用户的模型的参数。 于 是,我们有:
:用户j的参数向量
:电影的特征向量
对于用户 ? 和电影 ?,我们预测评分为:
代价函数
针对用户 ?,该线性回归模型的代价为预测误差的平方和,加上正则化项:
其中 ?: ?(?,?)表示我们只计算那些用户 ? 评过分的电影。在一般的线性回归模型中,误 差项和正则项应该都是乘以1/2?,在这里我们将?去掉。并且我们不对方差项?0进行正则 化处理。
上面的代价函数只是针对一个用户的,为了学习所有用户,我们将所有用户的代价函数 求和:
3,协同过滤
在之前的基于内容的推荐系统中,对于每一部电影,我们都掌握了可用的特征,使用这 些特征训练出了每一个用户的参数。相反地,如果我们拥有用户的参数,我们可以学习得出 电影的特征。
但是如果我们既没有用户的参数,也没有电影的特征,这两种方法都不可行了。协同过 滤算法可以同时学习这两者。
我们的优化目标便改为同时针对?和?进行。
注:在协同过滤从算法中,我们通常不使用方差项,如果需要的话,算法会自动学得。
协同过滤算法使用步骤如下:
1. 初始 为一些随机小值
2. 使用梯度下降算法最小化代价函数
3. 在训练完算法后,我们预测为用户 ? 给电影 ? 的评分
通过这个学习过程获得的特征矩阵包含了有关电影的重要数据,这些数据不总是人能读懂的,但是我们可以用这些数据作为给用户推荐电影的依据。 例如,如果一位用户正在观看电影,我们可以寻找另一部电影,依据两部电影 的特征向量之间的距离∥∥ − ∥∥的大小。
4,协同过滤算法
协同过滤优化目标:
5,向量化:低秩矩阵分解
我们谈到了协同过滤算法,接下来我将会讲到有关该算法的向量化实现,以及说说有关该算法你可以做的其他事情。
举例子:
1.当给出一件产品时,你能否找到与之相关的其它产品。
2.一位用户最近看上一件产品,有没有其它相关的产品,你可以推荐给他。
我们有五部电影,以及四位用户,那么 这个矩阵 ? 就是一个 5 行 4 列的矩阵,它将 这些电影的用户评分数据都存在矩阵里:
6,推行工作上的细节:均值归一化
第五个用户没有给任何电影评分,所以即使你用新的道德矩阵学习参数和特征,那么用户5的参数也只会是零矩阵,所以他的推荐就只会是电影的平均分。