转载于:http://blog.csdn.net/gamer_gyt/article/details/51346159
1:协同过滤算法简介
2:协同过滤算法的核心
3:协同过滤算法的应用方式
4:基于用户的协同过滤算法实现
5:基于物品的协同过滤算法实现
一:协同过滤算法简介
关于协同过滤的一个最经典的例子就是看电影,有时候不知道哪一部电影是我们喜欢的或者评分比较高的,那么通常的做法就是问问周围的朋友,看看最近有什么好的电影推荐。在问的时候,都习惯于问跟自己口味差不 多的朋友,这就是协同过滤的核心思想。
协同过滤是在海量数据中挖掘出小部分与你品味类似的用户,在协同过滤中,这些用户成为邻居,然后根据他们喜欢的东西组织成一个排序的目录推荐给你。所以就有如下两个核心问题
(1)如何确定一个用户是否与你有相似的品味?
(2)如何将邻居们的喜好组织成一个排序目录?
协同过滤算法的出现标志着推荐系统的产生,协同过滤算法包括基于用户和基于物品的协同过滤算法。
二:协同过滤算法的核心
要实现协同过滤,需要进行如下几个步骤
1)收集用户偏好
2)找到相似的用户或者物品
3)计算并推荐
三:协同过滤算法的应用方式
1:基于用户的协同过滤算法
基于用户的协同过滤通过不同用户对物品的评分来评测用户之间的相似性,基于用户的相似性做推荐,简单的讲:给用户推荐和他兴趣相投的其他用户喜欢的物品
算法实现流程分析:
(1):计算用户的相似度
计算用户相似度的方法请参考这篇博客:点击阅读 这里我采用的是余弦相似度
下面我拿这个图举例
计算用户的相似度,例如A,B为
![](https://img-blog.csdn.net/20160530084356431?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
同理
![](https://img-blog.csdn.net/20160530084415873?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
但是这样计算的效率是低的,因为我们需要计算每一对用户之间的相似度,事实上,很多用户相互之间并没有对同样的物品产生过行为,所以很多时候当分子为0的时候没有必要再去计算分母,所以这里可以优化:即首先计算出|N(u) 并 N(v)| != 0 的用户对(u,v),然后对这种情况计算分母以得到两个用户的相似度。
针对此优化,需要2步:
(1)建立物品到用户的倒查表T,表示该物品被哪些用户产生过行为;
(2)根据倒查表T,建立用户相似度矩阵W:在T中,对于每一个物品i,设其对应的用户为j,k,在W中,更新相应的元素值,w[j][k]=w[j][k]+1,w[k][j]=w[k][j]+1,以此类推,扫描完倒查表T中的所有物品后,就可以得到最终的用户相似度矩阵W,这里的W是余弦相似度中的分子部分,然后将W除以分母可以得到最终的用户兴趣相似度。
![](https://img-blog.csdn.net/20160530084621386?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
得到用户的相似度后,便可以进行下一步了
(2):给用户推荐兴趣最相近的k个用户所喜欢的物品
公式如下:
![](https://img-blog.csdn.net/20160530085326908?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
其中,p(u,i)表示用户u对物品i的感兴趣程度,S(u,k)表示和用户u兴趣最接近的K个用户,N(i)表示对物品i有过行为的用户集合,Wuv表示用户u和用户v的兴趣相似度,Rvi表示用户v对物品i的兴趣(这里简化,所有的Rvi都等于1)。
根据UserCF算法,可以算出,用户A对物品c、e的兴趣是:
![](https://img-blog.csdn.net/20160530085400163?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
2:基于物品的协同过滤算法
基于item的协同过滤通过不同用户对不同item的评分来评测item之间的相似性,基于item的相似性做推荐,简单的讲:给用户推荐和他之前喜欢物品相似的物品
算法流程分析:
同样拿上边的图举例,在这里默认用户对物品的打分均为1
![](https://img-blog.csdn.net/20160530084221710?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
(1):构建物品的同现矩阵
![](https://img-blog.csdn.net/20160613223750987?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
在这里对矩阵做归一化处理就可以得到物品之间的余弦相似度矩阵了其中归一化处理
按照标准定义
、
这里,分母|N(i)|是喜欢物品i的用户数,而分子 N(i) N( j) 是同时喜欢物品i和物品j的用户数。因此,上述公式可以理解为喜欢物品i的用户中有多少比例的用户也喜欢物品j。
进行处理后的结果为:
![](https://img-blog.csdn.net/20160613224639631?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
当然为了出现推荐热门的商品,对上述公式的优化为:
![](https://img-blog.csdn.net/20160613224927853?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
这个公式惩罚了物品j的权重,因此减轻了热门物品会和很多物品相似的可能性(此种情况下感兴趣的自己推导)。
(2):建立用户对物品的评分矩阵(以A举例,没有评分的物品为0)
![](https://img-blog.csdn.net/20160530091158134?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
(3):矩阵计算推荐结果
![](https://img-blog.csdn.net/20160613203445520?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
这里N(u)是用户喜欢的物品的集合,S(j,K)是和物品j最相似的K个物品的集合,wji是物品j和i的相似度,rui是用户u对物品i的兴趣。(对于隐反馈数据集,如果用户u对物品i有过行为,即可令rui=1。)该公式的含义是,和用户历史上感兴趣的物品越相似的物品,越有可能在用户的推荐列表中获得比较高的排名。
推荐结果=同现矩阵 * 评分矩阵
![](https://img-blog.csdn.net/20160613225302014?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
从中去掉A已经打过分的物品,a,b,d,则可以看出,A对e的喜欢程度和c一样,和上边计算结果一致,所以就会将两者推荐给A
3:混合推荐
所谓的混合算法,主体思路还是基于用户的协同过滤,只是在计算两个用户的相似度时又嵌套了item-based CF思想。
度量用户i和用户j相似度更好的方法是:
1.用户i参与评分的项目集合为
Ii
Ii,用户j参与评分的项目集合为
Ij
Ij,找到它们的并集
Uij=Ii∪Ij
Uij=Ii∪Ij
2.在集合
Uij
Uij中用户i未评分的项目是
Ni=Uij−Ii
Ni=Uij−Ii,采用item-based CF方法重新估计用户i对
Ni
Ni中每个项目的评分。
3.这样用户i和j对
Uij
Uij的评分就都是非0值了,在此情况下计算他们的相似度。
四:基于用户的协同过滤算法实现
-
- ''
-
-
-
-
- from math import sqrt
-
- fp = open("uid_score_bid","r")
-
- users = {}
-
- for line in open("uid_score_bid"):
- lines = line.strip().split(",")
- if lines[0] not in users:
- users[lines[0]] = {}
- users[lines[0]][lines[2]]=float(lines[1])
-
-
-
-
-
-
- class recommender:
-
-
-
-
- def __init__(self, data, k=3, metric='pearson', n=12):
-
- self.k = k
- self.n = n
- self.username2id = {}
- self.userid2name = {}
- self.productid2name = {}
-
- self.metric = metric
- if self.metric == 'pearson':
- self.fn = self.pearson
- if type(data).__name__ == 'dict':
- self.data = data
-
- def convertProductID2name(self, id):
-
- if id in self.productid2name:
- return self.productid2name[id]
- else:
- return id
-
-
- def pearson(self, rating1, rating2):
- sum_xy = 0
- sum_x = 0
- sum_y = 0
- sum_x2 = 0
- sum_y2 = 0
- n = 0
- for key in rating1:
- if key in rating2:
- n += 1
- x = rating1[key]
- y = rating2[key]
- sum_xy += x * y
- sum_x += x
- sum_y += y
- sum_x2 += pow(x, 2)
- sum_y2 += pow(y, 2)
- if n == 0:
- return 0
-
-
- denominator = sqrt(sum_x2 - pow(sum_x, 2) / n) * sqrt(sum_y2 - pow(sum_y, 2) / n)
- if denominator == 0:
- return 0
- else:
- return (sum_xy - (sum_x * sum_y) / n) / denominator
-
- def computeNearestNeighbor(self, username):
- distances = []
- for instance in self.data:
- if instance != username:
- distance = self.fn(self.data[username],self.data[instance])
- distances.append((instance, distance))
-
- distances.sort(key=lambda artistTuple: artistTuple[1],reverse=True)
- return distances
-
-
- def recommend(self, user):
-
- recommendations = {}
-
- nearest = self.computeNearestNeighbor(user)
-
-
- userRatings = self.data[user]
-
- totalDistance = 0.0
-
- for i in range(self.k):
- totalDistance += nearest[i][1]
- if totalDistance==0.0:
- totalDistance=1.0
-
-
- for i in range(self.k):
-
-
- weight = nearest[i][1] / totalDistance
-
-
- name = nearest[i][0]
-
-
- neighborRatings = self.data[name]
-
- for artist in neighborRatings:
- if not artist in userRatings:
- if artist not in recommendations:
- recommendations[artist] = (neighborRatings[artist] * weight)
- else:
- recommendations[artist] = (recommendations[artist]+ neighborRatings[artist] * weight)
-
- recommendations = list(recommendations.items())
- recommendations = [(self.convertProductID2name(k), v)for (k, v) in recommendations]
-
-
- recommendations.sort(key=lambda artistTuple: artistTuple[1], reverse = True)
-
- return recommendations[:self.n],nearest
-
- def adjustrecommend(id):
- bookid_list = []
- r = recommender(users)
- k,nearuser = r.recommend("%s" % id)
- for i in range(len(k)):
- bookid_list.append(k[i][0])
- return bookid_list,nearuser[:15]
数据集的格式如下(
点击下载
):
![](https://img-blog.csdn.net/20160527022508381?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
程序调用:
- bookid_list,near_list = adjustrecommend("changanamei")
- print ("bookid_list:",bookid_list)
- print ("near_list:",near_list)
运行结果:
![](https://img-blog.csdn.net/20160527023052735?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
五:基于物品的协同过滤算法的实现
参考项亮的《推荐系统实战》结合上例中的数据进行算法实现
-
-
- ''
-
-
-
-
- import math
-
- class ItemBasedCF:
- def __init__(self,train_file):
- self.train_file = train_file
- self.readData()
- def readData(self):
-
- self.train = dict()
- for line in open(self.train_file):
-
- user,score,item = line.strip().split(",")
- self.train.setdefault(user,{})
- self.train[user][item] = int(float(score))
-
- def ItemSimilarity(self):
-
- C = dict()
- N = dict()
- for user,items in self.train.items():
- for i in items.keys():
- N.setdefault(i,0)
- N[i] += 1
- C.setdefault(i,{})
- for j in items.keys():
- if i == j : continue
- C[i].setdefault(j,0)
- C[i][j] += 1
-
- self.W = dict()
- for i,related_items in C.items():
- self.W.setdefault(i,{})
- for j,cij in related_items.items():
- self.W[i][j] = cij / (math.sqrt(N[i] * N[j]))
- return self.W
-
-
- def Recommend(self,user,K=3,N=10):
- rank = dict()
- action_item = self.train[user]
- for item,score in action_item.items():
- for j,wj in sorted(self.W[item].items(),key=lambda x:x[1],reverse=True)[0:K]:
- if j in action_item.keys():
- continue
- rank.setdefault(j,0)
- rank[j] += score * wj
- return dict(sorted(rank.items(),key=lambda x:x[1],reverse=True)[0:N])
-
-
- Item = ItemBasedCF("uid_score_bid")
- Item.ItemSimilarity()
- recommedDic = Item.Recommend("xiyuweilan")
- for k,v in recommedDic.iteritems():
- print k,"\t",v
运行结果:
1080309 8.18161438413
1119522 11.8165100292
1040104 7.92927319995
1254588 12.8331124639
1082138 7.72409411532
3131626 11.3426906217
26669243 6.96972128519
26305561 6.24816554216
26384985 6.36064881658
1085799 8.20314297616