Hadoop社交好友推荐(二度好友)

Hadoop社交好友推荐(二度好友)

情景简述

​ 如果A和B具有好友关系,B和C具有好友关系,而A和C却不是好友关系,那么我们称A和C这样的关系为:二度好友关系。
​ 在生活中,二度好友推荐的运用非常广泛,一般在主流的社交平台上关于好友推荐上就有这方面的应用,当然,在当下海量的数据中,利用MapReduce编程模型来实现不失为一种较好的方式,具体的过程如下图。

hadoop二度好友要求图

​ 把上面的图抽象一下可以表示为下图:

A
B
C
D
H
E
F
I
K

也可以用文字抽象表示为:

​ a b c

​ b a d

​ c a e f

​ d b h

​ e c i j

​ f c k

或者表示为:

  1. a

    • b
    • c
  2. b

    • a
    • d
  3. c

    • a
    • e
    • f
  4. d

    • b
    • h
  5. f

    • c

    • k

解决方案

  1. 基于笛卡尔积思想

    好友关系文字表示可以使用笛卡尔积思想去分析。难度比树结构要简单得多,只要基于编程去实现即可。下面将贴出分析思路图:

    hadoop分析图

    Mapper、Reducer代码示例:

    public static class Map extends Mapper<LongWritable, Text,Text,Text>{
         
            
  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
以下是一个基于Hadoop MapReduce的社交好友推荐代码示例: mapper.py: ```python #!/usr/bin/env python import sys # 找到所有的好友对 def find_friends_pairs(line): user_friends = line.split('\t') if len(user_friends) > 1: user = user_friends[0] friends = user_friends[1].split(',') for friend in friends: # 发射以字母序排序的好友对为键,好友对的共同好友列表为值 emit((user, friend if user < friend else friend, (friends, None))) # 找到所有的好友对的共同好友 for friend_pair in combinations(friends, 2): friend1 = friend_pair[0] friend2 = friend_pair[1] # 发射以字母序排序的好友对为键,好友对的共同好友列表为值 emit((friend1, friend2 if friend1 < friend2 else friend2), (friends, user)) if __name__ == "__main__": for line in sys.stdin: find_friends_pairs(line.strip()) ``` reducer.py: ```python #!/usr/bin/env python import sys # 找到所有的好友对 def find_friends_pairs(line): user_friends = line.split('\t') if len(user_friends) > 1: user = user_friends[0] friends = user_friends[1].split(',') for friend in friends: # 发射以字母序排序的好友对为键,好友对的共同好友列表为值 emit((user, friend if user < friend else friend, (friends, None))) # 找到所有的好友对的共同好友 for friend_pair in combinations(friends, 2): friend1 = friend_pair[0] friend2 = friend_pair[1] # 发射以字母序排序的好友对为键,好友对的共同好友列表为值 emit((friend1, friend2 if friend1 < friend2 else friend2), (friends, user)) if __name__ == "__main__": for line in sys.stdin: find_friends_pairs(line.strip()) ``` 使用命令行运行: ```bash cat friends.txt | python mapper.py | sort | python reducer.py ``` 其中,friends.txt 是包含用户好友关系的文件,每行格式为: ``` user1\tfriend1,friend2,friend3... ``` 输出结果为: ``` friend1\tfriend2\t共同好友列表 friend1\tfriend3\t共同好友列表 ... ``` 共同好友列表为一个列表,包含了两个好友的所有共同好友

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值