一、Distributed Systems简介(分布式系统特征与MapReduce框架)


一、引子
1、分布式系统的潜在问题

在这里插入图片描述
在这里插入图片描述

2、课程的相关实验论文
在这里插入图片描述
3、分布式系统设计的基础系统

存储、通信、计算(计算例如Map-Reduce框架)
在这里插入图片描述

目标特征
在这里插入图片描述
实现手段

RPC,threads,concurrency,lock
在这里插入图片描述

3、性能
scalability可扩展性
(分布式系统–web服务器和DB服务器集群)
在这里插入图片描述
4、容错性
fault tolerance
目标特征
在这里插入图片描述
实现手段
NV storage ,non-volitle storage,非易失性存储(例如RAM)
在这里插入图片描述

5、一致性问题
在这里插入图片描述

简单版本的存储系统两种基础的操作,put(k,v)get(k)在这里插入图片描述

client1往server1中改了值,而正要往server2中同步时候,就断电了,早餐了脏读
在这里插入图片描述
强一致性(要实现代价很大)和弱一致性
在这里插入图片描述
在这里插入图片描述

二、Map-Reduce框架

google开发,最早论文追溯2004年
下链接是知乎一篇介绍
https://zhuanlan.zhihu.com/p/62135686
以一个简单统计输入的字符个数为例。
INPUT 1 输入的是 a,1 、b,1
INPUT 2 输入的是 b,1
INPUT 3 输入的是 a,1 、 c,1

最后会统计到a,2 b,2 c,1
整个计算称之为任务Job,组成其中的任何一个Map、Reduce称为Task,

在这里插入图片描述
从一个Map函数来具体实现Map的统计单个的个数功能
在这里插入图片描述
从一个Reduce函数统计整体的个数功能
在这里插入图片描述

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值