Scala编程基础（十）-- 编程实战

目录

1.课程目标

1.1 目标：使用Akka实现一个简易版的spark通信框架

2.项目概述

2.1 需求

2.2 Akka简介

---

1.课程目标

1.1 目标：使用Akka实现一个简易版的spark通信框架

 

 

2.项目概述

2.1 需求

Hivesql----------> select count(*) from user----->整个表只有1条数据

整个任务前期都是在任务的准备：划分多少个map和reduceTask

Map 0%     reduce 0%

Map 10%    reduce 0%

Map 20%    reduce 0%

目前大多数的分布式架构底层通信都是通过RPC实现的，RPC框架非常多，比如前我们学过的Hadoop项目的RPC通信框架，但是Hadoop在设计之初就是为了运行长达数小时的批量而设计的，在某些极端的情况下，任务提交的延迟很高，所以Hadoop的RPC显得有些笨重。

Spark 的RPC是通过Akka类库实现的，Akka用Scala语言开发，基于Actor并发模型实现，Akka具有高可靠、高性能、可扩展等特点，使用Akka可以轻松实现分布式RPC功能。

2.2 Akka简介

Akka基于Actor模型，提供了一个用于构建可扩展的（Scalable）、弹性的（Resilient）、快速响应的（Responsive）应用程序的平台。

Actor模型：在计算机科学领域，Actor模型是一个并行计算（Concurrent Computation）模型，它把actor作为并行计算的基本元素来对待：为响应一个接收到的消息，一个actor能够自己做出一些决策，如创建更多的actor，或发送更多的消息，或者确定如何去响应接收到的下一个消息。

参考 https://www.iteblog.com/archives/1154.html

Actor是Akka中最核心的概念，它是一个封装了状态和行为的对象，Actor之间可以通过交换消息的方式进行通信，每个Actor都有自己的收件箱（Mailbox）。通过Actor能够简化锁及线程管理，可以非常容易地开发出正确地并发程序和并行系统，Actor具有如下特性：

（1）提供了一种高级抽象，能够简化在并发（Concurrency）/并行（Parallelism）应用场景下的编程开发

（2）提供了异步非阻塞的、高性能的事件驱动编程模型

（3）超级轻量级事件处理（每GB堆内存几百万Actor）