MapReduce工作原理图解

Map在读取数据时，先将数据拆分成若干数据，并读取到Map方法中被处理。数据在输出的时候，被分成若干分区并写入内存缓存（buffer）中，内存缓存被数据填充到一定程度会溢出到磁盘并排序，当Map执行完后会将一个机器上输出的临时文件进行归并存入到HDFS中。
当Reduce启动时，会启动一个线程去读取Map输出的数据，并写入到启动Reduce机器的内存中，在数据溢出到磁盘时会对数据进行再次排序。当读取数据完成后会将临时文件进行合并，作为Reduce函数的数据源 。

HDFS的读流程

1. Client先与NameNode进行交互，获取数据所在DataNode的地址和文件块信息。
2. Client根据从NameNode得到的消息找到DataNode及对应的文件块，建立socket流。
3. DataNode读取磁盘中的文件中回传给Client。

HDFS的写流程

1. Client先与NameNode通信，表示要写入数据，NameNode会在NameSpace中添加一个新的空文件，并告知Client已经做好写的准备工作。
2. Client接到通知，向NameNode申请DataNode的数据块， NameNode会返回一个数据块，包含所有数据节点所在DataNode的位置信息。
3. Client得到目标数据块位置，建立socket流，并向目标数据块写入数据。