4.序列化和统计案例

序列化概述

序列化就是把内存中的对象转换成字节序列（或其他数据传输协议）以便于存储到磁盘（持久化）和网络传输

反序列化就是将收到的字节序列（或其他数据传输协议）或者是磁盘的持久化数据，转换成内存中的对象

Java的序列化是一个重量级序列化框架(Serializable)，一个对象被序列化后，附带很多额外的信息(各种校验信息，Header，继承体系等），不便于在网络中高效传输。所以，Hadoop自己开发了一套序列化机制

Hadoop序列化特点

1、紧凑：高效使用存储空间

2、快速：读写数据的额外开销小

3、可扩展性：随着通信协议的升级而升级

4、互操作性：支持多语言的交互

自定义bean对象实现序列化接口（Writable）

在企业开发中往往常用的基本序列化类型不能满足所有需求，比如在Hadoop框架内部传递一个bean对象，那么该对象就需要实现序列化接口。

具体实现bean对象序列化步骤如下7步。

（1）必须实现Writable接口

（2）反序列化时，需要反射调用空参构造函数，所以必须有空参构造

public FlowBean() {
   
	super();
}

（3）重写序列化方法

@Override
public void write(DataOutput out) throws IOException {
   
	out.writeLong(upFlow);
	out.writeLong(downFlow);
	out.writeLong(sumFlow);
}

（4）重写反序列化方法

@Override
public void readFields(DataInput in) throws IOException {
   
	upFlow = in.readLong();
	downFlow = in.readLong();
	sumFlow = in.readLong();
}

（5）注意反序列化的顺序和序列化的顺序完全一致

（6）要想把结果显示在文件中，需要重写toString()，可用”\t”分开，方便后续用。

（7）如果需要将自定义的bean放在key中传输，则还需要实现Comparable接口，因为 MapReduce框中的Shuffle过程要求对key必须能排序。

@Override
public int compareTo(FlowBean o) {
   
	// 倒序排列，从大到小
	return this.sumFlow > o.getSumFlow() ? -1 : 1;
}

序列化案例实操

1、需求：统计每一个手机号耗费的总上行流量、下行流量、总流量

phone_data.txt的内容为：

1	15826990312	192.168.100.1	www.baidu.com	2481	24681	200
2	15826990313	192.168.100.2			241	0	200
3	15826990314	192.168.100.3			2681	1512	200
4	15826990315	192.168.100.4			1481	0	200
5	15826990316	192.168.100.5	www.baidu.com	201	2106	40
6	15826990317	192.168.100.6	www.baidu.com	481	1432	200
7	15826990318	192.168.100.7	www.baidu.com	184	654	200
8	15826990319	192.168.100.8	www.baidu.com	240	2936	500
9	15826990320	192.168.100.9			281	0	200
10	15826990321	192.168.100.10	www.baidu.com	381	690	200
11	15826990322	192.168.100.11	www.baidu.com	2284	3538	200
12	15826990323	192.168.100.12	www.baidu.com	1481	180	200
13	15826990324	192.168.100.13	www.baidu.com	531	4938	500
14	15826990325	192.168.100.14			689	180	200
15	15826990326	192.168.100.15	www.baidu.com	671	19112	200
16	15826990327	192.168.100.16	www.baidu.com	981	3820	200
17	15826990328	192.168.100.17	www.baidu.com	1481	2412	200
18	15826990329	192.168.100.18			24810	7353	200
19	15826990330	192.168.100.19	www.baidu.com	2459	1205	404
20	15826990331	192.168.100.20	www.baidu.com	2934	957	200
21	15826990332	192.168.100.21			116	402	200
22	15826990332	192.168.100.1	www.baidu.com	2261	752	200

2、分析：

3、代码实现：

在mr-02的src/main/java下，新建一个mr.flowsum包

并建立FlowBean类、FlowCountMapper类、FlowCountReducer类和FlowsumDriver类